前言我们使用深度学习网络实现波士顿房价预测，深度学习的目的就是寻找一个合适的函数输出我们想要的结果。深度学习实际上是机器学习领域中一个研究方向，深度学习的目标是让机器能够像人一样具有分析学习的能力，能够识别文字、图像、声音等数据。我认为深度学习与机器学习最主要的区别就是神经元。深度学习中重要内容建立模型——神经元基本构造一个神经元对应一组权重w，a代表输入，我们把输入与权重相乘再相加，再加上偏置b，最后通过激活函得到对应的输出。我们不看激活函数，只看前面的部分会发现其实就是一个线性函数f=kx+b（k表示斜率，b表示截距）w和b就是我们需要在训练中需要寻找的，学习网络就是通过很多个这样的神经元
前言我们使用深度学习网络实现波士顿房价预测，深度学习的目的就是寻找一个合适的函数输出我们想要的结果。深度学习实际上是机器学习领域中一个研究方向，深度学习的目标是让机器能够像人一样具有分析学习的能力，能够识别文字、图像、声音等数据。我认为深度学习与机器学习最主要的区别就是神经元。深度学习中重要内容建立模型——神经元基本构造一个神经元对应一组权重w，a代表输入，我们把输入与权重相乘再相加，再加上偏置b，最后通过激活函得到对应的输出。我们不看激活函数，只看前面的部分会发现其实就是一个线性函数f=kx+b（k表示斜率，b表示截距）w和b就是我们需要在训练中需要寻找的，学习网络就是通过很多个这样的神经元
1图像二维熵图像二维熵作为一种特征评价尺度能够反映出整个图像所含平均信息量的高低，熵值(H)越大则代表图像所包含的信息越多，反之熵值(H)越小，则图像包含的信息越少。对于图像信息量，可以简单地认为图像的边缘信息越多则图像的信息量越大。二维熵公式如下所示：2信号丢失检测2.1画面对比由于信号丢失所产生的画面大部分均由简单的纯色或少色的人造图像，再加上“信号丢失”提示信息所构成，因此信号丢失画面的信息量与正常图像相比较低，因此其对应的二维熵值更小。例如：上图所示的信号丢失画面由黑色屏幕加上信号丢失提示组成，画面简单，信息量较低。而正常画面具有更多的边缘信息，相较于信号丢失画面，正常图像具有更高的信
1图像二维熵图像二维熵作为一种特征评价尺度能够反映出整个图像所含平均信息量的高低，熵值(H)越大则代表图像所包含的信息越多，反之熵值(H)越小，则图像包含的信息越少。对于图像信息量，可以简单地认为图像的边缘信息越多则图像的信息量越大。二维熵公式如下所示：2信号丢失检测2.1画面对比由于信号丢失所产生的画面大部分均由简单的纯色或少色的人造图像，再加上“信号丢失”提示信息所构成，因此信号丢失画面的信息量与正常图像相比较低，因此其对应的二维熵值更小。例如：上图所示的信号丢失画面由黑色屏幕加上信号丢失提示组成，画面简单，信息量较低。而正常画面具有更多的边缘信息，相较于信号丢失画面，正常图像具有更高的信
边界框回归（BBR）的损失函数对于目标检测至关重要。它的良好定义将为模型带来显著的性能改进。大多数现有的工作假设训练数据中的样本是高质量的，并侧重于增强BBR损失的拟合能力。一、L2-norm 最初的基于回归的BBR损失定义为L2-norm，L2-norm损失主要有两个缺点：1、边界框的坐标（以xt、xb、xl、xr的形式）被优化为四个独立变量。这个假设违背了对象的边界高度相关的事实。简单的分开计算每个变量的回归loss无法反映这种相关性，它会导致预测框的一个或两个边界非常接近GT，但整个边界框是不满足条件的。2、这种形式的损失函数并不能屏蔽边界框大小的干扰，使得
边界框回归（BBR）的损失函数对于目标检测至关重要。它的良好定义将为模型带来显著的性能改进。大多数现有的工作假设训练数据中的样本是高质量的，并侧重于增强BBR损失的拟合能力。一、L2-norm 最初的基于回归的BBR损失定义为L2-norm，L2-norm损失主要有两个缺点：1、边界框的坐标（以xt、xb、xl、xr的形式）被优化为四个独立变量。这个假设违背了对象的边界高度相关的事实。简单的分开计算每个变量的回归loss无法反映这种相关性，它会导致预测框的一个或两个边界非常接近GT，但整个边界框是不满足条件的。2、这种形式的损失函数并不能屏蔽边界框大小的干扰，使得
BCE（BinaryCrossEntropy）损失函数图像二分类问题--->多标签分类Sigmoid和Softmax的本质及其相应的损失函数和任务多标签分类任务的损失函数BCEPytorch的BCE代码和示例总结图像二分类问题—>多标签分类二分类是每个AI初学者接触的问题，例如猫狗分类、垃圾邮件分类…在二分类中，我们只有两种样本（正样本和负样本），一般正样本的标签y=1，负样本的标签y=0。比如下边这张图片，判断里边有没有人。那么这张图片的标签为y=1，这时我们就根据标签y=1来设计模型的输出就行了。因为二分类只有正样本和负样本，并且两者的概率之和为1，所以不需要预测一个向量，只需要输出一个概
BCE（BinaryCrossEntropy）损失函数图像二分类问题--->多标签分类Sigmoid和Softmax的本质及其相应的损失函数和任务多标签分类任务的损失函数BCEPytorch的BCE代码和示例总结图像二分类问题—>多标签分类二分类是每个AI初学者接触的问题，例如猫狗分类、垃圾邮件分类…在二分类中，我们只有两种样本（正样本和负样本），一般正样本的标签y=1，负样本的标签y=0。比如下边这张图片，判断里边有没有人。那么这张图片的标签为y=1，这时我们就根据标签y=1来设计模型的输出就行了。因为二分类只有正样本和负样本，并且两者的概率之和为1，所以不需要预测一个向量，只需要输出一个概
目录1、Nan和INF2、出现Nan和INF常见原因汇总3、原因分析与解决方法3.1、输入数据有误3.2、学习率过高-->梯度爆炸进-->Nan3.3、损失函数有误3.4、Pooling层的步长(stride)大于核(kernel)的尺寸 3.5、batchNorm可能捣鬼3.6、Shuffle设置有没有乱动3.7、设置远距离的Label会得到NAN4、解决方案：本质就是调整输入数据在模型运算过程中的值域4.1、模型权重加入正则化，约束参数的大小4.2、模型中加入BatchNormalization，归一化数据4.3、使用带上限的激活函数，例如relu6函数4.4、在losse函数运算前进行值
目录1、Nan和INF2、出现Nan和INF常见原因汇总3、原因分析与解决方法3.1、输入数据有误3.2、学习率过高-->梯度爆炸进-->Nan3.3、损失函数有误3.4、Pooling层的步长(stride)大于核(kernel)的尺寸 3.5、batchNorm可能捣鬼3.6、Shuffle设置有没有乱动3.7、设置远距离的Label会得到NAN4、解决方案：本质就是调整输入数据在模型运算过程中的值域4.1、模型权重加入正则化，约束参数的大小4.2、模型中加入BatchNormalization，归一化数据4.3、使用带上限的激活函数，例如relu6函数4.4、在losse函数运算前进行值
