关注并星标从此不迷路计算机视觉研究院公众号ID｜ComputerVisionGzq学习群｜扫码在主页获取加入方式论文地址：https://openaccess.thecvf.com/content/CVPR2022/papers/Han_Few-Shot_Object_Detection_With_Fully_Cross-Transformer_CVPR_2022_paper.pdf计算机视觉研究院专栏作者：Edison_G小样本目标检测(FSOD)旨在使用很少的训练示例检测新目标，最近在社区中引起了极大的研究兴趣。01概述小样本目标检测(FSOD)旨在使用很少的训练示例检测新目标，最近在社区
?♂️个人主页：@艾派森的个人主页✍?作者简介：Python学习者?希望大家多多支持，我们一起进步！?如果文章对你有帮助的话，欢迎评论?点赞??收藏?加关注+ 目录SPSS非参数检验概述单样本K-S检验 两独立样本的非参数检验
?♂️个人主页：@艾派森的个人主页✍?作者简介：Python学习者?希望大家多多支持，我们一起进步！?如果文章对你有帮助的话，欢迎评论?点赞??收藏?加关注+ 目录SPSS非参数检验概述单样本K-S检验 两独立样本的非参数检验
前言一，数据层面处理方法1.1，数据扩充1.2，数据（重）采样数据采样方法总结1.3，类别平衡采样二，算法（损失函数）层面处理方法2.1，FocalLoss2.2，损失函数加权参考资料前言在机器学习的经典假设中往往假设训练样本各类别数目是均衡的，但在实际场景中，训练样本数据往往都是不均衡（不平衡）的。比如在图像二分类问题中，一个极端的例子是，训练集中有95个正样本，但是负样本只有5个。这种类别数据不均衡的情况下，如果不做不平衡样本的处理，会导致模型在数目较少的类别上出现“欠学习”现象，即可能在测试集上完全丧失对负样本的预测能力。除了常见的分类、回归任务，类似图像语义分割、深度估计等像素级别任务
前言一，数据层面处理方法1.1，数据扩充1.2，数据（重）采样数据采样方法总结1.3，类别平衡采样二，算法（损失函数）层面处理方法2.1，FocalLoss2.2，损失函数加权参考资料前言在机器学习的经典假设中往往假设训练样本各类别数目是均衡的，但在实际场景中，训练样本数据往往都是不均衡（不平衡）的。比如在图像二分类问题中，一个极端的例子是，训练集中有95个正样本，但是负样本只有5个。这种类别数据不均衡的情况下，如果不做不平衡样本的处理，会导致模型在数目较少的类别上出现“欠学习”现象，即可能在测试集上完全丧失对负样本的预测能力。除了常见的分类、回归任务，类似图像语义分割、深度估计等像素级别任务
在前两章中我们已经聊过对抗学习FGM，一致性正则Temporal等方案，主要通过约束模型对细微的样本扰动给出一致性的预测，推动决策边界更加平滑。这一章我们主要针对低密度分离假设，聊聊如何使用未标注数据来推动决策边界向低密度区移动，相关代码实现详见ClassicSolution/enhancement半监督领域有几个相互关联的基础假设Smoothness平滑度假设：两个样本在高密度空间特征相近，则他们的label大概率相同，宏毅老师美其名曰近朱者赤近墨者黑。这里的高密度比较难理解，感觉可以近似理解为DBSCAN中的密度可达Cluster聚类假设：高维特征空间中，同一个簇的样本应该有相同的labe
在前两章中我们已经聊过对抗学习FGM，一致性正则Temporal等方案，主要通过约束模型对细微的样本扰动给出一致性的预测，推动决策边界更加平滑。这一章我们主要针对低密度分离假设，聊聊如何使用未标注数据来推动决策边界向低密度区移动，相关代码实现详见ClassicSolution/enhancement半监督领域有几个相互关联的基础假设Smoothness平滑度假设：两个样本在高密度空间特征相近，则他们的label大概率相同，宏毅老师美其名曰近朱者赤近墨者黑。这里的高密度比较难理解，感觉可以近似理解为DBSCAN中的密度可达Cluster聚类假设：高维特征空间中，同一个簇的样本应该有相同的labe
在前面的几个章节中，我们介绍了几种基于不同半监督假设的模型优化方案，包括MeanTeacher等一致性正则约束，FGM等对抗训练，minEntropy等最小熵原则，以及Mixup等增强方案。虽然出发点不同但上述优化方案都从不同的方向服务于半监督的3个假设，让我们重新回顾下(哈哈自己抄袭自己)：moothness平滑度假设：近朱者赤近墨者黑，两个样本在高密度空间特征相近，则label应该一致。优化方案如Mixup，一致性正则和对抗学习Cluster聚类假设：高维特征空间中，同一个簇的样本应该有相同的label，这个强假设其实是Smoothness的特例Low-densitySeparation低
在前面的几个章节中，我们介绍了几种基于不同半监督假设的模型优化方案，包括MeanTeacher等一致性正则约束，FGM等对抗训练，minEntropy等最小熵原则，以及Mixup等增强方案。虽然出发点不同但上述优化方案都从不同的方向服务于半监督的3个假设，让我们重新回顾下(哈哈自己抄袭自己)：moothness平滑度假设：近朱者赤近墨者黑，两个样本在高密度空间特征相近，则label应该一致。优化方案如Mixup，一致性正则和对抗学习Cluster聚类假设：高维特征空间中，同一个簇的样本应该有相同的label，这个强假设其实是Smoothness的特例Low-densitySeparation低
小样本利器2.文本对抗+半监督FGSM&VAT&FGM代码实现上一章我们聊了聊通过一致性正则的半监督方案，使用大量的未标注样本来提升小样本模型的泛化能力。这一章我们结合FGSM，FGM，VAT看下如何使用对抗训练，以及对抗训练结合半监督来提升模型的鲁棒性。本章我们会混着CV和NLP一起来说，VAT的两篇是CV领域的论文，而FGM是CV迁移到NLP的实现方案，一作都是同一位作者大大。FGM的tensorflow实现详见Github-SimpleClassification我们会集中讨论3个问题对抗样本为何存在对抗训练实现方案对抗训练为何有效存在性对抗训练下面我们看下如何在模型训练过程中引入对抗样
