草庐IT

标签噪声:综述 Learning from Noisy Labels with Deep Neural Networks: A Survey

原文链接:https://arxiv.org/pdf/2007.08199.pdfgithub链接:GitHub-songhwanjun/Awesome-Noisy-Labels:ASurvey(本文仅做阅读笔记之用,如需了解细节可自行查看原文,翻译不周之处,敬请指正)1.Introduction据统计真实世界的数据集中存在的标注噪声范围在8%到38.5%。深度神经网络(DNN)因为具有很强的拟合能力,所以很容易对噪声标签过拟合。正则化技术(如数据增强,权重衰减,dropout,批次正则化(BN)等)虽然能缓解过拟合问题,但是光靠正则化并不能完全克服过拟合。如fig.1就形象地说明了这个问题:

标签噪声:综述 Learning from Noisy Labels with Deep Neural Networks: A Survey

原文链接:https://arxiv.org/pdf/2007.08199.pdfgithub链接:GitHub-songhwanjun/Awesome-Noisy-Labels:ASurvey(本文仅做阅读笔记之用,如需了解细节可自行查看原文,翻译不周之处,敬请指正)1.Introduction据统计真实世界的数据集中存在的标注噪声范围在8%到38.5%。深度神经网络(DNN)因为具有很强的拟合能力,所以很容易对噪声标签过拟合。正则化技术(如数据增强,权重衰减,dropout,批次正则化(BN)等)虽然能缓解过拟合问题,但是光靠正则化并不能完全克服过拟合。如fig.1就形象地说明了这个问题:

Alexnet论文介绍(超详细)——ImageNet Classification with Deep Convolutional Neural Networks

近期开始阅读cv领域的一些经典论文,本文整理计算机视觉的奠基之作——Alexnet论文原文:ImageNetClassificationwithDeepConvolutionalNeuralNetworks(有需要论文原文的可以私信联系我)本文的阅读方法是基于李沐老师的B站讲解视频,需要细致去看的小伙伴可以去搜索,链接如下:9年后重读深度学习奠基作之一:AlexNet【论文精读】_哔哩哔哩_bilibili本文整理用于之后自己能够更快的回忆起这篇论文,所以有些地方记录的可能没那么严谨,有问题的地方欢迎各位指出和讨论,我及时修改,谢谢各位!如果该论文笔记对你有所帮助,希望可以点个赞关注一下,之后

Alexnet论文介绍(超详细)——ImageNet Classification with Deep Convolutional Neural Networks

近期开始阅读cv领域的一些经典论文,本文整理计算机视觉的奠基之作——Alexnet论文原文:ImageNetClassificationwithDeepConvolutionalNeuralNetworks(有需要论文原文的可以私信联系我)本文的阅读方法是基于李沐老师的B站讲解视频,需要细致去看的小伙伴可以去搜索,链接如下:9年后重读深度学习奠基作之一:AlexNet【论文精读】_哔哩哔哩_bilibili本文整理用于之后自己能够更快的回忆起这篇论文,所以有些地方记录的可能没那么严谨,有问题的地方欢迎各位指出和讨论,我及时修改,谢谢各位!如果该论文笔记对你有所帮助,希望可以点个赞关注一下,之后

Delphi 论文阅读 Delphi: A Cryptographic Inference Service for Neural Networks

 摘要许多公司为用户提供神经网络预测服务,应用范围广泛。然而,目前的预测系统会损害一方的隐私:要么用户必须将敏感输入发送给服务提供商进行分类,要么服务提供商必须将其专有的神经网络存储在用户的设备上。前者损害了用户的个人隐私,而后者暴露了服务提供商的专有模式。我们设计、实现并评估了DELPHI,这是一个安全的预测系统,允许双方在不泄露任何一方数据的情况下执行神经网络推理。DELPHI通过同时联合设计密码学和机器学习来解决这个问题。我们首先设计了一种混合加密协议,在通信和计算成本上比之前的工作有所提高。其次,我们开发了一个规划器,自动生成神经网络架构配置,导航我们的混合协议的性能精度权衡。与之前最

Delphi 论文阅读 Delphi: A Cryptographic Inference Service for Neural Networks

 摘要许多公司为用户提供神经网络预测服务,应用范围广泛。然而,目前的预测系统会损害一方的隐私:要么用户必须将敏感输入发送给服务提供商进行分类,要么服务提供商必须将其专有的神经网络存储在用户的设备上。前者损害了用户的个人隐私,而后者暴露了服务提供商的专有模式。我们设计、实现并评估了DELPHI,这是一个安全的预测系统,允许双方在不泄露任何一方数据的情况下执行神经网络推理。DELPHI通过同时联合设计密码学和机器学习来解决这个问题。我们首先设计了一种混合加密协议,在通信和计算成本上比之前的工作有所提高。其次,我们开发了一个规划器,自动生成神经网络架构配置,导航我们的混合协议的性能精度权衡。与之前最

Spatio-Temporal Representation With Deep Neural Recurrent Network in MIMO CSI Feedback阅读笔记

《Spatio-TemporalRepresentationWithDeepNeuralRecurrentNetworkinMIMOCSIFeedback》文献阅读​ 该文献的作者是天津大学的吴华明老师,在2020年5月发表于IEEEWIRELESSCOMMUNICATIONSLETTERS。​ 该文献提出了一种基于深度学习的压缩CSI方法,使用深度循环神经网络(RNN)来学习时间相关性,根据不同结构下解耦的时空特征表示设计了特征提取模块,并采用深度可分离卷积来恢复信道。1研究背景​ 在频分双工(FDD)MIMO网络中,UE可以估计出下行CSI,然后将CSI反馈给BS对下一个信号进行预编

Spatio-Temporal Representation With Deep Neural Recurrent Network in MIMO CSI Feedback阅读笔记

《Spatio-TemporalRepresentationWithDeepNeuralRecurrentNetworkinMIMOCSIFeedback》文献阅读​ 该文献的作者是天津大学的吴华明老师,在2020年5月发表于IEEEWIRELESSCOMMUNICATIONSLETTERS。​ 该文献提出了一种基于深度学习的压缩CSI方法,使用深度循环神经网络(RNN)来学习时间相关性,根据不同结构下解耦的时空特征表示设计了特征提取模块,并采用深度可分离卷积来恢复信道。1研究背景​ 在频分双工(FDD)MIMO网络中,UE可以估计出下行CSI,然后将CSI反馈给BS对下一个信号进行预编

Spatio-Temporal Representation With Deep Neural Recurrent Network in MIMO CSI Feedback阅读笔记

《Spatio-TemporalRepresentationWithDeepNeuralRecurrentNetworkinMIMOCSIFeedback》文献阅读​ 该文献的作者是天津大学的吴华明老师,在2020年5月发表于IEEEWIRELESSCOMMUNICATIONSLETTERS。​ 该文献提出了一种基于深度学习的压缩CSI方法,使用深度循环神经网络(RNN)来学习时间相关性,根据不同结构下解耦的时空特征表示设计了特征提取模块,并采用深度可分离卷积来恢复信道。1研究背景​ 在频分双工(FDD)MIMO网络中,UE可以估计出下行CSI,然后将CSI反馈给BS对下一个信号进行预编

Spatio-Temporal Representation With Deep Neural Recurrent Network in MIMO CSI Feedback阅读笔记

《Spatio-TemporalRepresentationWithDeepNeuralRecurrentNetworkinMIMOCSIFeedback》文献阅读​ 该文献的作者是天津大学的吴华明老师,在2020年5月发表于IEEEWIRELESSCOMMUNICATIONSLETTERS。​ 该文献提出了一种基于深度学习的压缩CSI方法,使用深度循环神经网络(RNN)来学习时间相关性,根据不同结构下解耦的时空特征表示设计了特征提取模块,并采用深度可分离卷积来恢复信道。1研究背景​ 在频分双工(FDD)MIMO网络中,UE可以估计出下行CSI,然后将CSI反馈给BS对下一个信号进行预编