草庐IT

【半监督学习】2、Soft Teacher | 端到端半监督目标检测器

文章目录一、背景二、方法2.1End-to-EndPseudo-LabelingFramework2.2Softteacher2.3BoxJittering三、实验论文:End-to-EndSemi-SupervisedObjectDetectionwithSoftTeacher代码:https://github.com/microsoft/SoftTeacher出处:ICCV2021|华中科大微软一、背景大量带标注信息的数据是深度计算机视觉高速发展的基础,但数据标注是耗时且昂贵的,所以催生了一些不需要标注信息或只需要少量标注数据的自监督和半监督学习。对于半监督目标检测,本文只关注伪标签的方法

超越平滑: 具有边异质判别的无监督图表示学习

超越平滑:具有边异质判别的无监督图表示学习Title:BeyondSmoothing:UnsupervisedGraphRepresentationLearning withEdgeHeterophilyDiscriminatingCite:Liu,Y.,Zheng,Y.,Zhang,D.,Lee,V.C.,&Pan,S.(2023).BeyondSmoothing:UnsupervisedGraphRepresentationLearningwithEdgeHeterophilyDiscriminating.ProceedingsoftheAAAIConferenceonArtifi

【计算机视觉】DINOv2(Facebook自监督视觉学习)的环境部署和使用代码示范(含源代码)

文章目录一、导读二、环境部署三、使用示例我的代码示范已经上传了Kaggle平台,具体的笔记地址为:https://www.kaggle.com/code/holmes0610/dinov2一、导读DINOv2:在没有监督的情况下学习鲁棒的视觉特征这是第一种训练计算机视觉模型的方法,它使用自我监督学习来实现与该领域使用的标准方法相匹配或超过标准方法的结果。最近,自然语言处理在大量数据上进行模型预训练方面取得了突破,为计算机视觉中的类似基础模型开辟了道路。这些模型可以通过产生通用的视觉特征(即无需微调即可跨图像分布和任务工作的特征)来极大地简化任何系统中图像的使用。这项工作表明,现有的预训练方法,

python - 如何创建简单的 3 层神经网络并使用监督学习进行教学?

基于PyBrain'stutorials我设法拼凑了以下代码:#!/usr/bin/envpython2#coding:utf-8frompybrain.structureimportFeedForwardNetwork,LinearLayer,SigmoidLayer,FullConnectionfrompybrain.datasetsimportSupervisedDataSetfrompybrain.supervised.trainersimportBackpropTrainern=FeedForwardNetwork()inLayer=LinearLayer(2)hiddenL

直接压缩一切!OpenAI首席科学家Ilya Sutskever这么看无监督学习

近日,OpenAI首席科学家IlyaSutskever在专注于计算理论研究的SimonsInstitute作了一次讲座,一句话总结就是我们可以通过压缩的视角来看待无监督学习。此外他还分享了不少其它有趣的见解。机器之心整理了该演讲的大体内容,希望借此帮助读者更深入地理解无监督学习。Sutskever首先谈到了自己的研究方向的变化,他说:「不久前,我将全部的研究重心都转移到了AI对齐研究上。」这说的是OpenAI前段时间成立的「Superalignment(超级对齐)」团队,由他与JanLeike共同领导。Sutskever表示他们已经在AI对齐方面取得了一些研究成果,但这并非这次演讲关注的话题。

CutLER:一种用于无监督目标检测和实例分割的方法

本文分享自华为云社区《CutLER:一种用于无监督目标检测和实例分割的方法》,作者:Hint。目标检测是计算机视觉中的一种重要任务,使AI系统感知、推理、理解目标。训练定位模型需要特别的标注,比如目标的框、掩膜、定位点等。本文的工作研究了无监督的目标检测和实例分割,不使用人工标注。首先提出了MaskCut方法,可以自动的生成初始的粗糙掩膜,然后提出一种简单损失函数来帮助检测出MaskCut遗漏的目标。最后发现预测出的掩膜比初始的掩膜还要精细,因此可以迭代的训练检测器,进一步优化。该方法的总体框架如上图所示,该模型首先使用了DINO[2]的自监督特征来生成二值掩膜,结合了NormalizesCu

python - 如何从 PyMC3 中的狄利克雷过程中提取无监督集群?

我刚刚完成BayesianAnalysisinPython通过OsvaldoMartin预订(了解贝叶斯概念和一些奇特的numpy索引的好书)。我真的很想将我的理解扩展到用于无监督样本聚类的贝叶斯混合模型。我所有的谷歌搜索都把我带到了AustinRochford'stutorial这真的很有用。我了解正在发生的事情,但我不清楚这如何适应集群(尤其是使用多个属性进行集群分配,但这是一个不同的主题)。我了解如何为Dirichlet分布分配先验,但我不知道如何在PyMC3中获取簇。看起来大部分mus都收敛到质心(即我从中采样的分布的均值),但它们仍然是独立的组件。我考虑过为weights(模

有监督学习、无监督学习

什么是有监督学习、无监督学习一、有监督学习(SupervisedLearning)1.1定义在监督学习中,模型使用标记数据集进行训练,其中模型学习每种类型的数据。训练过程完成后,模型会根据测试数据(训练集的子集)进行测试,然后预测输出。..1.2.监督学习的步骤首先确定训练数据集的类型收集/收集标记的训练数据(一般可能需要手动标记)将训练数据集拆分为训练数据集、测试数据集和验证数据集。确定训练数据集的输入特征,这些特征应该有足够的知识使模型能够准确地预测输出。确定适合模型的算法,如支持向量机、决策树等。在训练数据集上执行算法。有时我们需要验证集作为控制参数,它们是训练数据集的子集。通过提供测试

基于卷积神经网络的MAE自监督方法

本文分享自华为云社区《基于卷积神经网络的MAE自监督方法》,作者:Hint。图像自监督预训练算法是近年来的重要研究方向,MAE是其中基于ViT实现的代表性方法,学习到了鲁棒的视觉特征。MAE全称是MaskedAutoencoders,是由何凯明提出的自监督预训练方法,借鉴了BERT的预训练任务,将输入图片的patch以较大的比例进行mask,并通过非对称的ViT编码解码器结构,进行maskedpatches的重建任务。该方法在性能上超过了以往的对比学习方法,如MoCo系列等。然而ViT的结构复杂,计算量庞大,基于CNN的类MAE方法具有极高研究价值,但受限于CNN的结构特性,常规的MAE方式无

【论文导读】- Link Weight Prediction Using Supervised Learning Methods(使用监督学习方法的链路权重预测及其在Yelp网络中的应用)

文章目录论文信息摘要主要内容(contributions)图模型和评价指标特征指标原图特征指标原始图转线图线图特征指标论文信息LinkWeightPredictionUsingSupervisedLearningMethodsandItsApplicationtoYelpLayeredNetwork原文地址:https://ieeexplore.ieee.org/abstract/document/8281007/摘要Real-worldnetworksfeatureweightsofinteractions,wherelinkweightsoftenrepresentsomephysical