草庐IT

high-contrast

全部标签

一文弄懂什么是对比学习(Contrastive Learning)

本文是自己学习对比学习的总结,如有问题,欢迎批评指正。前言有的paper将对比学习称为自监督学习(Self-supervisedlearning),有的将其称为无监督学习(UnsupervisedLearning,UL)。自监督学习是无监督学习的一种形式。自监督学习(Self-supervisedlearning)可以避免对数据集进行大量的标签标注。把自己定义的伪标签当作训练的信号,然后把学习到的表示(representation)用作下游任务里。目的:学习一个编码器,此编码器对同类数据进行相似的编码,并使不同类的数据的编码结果尽可能的不同(通过代理任务引入更多的外部信息,以获得更通用(gen

Android 位置请求 PRIORITY_HIGH_ACCURACY 无效

我的Android应用需要高精度位置跟踪。在应用启动时,如果未选择高精度,它会以编程方式读取位置设置并显示一个屏幕。我将Google的官方示例(https://developers.google.com/android/reference/com/google/android/gms/location/SettingsClient)改编为Kotlin。这在华为手机上按预期工作,但在三星S7和S8上失败:如果用户选择了功率平衡,则会出现一个对话框,并且位置跟踪设置为高精度。但是,如果之前选择了GPSonly,则不会抛出ApiException并且设置保持不变。vallocationReq

基于虚拟类别的小样本增量学习Semantic-Aware Virtual Contrastive Constraint 论文笔记 CVPR2023

CVPR2023论文地址:https://arxiv.org/abs/2304.00426v1代码地址:https://github.com/zysong0113/SAVC关键词Few-shotclass-incrementallearning(FSCIL):分类增量学习中的少样本情况问题。Baseclassseparation:基类间分离度的重要性。Semantic-awarevirtualcontrastivelearning:语义感知虚拟对比学习方法。Fantasyspace:通过虚拟类定义的“梦幻空间”。Virtualclass:定义转换后的虚拟类。Multi-viewinferenc

论文阅读 - Detecting Social Bot on the Fly using Contrastive Learning

目录 摘要: 引言3问题定义4CBD4.1框架概述4.2ModelLearning4.2.1通过GCL进行模型预训练 4.2.2通过一致性损失进行模型微调 4.3在线检测5实验5.1实验设置5.2性能比较5.5少量检测研究 6结论https://dl.acm.org/doi/pdf/10.1145/3583780.3615468  摘要:        社交机器人检测正在成为社会安全领域广泛关注的任务。一直以来,社交机器人检测技术的发展都因缺乏高质量的标注数据而受到阻碍。此外,人工智能生成内容(AIGC)技术的快速发展正在极大地提高社交机器人的创造力。例如,最近发布的ChatGPT[2]可以以

VM High Sierra升级Sonoma 提示“未能与恢复服务器取得联系“解决方案

在虚拟机AppStore中升级最新Sonomamacos,提示"未能与恢复服务器取得联系"。在网上查了很多方法不顶用,比如修改时区、更新时间等。最后在知乎找到答案(第一个回答):MacBookPro无法与恢复服务器取得联系?-知乎(zhihu.com)具体解决方法:开机进入恢复模式的"实用工具> 系统终端"里执行如下命令(要手动输入,无法复制粘贴....):nvramIASUCatalogURL=https://swscan.apple.com/content/catalogs/others/index-10.16seed-10.16-10.15-10.14-10.13-10.12-10.11

High-Resolution Image Synthesis with Latent Diffusion Models 稳定扩散模型论文笔记

一、研究现状    早期图像生成方法主要是变分自动编码器(VariationalAutoencoders,VAEs),该算法利用编码器和解码器以及变分推断的方法学习隐空间到真实图像空间的映射从而完成图像的生成。其优势是特征空间可迁移并且训练较为稳定,但是不容易进行模型评估,当输入的图像数据的分布情况复杂时,其学习到的特征泛化能力不足,而且生成的图像模糊。    生成对抗网络(GenerativeAdversarialNetworks,GAN)通过生成器与判别器的动态博弈来优化模型,允许以良好的感知质量对高分辨率图像进行有效采样,生成的图像比较清晰。但该方法模型训练不稳定并难以捕捉完整的数据分布

【论文笔记】SDCL: Self-Distillation Contrastive Learning for Chinese Spell Checking

文章目录论文信息Abstract1.Introduction2.Methodology2.1TheMainModel2.2ContrastiveLoss2.3ImplementationDetails(Hyperparameters)3.Experiments代码实现个人总结值得借鉴的地方论文信息论文地址:https://arxiv.org/pdf/2210.17168.pdfAbstract论文提出了一种token-level的自蒸馏对比学习(self-distillationcontrastivelearning)方法。1.Introduction传统方法使用BERT后,会对confusi

(FEDCVAE-KD)DATA-FREE ONE-SHOT FEDERATED LEARNING UNDER VERY HIGH STATISTICAL HETEROGENEITY论文笔记

摘要出于对扩展通信和潜在攻击的担忧,一次性FL将通信限制在单一回合,同时试图保持性能。然而,一次性FL方法在高统计异质性的情况下往往会退化,无法提高管道的安全性,或者需要一个辅助的公共数据集。为了解决这些局限性,我们提出了两种新的无数据的一次性FL方法:FEDCVAE-ENS和它的扩展FEDCVAEKD。这两种方法都使用条件变分自动编码器(CVAE)重构局部学习任务,以解决高统计异质性。此外,FEDCVAE-KD利用知识蒸馏将客户端解码器的集合压缩到单个解码器中。我们提出了一种改变CVAE先验分布中心的方法,并通过实验证明这种方法提高了安全性,并展示了这两种方法是如何结合异构局部模型的。论文通

[论文阅读]Ghost-free High Dynamic Range Imaging with Context-aware Transformer

Ghost-freeHDRIwithContext-awareTransformer背景介绍已有算法本文算法实验对比背景介绍高动态范围成像(HDR)是一种图像技术,它能够捕捉到比传统图像更广泛的亮度范围。1997年,PaulDebevec在他的论文《RecoveringHighDynamicRangeRadianceMapsfromPhotographs》中提出了HDR的概念。论文里提出可以通过对同一个场景进行不同曝光时间的拍摄,然后用这些低动态范围(LDR)图像合成一张高动态范围(HDR)图像。这样做可以捕捉到从暗部的阴影到亮部的高光,或者说是高反光的更大动态范围的场景。HDR技术主要应用于

SparseBEV:High-Performance Sparse 3D Object Detection from Multi-Camera Videos

参考代码:SparseBEV动机与主要贡献:BEV感知可以按照是否显式构建BEV特征进行划分,显式构建BEV特征的方法需要额外计算量用于特征构建,而类似query方案的方法则不需要这样做。比较两种类型的方法,前者需要更多计算资源但是效果好,后者需要的计算资源相对较少,但是性能相比起来不足。在这篇文章中从如下3个维度去分析和优化基于query的感知方法:1)分析query之间的关联,在基于query的方法中往往使用self-attention的方式构建query之间的关联,但是对于3D空间中的物体它们是存在空间距离的,相隔较远的物体它们之间的关联性自然就弱2)自身和目标的运动补偿,自动驾驶的场景