草庐IT

representation-learning

全部标签

《Learning from Context or Names?An Empirical Study on Neural Relation Extraction》论文阅读笔记

代码原文地址预备知识:1.什么是对比学习?对比学习是一种机器学习范例,将未标记的数据点相互并列,以教导模型哪些点相似,哪些点不同。也就是说,顾名思义,样本相互对比,属于同一分布的样本在嵌入空间中被推向彼此。相比之下,属于不同分布的那些则相互拉扯。摘要神经模型在关系抽取(RE)的基准任务上表现出色。但是,我们还不清楚文本中哪些信息对现有的RE模型的决策有影响,以及如何进一步提升这些模型的性能。为了解决这个问题,本文实证地分析了文本中两个主要的信息源:文本上下文和实体提及(名称)对RE的作用。本文发现,虽然上下文是预测的主要依据,但RE模型也高度依赖于实体提及中的信息,其中大多数是类型信息;以及现

【scikit-learn基础】--模型持久化

模型持久化(模型保存与加载)是机器学习完成的最后一步。因为,在实际情况中,训练一个模型可能会非常耗时,如果每次需要使用模型时都要重新训练,这无疑会浪费大量的计算资源和时间。通过将训练好的模型持久化到磁盘,我们可以在需要使用模型时直接从磁盘加载到内存,而无需重新训练。这样不仅可以节省时间,还可以提高模型的使用效率。本篇介绍scikit-learn中几种常用的模型持久化方法。1.训练模型首先,训练一个模型,这里用scikit-learn自带的手写数字数据集作为样本。importmatplotlib.pyplotaspltfromsklearnimportdatasets#加载手写数据集data=d

【论文简述】Learning Depth Estimation for Transparent and Mirror Surfaces(ICCV 2023)

一、论文简述1.第一作者:AlexCostanzino2.发表年份:20233.发表期刊:ICCV4.关键词:深度感知、立体匹配、深度学习、分割、透明物体、镜子5.探索动机:透明或镜面(ToM)制成的材料,从建筑物的玻璃窗到汽车和电器的反射表面。对于利用计算机视觉在未知环境中操作的自主代理来说,这可能是一个艰巨的挑战。在空间人工智能涉及的众多任务中,对于计算机视觉算法和深度网络来说,准确估计这些表面上的深度信息仍然是一个具有挑战性的问题。基于深度学习的深度传感技术,例如单目或立体网络,在提供足够的训练数据的情况下,有可能解决这一挑战。但具有透明对象的数据集很少提供真实深度注释,这些注释是通过非

Learn the basics of Python 3-Chapter 7: Modules

1.ModulesPythonIntroductionIntheworldofprogramming,wecarealotaboutmakingcodereusable.Inmostcases,wewritecodesothatitcanbe reusableforourselves.Butsometimeswesharecodethat’shelpfulacrossabroadrangeofsituations. Inthislesson,we’llexplorehowtousetoolsotherpeoplehavebuiltinPythonthatarenotincludedautoma

Reinforcement Learning Chapter2

本文参考《ReinforcementLearning:AnIntroduction(2ndEdition)》SuttonK臂赌博机问题描述:你有k个选择,每个选择对应一个奖励,收益由所选动作决定的平稳概率分布产生,目标为最大化某段时间内的总收益期望。联系我们在chapter1中提到的reward,value,action等概念,我们在这个K臂赌博机上可以这样思考:在时刻t,我们基于现有策略,选择了action(a),带来了即时奖励(reward)R(s,a),根据R(s,a)我们自然的修正了对于动作a的value估计与对于状态s的value估计,从而更新了我们的策略。对于K臂赌博机,我们不需要

论文代码阅读及部分复现:Revisiting Deep Learning Models for Tabular Data

论文地址:https://arxiv.org/pdf/2106.11959.pdf项目地址:GitHub-yandex-research/rtdl-revisiting-models:(NeurIPS2021)RevisitingDeepLearningModelsforTabularData相关数据:https://www.dropbox.com/s/o53umyg6mn3zhxy/ 一、论文概述现有的关于表格数据做深度学习的模型层出不穷,但是作者认为,由于在真实使用模型时有着不同的基准以及实验场合,这些提出的模型没有被很好地比较。因此,论文作者在论文中对各类模型进行了综述,并且自身提出了一

Learn to Earn,Move星航计划第三期诚邀您探索编程和区块链的乐趣

*以下文章来源于MoveFuns,作者MoveFunsDAO星航计划是一个Web3技术的公益计划,旨在引导更多的人加入开源社区,学习Move语言,了解Web3。本期星航计划由MoveFunsDao发起,由Sui官方基金会支持,汇集了Web3开发领域内的专业导师,帮助那些对区块链开发感兴趣但尚未入门的朋友们快速了解和应用Web3开发。训练营亮点课程学习免费提供丰富的Move语言学习资料清晰的学习路线和活跃的交流环境技术指导不定时即兴直播分享每日星航自习室一对一指导贡献激励学习路线中设立了多级的里程碑奖励最高奖励可达1000RMB毕业学员专属NFT证书资源支持协助开发者申请Grant的支持帮助开发

Learn to earn,Move星航计划第三期邀请你探索编程和区块链的乐趣

星航计划是一个Web3技术的公益计划,旨在引导更多的人加入开源社区,学习Move语言,了解Web3。本期星航计划由 MoveFunsDao 发起,由Sui官方基金会支持,汇集了Web3开发领域内的专业导师,帮助那些对区块链开发感兴趣但尚未入门的朋友们快速了解和应用Web3开发。训练营亮点💻课程学习免费提供丰富的Move语言学习资料清晰的学习路线和活跃的交流环境👊技术指导不定时即兴直播分享每日星航自习室一对一指导💰贡献激励学习路线中设立了多级的里程碑奖励最高奖励可达1000RMB毕业学员专属NFT证书💧资源支持协助开发者申请Grant的支持帮助开发者推荐工作机会如果你是:🧑‍🎓相关专业学生:具有

人工智能教程(七):Scikit-learn 和训练第一个模型

在本系列的 上一篇文章 中,我们用TensorFlow构建了第一个神经网络,然后还通过Keras接触了第一个数据集。我们还将介绍另一个强大的机器学习Python库scikit-learn。不过在进入正题之前,我要介绍两个轰动性的人工智能应用:ChatGPT和DALL-E2。(LCTT译注:此文原文发表于2023年初,恰值以ChatGPT为代表的AI热潮开始掀起。)OpenAI是一个人工智能研究实验室,它在人工智能和机器学习领域做了很多研究。埃隆·马斯克ElonMusk 是该组织的联合创始人之一。2022年11月,该实验室推出了一款名为ChatGPT的在线工具。它是一个可以像人类一样聊天的人工智

【论文阅读】Backdoor learning: A survey 后门学习的总结

目录摘要一、介绍二、先验知识三、基于中毒的攻击A.基于中毒的攻击的统一的框架B.评价指标C.针对图像和视频分类的攻击(分析和总结)D.对其他领域或范式的攻击E.出于积极目的的后门攻击四、非中毒的后门攻击A.基于权重的后门攻击B.修改结构的后门攻击五、与相关领域的联系A.后门攻击和对抗性攻击B.后门攻击和数据中毒六、后门防御A.经验性后门防御B.经过认证的后门防御C.评估指标七、基准数据集八、展望未来发展方向九、总结摘要本文根据现有方法的特点和性质对现有方法进行了简要而全面的回顾和分类。三个攻击场景(scenarios):使用第三方数据集、使用第三方平台、使用第三方模型这三个场景对应的攻击能力越