草庐IT

representation-learning

全部标签

Coursera | Mathematics for Machine Learning 专项课程 | Linear Algebra

本文为学习笔记,记录了由ImperialCollegeLondon推出的Coursera专项课程——MathematicsforMachineLearning中CourseOne:MathematicsforMachineLearning:LinearAlgebra中全部ProgrammingAssignment代码,均已通过测试,得分均为10/10。目录IdentifyingspecialmatricesInstructionsMatricesinPythonTestyourcodebeforesubmissionGram-SchmidtprocessInstructionsMatrices

相对位置编码之RPR式:《Self-Attention with Relative Position Representations》论文笔记

😄额,本想学学XLNet的,然后XLNet又是以transformer-XL为主要结构,然后transformer-XL做了两个改进:一个是结构上做了segment-level的循环机制,一个是在attention机制里引入了相对位置编码信息来避免不同segment的同一位置采用相同的绝对位置编码的不合理。但无奈看到相对位置编码这里我懵住了,只好乖乖追溯回去原始论文来学习学习嘿嘿🐶。🦄本文将以公式原理+举例的方式让你秒懂,放心食用。🚀RPR这论文就5页,方法部分就2页,看完结合网上理解下就ok了。🚀论文链接:https://arxiv.org/pdf/1803.02155.pdf👀三位谷歌大佬

迁移学习(Transfer Learning)

  迁移学习作为机器学习的一个分支,一直比较好奇,接着这篇文章对迁移学习做一个简单的了解(本篇只涉及外围,没有太多细节)。文章围绕以下主题产生:  1.迁移学习概要  2.迁移学习的分类  3.迁移学习的应用场景?一、迁移学习概要  迁移学习(TransferLearning)的基本思想是利用已解决问题的策略去解决待解决的问题(hhh有点绕~),也就是把现有的经验迁移过去。目前是作为机器学习下的一个分支,大多使用神经网络的方法,以训练模型为主了,通常就是那一套模型的参数去做另一套的初始值减少模型训练的复杂度。  但迁移学习提出的初衷不是为了模型训练,而是节省人工标注样本的时间,让模型可以通过已

【读论文】SwinFusion: Cross-domain Long-range Learning for General Image Fusion via Swin Transformer

【读论文】SwinFusion:Cross-domainLong-rangeLearningforGeneralImageFusionviaSwinTransformer介绍关键词简单介绍网络架构总体架构特征提取特征融合图像重建损失函数总结参考论文:https://ieeexplore.ieee.org/document/9812535如有侵权请联系博主介绍关键词SwinTransformer长期依赖性、全局信息跨域融合简单介绍2022年发表在IEEE/CAAJOURNALOFAUTOMATICASINICA的一篇文章,该篇论文的作者仍然是我们熟悉的FusionGAN的作者。简单来说,该篇论文

Auto-Tuning with Reinforcement Learning for Permissioned Blockchain Systems

文章目录摘要一、介绍二、相关工作2.1总账结构2.2织物优化三、系统结构四、作为DRL问题的自动调谐4.1参数和性能4.2问题的转化4.3RL用于自动调参4.4PB-MADDPG用于自动调参五、重要参数识别六、实验6.1设置6.2执行时间分解6.3调整效果和效率比较6.4参数数量的影响6.5适应性6.6奖励函数的评估6.7容错性的评估6.8总结七、讨论摘要在一个允许的区块链中,性能决定了它的发展,而发展很大程度上受其参数的影响。然而,由于分布式参数带来的困难,关于自动调优以获得更好性能的研究已经有些停滞;因此,很难提出有效的自动调整优化方案。为了缓解这一问题,我们首先探索了Hyperledge

Auto-Tuning with Reinforcement Learning for Permissioned Blockchain Systems

文章目录摘要一、介绍二、相关工作2.1总账结构2.2织物优化三、系统结构四、作为DRL问题的自动调谐4.1参数和性能4.2问题的转化4.3RL用于自动调参4.4PB-MADDPG用于自动调参五、重要参数识别六、实验6.1设置6.2执行时间分解6.3调整效果和效率比较6.4参数数量的影响6.5适应性6.6奖励函数的评估6.7容错性的评估6.8总结七、讨论摘要在一个允许的区块链中,性能决定了它的发展,而发展很大程度上受其参数的影响。然而,由于分布式参数带来的困难,关于自动调优以获得更好性能的研究已经有些停滞;因此,很难提出有效的自动调整优化方案。为了缓解这一问题,我们首先探索了Hyperledge

安装scikit-learn的详细过程

 1.打开命令终端,检查Python和pip的版本.scikit-learn支持的Python版本是3.6及以上,pip版本最低为9.0.1.2.升级pip版本(可选).使用命令: pipinstall--user--upgradepip   升级pip至最新版本.3..安装scikit-learn.使用pip命令安装最新版本的scikit-learn: pipinstall--userscikit-learn 下载太慢可以用镜像安装:python-mpipinstallscikit-learn -ihttps://pypi.tuna.tsinghua.edu.cn/simple4.测试安装.

Learn Git Branching 学习笔记(Git远程仓库篇)

目录一、Git远程仓库篇1.gitclone在本地创建一个远程仓库的拷贝    2.远程分支3.gitfetch4.gitpull   5.模拟团队合作6.gitpush7.远程库提交历史的偏离  8.远程服务器拒绝!(RemoteRejected)Git的高级话题集合在上一篇文章中LearnGitBranching学习笔记(高级话题篇)_流年--bygone的博客-CSDN博客这篇文章主要介绍git的远程仓库用法。一、Git远程仓库篇    远程仓库并不复杂,在如今的云计算盛行的世界很容易把远程仓库想象成一个富有魔力的东西,但实际上它们只是你的仓库在另个一台计算机上的拷贝。你可以通过因特网与

【论文简述】Multi-View Stereo Representation Revisit: Region-Aware MVSNet(CVPR 2023)

一、论文简述1.第一作者:YisuZhang2.发表年份:20233.发表期刊:CVPR4.关键词:MVS、3D重建、符号距离场5.探索动机:像素深度估计仍存在两个棘手的缺陷。一是无纹理区域的估计置信度较低。二是物体边界附近的许多异常值。这主要是因为表面通常被视为一组不相关的采样点,而不具有拓扑结构。由于每条射线只与一个表面采样点相关联,因此不可能注意到表面的相邻区域。如下图所示,每个深度值的估计仅受一个表面采样点的约束,无法利用周围表面进行推断。然而,在没有纹理的区域和物体边界中,如果没有更广泛的表面信息,很难进行推断。因此,太小的感知范围限制了现有的基于学习的MVS方法。6.工作目标:通过

Multi-Modal Attention Network Learning for Semantic Source Code Retrieval 解读

Multi-ModalAttentionNetworkLearningfor SemanticSourceCodeRetrieva Multi-ModalAttentionNetworkLearningfor SemanticSourceCodeRetrieval,题目意思是用于语义源代码检索的多模态注意网络学习,2019年发表于ASE的##研究什么东西Background:研究代码检索技术,对于一个代码存储库进行方法级别的搜索,给定一个描述代码片段功能的短文,从代码存储库中检索特定的代码片段。论文挑战和贡献前人的做法Gu等人[6]是第一个将深度学习网络应用于代码检索任务的人,它在中间语义空间