😄额，本想学学XLNet的，然后XLNet又是以transformer-XL为主要结构，然后transformer-XL做了两个改进：一个是结构上做了segment-level的循环机制，一个是在attention机制里引入了相对位置编码信息来避免不同segment的同一位置采用相同的绝对位置编码的不合理。但无奈看到相对位置编码这里我懵住了，只好乖乖追溯回去原始论文来学习学习嘿嘿🐶。🦄本文将以公式原理+举例的方式让你秒懂，放心食用。🚀RPR这论文就5页，方法部分就2页，看完结合网上理解下就ok了。🚀论文链接：https://arxiv.org/pdf/1803.02155.pdf👀三位谷歌大佬

LEA:ImprovingSentenceSimilarityRobustnesstoTyposUsingLexicalAttentionBias论文阅读KDD2023原文地址Introduction文本噪声，如笔误(Typos),拼写错误(Misspelling)和缩写(abbreviations),会影响基于Transformer的模型.主要表现在两个方面:Transformer的架构中不使用字符信息.由噪声引起的词元分布偏移使得相同概念的词元更加难以关联.先前解决噪声问题的工作主要依赖于数据增强策略,主要通过在训练集中加入类似的typos和misspelling进行训练.数据增强确实使得

Multi-ModalAttentionNetworkLearningfor SemanticSourceCodeRetrieva Multi-ModalAttentionNetworkLearningfor SemanticSourceCodeRetrieval，题目意思是用于语义源代码检索的多模态注意网络学习，2019年发表于ASE的##研究什么东西Background:研究代码检索技术，对于一个代码存储库进行方法级别的搜索，给定一个描述代码片段功能的短文，从代码存储库中检索特定的代码片段。论文挑战和贡献前人的做法Gu等人[6]是第一个将深度学习网络应用于代码检索任务的人，它在中间语义空间

1.SKAttention模块链接：SelectiveKernelNetworks2.模型结构图：3.论文主要内容由于不同大小的感受野对于不同尺度的目标有不同的效果，论文目的是使得网络可以自动地利用对分类有效的感受野捕捉到的信息。为了解决这个问题，作者提出了一种新的深度结构在CNN中对卷积核的动态选择机制，该机制允许每个神经元根据输入信息的多尺度自适应地调整其感受野（卷积核）的大小。称为“选择性核（SelectiveKernel）”，它可以更好地捕捉复杂图像空间的多尺度特征，而不会像一般的CNN那样浪费大量的计算资源。SKN的另一个优点是它可以聚合深度特征，使它更容易理解，同时也允许更好的可解

1.模型结构        Attention-LSTM模型分为输入层、LSTM层、Attention层、全连接层、输出层五层。LSTM层的作用是实现高层次特征学习；Attention层的作用是突出关键信息；全连接层的作用是进行局部特征整合，实现最终的预测。    这里解决的问题是：使用Attention-LSTM模型进行数据的预测。完整的代码在文末展示。1.输入层    输入层是全部特征进行归一化之后的序列。归一化的目的是保证特征处于相似的尺度上，有利于加快梯度下降算法运行速度。可以使用MAX-MIN归一化的方法。归一化用EXCEL公式即可做到。2.LSTM层        LSTM单元内部

1.模型结构        Attention-LSTM模型分为输入层、LSTM层、Attention层、全连接层、输出层五层。LSTM层的作用是实现高层次特征学习；Attention层的作用是突出关键信息；全连接层的作用是进行局部特征整合，实现最终的预测。    这里解决的问题是：使用Attention-LSTM模型进行数据的预测。完整的代码在文末展示。1.输入层    输入层是全部特征进行归一化之后的序列。归一化的目的是保证特征处于相似的尺度上，有利于加快梯度下降算法运行速度。可以使用MAX-MIN归一化的方法。归一化用EXCEL公式即可做到。2.LSTM层        LSTM单元内部

 英文参考链接：https://vaclavkosar.com/ml/cross-attention-in-transformer-architecture交叉注意力与自我注意力 除了输入，cross-attention计算与self-attention相同。交叉注意力不对称地组合了两个相同维度的独立嵌入序列，相比之下，自注意力输入是一个单一的嵌入序列。其中一个序列用作查询输入，而另一个用作键和值输入。SelfDoc中的替代交叉注意力，使用来自一个序列的查询和值，以及来自另一个序列的键。前馈层与交叉注意力相关，除了前馈层确实使用softmax并且其中一个输入序列是静态的。 Augmenting

 英文参考链接：https://vaclavkosar.com/ml/cross-attention-in-transformer-architecture交叉注意力与自我注意力 除了输入，cross-attention计算与self-attention相同。交叉注意力不对称地组合了两个相同维度的独立嵌入序列，相比之下，自注意力输入是一个单一的嵌入序列。其中一个序列用作查询输入，而另一个用作键和值输入。SelfDoc中的替代交叉注意力，使用来自一个序列的查询和值，以及来自另一个序列的键。前馈层与交叉注意力相关，除了前馈层确实使用softmax并且其中一个输入序列是静态的。 Augmenting

作者|梁唐出品|公众号：Coder梁（ID：Coder_LT）大家好，我是老梁。我们之前介绍了Transformer的核心——attention网络，我们之前只是介绍了它的原理，并且没有详细解释它的实现方法。光聊理论难免显得有些空洞，所以我们来谈谈它的实现。为了帮助大家更好地理解，这里我选了电商场景中的DIN模型来做切入点。一方面可以帮助大家理解现在电商系统中的推荐和广告系统中的商品排序都是怎么做的，另外我个人感觉DIN要比直接去硬啃transformer容易理解一些。我们可以先从attention网络的数据入手，它的输入数据有两个：一个是用户的历史行为序列，一个是待打分的item（以下称为t

Attention和VisualTransformerAttention和Transformer为什么需要AttentionAttention机制Multi-headAttentionSelfMulti-headAttention，SMATransformerVisualTransformer，ViTAttention和TransformerAttention机制在相当早的时间就已经被提出了，最先是在计算机视觉领域进行使用，但是始终没有火起来。Attention机制真正进入主流视野源自GoogleMind在2014年的一篇论文"Recurrentmodelsofvisualattention"