在上一篇博文中，博主已经整理了扩散模型（DiffusionModel，DDPM，GLIDE，DALLE2，StableDiffusion）的基本原理，后续不再赘述其细节。作为一个最近被讨论热烈的方向，很自然地，它也被引入到各个任务中进行改造、改装和应用。本文将整理扩散模型在诸多任务上的实施方案和效果讨论，包括其用于目标检测、图像分割、连贯故事合成、视频生成、3D场景生成和推理、多语言扩展、多模态扩展等任务。DiffusionDet:DiffusionModelforObjectDetection扩散模型到目标检测任务。作者的motivation来自于，传统的目标检测模型要么固定一些目标候选框后
在上一篇博文中，博主已经整理了扩散模型（DiffusionModel，DDPM，GLIDE，DALLE2，StableDiffusion）的基本原理，后续不再赘述其细节。作为一个最近被讨论热烈的方向，很自然地，它也被引入到各个任务中进行改造、改装和应用。本文将整理扩散模型在诸多任务上的实施方案和效果讨论，包括其用于目标检测、图像分割、连贯故事合成、视频生成、3D场景生成和推理、多语言扩展、多模态扩展等任务。DiffusionDet:DiffusionModelforObjectDetection扩散模型到目标检测任务。作者的motivation来自于，传统的目标检测模型要么固定一些目标候选框后
目录0.引言1.KVCache是啥？2.背景3.原理4.实现细节5.总结在解码器推理加速的时候，由于解码过程是一个token一个token的生成，如果每一次解码都从输入开始拼接好解码的token，生成输入数据，然后预测下一个token，那么会有非常多的重复计算。为了解决这个问题，Transformers利用缓存
Swin-Transformer学习笔记（适合小白）1、项目源码以及主要参考2、Swin-Transformer介绍3、模型的构成3.1PatchPartition3.2LinearEmbedding3.3SwinTransformerBlockLayerNormal(LN)WindowsMulti-headSelfAttation(W-MSA)WindowsMulti-headSelfAttation(SW-MSA)MLP3.4PatchMerging4、源码的使用最近在学习深度学习和机器学习的相关知识，在这里记录一下学习的模型和个人的一些感悟，文章包括了模型的讲解和项目源码。由于自身水平原
©2022Ruiz,Li,Jampani,Pritch,Rubinstein,Aberman(GoogleResearch)©2023Conmajia简介本文是DreamBooth官网首页的中文翻译。本文已获得NatanielRuiz本人授权。DreamBooth主要内容基于CVPR论文DreamBooth:FineTuningText-to-ImageDiffusionModelsforSubject-DrivenGeneration（2208.12242）。‘‘``‘‘这就像一部照相亭，但只要捕捉到主题，就能把它合成到你梦里能去的任何地方。"""摘要大型文本生成图像模型在AI的发展中取得了
理论基础Transformer（来自2017年google发表的AttentionIsAllYouNeed(arxiv.org)），接上面一篇attention之后，transformer是基于自注意力基础上引申出来的结构，其主要解决了seq2seq的两个问题:考虑了原序列和目标序列自身内部的自注意力大大降低的计算成本以及复杂度，完全由全连接层替代了时序模型，使得模型可以并行处理自从transformer架构出现后，基于transformer的大模型就开始遍地开花，可以看到下图中超过百万级别的大模型凑够18年以后就层出不穷。transformer的整体结构如下图，整体可以分成9各部分:其中红线
在这篇博客中，主要是收集到一些图像融合框架中引入Transformer结构的文章，提供给大家参考学习，目前图像融合领域引入Transformer结构的文章比较少（我所看到的比较少，也看可能我看的比较少？），主要作用就是把它作为一种提取特征的方式，或者说更倾向于long-rangedependencies的建立。Transformer引入到图像融合领域的时间并不长，大部分文章都是2020-2022发出的，所有并没有统计发表年份。至于是具体是哪个会议或者期刊发表的并没有标注，有兴趣可以自己去查查。 Transformer主要是通过自注意力学习图像斑块之间的全局空间关系。
在这篇博客中，主要是收集到一些图像融合框架中引入Transformer结构的文章，提供给大家参考学习，目前图像融合领域引入Transformer结构的文章比较少（我所看到的比较少，也看可能我看的比较少？），主要作用就是把它作为一种提取特征的方式，或者说更倾向于long-rangedependencies的建立。Transformer引入到图像融合领域的时间并不长，大部分文章都是2020-2022发出的，所有并没有统计发表年份。至于是具体是哪个会议或者期刊发表的并没有标注，有兴趣可以自己去查查。 Transformer主要是通过自注意力学习图像斑块之间的全局空间关系。
文章目录引言第一部分：了解稳定扩散AI绘画1.1稳定扩散AI绘画简介1.2稳定扩散AI绘画的优势第二部分：使用稳定扩散AI绘画2.1获取稳定扩散AI绘画工具2.2准备绘画素材和设置参数2.3进行AI绘画第三部分：发挥创意，创作精彩绘画3.1尝试不同的风格和效果3.2结合传统绘画技巧3.3分享和展示作品结语引言随着人工智能技术的飞速发展，AI绘画成为了艺术创作领域的一大亮点。稳定扩散AI绘画作为其中的重要分支，可以帮助艺术家和设计师实现惊人的创意和艺术作品。本文将为您介绍稳定扩散AI绘画的基本概念以及如何使用它来创造令人惊叹的绘画作品。第一部分：了解稳定扩散AI绘画1.1稳定扩散AI绘画简介稳定
作者：禅与计算机程序设计艺术"深度剖析生成式预训练Transformer：用于语音识别的示例"引言深度学习在语音识别领域取得了重大突破，特别是基于生成式预训练的Transformer模型。Transformer模型是一种基于自注意力机制的深度神经网络结构，广泛应用于自然语言处理领域。近年来，在Transformer模型基础上进行预训练，可以大幅度提高其语音识别性能。本文将重点介绍生成式预训练Transformer在语音识别领域的应用。技术原理及概念2.1.基本概念解释生成式预训练：在训练过程中，预先生成大量文本数据，让模型学习如何生成文本。这种预训练方式有助于提高模型在生成型任务上的性能。Tr
