草庐IT

扩散Transformer

全部标签

苹果“套娃”式扩散模型,训练步数减少七成!

苹果的一项最新研究,大幅提高了扩散模型在高分辨率图像上性能。利用这种方法,同样分辨率的图像,训练步数减少了超过七成。在1024×1024的分辨率下,图片画质直接拉满,细节都清晰可见。苹果把这项成果命名为MDM,DM就是扩散模型(DiffusionModel)的缩写,而第一个M则代表了套娃(Matryoshka)。就像真的套娃一样,MDM在高分辨率过程中嵌套了低分辨率过程,而且是多层嵌套。高低分辨率扩散过程同时进行,极大降低了传统扩散模型在高分辨率过程中的资源消耗。对于256×256分辨率的图像,在批大小(batchsize)为1024的环境下,传统扩散模型需要训练150万步,而MDM仅需39万

【深度学习 | Transformer】释放注意力的力量:探索深度学习中的 变形金刚,一文带你读通各个模块 —— Positional Encoding(一)

🤵‍♂️个人主页:@AI_magician📡主页地址:作者简介:CSDN内容合伙人,全栈领域优质创作者。👨‍💻景愿:旨在于能和更多的热爱计算机的伙伴一起成长!!🐱‍🏍🙋‍♂️声明:本人目前大学就读于大二,研究兴趣方向人工智能&硬件(虽然硬件还没开始玩,但一直很感兴趣!希望大佬带带)作者:计算机魔术师版本:1.0(2023.10.15)摘要:本系列旨在普及那些深度学习路上必经的核心概念,文章内容都是博主用心学习收集所写,欢迎大家三联支持!本系列会一直更新,核心概念系列会一直更新!欢迎大家订阅该文章收录专栏[✨—《深入解析机器学习:从原理到应用的全面指南》—✨]Transformer注意力(Att

AIGC时代的视频扩散模型,复旦等团队发布领域首篇综述

AI生成内容已经成为当前人工智能领域的最热门话题之一,也代表着该领域的前沿技术。近年来,随着StableDiffusion、DALL-E3、ControlNet等新技术的发布,AI图像生成和编辑领域实现了令人惊艳的视觉效果,并且在学术界和工业界都受到了广泛关注和探讨。这些方法大多基于扩散模型,而这正是它们能够实现强大可控生成、照片级生成以及多样性的关键所在。然而,与简单的静态图像相比,视频具有更为丰富的语义信息和动态变化。视频能够展示实物的动态演变过程,因此在视频生成和编辑领域的需求和挑战更为复杂。尽管在这个领域,受限于标注数据和计算资源的限制,视频生成的研究一直面临困难,但是一些代表性的研究

Transformer一作来卷多模态!学术图表也能看懂,100毫秒极速响应

最近多模态大模型是真热闹啊。这不,Transformer一作携团队也带来了新作,一个规模为80亿参数的多模态大模型Fuyu-8B。而且发布即开源,模型权重在HuggingFace上可以看到。该模型具备强大的图像理解能力。照片、图表、PDF、界面UI都不在话下。能从这么一张复杂的食物网里理清楚各个生物之间的关系。提问:道格拉斯冷杉针叶缺失了,哪种生物会灭绝?回答:红树田鼠。也能从密密麻麻的连线图里找到,权游“小指头”扮演者AidanGillen出演过HBO两个系列的剧。看得懂专业图表,可以帮你找到想要的数据。提问:(左图)24、32、33、42这组数字序列中丢了哪个数?回答:29一张包含多个图表

论文阅读:CenterFormer: Center-based Transformer for 3D Object Detection

目录概要Motivation整体架构流程技术细节Multi-scaleCenterProposalNetworkMulti-scaleCenterTransformerDecoderMulti-frameCenterFormer小结论文地址:[2209.05588]CenterFormer:Center-basedTransformerfor3DObjectDetection(arxiv.org)代码地址:GitHub-TuSimple/centerformer:ImplementationforCenterFormer:Center-basedTransformerfor3DObjectDe

扩散模型的Prompt指南:如何编写一个明确提示

Prompt(提示)是扩散模型生成图像的内容来源,构建好的提示是每一个StableDiffusion用户需要解决的第一步。本文总结所有关于提示的内容,这样可以让你生成更准确,更好的图像一个好的提示首先我们看看什么是好的提示,好的提示必须是详细和具体的。最好的办法是查看关键字类别和列表,关键字类别包括(因为提示都是英文的,所以这里我们也直接写英文的)SubjectMediumStyleArtistWebsiteResolutionAdditionaldetailsColorLighting你不需要所有类别的关键字,但是你需要从里面找到最需要的。本文将使用v1.5基本模型。在本文的最后还有最新的2

Diffusion Model(扩散模型)

一、功能(解决问题)1.根据文字生成图片2.根据给定的图片生成相似风格画作3.图片延展二、发展过程1.2015年斯坦福大学四位研究者提出2.2020年底加州伯克利学者改进3.2021年OpenAI结合CLIP做了进一步优化,实现了诸多AI作画功能三、应用:Dalle2(2021-2022)目前非常火爆的AI作画工具。DALL·E2四、类比(图像生成模型)当前有四大生成模型:生成对抗模型、变微分自动编码器、流模型以及扩散模型。扩散模型(diffusionmodels)是当前深度生成模型中新SOTA(Stateoftheart)。扩散模型在图片生成任务中超越了原SOTA:GAN,并且在诸多应用领域

AAAI 2023 | 轻量级语义分割新范式: Head-Free 的线性 Transformer 结构

前言  现有的语义分割工作主要集中在设计有效的解-码器上,然而,一直以来都忽略了这其中的计算成本。本文提出了一种专门用于语义分割的 Head-Free轻量级架构,称为AdaptiveFrequencyTransformer(AFFormer)。采用异构运算符(CNN和ViT)进行像素嵌入和原型表示,以进一步节省计算成本。由于语义分割对频率信息非常敏感,构建了一个具有复杂度O(n)的自适应频率滤波器的轻量级模块。在ADE20K和Cityscapes数据集上,AFFormer实现了比现有方法更高的精度和更低的参数量。Transformer、目标检测、语义分割交流群欢迎关注公众号CV技术指南,专注于

全网首发YOLOv5/YOLOv7暴力涨点:Dual-ViT:一种多尺度双视觉Transformer ,Dualattention助力检测| 顶刊TPAMI 2023

💡💡💡本文独家改进:DualViT:一种新的多尺度视觉Transformer主干,它在两种交互路径中对自注意力学习进行建模,即学习更精细像素级细节的像素路径和提取整体全局语义信息的语义路径,性能表现出色,Dualattention引入到YOLOv5/YOLOv7实现创新涨点!!!Dualattention|  亲测在多个数据集能够实现大幅涨点💡💡💡Yolov5/Yolov7魔术师,独家首发创新(原创),适用于Yolov5、Yolov7、Yolov8等各个Yolo系列,专栏文章提供每一步步骤和源码,轻松带你上手魔改网络💡💡💡重点:通过本专栏的阅读,后续你也可以自己魔改网络,在网络不同位置(Bac

End-to-end 3D Human Pose Estimation with Transformer

基于Transformer的端到端三维人体姿态估计摘要基于Transformer的架构已经成为自然语言处理中的常见选择,并且现在正在计算机视觉任务中实现SOTA性能,例如图像分类,对象检测。然而,卷积方法在3D人体姿态估计的许多方法中仍然保持SOTA性能。受视觉变换器最近发展的启发,我们设计了一个无热图结构,使用标准的变换器架构和可学习的对象查询来建模每个帧内的人体关节关系,然后输出准确的关节位置和类型,我们还提出了一个基于变换器的姿势识别架构,没有任何贪婪算法来在运行时对预测的骨骼进行后处理。在实验中,我们实现了最佳的性能之间的方法,直接回归3D关节位置从一个单一的RGB图像,并报告与许多2