草庐IT

CNN-Transformer

全部标签

java - javax.xml.transform.Transformer 的 pretty-print 输出,仅使用标准 java api(缩进和 Doctype 定位)

使用以下简单代码:packagetest;importjava.io.*;importjavax.xml.transform.*;importjavax.xml.transform.stream.*;publicclassTestOutputKeys{publicstaticvoidmain(String[]args)throwsTransformerException{//InstantiatetransformerinputSourcexmlInput=newStreamSource(newStringReader(""));StreamResultxmlOutput=newStr

java - javax.xml.transform.Transformer 的 pretty-print 输出,仅使用标准 java api(缩进和 Doctype 定位)

使用以下简单代码:packagetest;importjava.io.*;importjavax.xml.transform.*;importjavax.xml.transform.stream.*;publicclassTestOutputKeys{publicstaticvoidmain(String[]args)throwsTransformerException{//InstantiatetransformerinputSourcexmlInput=newStreamSource(newStringReader(""));StreamResultxmlOutput=newStr

基于深度学习的图片上色(Opencv,Pytorch,CNN)

文章目录1.前言2.图像格式(RGB,HSV,Lab)2.1RGB2.2hsv2.3Lab3.生成对抗网络(GAN)3.1生成网络(Unet)3.2判别网络(resnet18)4.数据集5.模型训练与预测流程图5.1训练流程图5.2预测流程图6.模型预测效果7.GUI界面制作8.代码下载1.前言最近做了一个图像着色的项目,基于pytorch和opencv使用生成对抗网络对灰度图像自动上色,然后可以对上色后的图片手动调节亮度对比度等信息,最后可以保存上色后的图像,闲话少说,先看一下效果,文章最后附有全部代码及数据集下载链接。灰度图自动上色b站视频地址:b站视频地址2.图像格式(RGB,HSV,L

在YOLOv5中添加Swin-Transformer模块

前段时间整理了一个可以添加SwinTransformerBlock的YOLOv5代码仓库。不需要任何其他的库包,可以运行YOLOv5程序的环境即可以正常运行代码。分别进行了SwinTransformerBlock、PatchMerging、PatchEmbed阶段的代码整理,以使得这些模块可以适配于u版YOLOv5的模型构建代码。和YOLOv5一样,通过对模型yaml文件的修改,可以实现自定义模型结构设计。具体方法可以参考下方使用说明,以搭建符合自己需要的添加了SwinT相关模块的模型。对于代码仓库有任何疑问或者改进优化,可以下方评论、提issue、或着邮箱联系yjhcui@163.comYO

深度学习入门基础CNN系列——卷积计算

卷积计算卷积是数学分析中的一种积分变换的方法,在图像处理中采用的是卷积的离散形式。这里需要说明的是,在卷积神经网络中,卷积层的实现方式实际上是数学中定义的互相关(cross-correlation)运算,与数学分析中的卷积定义有所不同,这里跟其他框架和卷积神经网络的教程保持一致,都使用互相关运算作为卷积的定义,具体的计算过程如图所示。互相关计算虽然卷积层得名于卷积(convolution)运算,但我们通常在卷积层中使用更加直观的互相关(cross-correlation)运算。在二维卷积层中,一个二维输入数组和一个二维核(kernel)数组通过互相关运算输出一个二维数组。我们用一个具体的例子来

学习笔记:深度学习(3)——卷积神经网络(CNN)理论篇

学习时间:2022.04.10~2022.04.12文章目录3.卷积神经网络CNN3.1卷积神经网络的概念3.1.1什么是CNN?3.1.2为什么要用CNN?3.1.3人类的视觉原理3.2CNN的基本原理3.2.1主要结构3.2.2卷积层(Convolutionlayer)1.卷积运算2.卷积的三种模式3.卷积的本质3.2.3池化层(Poolinglayer)3.2.4激活层3.2.5光栅化3.2.6全连接层3.2.7反向传播3.2.8CNN的特点1.局部连接/连接剪枝/稀疏连接(SparseConnectivity)2.权值共享/参数共享(ParametersSharing)3.感受野(Re

Swin-Transformer网络结构详解

文章目录0前言1网络整体框架2PatchMerging详解3W-MSA详解MSA模块计算量W-MSA模块计算量4SW-MSA详解5RelativePositionBias详解6模型详细配置参数0前言SwinTransformer是2021年微软研究院发表在ICCV上的一篇文章,并且已经获得ICCV2021bestpaper的荣誉称号。SwinTransformer网络是Transformer模型在视觉领域的又一次碰撞。该论文一经发表就已在多项视觉任务中霸榜。该论文是在2021年3月发表的,现在是2021年11月了,根据官方提供的信息可以看到,现在还在COCO数据集的目标检测以及实例分割任务中是

AI绘画能力的起源:通俗理解VAE、扩散模型DDPM、ViT/Swin transformer

前言2018年我写过一篇博客,叫:《一文读懂目标检测:R-CNN、FastR-CNN、FasterR-CNN、YOLO、SSD》,该文相当于梳理了2019年之前CV领域的典型视觉模型,比如2014R-CNN2015FastR-CNN、FasterR-CNN2016YOLO、SSD2017MaskR-CNN、YOLOv22018YOLOv3随着2019CenterNet的发布,特别是2020发布的DETR(End-to-EndObjectDetectionwithTransformers)之后,自此CV迎来了生成式下的多模态时代1月3月4月5月6月8月10月11月2020DETRDDPMDDIM

python - 如何在 Tensorflow 中可视化 cnn 中的权重(变量)?

训练完cnn模型后,我想可视化权重或打印权重,我该怎么办?训练后我什至无法打印出变量。谢谢! 最佳答案 要可视化权重,您可以使用tf.image_summary()将卷积滤波器(或滤波器切片)转换为摘要原型(prototype)的操作,使用tf.train.SummaryWriter将它们写入日志,并使用TensorBoard可视化日志.假设您有以下(简化的)程序:filter=tf.Variable(tf.truncated_normal([8,8,3]))images=tf.placeholder(tf.float32,shap

Transformer入门(一)——结构

文章目录前言一、Transformer的产生和基础思想 1.1Transformer的Motivation 1.2Transformer的原始框架 1.3关于Decoder的补充说明二、Encoder中重要模块的具体实现 2.1Self-Attention模块 2.2Multi-HeadedAttention模块 2.3PositionalEncoding模块 2.4LayerNormalization模块三、Encoder的叠加前言一、Transformer的产生和基础思想 1.1Transformer的Motivation  Transformer是由谷歌于2017年提出。最初是用在NLP