文章目录反卷积的作用卷积中padding的几个概念NoPaddingHalf(Same)PaddingFullPadding反卷积反卷积中的Padding参数反卷积的stride参数反卷积的output_padding参数反卷积总结参考资料反卷积的作用传统的卷积通常是将大图片卷积成一张小图片，而反卷积就是反过来，将一张小图片变成大图片。但这有什么用呢？其实有用，例如，在生成网络(GAN)中，我们是给网络一个向量，然后生成一张图片所以我们需要想办法把这个向量一直扩，最终扩到图片的的大小。卷积中padding的几个概念在了解反卷积前，先来学习传统卷积的几个padding概念，因为后面反卷积也有相同
3D卷积比Conv2D多一个维度。举例说明：Conv2D对720×720的3通道图像进行卷积，batch_size设为64，则输入向量的维度为[64,3,720,720],Conv3D对分辨率为720×720的视频(假设为连续5帧)进行卷积，batch_size设为64，则输入向量的维度为[64,3,5,720,720]torch.nn.Conv3d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True,padding_mode='zeros') 参数详解in_channels
3D卷积比Conv2D多一个维度。举例说明：Conv2D对720×720的3通道图像进行卷积，batch_size设为64，则输入向量的维度为[64,3,720,720],Conv3D对分辨率为720×720的视频(假设为连续5帧)进行卷积，batch_size设为64，则输入向量的维度为[64,3,5,720,720]torch.nn.Conv3d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True,padding_mode='zeros') 参数详解in_channels
官方文档链接：MultiheadAttention—PyTorch1.12documentation目录多注意头原理pytorch的多注意头解读官方给的参数解释：多注意头的pytorch使用完整的使用代码多注意头原理MultiheadAttention，翻译成中文即为多注意力头，是由多个单注意头拼接成的它们的样子分别为：👇 单头注意力的图示如下：单注意力头 整体称为一个单注意力头，因为运算结束后只对每个输入产生一个输出结果，一般在网络中，输出可以被称为网络提取的特征，那我们肯定希望提取多种特征，[比如说我输入是一个修狗狗图片的向量序列，我肯定希望网络提取到特征有形状、颜色、纹
官方文档链接：MultiheadAttention—PyTorch1.12documentation目录多注意头原理pytorch的多注意头解读官方给的参数解释：多注意头的pytorch使用完整的使用代码多注意头原理MultiheadAttention，翻译成中文即为多注意力头，是由多个单注意头拼接成的它们的样子分别为：👇 单头注意力的图示如下：单注意力头 整体称为一个单注意力头，因为运算结束后只对每个输入产生一个输出结果，一般在网络中，输出可以被称为网络提取的特征，那我们肯定希望提取多种特征，[比如说我输入是一个修狗狗图片的向量序列，我肯定希望网络提取到特征有形状、颜色、纹
文章目录torch.nn.Parameter基本介绍参数构造参数访问参数初始化使用内置初始化自定义初始化参数绑定参考torch.nn.Parameter基本介绍torch.nn.Parameter是继承自torch.Tensor的子类，其主要作用是作为nn.Module中的可训练参数使用。它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去。具体格式如下：torch.nn.parameter.Parameter(data=None,requires_grad=True)其中data为待传入的Tenso
文章目录torch.nn.Parameter基本介绍参数构造参数访问参数初始化使用内置初始化自定义初始化参数绑定参考torch.nn.Parameter基本介绍torch.nn.Parameter是继承自torch.Tensor的子类，其主要作用是作为nn.Module中的可训练参数使用。它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去。具体格式如下：torch.nn.parameter.Parameter(data=None,requires_grad=True)其中data为待传入的Tenso
1.引例假设有一本字典，就一共只有10单词，每个单词有5个字母组成。每一页上只写一个单词，所以这10页纸上分别写了这10个单词。内如如下，[[a,p,p,l,e],#page0[g,r,e,e,n],#page1[s,m,a,l,l],#page2[w,a,t,c,h],#page3[b,a,s,i,c],#page4[e,n,j,o,y],#page5[c,l,a,s,s],#page6[e,m,b,e,d],#page7[h,a,p,p,y],#page8[p,l,a,t,e]#page9]我们假定这本字典叫embeding(10,5),这里的10和5即上面介绍的含义，10个单词，每个单词
1.引例假设有一本字典，就一共只有10单词，每个单词有5个字母组成。每一页上只写一个单词，所以这10页纸上分别写了这10个单词。内如如下，[[a,p,p,l,e],#page0[g,r,e,e,n],#page1[s,m,a,l,l],#page2[w,a,t,c,h],#page3[b,a,s,i,c],#page4[e,n,j,o,y],#page5[c,l,a,s,s],#page6[e,m,b,e,d],#page7[h,a,p,p,y],#page8[p,l,a,t,e]#page9]我们假定这本字典叫embeding(10,5),这里的10和5即上面介绍的含义，10个单词，每个单词
1.关于parameters()方法Pytorch中继承了torch.nn.Module的模型类具有named_parameters()/parameters()方法，这两个方法都会返回一个用于迭代模型参数的迭代器（named_parameters还包括参数名字）：importtorchnet=torch.nn.LSTM(input_size=512,hidden_size=64)print(net.parameters())print(net.named_parameters())##我们可以将net.parameters()迭代器和将net.named_parameters()转化为列表类
