作者：韩信子@ShowMeAI教程地址：https://www.showmeai.tech/tutorials/37本文地址：https://www.showmeai.tech/article-detail/270声明：版权所有，转载请联系平台与作者并注明出处收藏ShowMeAI查看更多精彩内容本系列为斯坦福CS231n《深度学习与计算机视觉(DeepLearningforComputerVision)》的全套学习笔记，对应的课程视频可以在这里查看。更多资料获取方式见文末。本篇重点RNN的概念与多种形式语言模型图像标注、视觉问答、注意力模型RNN梯度流1.RNN的概念与多种形式关于RNN的详细
作者：韩信子@ShowMeAI教程地址：https://www.showmeai.tech/tutorials/37本文地址：https://www.showmeai.tech/article-detail/270声明：版权所有，转载请联系平台与作者并注明出处收藏ShowMeAI查看更多精彩内容本系列为斯坦福CS231n《深度学习与计算机视觉(DeepLearningforComputerVision)》的全套学习笔记，对应的课程视频可以在这里查看。更多资料获取方式见文末。本篇重点RNN的概念与多种形式语言模型图像标注、视觉问答、注意力模型RNN梯度流1.RNN的概念与多种形式关于RNN的详细
本文是深度学习入门：基于Python的实现、神经网络与深度学习（NNDL）以及动手学深度学习的读书笔记。本文将介绍基于Numpy的卷积神经网络（ConvolutionalNetworks，CNN）的实现，本文主要重在理解原理和底层实现。一、概述1.1 卷积神经网络（CNN） 卷积神经网络（CNN）是一种具有局部连接、权重共享和平移不变特性的深层前馈神经网络。 CNN利用了可学习的kernel卷积核（filter滤波器）来提取图像中的模式（局部和全局）。传统图像处理会手动设计卷积核（例如高斯核，来提取边缘信息），而CNN则是数据驱动的。 在数学上，针对一维序列数据，卷积
本文是深度学习入门：基于Python的实现、神经网络与深度学习（NNDL）以及动手学深度学习的读书笔记。本文将介绍基于Numpy的卷积神经网络（ConvolutionalNetworks，CNN）的实现，本文主要重在理解原理和底层实现。一、概述1.1 卷积神经网络（CNN） 卷积神经网络（CNN）是一种具有局部连接、权重共享和平移不变特性的深层前馈神经网络。 CNN利用了可学习的kernel卷积核（filter滤波器）来提取图像中的模式（局部和全局）。传统图像处理会手动设计卷积核（例如高斯核，来提取边缘信息），而CNN则是数据驱动的。 在数学上，针对一维序列数据，卷积
图神经网络（GNN）目前的主流实现方式就是节点之间的信息汇聚，也就是类似于卷积网络的邻域加权和，比如图卷积网络（GCN）、图注意力网络（GAT）等。下面根据GCN的实现原理使用Pytorch张量，和调用torch_geometric包，分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之间引用关系的图结构数据集。数据集包含一个图，图中包括2708篇文献（节点）和10556个引用关系（边）。其中每个节点都有一个1433维的特征向量，即文献内容的嵌入向量。文献被分为七个类别：计算机科学、物理学等。GCN计算流程 对于某个GCN层，假设输入图的节点特征为$X\inR^{|V|\t
图神经网络（GNN）目前的主流实现方式就是节点之间的信息汇聚，也就是类似于卷积网络的邻域加权和，比如图卷积网络（GCN）、图注意力网络（GAT）等。下面根据GCN的实现原理使用Pytorch张量，和调用torch_geometric包，分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之间引用关系的图结构数据集。数据集包含一个图，图中包括2708篇文献（节点）和10556个引用关系（边）。其中每个节点都有一个1433维的特征向量，即文献内容的嵌入向量。文献被分为七个类别：计算机科学、物理学等。GCN计算流程 对于某个GCN层，假设输入图的节点特征为$X\inR^{|V|\t
前言一，卷积1.1，卷积运算定义1.2，卷积的意义1.3，从实例理解卷积1.4，图像卷积（二维卷积）1.5，互相关和卷积二，卷积层2.1，卷积层定义2.1.1，局部连接2.1.2，权重共享2.2，卷积层理解2.3，卷积层api三，卷积神经网络3.1，汇聚层3.2.，汇聚层api四，卷积神经网络结构参考资料前言在全连接层构成的多层感知机网络中，我们通过将图像数据展平成一维向量来送入模型，这样会忽略了每个图像的空间结构信息。理想的策略应该是要利用相近像素之间的相互关联性，将图像数据二维矩阵送给模型中学习。卷积神经网络(convolutionalneuralnetwork，CNN)正是一类强大的、专
前言一，卷积1.1，卷积运算定义1.2，卷积的意义1.3，从实例理解卷积1.4，图像卷积（二维卷积）1.5，互相关和卷积二，卷积层2.1，卷积层定义2.1.1，局部连接2.1.2，权重共享2.2，卷积层理解2.3，卷积层api三，卷积神经网络3.1，汇聚层3.2.，汇聚层api四，卷积神经网络结构参考资料前言在全连接层构成的多层感知机网络中，我们通过将图像数据展平成一维向量来送入模型，这样会忽略了每个图像的空间结构信息。理想的策略应该是要利用相近像素之间的相互关联性，将图像数据二维矩阵送给模型中学习。卷积神经网络(convolutionalneuralnetwork，CNN)正是一类强大的、专
一，数学基础1.1，概率密度函数1.2，正态分布二，背景2.1，如何理解InternalCovariateShift2.2，InternalCovariateShift带来的问题2.3，减少InternalCovariateShift的一些尝试三，批量归一化（BN）3.1，BN的前向计算3.2，BN层如何工作3.3，训练和推理式的BN层3.4，实验3.5，BN层的优点参考资料一，数学基础1.1，概率密度函数随机变量（randomvariable）是可以随机地取不同值的变量。随机变量可以是离散的或者连续的。简单起见，本文用大写字母\(X\)表示随机变量，小写字母\(x\)表示随机变量能够取到的值
一，数学基础1.1，概率密度函数1.2，正态分布二，背景2.1，如何理解InternalCovariateShift2.2，InternalCovariateShift带来的问题2.3，减少InternalCovariateShift的一些尝试三，批量归一化（BN）3.1，BN的前向计算3.2，BN层如何工作3.3，训练和推理式的BN层3.4，实验3.5，BN层的优点参考资料一，数学基础1.1，概率密度函数随机变量（randomvariable）是可以随机地取不同值的变量。随机变量可以是离散的或者连续的。简单起见，本文用大写字母\(X\)表示随机变量，小写字母\(x\)表示随机变量能够取到的值
