草庐IT

Pytorch固定随机种子&&复现模型

官网 Reproducibility—PyTorch1.11.0documentation在神经网络中,参数默认是进行随机初始化的。不同的初始化参数往往会导致模型的训练结果会存在一定的差异。当得到比较好的结果时我们通常希望这个结果是可以复现的,就需要保证每一次初始化的参数都不变,这就引入了随机种子。在PyTorch中,通过设置全局随机数种子可以实现这个目的。本文总结了PyTorch中固定随机种子的方法。一 训练过程的不确定性在训练过程中,若相同的数据数据集,相同的训练集、测试集划分方式,相同的权重初始化,但是每次训练结果不同,可能有以下几个原因:PyTorch、Python、Numpy中的随机

【pytorch】torch.cdist使用说明

使用说明torch.cdist的使用介绍如官网所示,它是批量计算两个向量集合的距离。其中,x1和x2是输入的两个向量集合。p默认为2,为欧几里德距离。它的功能上等同于scipy.spatial.distance.cdist(input,’minkowski’,p=p)如果x1的shape是[B,P,M],x2的shape是[B,R,M],则cdist的结果shape是[B,P,R]进一步的解释x1一般是输入矢量,而x2一般是码本。x2中所有的元素分别与x1中的每一个元素求欧几里德距离(当p默认为2时)如下面示例importtorchx1=torch.FloatTensor([0.1,0.2,0

【pytorch】torch.cdist使用说明

使用说明torch.cdist的使用介绍如官网所示,它是批量计算两个向量集合的距离。其中,x1和x2是输入的两个向量集合。p默认为2,为欧几里德距离。它的功能上等同于scipy.spatial.distance.cdist(input,’minkowski’,p=p)如果x1的shape是[B,P,M],x2的shape是[B,R,M],则cdist的结果shape是[B,P,R]进一步的解释x1一般是输入矢量,而x2一般是码本。x2中所有的元素分别与x1中的每一个元素求欧几里德距离(当p默认为2时)如下面示例importtorchx1=torch.FloatTensor([0.1,0.2,0

PyTorch model 返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()

PyTorchmodel返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()文章目录PyTorchmodel返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()前言一、model.modules(),model.children(),model.parameters()1.1model.modules()1.2model.named_modules()1.3model.children()

PyTorch model 返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()

PyTorchmodel返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()文章目录PyTorchmodel返回函数总结——model.state_dict(),model.modules(),model.children(),model.parameters()前言一、model.modules(),model.children(),model.parameters()1.1model.modules()1.2model.named_modules()1.3model.children()

Docker配置深度学习pytorch gpu环境

一、docker的概念原理参考资料:https://zhuanlan.zhihu.com/p/81693661          https://www.zhihu.com/question/506867139          https://blog.csdn.net/weixin_44751294/article/details/123191429    看过上面两个链接,就对docker是什么作用,怎么用有个大概的了解。简单摘要一些对我来说比较重要的点如下:(1)docker可以让环境配置变得简单,在多人同时使用一台服务器或者时不时换电脑换机器所有的包时都很有用(2)docker可以看

Docker配置深度学习pytorch gpu环境

一、docker的概念原理参考资料:https://zhuanlan.zhihu.com/p/81693661          https://www.zhihu.com/question/506867139          https://blog.csdn.net/weixin_44751294/article/details/123191429    看过上面两个链接,就对docker是什么作用,怎么用有个大概的了解。简单摘要一些对我来说比较重要的点如下:(1)docker可以让环境配置变得简单,在多人同时使用一台服务器或者时不时换电脑换机器所有的包时都很有用(2)docker可以看

pytorch :OSError: [WinError 1455] 页面文件太小,无法完成操作。 Error loading 【已解决】

OSError:[WinError1455]页面文件太小,无法完成操作。Errorloading"D:\ProgramData\Anaconda3\envs\openmmlab\lib\site-packages\torch\lib\cudnn_cnn_infer64_8.dll"oroneofitsdependencies.win11系统,运行出现上述错误 解决方法 1.降低Batch_Size大小:过大的Batch_Size(人工智能术语:指一次迭代过程送入的数据集样本量)显然需要更多的内存支持,出现“页面文件太小”,可尝试降低Batch_Size大小。2.调整虚拟内存可用硬盘空间大小:虚

pytorch :OSError: [WinError 1455] 页面文件太小,无法完成操作。 Error loading 【已解决】

OSError:[WinError1455]页面文件太小,无法完成操作。Errorloading"D:\ProgramData\Anaconda3\envs\openmmlab\lib\site-packages\torch\lib\cudnn_cnn_infer64_8.dll"oroneofitsdependencies.win11系统,运行出现上述错误 解决方法 1.降低Batch_Size大小:过大的Batch_Size(人工智能术语:指一次迭代过程送入的数据集样本量)显然需要更多的内存支持,出现“页面文件太小”,可尝试降低Batch_Size大小。2.调整虚拟内存可用硬盘空间大小:虚

Pytorch+CUDA安装方法步骤

首先我们要确定本机是否有独立显卡,在右键点击开始按钮—设备管理器-显示适配器中,查看是否有独立显卡。可以看到本机有一个集成显卡和独立显卡NVIDIAGetForceGTX1050查询显卡是否支持安装CUDA可以看到我本机的独立显卡是支持CUDA安装的,计算力是6.1。查看自己独立显卡:按住WIN+R键在搜索栏找到NOVIDIAcontrolpanel。选择左下角的系统信息->显示:组件:或者命令行输入:nvidia-smi可以看到Driver-Version:456.71,CUDAVersion:11.1注意:因此安装的CUDAtoolkit版本不可超过11.1;Driver-Version不