多进程做多卡训练；目录1初始化进程组：2当前进程所能用到的GPU卡的名称3将数据集随机分配到不同的GPU上4将train_sampler传入DataLoader中5将数据进行拷贝6模型放到GPU上7执行命令8模型保存9加载模型10注意事项代码编写流程：1初始化进程组：torch.distributed.init_process_group('nccl',worldsize=n_gpus,rank=args.local_rank)‘nccl’指定GPU之间的通信方式；world_size：当前这个节点上要用多少GPU卡；（当前节点就是当前机器）rank:当前进程在哪个GPU卡上，通过args.l
前言一、官方函数用法二、实验验证1.计算高维数组中各个像素位置的余弦距离2.验证高维数组中任意一个像素位置的余弦距离总结前言现在要使用Pytorch中自带的torch.nn.CosineSimilarity函数计算两个高维特征图(B,C,H,W)中各个像素位置的特征相似度，即特征图中的每个像素位置上的一个(B,C,1,1)的向量为该位置的特征，总共有BxHxW个特征。一、官方函数用法 意思是dim参数指定了函数在哪个维度上进行余弦距离计算，计算之后该维度会消失，而其他维度的形状保持不变。但是现有的大多数博客将dim的用法复杂化，因此这里进行简单的实验验证，来验证一下上述说法。二、
以前总是嫌装环境太麻烦，碰到些需要用到GPU的项目都不想去复现了。。。这次因为论文需要，下定决心要把pytorch的安装问题搞定，但是期间遇到了很多问题，最烦人的莫过于这个'AssertionError:TorchnotcompiledwithCUDAenabled'这时候首先应该做的就是确认pytorch、cuda、cuddn、torch和torchvision是否安装成功，以及版本是否正确！如何查看pytorch、cuda、cuddn、torch和torchvision的版本并且进行下载安装？1）查看版本查看pytroch版本>>>importtorch>>>print(torch.__v
可能一：PyCharm环境导入错误 配置的解释器，必须为所创建的虚拟环境下的python.exe文件，别的路径下的python.exe文件不好使！！解决方法：根据【YOLOv7-环境搭建③】PyCharm安装和环境、解释器配置文中配置解释器的步骤进行检查与更正可能二：缺少Torch包 既然显示没有Torch，那就可以向虚拟环境中添加Torch包。在命令指示符中输入指令：pipinstallTorch回车查看添加结果，此时结果为爆红原因为：国外的包国外的源，此时可以选择使用国内源清华大学：-ihttps://pypi.tuna.tsinghua.edu.cn/simple/在所要添加的包后添
目录一、conda创建、激活、退出、删除虚拟环境1、conda本地环境常用操作2、conda创建虚拟环境3、激活虚拟环境4、退出虚拟环境5、删除和复制虚拟环境6、在指定环境中管理包二、安装tensorflow和pytorch1、torch和torchvision版本对应关系2、conda方法安装3、源码安装torch和torchvision一、conda创建、激活、退出、删除虚拟环境1、conda本地环境常用操作#获取版本号conda--version或conda-V #检查更新当前condacondaupdateconda #查看当前存在哪些虚拟环境condaenvlist或condainf
目录一、conda创建、激活、退出、删除虚拟环境1、conda本地环境常用操作2、conda创建虚拟环境3、激活虚拟环境4、退出虚拟环境5、删除和复制虚拟环境6、在指定环境中管理包二、安装tensorflow和pytorch1、torch和torchvision版本对应关系2、conda方法安装3、源码安装torch和torchvision一、conda创建、激活、退出、删除虚拟环境1、conda本地环境常用操作#获取版本号conda--version或conda-V #检查更新当前condacondaupdateconda #查看当前存在哪些虚拟环境condaenvlist或condainf
X=torch.normal(mean=1,std=2,size=(3,4))print(X)tensor([[-0.1116,-3.4674,-0.0363,1.5493],[-0.7199,-0.7217,2.8007,1.1526],[0.0578,2.5465,1.5857,0.8619]])torch.normal()函数：返回一个张量；是从一个给定mean（均值），std（方差）的正态分布中抽取随机数。mean和std都是属于张量类型的；参数：mean:均值；std：标准差；out：输出张量；size：张量的大小；源码参数：@overloaddefnormal(mean:Tenso
Yolov5训练时报错：UserWarning:torch.meshgrid:inanupcomingrelease,itwillberequiredtopasstheinddexingargument修改C:\Users\vlf\anaconda3\envs\tweek\Lib\site-packages\torch\functional.py478行为：
目录CUDA下载:CUDAToolkitArchive|NVIDIADevelopercuDNN下载：cuDNNArchive|NVIDIADeveloper1.NVIDIA驱动和CUDA版本对应 2.CUDA和cuDNN版本对应 3.Tensorflow和CUDA、cuDNN版本对应(经过官方测试的构建配置)3.1GPU 3.2CPU4.pytorch和CUDA对应CUDA下载:CUDAToolkitArchive|NVIDIADevelopercuDNN下载：cuDNNArchive|NVIDIADeveloper1.NVIDIA驱动和CUDA版本对应网址：CUDA12.1Update1R
在pycharm上训练yolo数据集的时候，运行train.py报错：D:\Applications\anaconda3\envs\pytorch\lib\site-packages\torch\functional.py:504:UserWarning:torch.meshgrid:inanupcomingrelease,itwillberequiredtopasstheindexingargument.(TriggeredinternallyatC:\cb\pytorch_1000000000000\work\aten\src\ATen\native\TensorShape.cpp:348
