windows下使用microsoft、intel、gnu不同编译器利用cmake和vscode对c++和fortran程序进行编译和调试由于编译器支持特性、编译后程序运行速度、安装使用便捷程度等的不同，我们往往会安装多种不同的编译器。对于c++语言主要的编译器有：microsoft、intel、gnu等，对于fortran语言则更多，包括gnu、intel、pgi等等。不同的编译器在一个系统下，往往需要利用一些手段进行区分，比如环境变量的临时设置等方式，便于区别使用。本文介绍一下对于同一个程序利用不同的编译器进行编译的不同方法。1.编译器准备本文介绍主要针对c++和fortran，但以c++

文章目录2023-03-06更新2023-03-05更新前言TensorRT介绍环境配置CUDADriver检查安装安装CUDA安装nvcc安装cuDNN安装验证安装TensorRT安装验证2023-03-06更新如果有小伙伴看了2023-03-05更新，发现设置环境变量后运行cuda代码在链接过程中仍然会有报错问题啥的，那我这里建议，先别管2023-03-05更新的内容了，还是按照我博客里的安装步骤一步一步往下安装，用sudoaptinstallnvidia-cuda-toolkit命令去安装nvcc，也不需要配置环境变量了。因为博客里的安装步骤是我亲自执行过的，在我的WSL2环境里是一点问

背景：训练DialogueGPT（一个基于GPT2的生成模型）DialoGPT/data_loader.pyat457835e7d8acd08acf7f6f0e980f36fd327ea37c·microsoft/DialoGPT·GitHub遇到的问题：报错：RuntimeError:CUDAerror:CUBLAS_STATUS_NOT_INITIALIZEDwhencalling`cublasCreate(handle)`解决思路：我把输入用同样形状的随机张量进行了测试，发现用随机的整数张量可以，但是用我的输入就不行，于是想看看两者的区别到底是什么后来发现，DialogueGPT以及GP

问题来源    对于刚接触人工智能领域不久的我而言，装CUDA等一些跑模型需要用到的工具是一件痛苦的事，稍不注意就会导致版本依赖问题，最终可能会需要你把前面安装的东西都卸载掉并重新下载，故本文记录如何卸载CUDA使得卸载干净。解决方案    本文的卸载工具采用window自带的控制面板，首先打开控制面板，看到很多关于NVIDIA的应用，不知从何下手，这里需要注意，有三个应用不能卸载，分别是NVIDIA的图形驱动程序、NVIDIAPhysx系统软件与NVIDIAGeForceExperience，接着按照安装时间排序，在临近时间内的其他关于NVIDIA应用均可删除，如下图所示。    卸载完成后

有两种方法可以安装CUDA环境第一种方法-用命令按照在刷机完成的Orin，执行如下命令：sudoaptupdatesudoaptupgradesudoaptinstallnvidia-jetpack-y注释–如果在执行第三行命令，报错的话，先查看nvidia-l4t-apt-source.list将其修改为修改完后，重新执行上面那三行命令CUDA检查是否安装成功运行命令nvcc-V输出结果nvcc:NVIDIA(R)CudacompilerdriverCopyright(c)2005-2021NVIDIACorporationBuiltonThu_Nov_11_23:44:05_PST_202

今天在跑yolov7的时候遇见，模型加载问题，因为我是使用CPU来加载pt模型的，但是出现了错误；RuntimeError:AttemptingtodeserializeobjectonaCUDAdevicebuttorch.cuda.is_available()isFalse.IfyouarerunningonaCPU-onlymachine,pleaseusetorch.loadwithmap_location=torch.device('cpu')tomapyourstoragestotheCPU.模型是使用CUDA跑的，但是加载是使用CPU加载的，报错的意思就是需要是需要反序列化加载，

报错：Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_ALLOC_CONF当reservedmemoryis>>allocatedmemory，进行如下设置，可解决此bug：代码如下：importosos.environ["PYTORCH_CUDA_ALLOC_CONF"]="max_split_size_mb:128"

torch.cuda.OutOfMemoryError:CUDAoutofmemory.Triedtoallocate90.00MiB(GPU0;7.93GiBtotalcapacity;758.34MiBalreadyallocated;5.75MiBfree;858.00MiBreservedintotalbyPyTorch)Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_

问题背景今天训练BERT时遇到了这个bug：RuntimeError:CUDAerror:CUBLAS_STATUS_NOT_INITIALIZEDwhencalling`cublasCreate(handle)`于是在网上搜罗了一番，发现基本都是在说batchsize开的太大，但调小batchsize对我而言并不能解决问题。解决过程既然是比较罕见的CUDA报错，为什么不尝试先在CPU上跑跑看看呢？于是我将device='cuda'iftorch.cuda.is_available()else'cpu'直接改成了device='cpu'，再运行代码时遇到了如下的bug（只截取了最后几行）：Fi

在VS2019中生成CMake出现报错问题解决办法一：解决办法二：问题严重性代码说明项目文件行禁止显示状态错误 CMakeErroratC:/ProgramFiles(x86)/MicrosoftVisualStudio/2019/Community/Common7/IDE/CommonExtensions/Microsoft/CMake/CMake/share/cmake-3.18/Modules/CMakeTestCCompiler.cmake:66(message):TheCcompiler"C:/ProgramFiles(x86)/MicrosoftVisualStudio/2019