草庐IT

CUDA 的卸载

问题来源    对于刚接触人工智能领域不久的我而言,装CUDA等一些跑模型需要用到的工具是一件痛苦的事,稍不注意就会导致版本依赖问题,最终可能会需要你把前面安装的东西都卸载掉并重新下载,故本文记录如何卸载CUDA使得卸载干净。解决方案    本文的卸载工具采用window自带的控制面板,首先打开控制面板,看到很多关于NVIDIA的应用,不知从何下手,这里需要注意,有三个应用不能卸载,分别是NVIDIA的图形驱动程序、NVIDIAPhysx系统软件与NVIDIAGeForceExperience,接着按照安装时间排序,在临近时间内的其他关于NVIDIA应用均可删除,如下图所示。    卸载完成后

Orin 安装CUDA CUDNN TensorRT Opencv和输入法的环境配置

有两种方法可以安装CUDA环境第一种方法-用命令按照在刷机完成的Orin,执行如下命令:sudoaptupdatesudoaptupgradesudoaptinstallnvidia-jetpack-y注释–如果在执行第三行命令,报错的话,先查看nvidia-l4t-apt-source.list将其修改为修改完后,重新执行上面那三行命令CUDA检查是否安装成功运行命令nvcc-V输出结果nvcc:NVIDIA(R)CudacompilerdriverCopyright(c)2005-2021NVIDIACorporationBuiltonThu_Nov_11_23:44:05_PST_202

RuntimeError: Attempting to deserialize object on a CUDA device but torch.cuda.is_available() is Fal

今天在跑yolov7的时候遇见,模型加载问题,因为我是使用CPU来加载pt模型的,但是出现了错误;RuntimeError:AttemptingtodeserializeobjectonaCUDAdevicebuttorch.cuda.is_available()isFalse.IfyouarerunningonaCPU-onlymachine,pleaseusetorch.loadwithmap_location=torch.device('cpu')tomapyourstoragestotheCPU.模型是使用CUDA跑的,但是加载是使用CPU加载的,报错的意思就是需要是需要反序列化加载,

RuntimeError: CUDA out of memory See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

报错:Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_ALLOC_CONF当reservedmemoryis>>allocatedmemory,进行如下设置,可解决此bug:代码如下:importosos.environ["PYTORCH_CUDA_ALLOC_CONF"]="max_split_size_mb:128"

报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0; 7.93 GiB to

torch.cuda.OutOfMemoryError:CUDAoutofmemory.Triedtoallocate90.00MiB(GPU0;7.93GiBtotalcapacity;758.34MiBalreadyallocated;5.75MiBfree;858.00MiBreservedintotalbyPyTorch)Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_

RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

问题背景今天训练BERT时遇到了这个bug:RuntimeError:CUDAerror:CUBLAS_STATUS_NOT_INITIALIZEDwhencalling`cublasCreate(handle)`于是在网上搜罗了一番,发现基本都是在说batchsize开的太大,但调小batchsize对我而言并不能解决问题。解决过程既然是比较罕见的CUDA报错,为什么不尝试先在CPU上跑跑看看呢?于是我将device='cuda'iftorch.cuda.is_available()else'cpu'直接改成了device='cpu',再运行代码时遇到了如下的bug(只截取了最后几行):Fi

完整的Ubuntu20.04+ROS+PX4+Anaconda+PyTorch+GPU+CUDA+CUDNN+XTdrone配置智能无人机开发环境搭建过程

概述我之前写了如何在Ubuntu18下搭配一系列软件的教程,然后近期重新安装20.04版本,于是重新记录一些东西,但是众多东西之前已经有了,所以我在这里知会在一些不同的地方和新增的地方特别说明,其他的请大家看之前的博客。对xtdrone的理解在搞了这么久的ros和px4之后,我也明白了xtdrone是什么了,它本质上就是一个包含了多个例程和模型文件的仓库,以gazebo和px4、ros为基础,做出来的一些初学者可以上手即用的例子,类比一下就是这样:你想学做题(进行应用),如何已经学会了一些基础知识(就是ros等基础),但是不知道怎么做题,然后肖昆老师团队出了一本例题集,你可以看一下一些题目是怎

Ubuntu20.04卸载cuda12.0

解决方法刚装cuda的时候没仔细看版本,默认安装了cuda12.0,然后发现pytorch并不支持12.0的版本,于是卸载重装,先贴解决办法再吐槽:解决办法是参考的Nvidia官方文档只需要两步:sudoapt-get--purgeremove"*cuda*""*cublas*""*cufft*""*cufile*""*curand*""*cusolver*""*cusparse*""*gds-tools*""*npp*""*nvjpeg*""nsight*""*nvvm*"sudoapt-getautoremove官方文档中实际上是三步:#ToremoveCUDAToolkit:sudoap

TypeError: cannot assign ‘torch.cuda.FloatTensor‘ as parameter ‘bias‘ (torch.nn.Parameter or None ex

报错定位到的位置是在:self.bias=self.bias.cuda()意为将把bias转到gpu上报错;网上查询了很多问题都没解决,受到这篇博客的启发;pytorch手动设置参数变量并转到cuda上_XiaoPangJix1的博客-CSDN博客原因可能是:bias是torch.nn.Parameter(),转移到cuda上失败,提示此报错;其实根本原因比较简单,就是在model定义的时候没有将model转移到cuda上,因此修改代码为如下即可:a=torch.Tensor(1,1,256,256)iftorch.cuda.is_available():a=a.cuda()EE_Block=

RuntimeError:CUDA error:no kernel image is available for execution on the device报错解决(亲测)

深度学习算法训练报错调试Transformer网络,安装完timm包之后,运行程序时报错CUDAerror:nokernelimageisavailableforexecutiononthedevice,如图所示:网上对于该错误说啥的都有,因为这是第一次遇到这个错误,之前训练CNN也正常,排除显卡算力低,不支持高版本CUDA问题。看来看去,这位博主说的有道理:CUDAerror:nokernelimageisavailableforexecutiononthedevice报错解决方法开始检查自己的pytorch相关包的版本,如图所示:发现问题,我原本torch版本是1.9.1,但是由于安装ti