目录1问题背景2问题探索2.1CUDA固有显存2.2显存激活与失活2.3释放GPU显存3问题总结4告别Bug1问题背景研究过深度学习的同学，一定对类似下面这个CUDA显存溢出错误不陌生RuntimeError:CUDAoutofmemory.Triedtoallocate916.00MiB(GPU0;6.00GiBtotalcapacity;4.47GiBalreadyallocated;186.44MiBfree;4.47GiBreservedintotalbyPyTorch)本文探究CUDA的内存管理机制，并总结该问题的解决办法2问题探索2.1CUDA固有显存在实验开始前，先清空环境，终端
CUDA环境搭建[windows10]一、检查显卡支持的cuda版本二、安装vs2019三、安装cuda四、检测cuda是否安装成功五、配置vs项目总结：一、检查显卡支持的cuda版本（1）第一种方法：win+R打开cmd，输入nvidia-smi，我的显卡是nvidiageforcegt1030，支持的cuda版本是11.4。+-----------------------------------------------------------------------------+|NVIDIA-SMI471.41DriverVersion:471.41CUDAVersion:11.4||-
项目场景：显卡：QuadroK5200由于最近给十年前的老机器装pytorch遇到了很多问题最主要的是cuda的算力只能下载一定版本的CUDA驱动一定版本的CUDA又只能下载一定版本的pytorch在低版本的pytorch又必须是一定版本的python 提示：计算机的算力是固定的，由显卡决定。但是CUDA的版本是可以更改的，当CUDA版本过高，即使下载对应CUDA版本的Python与pytorc
一、Cuda下载安装1.查看对应版本win+r打开cmd命令行输入命令【nvidia-smi】如下图查看版本： 2.cuda下载点击cuda下载链接选择下载的版本不能高于自己的显卡驱动版本（例如：我这里是12.1，所以不能下载高于12.1的版本，这里我选择的是11.8。点进去后选择信息开始下载） 3.cuda安装双击下载的cuda文件，开始安装（位置默认就好不用更改）然后点击【同意并继续】这里选择【自定义】 取消驱动组件，其余按图片上勾选即可！ 点击【下一步】 等待安装即可！ 安装完成！ 4.cuda验证是否安装完成win+r打开cmd输入【nvcc-V】查看，如下图表示安装成功！
背景：在C#项目实践中，对与图像处理采用opencv优选的方案有两种，EMGU.CV和OpenCVSharp。以下是两个的比较：Opencv方案许可证速度支持易用性OpenCVSharp许可证是阿帕奇2.0可以随意用快CPU上手简单EMGU.CV许可证商用时需要随软件开放源代码相对慢CPU、GPU需要学习默认OpenCVSharp不支持GPU，主因是OpenCV需要根据不同的Cuda版本进行编译，第一耗时长、第二版本多，因此编译不起。目的：介绍在C#中使用OpenCVSharpGPU的编译过程，解决工程化CPU的性能瓶颈、及机器学习算法结合的时候性能提升问题。一、准备GPU电脑准备，需要安装适
了解GPU并行计算CUDA一、CUDA和GPU简介二、GPU工作原理与结构2.1、基础GPU架构2.2、GPU编程模型2.3、软件和硬件的对应关系三、GPU应用领域四、GPU+CPU异构计算五、MPI与CUDA的区别一、CUDA和GPU简介CUDA（ComputeUnifiedDeviceArchitecture），是显卡厂商NVIDIA推出的运算平台。CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。开发人员可以使用C语言来为CUDA™架构编写程序，所编写出的程序可以在支持CUDA™的
aarch64pytorch(没有aarch64对应版本，自行编译)pytorch-v2.0.1cudaarm64aarch64torch2.0.1+cu118源码编译笔记【2】验证cuda安装成功_hkNaruto的博客-CSDN博客创建venv[root@ceph3stable-diffusion-webui]#/usr/local/Python-3.10.12/bin/python3-mvenvvenv[root@ceph3stable-diffusion-webui]#sourcevenv/bin/activate(venv)[root@ceph3stable-diffusion-we
一、安装CUDA查看CUDA版本打开NVIDIA控制面板→帮助→系统信息→组件可以得知CUDA版本是11.7下载安装CUDA进入CUDA官网根据自己的设备情况选择对应版本进行下载下载完成后双击安装，这里地址存放的是临时文件，可以更改地址一路同意继续到安装程序选择自定义→下一步安装组件第一次安装建议全选，如果不是第一次按需选择吧（也有可能出现全选之后安装过程中电脑自动重启导致安装的现象，可以选择只安装第一个CUDA，下面三个都不选择就可以了。虽然不知道为啥，但是有效就完事）安装位置建议默认，也可以自定义，但是一定要记住，之后要用到之后就是安装啦安装完成之后检查一下系统环境变量在系统属性里选择环境
要在CentOS上安装NVIDIA驱动程序和NVIDIACUDA工具包，您可以按照以下步骤进行操作：1.准备工作：确保您的系统具有兼容的NVIDIAGPU。您可以在NVIDIA官方网站上查找支持CUDA的GPU型号列表。如果您之前已经安装了Nouveau驱动程序并禁用了它，请确保按照之前提供的方法启用Nouveau驱动程序。2.检查您的GPU型号：运行以下命令以确定您的GPU型号：lspci|grep-invidia3.禁用Nouveau驱动程序：如果您之前禁用了Nouveau驱动程序，请按照先前提供的方法重新启用它。在安装NVIDIA驱动程序之前，需要禁用系统中的Nouveau开源驱动程序。
使用方法：dockerpull镜像地址镜像地址为2023年8月以前所有：nvcr.io/nvidia/cuda:12.2.0-runtime-ubuntu22.04nvcr.io/nvidia/cuda:12.2.0-runtime-ubuntu20.04nvcr.io/nvidia/cuda:12.2.0-runtime-ubi9nvcr.io/nvidia/cuda:12.2.0-runtime-ubi8nvcr.io/nvidia/cuda:12.2.0-runtime-ubi7nvcr.io/nvidia/cuda:12.2.0-runtime-rockylinux9nvcr.io/n
