CUDA简介CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种通用并行计算架构。CUDA允许程序员利用NVIDIAGPU的并行计算能力，加速各种计算密集型应用程序。CUDA技术基于GPU的并行计算原理。传统的CPU处理器拥有少量的核心，可以同时执行少量的线程。但是，现代GPU拥有数百甚至上千个核心，可以同时执行大量的线程，实现高度并行计算。CUDA技术通过将CUDA代码编译成针对GPU的指令，利用GPU的并行处理能力，加快程序执行速度。CUDA提供了一个基于C语言的编程模型和一组库，使程序员能够轻松地编写并行计算代码。CUDA代码可以在主机C

文章目录1.显卡驱动1.1.各版本下载地址1.2.各版本文档地址1.3.安装、卸载方式2.CUDA2.1.各版本下载地址2.2.各版本文档地址2.3.安装、卸载方式2.4.多版本CUDA切换方式1.显卡驱动1.1.各版本下载地址https://www.nvidia.com/Download/Find.aspx?lang=zh-cn1.2.各版本文档地址在下载页面选择具体驱动版本后，在其他信息框即可找到README文档链接1.3.安装、卸载方式以535.129.03版本为例（文档地址：https://download.nvidia.com/XFree86/Linux-x86_64/535.129

PyTorch版本CUDA版本1.2.0、1.4.0、1.5.0、1.5.1、1.6.0、1.7.0、1.7.19.21.0.0、1.0.1、1.1.0、1.2.010.01.4.0、1.5.0、1.5.1、1.6.0、1.7.0、1.7.1、1.8.110.11.5.0、1.5.1、1.6.0、1.7.0、1.7.1、1.8.0、1.8.1、1.8.2、1.9.0、1.9.1、1.10.0、1.10.1、1.11.0、1.12.0、1.12.110.21.7.0、1.7.111.01.8.0、1.8.1、1.8.2、1.9.0、1.9.1、1.10.0、1.10.111.11.8.1、1.9

接上篇【AI】RTX20606GUbuntu22.04.1LTS(JammyJellyfish)部署Chinese-LLaMA-Alpaca-2-CSDN博客前面的实验，chat.sh确认是运行在CPU模式下，未启用GPU支持重新编译llama.cppsudoaptinstallnvidia-cuda-toolkitcd~/Downloads/ai/llama.cppmakecleanmakeLLAMA_CUBLAS=1-j6故障：nvccfatal :Value'native'isnotdefinedforoption'gpu-architecture'查看gpu-arch修改Makefil

Ubuntu22.04系统安装软件、显卡驱动、cuda、cudnn、pytorch安装Nvidia显卡驱动安装CUDA安装cuDNN安装VSCode安装Anaconda并更换源在虚拟环境中安装GPU版本的PyTorchReference这篇博文主要介绍的是Ubuntu22.04系统中软件、显卡驱动、cuda、cudnn、pytorch等软件和环境的安装和配置，在上一篇博文Ubuntu22.04双系统安装、配置及常用设置中介绍了Ubuntu22.04双系统的安装、配置、终端常用操作的快捷键以及一些常用设置（如同步时间、更改启动默认项、添加右击新建文件选项、创建桌面快捷方式等），有需要的可自行点击

显卡、CUDADriver、NVCC、CUDAToolkit、CUDNN含义详见：https://zhuanlan.zhihu.com/p/91334380CUDA官方文档地址：https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html（翻译：【翻译】CUDA12.0Toolkit主要组件版本说明）1.显卡步骤1：打开命令提示符（CMD）步骤2：进入CUDA安装目录（例如C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v9.0\extras\demo_suite）步骤3：执行

需求：原先在宿主机里运行的服务需要迁移到docker里进程：docker支持gpu需要装toolkit，但是正常情况下没有对应的源，所以先引入源文件distribution=$(./etc/os-release;echo$ID$VERSION_ID)\&&curl-fsSLhttps://nvidia.github.io/libnvidia-container/gpgkey|sudogpg--dearmor-o/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg\&&curl-s-Lhttps://nvidia.github.io/l

ubuntu221050ti显卡安装cuda12.3、cudnn8.9.6及NVIDIATAOTOOLKIT没有代理的同学，先把你的源改为国内源，清华阿里都可以！没有代理的同学，先把你的源改为国内源，清华阿里都可以！没有代理的同学，先把你的源改为国内源，清华阿里都可以！步骤1：安装NVIDIA显卡驱动首先，确保你的系统中已经安装了合适版本的NVIDIA驱动程序。可以使用以下命令安装：sudoubuntu-driversautoinstall步骤2：安装CUDA访问NVIDIA官方网站：https://developer.nvidia.com/cuda-downloads?target_os=L

1、AI驱动下，英伟达数据中心业务蓬勃发展英伟达是GPU的发明创造者。1999年，英伟达在纳斯达克挂牌上市，并于同年提出了GPU概念，发布了GeForce256。这被业界视为现代计算机图形技术的开端。最初，GPU主要应用于PC游戏和主机游戏（如Sega、Xbox和PS3），能够通过硬件支持T&L（多边形转换与光源处理）。T&L在3D图像渲染中扮演重要角色，计算多边形的3D位置和处理动态光线效果，提供细致的3D物体和高级的光线特效。由于3D图像渲染中的任务是并行计算的，各区域之间没有联系或依赖关系，因此可以轻松拆分成独立的并行任务，提高计算速度。这种并行计算能力让GPU意外成为AI计算的硬件基础

今天跑一个项目时遇到了如下问题：RuntimeError:CUDAerror:CUBLAS_STATUS_EXECUTION_FAILEDwhencallingcublasSgemm(handle,opa,opb,m,n,k,&alpha,a,lda,b,ldb,&beta,c,ldc)简单查了一下，有说：1不同模块对device设置不同的；2cuda和pytorch版本不匹配；3shape维度不匹配简单分析了一下，我的pytorch用的还是1.4.0版本，cuda由于用的30系列，之前看帖子说30系列最好使用11.0以上版本的cuda，否则会报错。我也就没有尝试，直接安装了cuda11.6。