Windows下的CUDA环境配置

一、查看自己电脑的显卡信息

• 使用win+R打开运行窗口,在运行窗口中输入cmd打开命令行
• 在命令行中键入nvidia-smi查看显卡支持信息
  • 从下图中可以看到,本机显卡的显卡驱动版本为:472.39;CUDA支持版本为:11.4

二、下载CUDA工具包

• 在查看完电脑的显卡信息后,需要对显卡驱动版本和CUDA版本对应的CUDA Toolkit工具包进行确认.

• 前往NVIDIA官网的官方文档:Release Notes :: CUDA Toolkit Documentation (nvidia.com)查看对应的信息.下载的CUDA Toolkit版本不能高于显卡自身的CUDA 版本.以笔者电脑为例则不能下载高于11.4版本的CUDA Toolkit工具包.除此之外,在官方文档(table 1;table 2)中核对本机的显卡驱动版本是否想要下载的CUDA Toolkit版本的要求

• 核对完成后,前往NVIDIA官网下载对应版本的CUDA工具包:CUDA Toolkit Archive | NVIDIA Developer
  

  • 选择Windows环境下的CUDA安装包.安装包类型有两类:一类是local,另一类是network.
  • local版本包含了CUDA Toolkit中的所有组件,是一个离线安装包.
  • network版本是一个通过网络的安装程序,可以自由选择想要下载的CUDA Toolkit组件.
  • 联网环境下一般选择下载network版本的安装包

• 本文以network版本的安装程序为例,下载完成后运行可执行程序,按照提示步骤进行安装即可

• 安装路径设置为默认路径

三、配置系统环境变量

• 安装完成后，以win10系统为例.右键：“此电脑”->“属性”,选择高级系统设置,如下图所示

• 选择"高级"中的"环境变量",开始设置环境变量
• 安装完成后,系统环境变量中自动被添加上了如下所示的两个环境变量(版本号对应用户所下载的版本号):

• 用户需要手动添加以下的环境变量:

CUDA_BIN_PATH=%CUDA_PAT%\bin
CUDA_LIB_PATH=%CUDA_PATH%\lib\x64
CUDA_SDK_BIN_PATH=%CUDA_SDK_PATH%\bin\win64
CUDA_SDK_LIB_PATH=%CUDA_SDK_PATH%\common\lib\x64
CUDA_SKD_PATH=C:\ProgramData\NVIDIA Corporation\CUDA Sample\v11.3

• 添加上上述环境变量后,在系统环境变量Path中添加下列路径:

%CUDA_BIN_PATH%
%CUDA_LIB_PATH%
%CUDA_SDK_BIN_PATH%
%CUDA_SDK_LIB_path%

四、查看CUDA是否安装成功

• 在命令行中输入:nvcc --version查看nvcc编译器版本,如下图所示

• 在命令行中输入set cuda,查看设置的环境变量情况.如下所示:

• 验证deviceQuery.exe与bandwidthTest.exe两个可执行程序是否能够正常运行.默认安装路径下,两个可执行程序的路径为:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\extras\demo_suite.
• 在命令行中运行上述两个可执行程序,运行结果为result=PASS则说明CUDA安装成功,如下所示:

五、在VS2019下配置CUDA调试环境

• 打开VS2019，新建空项目，右键项目，选择“生成依赖项”，选择“生成自定义”，在"生成自定义"中勾选"CUDA",如下所示:

• 在空项目中新建后缀为.cu的源文件.右键该文件,选择"属性"->“常规”->“项类型”.将"项类型设置为:CUDA C/C++.如下所示:

• 完成上述步骤后进行项目配置.右键项目,选择属性.配置选所有配置(即debug和Realise配置一致).

• 然后分平台(x64和win32)分别进行配置

• x64平台下的配置

  • 包含目录配置

    • 项目->“属性”->“配置属性”->“VC++目录”->"包含目录
    • 添加包含目录:$(CUDA_PATH)\include

  • 库目录配置

    • “VC++目录”->“库目录”
    • 添加库目录:$(CUDA_PATH)\lib\x64

  • 依赖项

    • “配置属性”->“链接器”->“输入”->“附加依赖项”
    • 添加库文件(库文件数量较多,默认存储路径为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\lib\x64,可在该路径下自己添加依赖项):

    cublas.lib
    cuda.lib
    cudadevrt.lib
    cudart.lib
    cudart_static.lib
    OpenCL.lib
    

• Win32平台下的配置

  • 包含目录与x64相同

  • 库目录配置

    • 添加库目录:$(CUDA_PATH)\lib\Win32

  • 依赖项

    • 添加库文件(Win32平台与x64平台的库文件不相同):

    cuda.lib
    cudadevrt.lib
    cudart.lib
    cudart_static.lib
    OpenCL.lib
    

• 配置VS2019下的NsightGPU代码编译器

  • 在VS2019的"扩展"->“管理扩展"中联机搜索"nsight”,下载"NVIDIA Nsight Intergration"的扩展组件,用于在VS中调试GPU代码.如下所示.

• 拓展下载完成后,可以使用该扩展对GPU代码进行编程.
  • 在GPU的核函数中添加断点,点击"Start CUDA Debugging(Next-Gen)"便可进入GPU代码的调试,调试过程与VS调试CPU代码相同
  • 使用"CUDA Debugging"只能对GPU部分的代码进行调试,即只能对核函数进行调试,不能对CPU代码进行调试
  • 使用VS2019中的"本地Windows调试器"**只能对CPU部分的代码进行调试,无法调试GPU部分的代码

• 使用下面给出的测试程序进行测试,查看能否正常运行.

  • 运行结果如下所示

#include "cuda_runtime.h"
#include "device_launch_parameters.h"
#include<iostream>
#include <stdio.h>
using namespace std;
constexpr size_t MAXSIZE = 20;

__global__ void addKernel(int* const c, const int* const b, const int* const a)
{
	int i = threadIdx.x;
	c[i] = a[i] + b[i];
}

int main()
{
	constexpr size_t length = 6;
	int host_a[length] = { 1,2,3,4,5,6 };
	int host_b[length] = { 10,20,30,40,50,60 };
	int host_c[length];
	//为三个向量在GPU上分配显存
	int* dev_a, *dev_b, *dev_c;
	cudaMalloc((void**)&dev_c, length * sizeof(int));
	cudaMalloc((void**)&dev_a, length * sizeof(int));
	cudaMalloc((void**)&dev_b, length * sizeof(int));
	//将主机端的数据拷贝到设备端
	cudaMemcpy(dev_a, host_a, length * sizeof(int), cudaMemcpyHostToDevice);
	cudaMemcpy(dev_b, host_b, length * sizeof(int), cudaMemcpyHostToDevice);
	cudaMemcpy(dev_c, host_c, length * sizeof(int), cudaMemcpyHostToDevice);
	//在GPU上运行核函数，每个线程进行一个元素的计算
	addKernel << <1, length >> > (dev_c, dev_b, dev_a);
	//将设备端的运算结果拷贝回主机端
	cudaMemcpy(host_c, dev_c, length * sizeof(int), cudaMemcpyDeviceToHost);
	//释放显存
	cudaFree(dev_a);
	cudaFree(dev_b);
	cudaFree(dev_c);
	for (int i = 0; i < length; ++i)
		cout << host_c[i] << " ";
	cout << endl;
	getchar();
	system("pause");
	return 0;
}
	//释放显存
	cudaFree(dev_a);
	cudaFree(dev_b);
	cudaFree(dev_c);
	for (int i = 0; i < length; ++i)
		cout << host_c[i] << " ";
	cout << endl;
	getchar();
	system("pause");
	return 0;
}