1.单指令多线程模式从硬件上看，一个GPU被分为若干个SM。线程块在执行时将被分配到还没完全占满的SM中，一个线程块不会被分配到不同的SM中，一个SM可以有一个或多个线程块。不同线程块之间可以并发或顺序地执行。当某些线程块完成计算任务后，对应的SM会部分或完全地空闲，然后会有新的线程块被分配到空闲的SM。从更细的粒度看，一个SM以32个线程为单位产生、管理、调度、执行线程，这样的32个线程称为一个线程束，每个线程束包含32个具有连续线程号的线程。在Volta架构之前，一个线程束中的线程拥有同一个程序计数器(programcounter)，但有各自不同的寄存器状态。在同一时刻，一个线程束中的线程

进入nvidia开发者网站的CUDA下载页面：CUDAToolkitArchive|NVIDIADeveloper选择runfile格式的CUDA文件下载，下载完成后，解压，并运行上图中的命令，会有条款，接受即可，注意安装CUDA的时候不要安装驱动（因为在第一步我们已经安装过了）。然后，sudovim~/.bashrc我们在文件最后一行添加：exportPATH="/usr/local/cuda-11.7/bin:$PATH"exportLD_LIBRARY_PATH="/usr/lcoal/cuda-11.7/lib64:$LD_LIBRARY_PATH"最后，使刚才的配置生效。source

基于Cuda开发GPUGPU程序时，最重要的仍然是内核的设计，这是Cuda性能优化的难点，提供了不少岗位，养活了一大批工程师。这里以一个相对简单的的求平方和算法为例，从编程和优化，调试几个维度，介绍利用cuda开发并行计算程序时的关注点。cudaAPINVIDIACUDA计算架构为开发者提供了三个层面的API，分别是CudaLib,CudaRT,和cudadriver。cudadriver是比较底层的API，用法复杂但是性能高，可以深度二次优化，对于研发能力强的用户可以在这个层次上做出高性能的计算方案出来，其次是最常用的cudaruntime，也就是我们常用的cudaAPI.最上层是cudal

一，安装Cuda驱动可参考笔者之前写过的文章：升级GPU服务器cuda驱动版本指南如果出现如下报错，则需安装gcc、kernel-devel，请参考下面第二步安装gcc、kernel-devel。二，安装gcc、kernel-devel1，安装gcc和kernel-devel若直接执行如下命令安装，如果默认版本不一致，则会遇到如下图报错：yum-yinstallgcckernel-devel./NVIDIA-Linux-x86_64-515.86.01.run2，报错原因使用如下命令查看内核版本是否一致uname-rrpm-qkernel-devel正常结果应该是如下图所示，内核版一致，若不一

看了下原因为没有装pytorch。（印象中是装了的不知道什么时候这台服务器没有了。。）解决方案：到pytorch官网上找到对应的cuda版本的pytorch安装即可PreviousPyTorchVersions|PyTorch比如我的是cuda10.2（使用nvcc-V命令查看）那么就是使用以下命令安装——condainstallpytorch==1.12.1torchvision==0.13.1torchaudio==0.12.1cudatoolkit=10.2-cpytorch 

问题描述： 问题原因：包含了多个CPP文件由于VSCODE实际上是一个文本编辑器，不是一个IDE，它不会自动链接项目通过头文件引用的.c文件。要解决这个问题，就要告诉编译器需要链接哪些文件。解决方法：1.找到工程所在文件夹中，找到tasks.json，找到"args"属性，在其中"-g"后，"-o"前、注释原来的"${file}",改为"${workspaceFolder}\\*.cpp",2.CTRL+F5运行，成功  

1.全局内存核函数中的所有线程都能够访问全局内存(globalmemory)。全局内存的容量是所有设备内存中最大的，但由于它没有放在GPU芯片内部，因此具有相对较高的延迟和较低的访问速度，cudaMalloc分配的就是全局内存。此外，当处理逻辑上的二维或者三维问题时，还可以使用cudaMallocPitch和cudaMalloc3D分配内存，用cudaMemcpy2D和cudaMemcpy3D复制数据，释放时依然使用cudaFree函数。除了上述动态分配的全局内存外，CUDA也允许使用静态全局内存，其所占内存数量是在编译期确定的。静态全局内存变量必须在所有主机与设备函数外部定义，从其定义之处开

linux用户下更换cuda版本及部分细节安装cuda进入cuda版本选择页面选择对应版本，这里以cuda11.3.0为例，选择对应的系统信息，选择runfile(local)1.运行代码进行下载wgethttps://developer.download.nvidia.com/compute/cuda/11.3.0/local_installers/cuda_11.3.0_465.19.01_linux.run2.运行安装代码sudoshcuda_11.3.0_465.19.01_linux.run取消第一个Driver部分的安装，方向键上下进行选择，回车键勾选或取消，取消原因参考文章，选择

过去几个小时，我一直在尝试将Java降级到1.6.0_13，以尝试让GoogleWebToolkit的托管模式在Eclipse上运行。事实证明这是一项噩梦般的任务!回想起来:-控制面板中所有对Java的引用->卸载程序工具已被删除-那些不想被删除的，已被Microsoft的“WindowsInstaller清理实用程序”强制删除-http://support.microsoft.com/default.aspx?scid=kb;en-us;290301-一个名为“JRE”的烦人文件夹仍然存在，所以我删除了它现在，如果我打开命令提示符并键入java，我仍然会得到:Error:couldn

本次使用的是GD官方的START评估板，在尝试用Keil仿真调试时遇到下图的情况 提示仿真算法错误查看DEBUG设置发现！  有识别，算法设置正确，一切正常。解决办法问题出在RAM地址设置上，因为是自己新建的工程，所以在设置这一块都是默认设置，打开GD官方的示例，发现确实有出入，修改后一切正常。以下是官方示例中的设置：最后希望能帮到碰到此问题的朋友！