草庐IT

nvidia-cuda-toolkit

全部标签

ARM架构下银河麒麟V10系统基于CUDA11.8编译PyTorch

概述公司近期想尝试本地用下ChatGLM模型,只有服务器安装了两张显卡,故而只能在服务器做尝试。CUDA驱动啥的,之前的同事已经安装完毕,并且成功识别出显卡,顾略去。按照GITREADME步骤开搞,一切顺利,最后在运行脚本的时候收到如下提示RuntimeError:NotcompiledwithCUDAsupport因为服务器是ARM的(CPU是PhytiumST2500)。字面意思,官方编译aarch64版本的PyTorch并没有开启CUDA支持。初步怀疑自己安装的不对,一通百度、google、bing,发现其他安装方法都得依赖conda这个工具,然后安装Miniconda3,Anacond

AI绘画——使用stable-diffusion生成图片时提示RuntimeError: CUDA out of memory处理方法

提示显存不足RuntimeError:CUDAoutofmemory.Triedtoallocate1.50GiB(GPU0;8.00GiBtotalcapacity;5.62GiBalreadyallocated;109.75MiBfree;5.74GiBreservedintotalbyPyTorch)Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_ALLOC_CONF1、

AI绘画——使用stable-diffusion生成图片时提示RuntimeError: CUDA out of memory处理方法

提示显存不足RuntimeError:CUDAoutofmemory.Triedtoallocate1.50GiB(GPU0;8.00GiBtotalcapacity;5.62GiBalreadyallocated;109.75MiBfree;5.74GiBreservedintotalbyPyTorch)Ifreservedmemoryis>>allocatedmemorytrysettingmax_split_size_mbtoavoidfragmentation.SeedocumentationforMemoryManagementandPYTORCH_CUDA_ALLOC_CONF1、

安装docker nvidia toolkit时报错E: Conflicting values set for option Signed-By

在运行sudoapt-get这一步时,报错:E:ConflictingvaluessetforoptionSigned-Byregardingsourcehttps://nvidia.github.io/libnvidia-container/stable/ubuntu18.04/amd64//:/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg!=E:Thelistofsourcescouldnotberead.上网查了很多博客没能解决问题,后来在nvidiadocker的官方说明文档找到答案官方网址:ttps://docs.nv

SOAP学习之一:Visual C++创建简单的客户端--使用soap toolkit 3.0获取UTC服务器时间

初始接触XML及SOAP第一天,摸不着头绪,看了很多文章,总结一下几点心得,附一个小例子使用VC++控制台程序获取UTC服务器时间。看到的资料VC++都是使用soaptoolkit来使用SOAP,soaptoolkit目前看最高版本应该是3.0,但是微软已经不再对soaptoolkit提供技术支持及更新,在微软官网没找到3.0的下载,目前微软官方能z找到的下载的版本为2.0:http://download.microsoft.com/download/xml/soap/2.0/w98nt42kme/EN-US/SoapToolkit20.exe如果使用3.0,只能从第三方网站下载。安装soap

NVIDIA vGPU 常用功能链接

以下内容是Hum0ro收集关于vGPU一些常用官网链接,希望可以帮到大家查询相关知识。        NVIDIA驱动版本下载:NVIDIALicensingPortalhttps://ui.licensing.nvidia.com/NVIDIAvGPU 官方介绍:https://www.nvidia.com/zh-cn/design-visualization/solutions/virtualization/NVIDIAvGPU 官方资料合集(包括成功案例、解决方案、数据表、部署指南、白皮书等):https://www.nvidia.cn/object/grid-enterprise-re

CUDA和显卡驱动以及pytorch版本的对应关系

1支持CUDA的GPU  支持CUDA的NVIDIAQuadro和NVIDIARTXCUDAGPU|NVIDIADeveloper您的GPU计算能力您是否正在寻找GPU的计算能力然后查看以下表格。您可以在这里了解更多计算能力。NVIDIAGPU为全球数百万台台式机笔记本电脑工作站和超级计算机提供动力加速了消费者专业人士科学家和研究人员的计算密集型任务开始使用CUDA和GPU计算并免费加入我们的NVIDIA开发者计划。https://developer.nvidia.com/zh-cn/cuda-gpus#compute 2怎么知道nvidia显卡该用什么CUDA版本呢?在官网查询nvidia显

ubuntu将cuda卸载干净

先进入安装目录下的bin文件夹中cd/usr/local/cuda-12.0/bin执行cuda自带的卸载程序然后勾选我们要卸载的12.0版本,选择done卸载成功

笔记本外接显示器无法检测 或 Nvidia显卡驱动安装失败解决办法

问题描述由于C盘空间过少且不满意win11,就重装了一下系统。但是重装完系统之后我的外接显示器不工作了,设置当中检测不到排查步骤与一种解决办法打开设备管理器,找到显示适配器一栏查看是否显示Microsoft基础显示适配器,如果是,那么就是因为显卡驱动没安装安装显卡驱动的过程中检测环境显示失败,我想到了玩战区2的时候要安装新的显卡驱动,就必须把系统升级到最新的版本。果然,我查看了我的系统镜像版本,是1709的老版本。打开此链接,点击"立即更新"按钮,等待系统更新完毕。完毕后可以看到设备管理器中显示的就是我的显卡型号了此时再安装Nvidia驱动程序,可以正确安装,安装完毕后外接显示器也能正常工作了

Win11+RTX3060显卡 配置cuda和cudnn

目录Win11+RTX3060配置CUDA等深度学习环境1.下载前的准备工作2.下载Anaconda3.下载cuda4.下载cudnn5.小结Win11+RTX3060配置CUDA等深度学习环境1.下载前的准备工作查看nvidia设置,右击它点击nvidai控制面板,点击系统信息:选择CUDA版本,在NVIDIA控制面板可以看到RTX3060驱动目前最高支持CUDA11.6版本(我的电脑这么显示的)。2.下载Anaconda安装可以参考这篇博客。然后配置国内镜像源(win+r,打开终端),输入以下指令:condaconfig--addchannelshttps://mirrors.tuna.t