草庐IT

CUDA-ExecutionProvider

全部标签

c++ - 一个设备的多个 CUDA 上下文——有什么意义吗?

我以为我已经掌握了这一点,但显然我没有:)我需要使用NVENC从编码器不接受的任何格式的帧中执行并行H.264流编码,所以我有以下代码管道:调用通知新帧已到达的回调我将帧复制到CUDA内存并执行所需的颜色空间转换(只有第一个cuMemcpy是同步的,所以我可以从回调中返回,所有未决操作都被推送到专用流中)我将一个事件推送到流上并让另一个线程等待它,一旦它被设置,我就获取CUDA内存指针和正确颜色空间中的帧并将其提供给解码器出于某种原因,我假设如果我在并行线程中执行此管道,则每个线程都需要一个专用上下文。代码很慢,经过一些阅读后我了解到上下文切换实际上很昂贵,然后我得出的结论是它没有意义

c++ - 安装后CUDA编译报错

我想开始使用C++进行CUDA编程,并从Nvidia官方网站安装了工具包v9.0。我在VS2017上运行了deviceQuery.cpp,一切正常:CUDADeviceQuery(RuntimeAPI)version(CUDARTstaticlinking)Detected1CUDACapabledevice(s)Device0:"GeForceGTX960M"CUDADriverVersion/RuntimeVersion9.0/9.0CUDACapabilityMajor/Minorversionnumber:5.0Totalamountofglobalmemory:2048MBy

windows10操作系统 显卡MX150 安装CUDA+cuDNN+pytorch

本人水平有限,如有问题请多指正笔记本系统:Windows1064位显卡:NVIDIAGeForceMX150显卡驱动程序版本:512.78显卡驱动程序支持CUDA版本:11.6.134及以下安装CUDA:11.6.0安装cuDNN:8.7.0一、安装CUDA1、确定CUDA版本查看本机驱动程序版本。打开“NVIDIA控制面板”,点击“帮助”,“系统信息”。驱动程序版本“512.78”1.1、显卡驱动支持的CUDA版本安装CUDA工具包,对显卡驱动版本有最低要求查看显卡驱动版本最低要求:本机驱动程序版本512.78,可安装CUDA12.0以下版本https://docs.nvidia.com/c

c++ - 初学者 CUDA - 简单的 var 增量不起作用

我正在使用CUDA开展一个项目。为了掌握它,我有以下代码。#includeusingnamespacestd;__global__voidinc(int*foo){++(*foo);}intmain(){intcount=0,*cuda_count;cudaMalloc((void**)&cuda_count,sizeof(int));cudaMemcpy(cuda_count,&count,sizeof(int),cudaMemcpyHostToDevice);cout>>(&count);cudaMemcpy(&count,cuda_count,sizeof(int),cudaMe

[超级详细系列]ubuntu22.04配置深度学习环境(显卡驱动+CUDA+cuDNN+Pytorch)--[1]安装显卡驱动

    [写在前面] 👇👇👇        如果这篇博客写的还可以的话,希望各位好心的读者朋友们到最下面点击关注一下Franpper的公众号,或者也可以直接通过名字搜索:Franpper的知识铺。快要过年了,Franpper想制作一款红包封面,但是需要100个关注者,555。      下面开始今天的内容!        Franpepr有一台旧电脑,是大学期间买的。最近把它刷成了Ubuntu系统,想配置一下深度学习环境。在这里记录同时和大家分享一下,希望对大家有所帮助。由于篇幅比较长,所以Franpper把整个安装过程分为了3篇博文,分别是显卡驱动的安装、Anaconda与CUDA的安装、c

Ubuntu22.04 系统 解决输入nvcc -V 显示sudo apt-get install nvidia-cuda-toolkit安装 即CUDA环境配置问题

参考:ubuntu解决没有nvcc命令的错误_nvcc没有_妖妖灵誓言的博客-CSDN博客Linux进入root管理员权限_linux进入管理员模式命令_XavZewen的博客-CSDN博客Linux进入root管理员权限_linux进入管理员模式命令_XavZewen的博客-CSDN博客 ----------------------------------------------解决输入nvcc-V-------------------------------------------------------------        输入nvcc-V显示sudoapt-getinstalln

Linux下非root用户安装CUDA

目录前言参考链接步骤一.首先,需要查看系统版本:二.安装包下载。下载CUDA: cuDNN下载三. 开始安装CUDA和cuDNN 安装CUDA修改环境变量安装cuDNN 查看是否安装成功,输入nvcc-V 前言由于一些代码实现(CUDA写的外部扩展包)对cuda版本要求比较高,因此,我在实验室Linux系统下默认的cuda版本上,没办法编译扩展包。需要重新安装特定版本的cuda。参考链接非root用户安装cuda与cudnn非root用户在linux下安装CUDA10.1步骤一.首先,需要查看系统版本:lsb_release-a查看GPU信息nvidia-smi GPU驱动版本为525.147

使用推力的ode求解器的CUDA编程

我正在尝试使用推力在CUDA中使用6个变量求解ODE。我的程序在这里。#include#include#include#include#include#include#include#include#include#include#includeusingnamespacestd;usingnamespaceboost::numeric::odeint;typedefdoublevalue_type;typedefthrust::device_vectorstate_type;constvalue_typen1=10.0;structGoodwin_system{structGoodwin_f

Ubuntu 20.04 安装NVIDIA显卡驱动+cuda 11.7+cudnn 8.4

Ubuntu18.04安装NVIDIA显卡驱动+cuda10.2+cudnn本机环境1相关查询命令一、Ubuntu20.04安装NVIDIA显卡驱动二、Ubuntu20.04安装cuda11.71、安装CUDA11.73、配置CUDA环境变量测试三、cudnn8.4安装参考:https://zhuanlan.zhihu.com/p/59618999https://blog.csdn.net/linhai1028/article/details/79445722/Windows+Ubuntu从双系统安装到CUDAcuDNNdocker配置K21https://blog.csdn.net/qq_4

Ubuntu16.04服务器安装LLaVA对应的CUDA

Ubuntu16.04服务器安装LLaVA对应的CUDA在根据LLaVA项目说明配置好conda等环境后,安装相关依赖,在测试程序中输出torch.__version__查看相应的CUDA版本。importtorch#检查torch.__version__,也可以用于检查是否安装成功print(torch.__version__)得到的输出结果为2.0.1-cu117,说明对应版本是CUDA11.7,检查本机CUDA版本(命令如下,得到结果为10.0)。nvcc-V检查后得到的结果是,应该是CUDA版本不够,考虑升级CUDA。Cudacompilationtools,release10.0,V