草庐IT

pytorch-cuda

全部标签

python - PyTorch 中 tensor.permute 和 tensor.view 的区别?

tensor.permute()和tensor.view()有什么区别?他们似乎在做同样的事情。 最佳答案 输入In[12]:aten=torch.tensor([[1,2,3],[4,5,6]])In[13]:atenOut[13]:tensor([[1,2,3],[4,5,6]])In[14]:aten.shapeOut[14]:torch.Size([2,3])torch.view()将张量reshape为不同但兼容的形状。例如,我们的输入张量aten的形状为(2,3)。这可以查看为形状为(6,1)、(1,6)等的张量,#re

python - 将 C++/CUDA 类传递给 PyCUDA 的 SourceModule

我有一个用C++编写的类,它也使用了cuda_runtime.h中的一些定义,这是名为ADOL-C的开源项目的一部分,你可以看看here!这在我使用CUDA-C时有效,但我想以某种方式在PyCUDA中导入此类,如果有可能的话。因此,我将在内核内部(而不是在“main”中)使用此类来定义用于计算函数导数的特定变量。有没有办法将此类传递给PyCUDA的SourceModule?我问了一个类似的问题,但在这里我想多解释一下。因此,有一个解决方案使用nvcc-cubin(感谢talonmies)编译我的C代码,然后使用driver.module_from_file()导入它,但是,我想使用So

python - PyTorch 数据加载器中的 "number of workers"参数实际上是如何工作的?

如果num_workers为2,这是否意味着它会将2个批处理放入RAM并将其中的1个发送到GPU还是将3个批处理放入RAM然后将其中的1个发送到GPU?当worker数量高于CPU核心数量时,实际会发生什么情况?我试过了,效果很好,但它是如何工作的?(我以为我可以选择的最大worker数量是核心数)。如果我将num_workers设置为3,并且在训练期间GPU的内存中没有批处理,主进程是等待其工作人员读取批处理还是读取单个批处理(无需等待worker)? 最佳答案 当num_workers>0时,只有这些worker会检索数据,主进

python - 我如何处理pytorch中的多重损失?

例如,我想使用一些辅助损失来提升我的模型性能。哪种类型的代码可以在pytorch中实现?#oneloss1.backward()loss2.backward()loss3.backward()optimizer.step()#twoloss1.backward()optimizer.step()loss2.backward()optimizer.step()loss3.backward()optimizer.step()#threeloss=loss1+loss2+loss3loss.backward()optimizer.step()感谢您的回答! 最佳答

python - 我如何使用 Anaconda 卸载 PyTorch?

我安装了PyTorch:condainstallpytorchtorchvisioncuda80-csoumith如何卸载和删除所有PyTorch依赖项? 最佳答案 来自anacondadocs,您可以使用condauninstall进行卸载尝试condauninstallpytorchtorchvisioncuda80-csoumith或者,pytorchdocs建议condauninstallpytorchpipuninstalltorchpipuninstalltorch#runthiscommandtwice

python - 如何在 Pytorch 中可视化网络?

importtorchimporttorch.nnasnnimporttorch.optimasoptimimporttorch.utils.dataasdataimporttorchvision.modelsasmodelsimporttorchvision.datasetsasdsetimporttorchvision.transformsastransformsfromtorch.autogradimportVariablefromtorchvision.models.vggimportmodel_urlsfromtorchvizimportmake_dotbatch_size=

python - 警告 (theano.sandbox.cuda) : CUDA is installed, 但设备 gpu 不可用(错误:cuda 不可用)

在UbuntuMATE16.04中,我尝试使用GPU在此处运行深度学习python示例:testingTheanowithGPU我确实运行了示例代码,THEANO_FLAGS=mode=FAST_RUN,device=gpu,floatX=float32pythoncheck1.py不过好像用的是CPU,不是GPU。这是终端输出的最后一部分:WARNING(theano.sandbox.cuda):CUDAisinstalled,butdevicegpu0isnotavailable(error:cudaunavailable)...Usedthecpu我也试过运行这段代码:THEAN

python - 具有多个值的 Tensor 的 bool 值在 Pytorch 中不明确

我想在pytorch中创建一个模型,但是我做不到计算损失。它总是返回Tensor的Bool值more不止一个值不明确实际上,我运行了示例代码,它起作用了。loss=CrossEntropyLoss()input=torch.randn(8,5)inputtarget=torch.empty(8,dtype=torch.long).random_(5)targetoutput=loss(input,target)这是我的代码,##################################################################################

python - 从头开始实现PLP和在PyTorch中实现MLP有什么区别?

跟进Howtoupdatethelearningrateinatwolayeredmulti-layeredperceptron?的问题鉴于XOR问题:X=xor_input=np.array([[0,0],[0,1],[1,0],[1,1]])Y=xor_output=np.array([[0,1,1,0]]).T和一个简单的带有的两层多层感知器(MLP)它们和之间的Sigmoid激活均方误差(MSE)作为损失函数/优化准则如果我们像这样从头开始训练模型:fromitertoolsimportchainimportmatplotlib.pyplotaspltimportnumpyas

python - 我如何使用 PyTorch 0.4.0 从 numpy 数组制作一个带有 requires_grad=True 的 FloatTensor?

Pytorch0.4.0引入了Tensor和Variable类的合并。在此版本之前,当我想从一个numpy数组创建一个带有autograd的Variable时,我会执行以下操作(其中x是一个numpy数组):x=Variable(torch.from_numpy(x).float(),requires_grad=True)使用PyTorch版本0.4.0,themigrationguide展示了我们如何创建启用了autograd的张量,示例展示了您可以执行诸如x=torch.ones(3,4,requires_grad=True)并将requires_grad设置为现有张量existi