草庐IT

gen_nn_ops

全部标签

torch分布式数据并行:torch.nn.parallel.DistributedDataParallel(DDP),代码书写步骤

多进程做多卡训练;目录1初始化进程组:2当前进程所能用到的GPU卡的名称3将数据集随机分配到不同的GPU上4将train_sampler传入DataLoader中5将数据进行拷贝6模型放到GPU上7执行命令8模型保存9加载模型10注意事项代码编写流程:1初始化进程组:torch.distributed.init_process_group('nccl',worldsize=n_gpus,rank=args.local_rank)‘nccl’指定GPU之间的通信方式;world_size:当前这个节点上要用多少GPU卡;(当前节点就是当前机器)rank:当前进程在哪个GPU卡上,通过args.l

Pytorch计算余弦相似度距离——torch.nn.CosineSimilarity函数中的dim参数使用方法

前言一、官方函数用法二、实验验证1.计算高维数组中各个像素位置的余弦距离2.验证高维数组中任意一个像素位置的余弦距离总结前言现在要使用Pytorch中自带的torch.nn.CosineSimilarity函数计算两个高维特征图(B,C,H,W)中各个像素位置的特征相似度,即特征图中的每个像素位置上的一个(B,C,1,1)的向量为该位置的特征,总共有BxHxW个特征。一、官方函数用法        意思是dim参数指定了函数在哪个维度上进行余弦距离计算,计算之后该维度会消失,而其他维度的形状保持不变。但是现有的大多数博客将dim的用法复杂化,因此这里进行简单的实验验证,来验证一下上述说法。二、

华为Mate60 Pro曝光:麒麟芯片9100 or 骁龙8Gen2+5G,7699元起,你觉得如何?

最近网上关于华为Mate60系列的爆料逐渐增多,尤其是对于新机到底支不支持5G,众说纷纭,而且老是变动。7月14日,有数码博主爆料称,华为Mate60系列确实分前期和后期版本,前期为了秀肌肉,会展示新的成果。据可靠消息源分享:确实有分前期与后期版本,前期为了秀肌肉,会展示新的成果,但实际出售预计则是铺量规格,主要还是量产能力还需要时间......在微博评论区,该博主评论称“不是G,是K”。 相关爆料虽然该博主没有明确透露这款新机的名字,但根据网友评论和各种信息来看,不难猜到他说的很大概率就是华为Mate60系列。“不是G,是K”的意思是指搭载的是麒麟芯片,而不是骁龙移动平台。有网友问“K的版本

【Pytorch】梯度裁剪——torch.nn.utils.clip_grad_norm_的原理及计算过程

文章目录一、torch.nn.utils.clip_grad_norm_二、计算过程三、确定max_norm众所周知,梯度裁剪是为了防止梯度爆炸。在训练FCOS算法时,因为训练过程出现了损失为NaN的情况,在githubissue有很多都是这种训练过程出现loss为NaN,作者也提出要调整梯度裁剪的超参数,于是理了理梯度裁剪函数torch.nn.utils.clip_grad_norm_的计算过程,方便调参。一、torch.nn.utils.clip_grad_norm_torch.nn.utils.clip_grad_norm_(parameters,max_norm,norm_type),

python中的torch.nn.Softmax() 用法和例子 dim=1 dim=2

用法torch.nn.Softmax()是PyTorch中的一个类,用于实现softmax函数。softmax函数是一种常用的激活函数,它可以将一个向量转换成一个概率分布,使得每个元素都是非负数且和为1。softmax函数通常在分类问题中使用,可以将一个多分类问题转换成多个二分类问题,从而得到每个类别的概率分布。语法格式torch.nn.Softmax(dim=None)其中,dim是要进行softmax的维度,缺省值为None,表示对最后一维进行softmax。例子dim=1importtorchx=torch.randn(2,3)print('x:',x)softmax=torch.nn.

0提示词1张照片生成视频,Gen-2新玩法刷屏!网页版免费可玩

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。上个月刚免费开放Gen-2,视频领域的Midjourney又双叒叕更新了!现在,Runway的Gen-2支持无提示词图生视频模式!就是不用多说,Gen-2秒懂你的那种。上传一张静态图,不用喂提示词,AI自动生成视频。即使是人脸转动这种技术活,也完成的很自然。这次更新意味着,一部大片只需要图片就够了。手痒的网友们早就按捺不住,纷纷用Gen-2、Midjourney、Elevenlabs、MusicGen等工具,做出一波效果炸裂的大片。这不,已经有人用StableDuffision和Gen-2混搭,搞了部科幻短片。还有网友

nn.Upsample

写在前面:在PyTorch中有两种上采样/下采样的方法,一种是Upsample,另一种是interpolate这两个函数的使用方法略有差异,这里仅介绍UpsampleUpsampletorch.nn.Upsample(size=None,scale_factor=None,mode='nearest',align_corners=None)size-outputspatialsizes(intortuple(int,int))scale_factor-multiplierforspatialsize(floatortuple(float,float))mode-upsamplingalgori

nn.Upsample

写在前面:在PyTorch中有两种上采样/下采样的方法,一种是Upsample,另一种是interpolate这两个函数的使用方法略有差异,这里仅介绍UpsampleUpsampletorch.nn.Upsample(size=None,scale_factor=None,mode='nearest',align_corners=None)size-outputspatialsizes(intortuple(int,int))scale_factor-multiplierforspatialsize(floatortuple(float,float))mode-upsamplingalgori

导演消失了!Midjourney+妙鸭相机+Gen2新玩法:10块钱创造马斯克宇宙,一键图生视频

生成式AI的大爆发,带来了无限可能。近来,在国内,秒鸭相机火遍全网,服务器几度被挤爆,堪比羊了个羊。只需上传一张照片,分分钟得到一套AI写真,让许多人惊呼海马体们要失业了。与此同时,在国外,初创公司Runway刚刚宣布,不用文本,一张图,Gen-2就能生成视频。图片最最最重要的是,网页版免费用,iOS即将上线。图片这意味着,一部大片,只需要图片就够了,岂不是人人都能成为好莱坞导演。这不,已经有网友用Gen-2,结合PS修图,MusicGen、AudioLDM等工具配音,做出了「机器人总动员」翻版影片。几张场景人物图片,一段电影内容就出来了!真是有手就行!还有,穿越山海的龙之恋,爱了!有人把Mi

yolov8 ModuleNotFoundError: No module named ‘ultralytics.nn‘

 在配置yolov8环境时,遇见了这么个报错,心堵一天,最后也解决了。。首先创建了个环境。condacreate-nyolov8python==3.8报错的起源也就是从这里开始的,坑。我这里选择的是python==3.8,这个本本有bug,建议3.7或3.9,反正我是换了3.7,就顺了环境配置如下:condacreate-nyolov8python==3.7pipinstallultralytics