草庐IT

【Pytorch】torch.nn.LeakyReLU()

海轰Pro 2023-07-05 原文

目录

简介

Hello！
非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～
 
ଘ(੭ˊᵕˋ)੭
昵称：海轰
标签：程序猿｜C++选手｜学生
简介：因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研
学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！
 
唯有努力💪
 
本文仅记录自己感兴趣的内容

torch.nn.LeakyReLU()

语法

torch.nn.LeakyReLU(negative_slope=0.01, inplace=False)

作用

构建一个LeakyReLU函数，明确此函数中的一些参数

参数

  • negative_slope：x为负数时的需要的一个系数，控制负斜率的角度。默认值：1e-2
  • inplace：可以选择就地执行操作。默认值：False

举例

m = nn.LeakyReLU(0.1) # 构建LeakyReLU函数
input = torch.randn(2) # 输入
output = m(input) # 对输入应用LeakyReLU函数

print(input)
print(output)

参数inplace为True时

相当于 x < 0 x<0 x<0，LeakyReLU(x) = x （与大于0时一致了，输入是啥，输出就是啥）

参考

  • https://pytorch.org/docs/stable/generated/torch.nn.LeakyReLU.html#torch.nn.LeakyReLU

结语

文章仅作为个人学习笔记记录，记录从0到1的一个过程

希望对您有一点点帮助，如有错误欢迎小伙伴指正

LeakyReLUPytorchspanclasstoken深度学习人工智能

有关【Pytorch】torch.nn.LeakyReLU()的更多相关文章

  1. 解决 AssertionError Torch not compiled with CUDA enabled - 2

    最近在矩池云的的TeslaK80机子上跑MMYOLO，跟着MMYOLO官方文档《自定义数据集标注+训练+测试+部署全流程》操作到“2.1.1软件或者算法辅助”时，利用预训练模型+官方脚本去辅助标注时，一按下回车就报错：报错信息AssertionErrorTorchnotcompiledwithCUDAenabled报错信息分析说的是torch编译的时候CUDA不可用但是服务器已经预装有pytorch和cuda了，我分别用nvidia-smi和nvcc-V都可以查到CUDA的版本本机配置如下：但是我在ipython中查看torch.cuda.is_available()返回结果是false，报错

  2. 从零开始系列（1）—— Anaconda + PyCharm + PyTorch（GPU） + 虚拟环境（全步骤，多图警告） - 2

    Anaconda+PyCharm+PyTorch（GPU）+虚拟环境声明一、安装Anaconda二、安装PyCharm三、创建虚拟环境并安装PyTorch四、关联虚拟环境五、致谢声明感谢姜小敏同学对我的支持、鼓励和鞭策！默认你的电脑上已经装有GPU，如果没有GPU，可以正常的进行各种下载安装操作，但是最终结果会有所不同。一、安装Anaconda首先，进入Anaconda官网，单击Download按钮，稍微等待即可下载安装包。下载好之后，双击打开安装包，进行一系列安装操作。建议安装路径全英文，并且一定要记住安装地址。此处不勾选第二项，因此之后需要人为配置环境变量。没啥用，不用勾选，就是跳出两个打

  3. 【Pytorch】torch.nn.init.xavier_uniform_() - 2

    目录简介torch.nn.init.xavier_uniform_()语法作用举例参考结语简介Hello！非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～ ଘ(੭ˊᵕˋ)੭昵称：海轰标签：程序猿｜C++选手｜学生简介：因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研学习经验：扎实基础+多做笔记+多敲代码+多思考+学好英语！ 唯有努力💪 本文仅记录自己感兴趣的内容torch.nn.init.xavier_uniform_()语法torch.nn.init.xavier_uniform_(tensor,gain=1.0)作用根据了解训练深度

  4. 解决pytorch报错——RuntimeError: Expected to have finished reduction in the prior iteration... - 2

    一、报错信息之前写代码时碰到了这样一个错误：RuntimeError:Expectedtohavefinishedreductionintheprioriterationbeforestartinganewone.Thiserrorindicatesthatyourmodulehasparametersthatwerenotusedinproducingloss.Youcanenableunusedparameterdetectionby(1)passingthekeywordargumentfind_unused_parameters=Truetotorch.nn.parallel.Dist

  5. 基于Pytorch实现的EcapaTdnn声纹识别模型 - 2

    前言本项目使用了EcapaTdnn模型实现的声纹识别，不排除以后会支持更多模型，同时本项目也支持了多种数据预处理方法，损失函数参考了人脸识别项目的做法PaddlePaddle-MobileFaceNets,使用了ArcFaceLoss，ArcFaceloss：AdditiveAngularMarginLoss（加性角度间隔损失函数），对特征向量和权重归一化，对θ加上角度间隔m，角度间隔比余弦间隔在对角度的影响更加直接。源码地址：VoiceprintRecognition-Pytorch（V1)使用环境：Python3.7PaddlePaddle1.10.2模型下载模型预处理方法数据集类别数量分

  6. algorithm - 'n' 人使用 Go 的桥梁和 torch 问题 - 2

    关闭。这个问题需要debuggingdetails.它目前不接受答案。编辑问题以包含desiredbehavior,aspecificproblemorerror,andtheshortestcodenecessarytoreproducetheproblem.这将有助于其他人回答问题。关闭3年前。Improvethisquestion问题:给定一个非重复正整数数组，表示“n”个人的穿越时间。这n个人站在桥的一侧。Bridge一次最多可容纳两个人。当两个人过桥时，他们必须以较慢的人的速度移动。找出所有人可以过桥的最短总时间。我无法找到关于如何针对“n”个人进行缩放的模式。但不知何故，我

  7. pytorch1.13安装 - 2

    pytorch1.13安装，个人参考情况交代安装流程注意事项显卡配置查看创建环境激活环境安装对应的torch版本检查使用piplist导入查看卸载下载gpu版本的验证把这个内核加到jupyter完成情况交代显卡3060，cuda版本12.0已有一个虚拟环境安装了cuda11.2和cudnn8.1.0以及对应的tensorflow现在需要创建一个可以使用GPU加速的pytorch环境安装流程注意事项pytorch自身是带了cuda环境的，所以不需要强制要求和之前tensorflow那个环境一致torch1.13.0不支持cuda10.2和11.3版本了显卡配置查看nvidia-smi+-----

  8. 【人工智能概论】 PyTorch可视化工具Tensorboard安装与简单使用 - 2

    【人工智能概论】PyTorch可视化工具Tensorboard安装与简单使用文章目录【人工智能概论】PyTorch可视化工具Tensorboard安装与简单使用一.安装Tensorboard1.1安装Tensorboard1.2验证安装二.Tensorboard功能简介一.安装Tensorboard1.1安装TensorboardTensorboard原本是Tensorflow的可视化工具，但自PyTorch1.2.0版本开始，PyTorch正式内置Tensorboard的支持，尽管如此仍需手动安装Tensorboard。否则会报错。ModuleNotFoundError:Nomodulena

  9. 配置pytorch(gpu)分析环境 - 2

    Pytorch是目前最火的深度学习框架之一，另一个是TensorFlow。不过我之前一直用到是CPU版本，几个月前买了一台3070Ti的笔记本（是的，我在40系显卡出来的时候，买了30系，这确实一言难尽），同时我也有一台M1芯片MacbookPro，目前也支持了pytorch的GPU加速，所以我就想着，在这两个电脑上装个Pytorch，浅度学习深度学习。Applesilicon首先是M1芯片，这个就特别简单了。先装一个conda，只不过是内置mamba包管理器，添加conda-forge频道，arm64版本。#下载wgethttps://github.com/conda-forge/minif

  10. PyTorch官方安装方法下载太慢，直接用pip和conda命令安装，因为网络速度太慢，导致下载失败的解决的办法。 - 2

        PyTorch官方安装方法下载太慢，直接用pip和conda命令安装，因为网络速度太慢，导致下载失败的解决的办法。    最近在新的电脑上安装pytorch环境，由于网速太慢，你懂的，外网速度就是慢。    即使是更科学的上网以后，速度仍然感人，多次失败。    想要离线安装pytorch，于是在网上搜索了很多方法，都不太好用，刚觉有点复杂。不过有些方法的某些操作有参考价值。    最后，结合别人的方法，我自己总结了一个简便解决的办法。第一步：    打开pytorch的官方网站，找到官方安装方法的位置，找出官方包所在的网址。 图上画绿色线条的位置就是安装包的下载地址。第二步：    

随机推荐