前言:在安装前,如果自己的电脑名称里带中文,请先把自己的电脑重命名,切记不要带中文,否则可能会出错。说明:本人用这套是为了做深度学习,如果我们一样,可以看下去,不一样也有参考价值。本文不包括pycharm的安装教程!Anaconda主要是方便后续导包,装完Anaconda你可以拥有python、JupyterNotebook,不需要额外下载,且很多深度学习的教学都是用JupyterNotebook展示的。Pycharm也是非常流行的python编译器,我习惯用这个。正文:本文分为三部分:Anaconda下载、配置虚拟环境变量和pycharm新建项目。一、Anaconda下载1.首先到Anaco
最近看了一篇文章,里面介绍了自适应的激活函数,它可以使得网路收敛速度更快。文章:《Adaptiveactivationfunctionsaccelerateconvergenceindeep andphysics-informedneuralnetworks》激活函数是深度学习中至关重要的部分,我们在做深度学习的时候通常会利用激活函数增加网络的非线性能力,使其能够拟合更复杂的情况,比较熟悉的有ReLU,Tanh,Sigmoid等等,但是这些激活函数在某些情况下并不是最合适的,甚至会出现梯度消失或者梯度爆炸的情况,于是作者提出了自适应的激活函数,来加速网路收敛并且提高稳定性。简而言之,就是在激活
目录1 一、实验过程1.1 实验目的1.2 实验简介1.3 数据集的介绍1.4 一、LeNet5网络模型1.5 二、AlexNet网络模型1.6 三、ResNet50(残差网络)网络模型 二、实验代码导入实验所需要的库 参数配置数据预处理重新DataSet加载数据转为DataLoader函数可视化一批训练数据 构建模型搭建训练函数搭建测试函数实例化模型开始训练 开始测试参考文献 1 一、实验过程1.1 实验目的通过这个课程项目大,期望达到以下目的:1.了解如何对深度学习的图像数据集进行预处理操作。2.熟络深度学习训练模型的步骤流程、pytorch的使用。3.学习ResNet-
最近在复现yolov8的程序,特记录一下过程环境:ubuntu18.04+rosmelodic小知识:GPU并行计算能力高于CPU—B站UP主说的Ubuntu可以安装多个版本的CUDA。如果某个程序的Pyorch需要不同版本的CUDA,不必删除之前的CUDA,可以实现多版本的CUDA切换一、查看当前PyTorch使用的CUDA版本:python-c"importtorch;print(torch.version.cuda)"注意:sudoln-sflibcudnn.so.8.0.5libcudnn.so.81.需要进入conda环境2.进入conda环境命令:condaactivate****
Linux和Windows系统下安装深度学习框架所需支持:Anaconda、Paddlepaddle、Paddlenlp、pytorch,含GPU、CPU版本详细安装过程1.下载Anaconda的安装包Anaconda安装:Anaconda是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。使用Anaconda可以通过创建多个独立的Python环境,避免用户的Python环境安装太多不同版本依赖导致冲突。Anaconda是一个免费开源的Python和R语言的发行版本,用于计算科学,Anaconda致力于简化包管理和部署。Anaconda的包使用软件包
在过去十年间,AI(人工智能)领域取得了令人瞩目的突破,而其中的 NLP(自然语言处理)是其中一项重要的子领域。NLP致力于开发各种技术和方法,用于处理和理解人类语言的文本数据。NLP的发展使得机器能够更好地理解和处理人类语言,从而实现更加智能和自然的交互。这包括了诸如文本分类、情感分析、命名实体识别、机器翻译、问答系统等多个任务和应用领域。NLP技术的核心是建立起对语言的理解和表达的模型。LLM (大型语言模型)是其中一项关键技术。LLM基于深度神经网络架构,通过学习大规模语料库中的文本数据,能够捕捉到单词、短语和句子之间的语义和语法规律。从而使得LLM能够自动生成连贯、自然的文本,增强了机
对于《RobustBlockchainedFederatedLearningwithModelValidationandProof-of-StakeInspiredConsensus》的讨论文章概述本文主要是根据GoogleFL和VanillaFL为基础进行创新的,发表于2021年。其中VanillaFL是Google公司于2017年写的一篇论文《Communication-EfficientLearningofDeepNetworksfromDecentralizedData》中提到的方法,也是全球第一个提出联邦学习的论文。GoogleFL也是Google公司于2017年写的一篇论文《Fed
1损失函数的作用损失函数是模型训练的基础,并且在大多数机器学习项目中,如果没有损失函数,就无法驱动模型做出正确的预测。通俗地说,损失函数是一种数学函数或表达式,用于衡量模型在某些数据集上的表现。损失函数在深度学习主要作用如下:衡量模型性能:损失函数用于评估模型的预测结果与真实结果之间的误差程度。较小的损失值表示模型的预测结果与真实结果更接近,反之则表示误差较大。因此,损失函数提供了一种度量模型性能的方式。参数优化:在训练机器学习和深度学习模型时,损失函数被用作优化算法的目标函数。通过最小化损失函数,可以调整模型的参数,使模型能够更好地逼近真实结果。反向传播:在深度学习中,通过反向传播算法计算损
前言本文简要介绍Scalinglaw的主要结论原文地址:ScalingLawsforNeuralLanguageModels个人认为不需要特别关注公式内各种符号的具体数值,而更应该关注不同因素之间的关系,比例等SummaryPerformancedependsstronglyonscale,weaklyonmodelshapescale:参数量NNN,数据量DDD,计算量CCCshape:模型深度,宽度,self-attentionhead数目等Smoothpowerlaws:N,D,CN,D,CN,D,C三个因素中,当其他两个不受限制时,模型性能与任意一个因素都有power-lawrelat
AI绘画后面的论文——ControlNet:AddingConditionalControltoText-to-ImageDiffusionModels代码:lllyasviel/ControlNet:Letuscontroldiffusionmodels!(github.com)论文地址最近AI绘画又双叒叕进化了,前一次还只能生成二次元,这次三次元都能生成了。这次AI绘画这么火爆的原因跟下面这篇文章脱不开关系,它将AI绘画带到了一个新的高度。摘要我们提出了一个神经网络结构controlnet网络来控制预训练的大扩散模型以支持额外的输入条件。controlnet网络以端到端的方式学习任务特定条