草庐IT

Tensorflow-gpu

全部标签

阿里云林立翔:基于阿里云 GPU 的 AIGC 小规模训练优化方案

云布道师本篇文章围绕生成式AI技术栈、生成式AI微调训练和性能分析、ECSGPU实例为生成式AI提供算力保障、应用场景案例等相关话题展开。生成式AI技术栈介绍1、生成式AI爆发的历程在2022年的下半年,业界迎来了生成式AI的全面爆发,尤其是以ChatGPT为代表的大语言模型和以StableDiffusion为代表的图片生成类模型。举个例子,某幼儿园老师要求家长写一篇1500字的关于家庭教育法的心得体会,ChatGPT可以胜任这份工作;各种logo也可以通过StableDiffusion生成式模型来生成,根据提示词生成各类图片。(1)软件算法部分生成式AI的爆发彻底突破了过往对AI应用的想象空

2023年终总结|回顾学习Tensorflow、Keras的历程

    2023年4月,初探TensorFlow2.0,对比了1.0版本的差异。接着,学习了TensorFlow2.0的常量矩阵、四则运算以及常用函数。学习了数据切割、张量梯度计算、遍历元素、类别索引转换等技巧,并掌握了CNN输出特征图形状的计算方法。    在数据处理方面,学习了数据切割、张量梯度计算和遍历元素的技巧,这些技能在处理大规模数据集时极为重要。此外,还掌握了如何计算CNN输出特征图形的形状,这为优化模型性能提供了有力支持。    为了提升编程技能,不仅整理了公开数据集的信息,还利用Keras2.0快速搭建了网络,成功实现了MNIST手写数字识别、FashionMNIST数据集分类

Docker离线安装Nvidia-container-toolkit实现容器内GPU调用

目录背景预先准备Nvidia-container-toolkit架构架构依赖关系离线安装安装顺序软件下载安装测试背景需求:实验室内通过Docker搭建隔离环境保证各用户数据安全和服务器环境安全,防止软件环境混杂造成莫名其妙的bug,容器内需要能够调用显卡资源。预先准备本文的内容基于以下软件版本:Docker:Dockerversion20.10.17,build100c701CUDA:NVIDIA-SMI510.68.02DriverVersion:510.68.02CUDAVersion:11.6系统:Ubuntu20.04.4LTSNvidia-container-toolkit架构Nvi

ModulenotFoundError:没有名为“ TensorFlow”的模块?

我在jupyter笔记本中发现了这个错误。这可能会复制帖子,但找不到任何适当的答案下面的链接都没有帮助我解决这个问题。jupyter中没有名为TensorFlow的模块没有名称张量流的模块-ipython笔记本---------------------------------------------------------------------------ModuleNotFoundErrorTraceback(mostrecentcalllast)in()1get_ipython().magic('matplotlibinline')2importnumpyasnp---->3import

巨头ChatGPT大战陷败局,竟因嫌GPU太贵!Meta用CPU跑AI,点错科技树

ChatGPT大战,Meta为何迟迟没有动作?就在今天,路透社记者挖出了一个大瓜,原因让人瞠目结舌——相比谷歌、微软等大厂,Meta跑AI时,用的竟然是CPU!很难想象,在深度学习几乎占机器学习半壁江山的时代,一个科技巨头竟然能用CPU坚持这么久。虽然他们也曾尝试过自研AI芯片,但最终遭遇滑铁卢。现在,ChatGPT引爆的生成式AI大战打得昏天黑地,这就更加剧了Meta的产能紧缩。用CPU训练AI,Meta怎么想的?Meta迟迟不肯接受用GPU的原因,令人匪夷所思。GPU芯片非常适合AI处理,因为它们可以同时执行大量任务,从而减少处理数十亿条数据所需的时间。然而,GPU也比其他芯片更昂贵,英伟

小白入手Tensorflow-gpu==2.10.0安装教程(最新教程23/8/8.N卡驱动.windows.)

一、安装前提示!!(如果时间过久出现改动,此教程可能出现一些新bug!)1.来自tensorflow官方信息Note:GPUsupportonnative-Windowsisonlyavailablefor2.10orearlierversions,startinginTF2.11,CUDAbuildisnotsupportedforWindows.ForusingTensorFlowGPUonWindows,youwillneedtobuild/installTensorFlowinWSL2orusetensorflow-cpuwithTensorFlow-DirectML-Plugin概要

[论文笔记] 大模型gpu机器推理测速踩坑 (llama/gpt类)

cpu没报错,换gpu就报错。以下是一些踩坑:坑1:要指定gpu,可以在importtorch之前指定gpu。model=LlamaForCausalLM.from_pretrained(model_path,trust_remote_code=True).to(device)报错: RuntimeError('Expectedalltensorstobeonthesamedevice,butfoundatleasttwodevices,cuda:6andcuda:0!(whencheckingargumentforargumentindexinmethodwrapper_CUDA__inde

神经网络实验报告-tensorflow基础

目录1、实验目的2、实验内容3、实验过程题目一①代码②实验结果③常见错误 题目二:①代码②实验结果题目三 ①代码②实验结果4、实验小结&讨论题1、实验目的        掌握TensorFlow低阶API,能够运用TensorFlow处理数据以及对数据进行运算。2、实验内容        ①实现张量维度变换,部分采样等;        ②实现张量加减乘除、幂指对数运算;        ③利用TensorFlow对数据集进行处理。3、实验过程题目一        加载波士顿房价数据集,并按照以下要求选择属性、计算并绘图。(20分)        ⑴ 以二维数组的形式显示属性NOX、RM和LSTA

Win11 + WSL2 + cuda + TensorFlow的深度学习开发环境的搭建 并连接mac

前言前段时间升级了windows台式机,由于双系统实在过于麻烦,而且现在wsl2已经很成熟了,可以带来比较好的windows上的开发体验,但是在环境准备过程中还是有不少坑的,更具网上的资料和官方文档整理一下,该文档仅代表win11的环境,win10是否适用不清楚系统环境硬件12thGenIntel(R)Core(TM)i7-12700KF32G3600RTX3070ti系统Windows1121H2WSL2Ubuntu2004WSL2Install开启Windows功能:系统设置->应用->可选功能->最下边的「更多Windows功能」->找到并勾选「Hyper-V」和「适用于Linux的Wi