草庐IT

生成式AI的成本和可持续性

布加迪 2023-03-28 原文

译者 | 布加迪

审校 | 孙淑娟​

人工智能（AI）对于任何平台（包括公共云）而言都是资源密集型的技术。大多数AI技术都需要大量的推理计算，因而提高了对处理器、网络和存储资源的需求，最终增加了电费、基础设施成本和碳排放量。​

ChatGPT等生成式AI系统的崛起再次将这个问题推到了前台。考虑到这项技术大行其道，加上公司、政府和公众可能广泛使用该技术，可以预料耗电量增长曲线会呈现出令人担忧的弧线。​

AI自20世纪70年代以来一直切实可行，但考虑到成熟完备的AI系统需要大量的资源才能正常工作，最初并没有多大的商业影响。我记得我在20多岁时设计的基于AI的系统需要超过4000万美元的硬件、软件和数据中心空间才能让它运行起来。顺便说一下，该项目与其他许多AI项目一样从未迎来发布日期，商业方案根本就不可行。​

云计算改变了这一切。借助公共云，曾经难以企及的任务现在能够以足够显著的成本效益来处理。事实上，您可能已经猜到了，云计算的兴起与过去10年到15年AI的兴起相得益彰，我要说现在两者休戚相关。​

云资源的可持续性和成本

其实不需要做太多的研究就能预测到这个领域会发生什么。市场对AI服务的需求将会飙升，比如现在非常流行的生成式AI系统以及其他AI和机器学习系统。引领这股热潮的将是通过创新寻求优势（比如智能供应链）的企业，或者甚至是成千上万希望生成式AI系统来撰写学期论文的大学生。​

对AI的需求加大意味着对这些AI系统使用的资源的需求随之加大，比如公共云及其提供的服务。这一需求很可能会由更多容纳服务器和网络设备这些耗电大户的数据中心来满足。​

公共云提供商就像任何其他公用资源提供商一样，会随着需求的增加而提高价格，就像我们看到民用电费季节性上涨一样（同样基于需求）。因此，我们通常控制用电量，在夏天将空调的温度开得高一点。​

然而，更高的云计算成本可能不会对企业产生同样的影响。企业可能会发现这些AI系统并非可有可无，而是驱动某些关键业务流程所必需的。在许多情况下，它们可能会试图在内部节省资金，可能会采用减少员工数量以抵消AI系统的成本这种手段。生成式AI系统很快将取代许多信息工作者绝非什么秘密。​

我们能做些什么呢？

如果对运行AI系统的资源的需求会导致更高的计算成本和碳排放量，我们能做些什么呢？答案或许在于找到更高效的方法让AI充分利用处理器、网络和存储等资源。​

比如说，对流水线进行采样可以通过减少处理的数据量来加快深度学习。麻省理工学院（MIT）和IBM的研究表明，使用这种方法可以减少在大型数据集上运行神经网络所需的资源。然而这也限制了准确性，这对于一些商业用例而言是可以接受的，但不是对所有商业用例而言都可以接受。​

另一种已经在其他技术领域应用的方法是内存中计算。这种架构可以通过避免数据进出内存来加快AI处理速度。相反，AI计算直接在内存模块中运行，这大大加快了速度。​

其他方法正在开发中，比如改变物理处理器（使用协处理器处理AI计算以提高速度）或者采用量子计算等下一代计算模型。可以预料，大型公共云提供商会在近期纷纷宣布能够解决许多这些问题的技术。​

您该怎么办？

本文倒不是说要避免AI，以降低云计算费用或拯救地球。AI是一种基础性的计算方法，大多数企业都可以利用它来创造巨大价值。​

建议您在进行基于AI的开发项目或全新的AI系统开发项目时，应清楚地了解成本和可持续性方面的影响，两者密切相关。您必须做出成本/效益选择，这实际上回到了老话题：投入所需的成本、冒一定的风险后，可以为公司带来什么样的价值。这方面没什么新意。​

我相信，这个问题基本上有望通过创新得到解决，无论创新是内存中计算、量子计算还是其他尚未出现的技术。AI技术提供商和云计算提供商都热衷于让AI更具成本效益和更节能环保，这是好消息。​

原文标题：​​The cost and sustainability of generative AI​​，作者：David S. Linthicum

可持续性生成式spanfont-sizestyle人工智能人工智能$ChatGPT$云计算

有关生成式AI的成本和可持续性的更多相关文章

  1. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序，它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重，我想提高压缩级别，因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗？是否有另一个允许指定压缩级别的Ruby库？ 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  2. ruby - 在 jRuby 中使用 'fork' 生成进程的替代方案？ - 2

    在MRIRuby中我可以这样做:deftransferinternal_server=self.init_serverpid=forkdointernal_server.runend#Maketheserverprocessrunindependently.Process.detach(pid)internal_client=self.init_client#Dootherstuffwithconnectingtointernal_server...internal_client.post('somedata')ensure#KillserverProcess.kill('KILL',

  3. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件，并创建一个临时验证的url以发送给同事。(理想情况下，这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针，它似乎不符合这个标准，但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  4. ruby-on-rails - Ruby on Rails - 为文本区域和图片生成列 - 2

    我是Rails的新手，所以请原谅简单的问题。我正在为一家公司创建一个网站。那家公司想在网站上展示它的客户。我想让客户自己管理这个。我正在为“客户”生成一个表格，我想要的三列是:公司名称、公司描述和Logo。对于名称，我使用的是name:string但不确定如何在脚本/生成脚手架终端命令中最好地创建描述列(因为我打算将其设置为文本区域)和图片。我怀疑描述(我想成为一个文本区域)应该仍然是描述:字符串，然后以实际形式进行调整。不确定如何处理图片字段。那么……说来话长:我在脚手架命令中输入什么来生成描述和图片列？ 最佳答案 对于“文本”数

  5. ruby-on-rails - 如何生成传递一些自定义参数的 `link_to` URL？ - 2

    我正在使用RubyonRails3.0.9，我想生成一个传递一些自定义参数的link_toURL。也就是说，有一个articles_path(www.my_web_site_name.com/articles)我想生成如下内容:link_to'Samplelinktitle',...#HereIshouldimplementthecode#=>'http://www.my_web_site_name.com/articles?param1=value1¶m2=value2&...我如何编写link_to语句“alàRubyonRailsWay”以实现该目的？如果我想通过传递一些

  6. ruby-on-rails - 如何在 Rails 3 中创建自定义脚手架生成器？ - 2

    有这些railscast。http://railscasts.com/episodes/218-making-generators-in-rails-3有了这个，你就会知道如何创建样式表和脚手架生成器。http://railscasts.com/episodes/216-generators-in-rails-3通过这个，您可以了解如何添加一些文件来修改脚手架View。我想把两者结合起来。我想创建一个生成器，它也可以创建脚手架View。有点像RyanBates漂亮的生成器或web_app_themegem(https://github.com/pilu/web-app-theme)。我

  7. 报告回顾丨模型进化狂飙，DetectGPT能否识别最新模型生成结果？ - 2

    导读语言模型给我们的生产生活带来了极大便利，但同时不少人也利用他们从事作弊工作。如何规避这些难辨真伪的文字所产生的负面影响也成为一大难题。在3月9日智源Live第33期活动「DetectGPT：判断文本是否为机器生成的工具」中，主讲人Eric为我们讲解了DetectGPT工作背后的思路——一种基于概率曲率检测的用于检测模型生成文本的工具，它可以帮助我们更好地分辨文章的来源和可信度，对保护信息真实、防止欺诈等方面具有重要意义。本次报告主要围绕其功能，实现和效果等展开。（文末点击“阅读原文”，查看活动回放。）Ericmitchell斯坦福大学计算机系四年级博士生，由ChelseaFinn和Chri

  8. jenkins部署1--jenkins+gitee持续集成 - 2

    前置步骤我们都操作完了，这篇开始介绍jenkins的集成。话不多说，看操作1、登录进入jenkins后会让你选择安装插件，选择第一个默认的就行。安装完成后设置账号密码，重新登录。2、配置JDK和Git都需要执行路径，所以需要先把执行路径找到，先进入服务器的docker容器，2.1JDK的路径root@69eef9ee86cf:/usr/bin#echo$JAVA_HOME/usr/local/openjdk-82.2Git的路径root@69eef9ee86cf:/#whichgit/usr/bin/git3、先配置JDK和Git。点击：ManageJenkins>>GlobalToolCon

  9. python - 帮我找到合适的 ruby​​/python 解析器生成器 - 2

    我使用的第一个解析器生成器是Parse::RecDescent，它的指南/教程很棒，但它最有用的功能是它的调试工具，特别是tracing功能(通过将$RD_TRACE设置为1来激活)。我正在寻找可以帮助您调试其规则的解析器生成器。问题是，它必须用python或ruby​​编写，并且具有详细模式/跟踪模式或非常有用的调试技术。有人知道这样的解析器生成器吗？编辑:当我说调试时，我并不是指调试python或ruby​​。我指的是调试解析器生成器，查看它在每一步都在做什么，查看它正在读取的每个字符，它试图匹配的规则。希望你明白这一点。赏金编辑:要赢得赏金，请展示一个解析器生成器框架，并说明它的

  10. ruby - 如何为 pbcopy 生成富文本链接 - 2

    我一直在玩一个脚本，它在Chrome中获取选定的文本并在Google中查找它，提供四个最佳选择，然后粘贴相关链接。它以不同的格式粘贴，具体取决于当前在Chrome中打开的页面-DokuWiki打开的DokuWiki格式，普通网站的HTML，我想要我的WordPress所见即所得编辑器的富文本。我尝试使用pbpaste-Preferrtf来查看没有其他样式的富文本链接在粘贴板上的样子，但它仍然输出纯文本。在文本编辑中保存文件并进行试验后，我想出了以下内容text=%q|{\rtf1{\field{\*\fldinst{HYPERLINK"URL"}}{\fldrsltTEXT}}}|te

随机推荐