草庐IT

AMD CTO访谈全文:AI推理芯片需求猛增,GPU供应短缺必将缓解

AMD在这场AI芯片热潮中一路狂奔,华尔街仍用空前的热情为“英伟达最强劲的挑战者”买单。3月1日,AMD继前一日大涨9%后再涨超5%,股价创收盘历史新高。本周累涨14.8%,今年迄今涨幅达到30.6%。AMDCTO及执行副总裁MarkPapermaster近期参加了播客节目《史无前例:人工智能、机器学习、技术与初创企业》,回答了AMD的战略、最新的GPU进展、推理芯片部署的位置、芯片软件栈,以及他们如何看待供应链,投资者应该对于2024年的AMD有哪些期待等问题。主要内容包括:与竞争对手相比,AMD的MI300芯片提供了更高的性能、更低的功耗和更少的架构空间,实现了更高效的计算。AMD致力于开

老黄最新专访:芯片短缺难以结束,下个Transformer已经出现

英伟达的GPU正在吞噬这个世界。科技公司对英伟达的超级计算GPU有着近乎无尽的需求。不再是那个只为游戏显卡提供图形渲染服务的英伟达,现在的英伟达利用他的GPU开创了一个新时代:人类能够与计算机对话,计算机能够回应人类。而最终,计算机甚至可能超越人类。WIED最近对黄仁勋进行了一次专访,在访谈过程中,老黄用自己的幽默和智慧回答了几乎一切关于自己和英伟达过去和未来的问题。61岁的老黄穿着他标志性的皮夹克和极简主义黑色运动鞋出现。他说,他讨厌星期一的早晨,因为他周日也要工作一整天,这让他在一周的开始就已经感到很疲惫了。2012年,一小群研究人员推出了使用GPU而非CPU来运行代码的开创性图像识别系统

李飞飞吴恩达等2024年AI十大预测!GPU短缺,AI智能体一年内大爆发

2023,可以说是人工智能的春天。在过去的一年里,ChatGPT成为家喻户晓的名字,这一年中,AI和AI公司的各种变革,让我们震惊,也成为我们茶余饭后的瓜果。这一年中,生成式AI取得了重大进展,使得人工智能初创公司吸引了大量资金。人工智能领域的大佬们开始讨论AGI的可能性,政策制定者开始认真对待人工智能监管。但在人工智能和科技行业们的领袖眼中,AI浪潮可能才刚刚起步。之后的每一年,可能都是浪潮最汹涌澎湃的一年。比尔盖茨,李飞飞,吴恩达等人,都在最近对未来AI的发展趋势谈了自己的看法。他们都不约而同地谈到了期待更大的多模态模型、更令人兴奋的新功能,以及围绕我们如何使用和监管这项技术的更多对话。比

克服数据中心人员短缺的六种方法

员工退休、技能差距和预算紧张都是最近数据中心人员短缺的因素。注重招聘、培训等领域,吸引更多求职者。如今,数据中心运营商的高管和部门经理通常在工作会议上讨论经济衰退、预算削减、利率上升和劳动力市场紧张等问题。与此同时,数据中心员工短缺问题也日益严重。很少有人应聘,或者求职者似乎也无法胜任数据中心的管理工作?运行数据中心是一项具有挑战性的工作,无论其规模大小。企业不得不应对数据中心日益增长的需求,并适应远程工作,与此同时,他们仍在努力为其数据中心设施招聘适合的员工。数据中心人员短缺是多种因素共同作用的结果。技能短缺、数据中心员工的退休和暗淡的宏观经济环境都是造成数据中心工资空缺的原因。组织必须了解

网络安全技能短缺:为什么存在以及如何解决

很多企业都陷入网络安全人员短缺的困境,这已经不是什么秘密。几年前就有消息称,许多需要网络安全技能的高薪职位空缺。然而,公布网络安全技能短缺数量还不足以增加网络劳动力。事实上,根据美国信息系统安全协会和分析机构企业战略集团进行的一项研究,绝大多数网络专业人士(95%)认为,网络安全技能短缺的情况在过去几年里并没有改善,近一半(44%)的网络专业人士认为它变得更糟。那么这个网络安全人员缺口有多大?根据Cyberseek公司发布的一份研究报告,美国约有110万人从事网络安全工作,但目前有超过70万个职位空缺。网络安全风险投资商CybersecurityVentures公司称,全球网络安全人才缺口约为

网络安全技能短缺:为什么存在以及如何解决

很多企业都陷入网络安全人员短缺的困境,这已经不是什么秘密。几年前就有消息称,许多需要网络安全技能的高薪职位空缺。然而,公布网络安全技能短缺数量还不足以增加网络劳动力。事实上,根据美国信息系统安全协会和分析机构企业战略集团进行的一项研究,绝大多数网络专业人士(95%)认为,网络安全技能短缺的情况在过去几年里并没有改善,近一半(44%)的网络专业人士认为它变得更糟。那么这个网络安全人员缺口有多大?根据Cyberseek公司发布的一份研究报告,美国约有110万人从事网络安全工作,但目前有超过70万个职位空缺。网络安全风险投资商CybersecurityVentures公司称,全球网络安全人才缺口约为

拦不住灰犀牛,芯片短缺即将扭转,小型公司风险骤增!

微信群消息,有人到处在各个群里推销芯片。舆论层面,芯片缺货似乎仍在继续,囤货似乎仍然是主流。为什么已经有人开始到处推销芯片了?因为他们已经预感到芯片供需拐点即将到来。我们先来看看需求侧。首先,疫情带来的电子产品需求已经结束。随着国外在奥密克戎变种之下,选择躺平,人员流动趋于自由。同时,电子产品该买已经买了,需求也已经得到了满足。在此条件下,芯片需求下降已经是趋势。其次,由于疫情导致的经济下滑,人们的消费能力变弱。除了中国之外,世界绝大多数国家的经济增长为负值。人们手里的钱是变少而不是更多,同样导致芯片需求下降。我们再来看看供给侧。台积电是最早预感到芯片短缺的情况的公司。因此,台积电是最早开始筹

年亏损5亿刀,OpenAI 2024年破产?Altaman自曝GPU短缺,顶级人才掀离职潮

诞生9个月,ChatGPT已经花费近2亿美元!外媒Analytics称,OpenAI很可能到2024年破产。OpenAI每天大约烧掉70万美元,仅用于维持ChatGPT的运作。这个费用还不包括GPT-4、DALL-E2等其他AI产品。要说OpenAI明年破产,事实并非如此,毕竟金主爸爸微软投了100亿美元。但没有足够的收入来实现收支平衡,确是OpenAI面临的难题。就连马库斯赶上这波热度表示,「我不认为这一预测考虑到了,随着时间推移软件变得更加高效的可能性,也没有考虑到微软可能会给OpenAI更多现金来换取更多的控制权。但这仍然令人警醒」。图片用户基数下降12%2022年11月,当红炸子鸡Ch

GPT-5出世,需5万张H100!英伟达GPU陷短缺风暴

随着人工智能技术的不断突破,自然语言处理领域也掀起了一波又一波的革命。从GPT-3.5的惊艳登场,到紧随其后的GPT-4的惊世震人,人们仿佛置身于科幻电影中,亲历了一场场技术的奇迹。然而,这场奇迹背后却逐渐显现出一道不容忽视的阴影:GPU资源的巨大需求与紧缺。随着GPT模型的不断升级,其规模和复杂性也在飞速增长。GPT-4的发布更是将模型推向了前所未有的高度,但与此同时,巨大的模型也意味着巨大的计算资源需求。大量的GPU资源投入不仅成为了模型训练的基础,更是各大公司在人工智能领域竞争中的生死攸关的关键因素。然而,GPU资源的紧缺却成为了一道无法回避的门槛。即使是规模庞大的公司也面临着在GPU市

数据中心面临人员短缺和减少能源使用的压力

根据UptimeInstitute最新的年度全球数据中心调查显示,减少能源使用和留住合格的员工是数据中心运营商的首要考虑因素。UptimeIntelligence执行董事AndyLawrence表示:“数字基础设施管理者现在最关心的是提高能源绩效和解决人员短缺问题,而旨在提高数据中心可持续性和可见性的政府法规也开始需要关注、投资和行动。”其他关键的管理问题围绕着未来增长的规划。例如,数据中心经理在预测需求方面遇到了困难。此外,Uptime发现,长期存在的供应链问题使得他们难以采购支持不断扩大的数字服务所需的设备。与此同时,企业在追求混合IT方法的同时,继续在云中放置更多的工作负载。根据Upti
12