想实现史上最快大模型推理,得要1171万美元(8410万元)???同等项目下,使用英伟达GPU成本只需30万美元……关于最强AI芯片易主Groq,可能得让子弹再飞一会儿了。这两天,Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片,实现每秒500tokens大模型生成,感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff,让不少人直呼:英伟达要被碾压了……喧嚣过后开始出现一些理智讨论,其中主要还是针对Groq的效益成本问题。网友粗略一算,现在演示Demo就需要568块芯片,花费1171万美元。于是乎,业内业外各界人士不约而同地展开了一场算术大法。甚至出现了位分析师,拿着表格现