几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停已经发布的 GPT-4。
这次叫停 GPT-4 的是非营利组织人工智能与数字政策中心(CAIDP)。CAIDP 请求美国联邦贸易委员会(FTC)调查 OpenAI 公司并禁止该公司进一步发布 GPT-4。

文件地址:https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf
CAIDP 向 FTC 提出这份申请的原因是他们认为「OpenAI 发布的消费级产品 GPT-4 存在偏见、欺骗性,并且对隐私和公共安全构成风险。模型的输出无法证明或复现,且在部署之前没有进行独立评估」。
CAIDP 呼吁对美国所有商业人工智能产品进行独立监督和评估,并确保建立必要的「保护措施」,来保护消费者、企业和商业市场。
此前,FTC 已经宣布一个人工智能标准,即「在促进问责制的同时,要求人工智能的使用是透明的、可解释的、公平的,并在经验上是合理的」,CAIDP 称「OpenAI 的 GPT-4 不满足这些要求中的任何一个」。
距离 GPT-4 发布仅过去两周,人们已经对这类强大的 AI 模型产生了巨大的分歧。一方面,想叫停 GPT-4 等强大模型的一类人认为这些模型会给信息安全甚至人类社会构成较大风险;另一方面,一些人认为这正是人工智能蓬勃发展的好时机,我们应该推动技术的加速进步。
有趣的是,OpenAI CEO Sam Altman 发布了一条新推特:「在风暴的中心保持平静。」这或许是他对于最近一系列「暂停 GPT-4 等模型研究」呼吁的回应。
在风险方面,OpenAI 在发布时表示已让外部专家评估 GPT-4 带来的潜在风险。然而,CAIDP 在提交给 FTC 的申请中明确指出 GPT-4 违反了哪些法案。
CAIDP 认为 GPT-4 严重影响了商业公平,称:「GPT-4 的商业发布违反了 FTC 法案第 5 节、FTC 就人工智能产品的使用和广告对企业制定的标准,以及人工智能治理的新兴规范等等。」

此外,OpenAI 没有透露 GPT-4 的任何技术细节。这也是 CAIDP 向 FTC 提出申请的原因之一。
CAIDP 表示:「OpenAI 没有透露有关架构、模型大小、硬件、计算资源、训练技术、数据集构建或训练方法的细节,而研究界通常的做法是记录大型语言模型的训练数据和训练技术,但 OpenAI 选择不为 GPT-4 做这些事。特别地,生成式人工智能模型不是寻常的消费品,因为它们在使用的过程中可能会表现出一些异常行为,而这些行为可能是其发布公司之前没有发现的。」
具体来说,CAIDP 在这份投诉申请中针对 GPT-4 和相关模型 ChatGPT 指出了一系列潜在风险。
例如,OpenAI 在文章《 GPT-4 System Card 》中已经明确表示,GPT-4 可能会强化和重现特定的偏见和世界观,包括对某些边缘群体的刻板印象和贬低联想。CAIDP 还引用了 OpenAI 公司的一篇博文,该博文称类似的大模型 ChatGPT 有时会响应有害指令或表现出有偏见的行为。
在提交给 FTC 的投诉中,CAIDP 表示「OpenAI 在充分了解风险的情况下,还是向公众发布了 GPT-4 ,以用于商业用途」。投诉还称,「《 GPT-4 System Card 》没有提供 OpenAI 在其测试期间进行的安全检查的详细信息,也没有详细说明 OpenAI 为保护儿童采取的任何措施,这也引发了对儿童使用 GPT-4 的担忧。」
CAIDP 还指出了欧洲消费者组织 BEUC 提出的担忧:「如果 ChatGPT 被用于消费者信贷或保险评分,那么它有没有可能会产生不公平和有偏见的结果?」这条推文也被作为引用出现在 CAIDP 的投诉申请中。

另外,在网络安全方面,ChatGPT 可被用于网络钓鱼、制作虚假文本,或是生成恶意代码。在隐私方面,CAIDP 表示本月有报道称 OpenAI 向其他用户显示了私人聊天记录。
在另一个案例中,一位 AI 研究人员介绍了 ChatGPT 是如何接管某人账户,查看聊天记录,并在他们没有意识到的情况下访问他们的账单信息。不过 OpenAI 修复了该漏洞。
CAIDP 还表示,GPT-4 能够从图片输入中提供文本回复,这一功能对个人隐私和个人自主权来说影响巨大,它能让用户将个人图像与详细的个人数据联系起来。据了解,OpenAI 已暂停发布图像到文本功能 ,但真实情况如何还不好说。
CAIDP 认为 FTC 应该禁止 OpenAI 对 GPT 的进一步商业部署,要求在部署之前和整个 GPT AI 生命周期对 GPT 产品进行独立评估,要求 OpenAI 遵守 FTC AI 标准,并建立一个可公开访问的 GPT-4 的事件报告机制,类似于 FTC 报告消费者欺诈的机制。
CAIDP 还敦促 FTC 进一步发布标准规范,以用作「生成式人工智能市场领域的产品基本标准」。
从前两天千人联名要求暂停 GPT-4 后续 AI 大模型的研发,到今天 CAIDP 要求 FTC 调查 OpenAI 禁止发布新的商业版 GPT-4。短短一两天时间,各路讨论已经炸开了锅,AI 大佬以及各路大牛纷纷出来公开回应。他们当中有反对的,也有支持的。
在暂停 GPT-4 后续 AI 大模型的研发方面,图灵奖得主 Yoshua Bengio、特斯拉 CEO(OpenAI 联合创始人)伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等都是赞成派,他们已经在暂停巨型 AI 实验公开信上签了名。值得注意的是,CAIDP 的总裁兼创始人 Marc Rotenberg 也签署了这份公开信。

公开信地址:https://futureoflife.org/open-letter/pause-giant-ai-experiments/
不过一直抨击 ChatGPT 的 Yann LeCun 公开表示不会签署这封公开信,不同意这封公开信的内容。

俄勒冈州立大学名誉教授 Thomas G. Dietterich 在推特上表示「我也没签。这封信充斥着一堆可怕的修辞和无效或不存在的政策。一些重要的技术和政策问题,都在努力解决中。」 LeCun 公开表示「我同意」。

吴恩达也发文公开反对千人联名,并表示:「GPT-4 在教育、医疗保健、食品等方面都有很多新的应用,会帮助很多人。除非政府介入,否则实施暂停并阻止所有团队扩大 LLM 规模是不现实的。此外,让政府暂停他们不了解的新兴技术是反竞争的,这样就开了一个糟糕的先例,也是糟糕的政策。」

随后田渊栋也支持吴恩达的观点,「表明自己不会签署暂停令。并表示这种事情一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。我们应该换个角度向前看,更好地理解 LLM,适应它并利用其力量,感受热度。」

刚刚宣布离开谷歌大脑的 Yi Tay(之前是谷歌大脑的高级研究员)表示:「如果禁言在网上胡乱讨论 LLM 的人 6 个月,我会签名。」

无论您是想搭建桌面端、WEB端或者移动端APP应用,HOOPSPlatform组件都可以为您提供弹性的3D集成架构,同时,由工业领域3D技术专家组成的HOOPS技术团队也能为您提供技术支持服务。如果您的客户期望有一种在多个平台(桌面/WEB/APP,而且某些客户端是“瘦”客户端)快速、方便地将数据接入到3D应用系统的解决方案,并且当访问数据时,在各个平台上的性能和用户体验保持一致,HOOPSPlatform将帮助您完成。利用HOOPSPlatform,您可以开发在任何环境下的3D基础应用架构。HOOPSPlatform可以帮您打造3D创新型产品,HOOPSSDK包含的技术有:快速且准确的CAD
有人知道在发布新版本的Ruby和Rails时收到电子邮件的方法吗?他们有邮件列表,RubyonRails有一个推特,但我不想听到那些随之而来的喧嚣,我只想知道什么时候发布新版本,尤其是那些有安全修复的版本。 最佳答案 从therailsblog获取提要.http://weblog.rubyonrails.org/feed/atom.xml 关于ruby-on-rails-如何在发布新的Ruby或Rails版本时收到通知?,我们在StackOverflow上找到一个类似的问题:
基本上,我只是试图在满足特定条件时停止程序运行其余行。unlessraw_information.firstputs"Noresultswerereturnedforthatquery"breakend然而,在程序运行之前我得到了这个错误:Invalidbreakcompileerror(SyntaxError)执行此操作的正确方法是什么? 最佳答案 abort("Noresultswerereturnedforthatquery")unlesscondition或unlessconditionabort("Noresultswer
尝试从我的AngularJS端将数据发布到Rails服务器时出现问题。服务器错误:ActionController::RoutingError(Noroutematches[OPTIONS]"/users"):actionpack(4.1.9)lib/action_dispatch/middleware/debug_exceptions.rb:21:in`call'actionpack(4.1.9)lib/action_dispatch/middleware/show_exceptions.rb:30:in`call'railties(4.1.9)lib/rails/rack/logg
当音乐碰上区块链技术,会擦出怎样的火花?或许周杰伦已经给了我们答案。8月29日下午,B站独家首发周杰伦限定珍藏Demo独家访谈VCR,周杰伦在VCR里分享了《晴天》《青花瓷》《搁浅》《爱在西元前》四首经典歌曲Demo背后的创作故事,并首次公布18年前未发布的神秘作品《纽约地铁》的Demo。在VCR中,方文山和杰威尔音乐提及到“多亏了区块链技术,现在我们可以将这些Demos,变成独一无二具有收藏价值的艺术品,这些Demos可以在薄盒(国内数藏平台)上听到。”如何将音乐与区块链技术相结合,薄盒方面称:“薄盒作为区块链技术服务方,打破传统对于区块链技术只能作为数字收藏的理解。聚焦于区块链技术赋能,在
2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动
我想上传我在运行时用Ruby生成的数据,就像从block中提供上传数据一样。我找到的所有示例仅展示了如何流式传输必须在请求之前位于磁盘上的文件,但我不想缓冲该文件。除了滚动我自己的套接字连接之外,最好的解决方案是什么?这是一个伪代码示例:post_stream('127.0.0.1','/stream/')do|body|generate_xmldo|segment|body 最佳答案 有效的代码。require'thread'require'net/http'require'base64'require'openssl'class
我正在使用Rails3.1.0,并且我想仅在满足某些条件时“触摸”belongs_to关联的父模型。比如此时我有:belongs_to:article,:touch=>true只有当它是“公共(public)的”时,我才会“接触”父模型。也就是说,Article类有一个名为access的属性(@article.access=>public或private),我想在“触摸”之前检查这个值:如果这个值不是public,那么“触摸”它!是否可以在belongs_to关联声明中“直接”进行?如果是,怎么做? 最佳答案 您可以按照您所说的尝试
昨晚看到IDEA官推宣布IntelliJIDEA2023.1正式发布了。简单看了一下,发现这次的新版本包含了许多改进,进一步优化了用户体验,提高了便捷性。至于是否升级最新版本完全是个人意愿,如果觉得新版本没有让自己感兴趣的改进,完全就不用升级,影响不大。软件的版本迭代非常正常,正确看待即可,不持续改进就会慢慢被淘汰!根据官方介绍:IntelliJIDEA2023.1针对新的用户界面进行了大量重构,这些改进都是基于收到的宝贵反馈而实现的。官方还实施了性能增强措施,使得Maven导入更快,并且在打开项目时IDE功能更早地可用。由于后台提交检查,新版本提供了简化的提交流程。IntelliJIDEA
Unity数据可视化图表插件XCharts3.0发布历时8个多月,业余时间,断断续续,XCharts3.0总算发布了。如果要打个满意度,我给3.0版本来个80分。对于代码框架结构设计的调整改动,基本符合预期,甚是满意。相比之前的1.0和2.0版本,我认为3.0才是一个拿得出手给广大开发者使用的版本。1.0发布的时候,很兴奋,从0.1到1.0,也磨了一年,真的等不及想给大家试用了,还特地写过一篇文章以示庆祝。那个时候,1.0虽然还还不够完善,功能也不够丰富,但它是XCharts的开始,没有1.0,也就没有后面的2.0和3.0。后面的2.0发布,做了很多改进和优化,随着版本迭代,慢慢的发现有不少硬