草庐IT

GPT-4老板:别慌,我有一个计划,AGI未来真的很美好!

新智元 2023-04-13 原文

OpenAI的聊天机器人让世界震惊。

但是当人们意识到这种技术也是一种传播虚假信息的方式,也会劝说人们做危险的事情时,一些批评者指责奥特曼的行为很鲁莽。

许多行业领袖、人工智能研究人员和学者认为ChatGPT是一项基本的技术转变,其意义不亚于网络浏览器或iPhone的诞生。但很少有人能就这项技术的未来达成一致。

一些人认为它将带来一个乌托邦,在那里每个人都拥有所有需要的时间和金钱。其他人则认为它可能摧毁人类。还有一些人把大部分时间花在争论上,认为这项技术永远不会像大家说的那样强大,坚持认为无论是涅槃还是末日,都还很遥远。

在过去的一周里,一千多名人工智能专家和技术领袖呼吁OpenAI和其他公司暂停他们在ChatGPT等系统上的工作,说它们「给社会和人类带来了深刻的风险」。

作为OpenAI的首席执行官,奥特曼以某种方式体现了这些看似矛盾的观点中的每一种观点,他希望将这一奇怪的、强大的、有缺陷的技术推向未来,与此同时去平衡无数种可能性。

这意味着他经常受到来自各个方向的批评。但OpenAI的总裁Greg Brockman认为这是应该的:「如果你同样让两个极端的人感到不安,那么你就做对了。」

曼哈顿项目领导人Robert Oppenheimer认为原子弹是科学进步的必然产物,而奥特曼跟Oppenheimer同一天生日。在说到OpenAI的技术时,奥特曼也引用了他的话:「技术发生是因为它是可能的。」他相信人工智能将以某种方式发生,它将做出连他自己都无法想象的美妙事情,而且我们可以找到方法来减轻它可能造成的伤害。

这种态度反映了奥特曼自己的发展轨迹。他在有效的个人技能的驱动下,相当稳定地向着成功和财富攀登。他相信好的事情会发生,这是有道理的。

但是,他也表示,如果他错了,还有一个逃生舱门:在与微软等投资者的合同中,OpenAI的董事会保留了在任何时候关闭技术的权利。

自我拉扯

奥特曼是一个生活在矛盾中的人,他是一个素食主义者,却养着牛。

在他谈及公司研发的技术时,他认为技术将「解决我们一些最紧迫的问题,真正提高生活水平,并为人类的意志和创造力找出更好的用途。」

但是,他并不完全确定它将解决哪些问题。与此同时,他又同样担心技术如果落入一些专制政府的手中,那样可能会造成严重的伤害。

风险投资公司Thrive Capital的合伙人Kelly Sims曾作为OpenAI的董事会顾问与奥特曼共事,她说他就像在不断地与自己争论:「在谈话中,他自己就是辩论的两方。」

问题是,奥特曼的两方最终是否相容:如果可能以灾难告终,那么领先这个潮流是否有意义?奥特曼当然决心要看看这一切是如何发生的。

2014-2019年,作为硅谷创业加速器和种子投资者Y Combinator的总裁,他为源源不断的新公司提供建议,并且敏锐地投资了几个如今已家喻户晓的公司,包括Airbnb、Reddit和Stripe。

他很自豪自己可以识别一项技术是否可以达到指数级增长。

我对钱不感兴趣

硅谷的许多人,个人财富被捆绑在各种各样的公共和私人公司中,奥特曼和他们一样。而且他的财富并没有惊人的多。

他在OpenAI中没有任何股份。他唯一能从该公司赚到的钱是大约65,000美元的年薪,以及Y Combinator对该公司的旧投资中的一小部分。

Y Combinator的创始人Paul Graham是他的伙伴、导师,他这样解释奥特曼的动机:

「他为什么要从事不会让他更富有的工作?一个答案是,很多人一旦有了足够的钱就会这样做,Sam就是这样。而另一个答案就是,他喜欢权力。」

比尔·盖茨一定就是这样的

20世纪90年代末,以19世纪美国自然学家和哲学家命名的私立预科学校John Burroughs的学生群体中充斥着对同性恋的恐惧。

21世纪初,17岁的学生奥特曼开始改变学校的文化,一个个说服教师在教室门上张贴「安全空间」的标志,作为支持像他这样的同性恋学生的声明。

Georgeann Kepchar教授学校的高级计算机科学课程,她认为奥特曼是她最有天赋的计算机科学学生之一:「他有创造力和远见,再加上雄心壮志和人格力量,他可以说服别人与他合作,将他的想法付诸行动。奥特曼还告诉我,他曾成功要求一位特别仇视同性恋的老师,贴出安全空间的标志。」

大一结束后,他在Andrew Ng教授的人工智能和机器人实验室工作,教授后来在谷歌创立了旗舰人工智能实验室。但是他说在斯坦福大学的短暂停留期间,他从晚上打扑克中学到的东西比其他大学活动中学到的东西更多,扑克教会了他如何看人和评估风险。

「如何注意到人们长期以来的模式,如何在非常不完美的信息下做出决定,如何决定何时值得用痛苦去获得更多信息,这是一个伟大的游戏。」

与奥特曼一起工作了十年的Graham在这个来自圣路易斯的人身上看到了同样的说服力:「他有一种天生的能力,可以说服人们去做事情。如果这不是与生俱来的,至少在他20岁之前就已经充分拥有这种能力了。我第一次见到Sam时,他才19岁,我当时就在想:‘比尔·盖茨一定就是这样的’。」

当Graham辞去了Y Combinator总裁的职务之后,他挑选了28岁的奥特曼作为他的继任者,这令硅谷的人十分震惊,因为这可不是雇佣编码员、工程师或人工智能研究人员,他是要制定议程、组建团队和达成交易的人。

作为YC的总裁,奥特曼几乎是放弃了对公司的扩张,成立了一个新的投资基金和一个新的研究实验室,并将公司每年提供咨询的公司数量扩大到数百家。

他还开始从事投资公司以外的几个项目,包括他在2015年与包括马斯克在内的一群人一起创立的非营利组织OpenAI。YC越来越担心奥特曼把自己搞得太累了,于是他决心将注意力重新集中在一个项目上,正如他所说,这个项目将对世界产生真正的影响,这个项目就是人工智能。

据他的弟弟所说,他相信自己是少数几个可以通过人工智能研究改变世界的人之一。

2019年,就在OpenAI的研究开始起步时,奥特曼先生抓住了机会,卸下了Y Combinator总裁的职务,专注于一家员工不到100人,甚至不知道如何开工资的公司。

在一年之内,他将OpenAI转变为一个非营利性机构,并设有一个营利性部门。这样一来,他就可以寻求资金,建造一台可以做人脑所能做的任何事情的机器。

在一次通常被称为「亿万富翁夏令营」的科技领袖年度聚会上,他碰到了微软首席执行官Satya Nadella,之后他亲自与Nadella和微软首席技术官Kevin Scott谈判达成了协议。

OpenAI的总裁Brockman曼先生说,奥特曼的才能在于理解人们的需求:「他真的试图找到对一个人来说最重要的东西,然后想办法把它送给他们,这是他反复使用的算法。」

这项协议将OpenAI和微软置于一场运动的中心,这场运动准备重塑从搜索引擎到电子邮件应用程序到在线导师的一切。而这一切的发生速度甚至让那些几十年来一直跟踪这项技术的人感到惊讶。

在这股热潮中,奥特曼一如既往地冷静。微软的CTO Scott认为,奥特曼最终会成为像史蒂夫·乔布斯、比尔·盖茨和马克·扎克伯格一样伟大的人。

「这些人在科技行业的结构上留下了不可磨灭的印记,也许在世界的结构上也是如此。我认为Sam将成为这些人中的一员。」

漫漫筑梦路

Yudkowsky以及他的著作在创建OpenAI和DeepMind方面发挥了关键作用。他还帮助催生了由理性主义者和有效的利他主义者组成的庞大网络社区,他们相信人工智能是一种生存风险,担心人工智能有一天会毁灭世界。

包括OpenAI在内的许多顶级人工智能实验室的研究人员都属于这个十分有影响力的群体。他们不认为这是虚伪的行为:他们中的许多人认为,由于他们处于建立这种技术的最佳位置,他们比其他人更清楚地了解这些危险。

奥特曼认为,有效的利他主义者在人工智能的兴起中发挥了重要作用,可以提醒行业注意危险。他还认为他们夸大了这些危险。

在OpenAI开发ChatGPT时,包括谷歌和Meta在内的许多其他公司都在构建类似的技术。但正是奥特曼和OpenAI选择与世界分享这项技术。

该领域的许多人批评了这一决定,认为这掀起了一场发布技术的竞赛,这些技术会出错,会胡编乱造,并可能很快被用于快速传播虚假信息。

上周五,意大利政府暂时禁止ChatGPT在该国使用,理由是出于对隐私和对未成年人接触危险内容的担忧。

奥特曼认为,与其完全闭门造车地开发和测试这项技术,然后再全面发布,不如逐步分享它,让大家更好地了解风险和如何处理它们,这样更安全。

他说,这将是一次「非常缓慢的腾飞」。他说,他无法想象一个人类智慧毫无用处的世界。如果他错了,他认为他可以弥补人类的过失。

他将OpenAI重建为他所谓的盈利上限的公司。这使他能够通过向微软等投资者承诺利润来获得数十亿美元的融资。但这些利润是有上限的,任何额外的收入都将被抽回2015年成立的OpenAI非营利组织。

他的宏伟构想是,OpenAI将通过创造AGI获取世界上的大部分财富,然后将这些财富重新分配给人民。

不过,他并不确定如何重新分配这些财富。他认为在这个新世界里,金钱可能意味着不同的东西,不过「我觉得AGI可以帮助解决这个问题。」

有关GPT-4老板:别慌,我有一个计划,AGI未来真的很美好!的更多相关文章

  1. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  2. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

  3. ruby-on-rails - 渲染另一个 Controller 的 View - 2

    我想要做的是有2个不同的Controller,client和test_client。客户端Controller已经构建,我想创建一个test_clientController,我可以使用它来玩弄客户端的UI并根据需要进行调整。我主要是想绕过我在客户端中内置的验证及其对加载数据的管理Controller的依赖。所以我希望test_clientController加载示例数据集,然后呈现客户端Controller的索引View,以便我可以调整客户端UI。就是这样。我在test_clients索引方法中试过这个:classTestClientdefindexrender:template=>

  4. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

  5. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

    关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

  6. ruby-on-rails - Rails - 从另一个模型中创建一个模型的实例 - 2

    我有一个正在构建的应用程序,我需要一个模型来创建另一个模型的实例。我希望每辆车都有4个轮胎。汽车模型classCar轮胎模型classTire但是,在make_tires内部有一个错误,如果我为Tire尝试它,则没有用于创建或新建的activerecord方法。当我检查轮胎时,它没有这些方法。我该如何补救?错误是这样的:未定义的方法'create'forActiveRecord::AttributeMethods::Serialization::Tire::Module我测试了两个环境:测试和开发,它们都因相同的错误而失败。 最佳答案

  7. ruby - 用 Ruby 编写一个简单的网络服务器 - 2

    我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b

  8. ruby - 一个 YAML 对象可以引用另一个吗? - 2

    我想让一个yaml对象引用另一个,如下所示:intro:"Hello,dearuser."registration:$introThanksforregistering!new_message:$introYouhaveanewmessage!上面的语法只是它如何工作的一个例子(这也是它在thiscpanmodule中的工作方式。)我正在使用标准的ruby​​yaml解析器。这可能吗? 最佳答案 一些yaml对象确实引用了其他对象:irb>require'yaml'#=>trueirb>str="hello"#=>"hello"ir

  9. ruby - Rails 关联 - 同一个类的多个 has_one 关系 - 2

    我的问题的一个例子是体育游戏。一场体育比赛有两支球队,一支主队和一支客队。我的事件记录模型如下:classTeam"Team"has_one:away_team,:class_name=>"Team"end我希望能够通过游戏访问一个团队,例如:Game.find(1).home_team但我收到一个单元化常量错误:Game::team。谁能告诉我我做错了什么?谢谢, 最佳答案 如果Gamehas_one:team那么Rails假设您的teams表有一个game_id列。不过,您想要的是games表有一个team_id列,在这种情况下

  10. ruby - 将一个超薄文件包含在另一个超薄文件中 - 2

    我在一个静态网站上工作(因此没有真正的服务器支持),我想在另一个网站中包含一个小的细长片段,可能会向它传递一个变量。这可能吗?在rails中很容易,虽然是render方法,但我不知道如何在slim上做(显然load方法不适用于slim)。 最佳答案 Slim包含Include插件,允许在编译时直接在模板文件中包含其他文件:require'slim/include'includepartial_name文档可在此处获得:https://github.com/slim-template/slim/blob/master/doc/incl

随机推荐