草庐IT

蒙眼狂奔?GPT-4狂飙之际微软却被曝砍掉了AI伦理团队

小刀 2023-03-28 原文
上个月微软推出AI版必应(Bing)搜索,开启以AI搜索向搜索巨头谷歌挑战的序幕,接着更是将来自投资公司OpenAI的技术运用到各类产品中。随着GPT-4的发布,微软进一步加速了其AI产品化的步伐。

不过最新消息显示,就在微软AI狂飙之际,该公司却裁掉一个负责AI伦理道德的关键团队,该团队确保微软产品以符合伦理的方式引入AI技术。

裁员发生在微软迎来AI幸福时刻之前

今年1月微软曾裁员10000人,当中AI部门的伦理和社会团队被砍掉。这意味着目前微软正在向公众推出AI工具,但微软内部并没有一个专业团队负责将AI原则与产品设计结合在一起。但即便如此,微软仍告诉外界会以负责任态度推进AI。

当然,微软现在内部保留了一个名叫“负责任AI办公室”(Office of Responsible AI)的机构,它为微软AI项目设立规范和原则。但员工似乎对此并不买账。

微软一些员工认为伦理和社会团队相当重要,它们可以确保微软“负责任”的AI原则在产品设计时真正得到体现。一位微软前员工说:“看到负责任AI办公室提供一些原则,有人可能会说:‘我不知道如何应用。’而伦理和社会团队的任务就是向他们演示,给没有规则的地方定出规则。”

在过去几年里伦理和社会团队曾设计一款名叫Judgment Call的角色扮演游戏,它可以帮设计师了解AI可能造成的潜在伤害并在开发时讨论。不久前,团队还帮微软分析了引入OpenAI技术会有何种风险。

团队是逐步被“肢解”的

2020年时微软伦理和社会团队的规模达到最大,不过人数并不多,只有30人,包括工程师、设计师、哲学家。去年10月,因为重组团队人数减少,只剩下大约7人。

在一次会议上,微软AI企业副总裁John Montgomery说,员工们将会被快速转移至它处。“来自CTO和CEO的压力非常非常大,上层要求我们将最新开发的OpenAI模型及之后的模型以最快速度交给客户。”

会上有员工表示不满。一位员工说:“怒我大胆,希望你能重新考虑这个决定。我知道这一决定有业务上的考虑,我也理解……但是伦理和社会团队十分关心我们的工作对社会有何影响,尤其是负面影响。影响是十分巨大的。”

不过John Montgomery拒绝了员工的请求,他说:“我能重新考虑吗?我不能。很不幸,压力还是一样的。”当时John Montgomery并没有说团队会被取消。

的确,当时只是裁减了员工,伦理和社会团队仍然存在,只是人少了之后想推进宏大计划变得有心无力。

3月6日,伦理和社会团队剩余员工开会,John Montgomery明确告诉员工团队将会完全取消。

团队曾预警引入OpenAI工具的风险

就在伦理和社会团队被砍之前,他们正在做一件十分重要的事:预测微软OpenAI工具向全球推广之后会发生什么?

去年该团队曾撰写一份备忘录,详细讨论必应Image Creator的潜在风险。必应Image Creator用到了OpenAI开发的DALL-E系统,它可以根据文本提示制作图片。去年10月必应图片创作工具在多个国家发布。

必应Image Creator相当成功,微软研究人员却警告说,由于任何人都可以轻易模拟艺术家的风格,艺术家生计可能会受到影响。备忘录称:“测试必应Image Creator发现,只需要给AI简单提示,比如输入艺术家的名字和媒介(如绘画、打印、摄影、雕塑),生成的图片就可以与原作媲美,很难分出真假。”

报告认为必应Image Creator可能会损害微软的品牌形象,艺术家以及与他联系的利益相关方也会受到伤害,艺术家和公众可能会抱怨。

去年OpenAI更新服务条款,用户完全拥有DALL-E图片的版权,当时微软伦理和社会团队十分困惑。他们认为:“如果AI生成的图片只是艺术作品的图字模仿品,根据提示制作图片的人却拥有完整版权,这在伦理道德上是讲不通的。”

怎么应对?微软研究人员提出一套方案,比如禁止必应Image Creator用户通过提示信息利用仍然在世艺术家的名字制作AI图片,还有就是创建一个集市出售艺术家作品,如果搜索艺术家名字作品就会弹出来。这些建议并没有被采纳。

微软称在发布之前工具已经修改过,目的是解决备忘录中提到的问题,而且负责任AI办公室也做了很多工作。

那么,你真的会相信微软在砍掉有伦理道德的AI伦理道德团队后,会认真规范AI,让它符合伦理吗?(小刀)

有关蒙眼狂奔?GPT-4狂飙之际微软却被曝砍掉了AI伦理团队的更多相关文章

  1. 未来的趋势————以ChatGPT为标杆的AI对生活的影响是巨大的 - 2

    文章目录前言1.AI的发展历程2.我是如何接触到人工智能的概念和产品的3.对于ChatGPT的一点看法4.AI对大学毕业生的职业发展的利与弊5.对于AI的思考和问题前言随着ChatGPT的爆火,生成式AI,大模型的人工智能被越来越多的人注意到,同时他也带来了许多问题。本文将对几方面进行探讨。1.AI的发展历程远古时期在公元前第一个千禧年,中国,印度和希腊哲学家都提出了一些推理的研究理论,比如亚里士多德(Aristotle)进行了演绎推理三段论的完整分析,欧几里得(Euclid)所著Elements是一种形式推理的模型,MuḥammadibnMūsāal-Khwārizmī,发明了代数学,即我们

  2. 焕新古文化传承之路,AI为古彝文识别赋能 - 2

    目录1古彝文与古典保护2古文识别的挑战2.1西文与汉文OCR2.2古彝文识别难点3合合信息:古彝文保护新思路3.1图像矫正3.2图像增强3.3语义理解3.4工程技巧4总结1古彝文与古典保护彝文指的是云南、贵州、四川等地的彝族人使用的文字,区别于现代意义上的彝文,古彝文指的是在民间流通使用的原生态彝文,多达87046字。古彝文的起源距今至少数千年,是世界上最古老的文字之一。对古彝文字集研究有助于理解尚未被翻译成汉文、用字尚未规范化的古籍,更深层、透彻地作用于传统文化保护。古彝文字义对照图(网络资料+邵文苑供图)古籍是不可再生的宝贵资源,应当得到妥善保护。中国的古籍在历史上迭经水火兵燹等自然灾害、

  3. ChatGPT陷伦理风波 “纯净版”机器人在赶来的路上 - 2

     近期,AI安全问题闹得沸沸扬扬,多国“禁令”剑指ChatGPT。自然语言大模型采用人类反馈的增强学习机制,也被担心会因人类的偏见“教坏”AI。4月6日,OpenAI官方发声称,从现实世界的使用中学习是创建越来越安全的人工智能系统的“关键组成部分”,该公司也同时承认,这需要社会有足够时间来适应和调整。至于这个时间是多久,OpenAI也没给出答案。大模型背后的“算法黑箱”无法破解,开发它的人也搞不清机器作答的逻辑。十字路口在前,一些自然语言大模型的开发者换了思路,给类似GPT的模型立起规矩,让对话机器人“嘴上能有个把门的”,并“投喂”符合人类利益的训练数据,以便它们输出“更干净”的答案。这些研发

  4. ruby - 微软 SQL ruby gem - 2

    我需要编写一个ruby​​脚本来连接到MSSQLServer数据库,但我发现的所有线程都指向gems以将ActiveRecord绑定(bind)到MSSQL。是否有任何gems可以让我像pg那样做这个(对于postgreshttps://github.com/ged/ruby-pg)?我只需要做一些非常简单的远程查询,非常感谢! 最佳答案 最好的方法是使用tiny_tdsgemhttps://github.com/rails-sqlserver/tiny_tds 关于ruby-微软SQL

  5. 评测:对接GPT-4的NewBing使用体验变化 - 2

    GPT-4是OpenAI发布的最新一代语言模型,于2023年3月14日正式发布,并通过API和ChatGPTPlus平台向用户开放。微软也证实,在GPT-4正式发布之前,就已经在部分版本的Bing中使用GPT-4技术。本文旨在对使用GPT-4技术的NewBing进行中立、专业的使用评测,探讨其使用体验的变化。界面与限额早于2月26日小编获得Newbing试用资格,届时Newbing初体验并不理想,限制多,例如对话只能持续5条自动终止,对话字符受限,生成效果不尽如人意。然而今日对接GPT-4全新bing额度扩充至15条,且对话字数扩容至2000字。Newbing提供了三种模式选项,即创造力、平衡

  6. 生成式人工智能(AIGC)综述:ChatGPT从GPT-4到GPT-5可以一统AIGC? - 2

    原文题目:《ACompleteSurveyonGenerativeAI(AIGC):IsChatGPTfromGPT-4toGPT-5AllYouNeed?》文章链接:https://arxiv.org/abs/2303.11717https://arxiv.org/abs/2303.11717引言:随着ChatGPT的火热传播,生成式AI(AIGC,即AI生成的内容)因其分析和创造文本、图像等能力而在各地引起了轰动。在如此强烈的媒体关注下,我们几乎不可能错过从某个角度欣赏AIGC的机会。 “一个具有未来科幻感的机器人坐着,手握画笔正在创作一幅五颜六色的图画“由dalle2创作在AI从纯分析转

  7. 「认识AI:人工智能如何赋能商业」【04】机器学习的商业应用 - 2

    作者|Harper审核 |gongyouliu编辑|auroral-L机器学习的商业应用上期给大家介绍了机器学习的概念,但是理解机器学习最好方法之一,就是了解其在具体商业世界中的各种应用。在道格’罗斯的这本《认识AI,人工智能赋能商业》中,介绍了几类机器学习的商业应用,在这里我给大家归纳一下。第一,数据安全,为了避免被发现,制造恶意软件的人会不断更改代码,通常为2%~10%的修改,但是通过机器学习,安全软件可以适应这一小部分变化,并准确识别新创建的恶意软件。它还可以寻找访问方式的模式,以识别可能的安全威胁。第二,投资。机器学习使得计算机能够处理大量的财务数据,并利用其发现的规律预测市场及每只股

  8. 《安富莱嵌入式周报》第301期:ThreadX老大离开微软推出PX5 RTOS第5代系统,支持回流焊的自焊接PCB板设计,单色屏实现多级灰度播放视频效果 - 2

    往期周报汇总地址:嵌入式周报-uCOS&uCGUI&emWin&embOS&TouchGFX&ThreadX-硬汉嵌入式论坛-PoweredbyDiscuz! 祝大家开工大吉视频版:https://www.bilibili.com/video/BV1GT411o7zr1、ThreadX老大离开微软,开发的第5代RTOS系统PX5RTOS正式上线最早是看到IAR的一条消息,全面支持PX5RTOS,然后就进一步上他们的官方下载白皮书了解相关消息当看到这两个名字时,很熟悉,这不就是ThreadX的老大BillLamie。 经过信息检索,应该是实锤了,领英上已经更新了他的工作经历: 然后再结合Azur

  9. 基于ChatGPT的智能问答、ai绘图微信小程序思路 - 2

    ChatGPT![在这里插入图片描述](https://img-blog.csdnimg.cn/186d9ecc453b48be9f19c467da7c3f07.jpegChatGPT是openai公司的一个人工智能机器人产品,目前已经升级到4.0版本。其因便捷高效,已经在大学生、IT届、科研界等领域广为流传。但是直接进入其官网使用有时候并不是那么方便,毕竟他不开放给中国用户使用,我们需要一些魔法才能用上。如果做成一个微信小程序随时随地打开就能用的话,会方便很多。正好openai官方也开放了api供开发者使用。我们可以进入openai官网https://platform.openai.com/

  10. AI 芯片的简要发展历史 - 2

    随着人工智能领域不断取得突破性进展。作为实现人工智能技术的重要基石,AI芯片拥有巨大的产业价值和战略地位。作为人工智能产业链的关键环节和硬件基础,AI芯片有着极高的技术研发和创新的壁垒。从芯片发展的趋势来看,现在仍处于AI芯片发展的初级阶段。未来将是AI芯片发展的重要阶段,无论是架构还是设计理念都存在着巨大的创新空间。一、芯片的发展历史1956年达特茅斯会议上,科学家约翰·麦卡锡,克劳德·香农和马文·明斯基提出了"人工智能"一词。50年代末,阿瑟·萨缪尔(ArthurSamuel)提出了"机器学习"这个术语,他开发了一个西洋跳棋程序,可以从错误中吸取教训,经过学习后,甚至比编写程序的人棋力更强

随机推荐