草庐IT

变强速度超出预期,安全问题逐渐变大,多国停用ChatGPT

2301_76957510 2024-06-17 原文

前段时间,小编向大家介绍过,随着最近GPT-4语言模型的正式投入使用,ChatGPT也带来了全新的插件——网络浏览器和代码解释器,赋予ChatGPT使用工具、联网、运行计算的能力。

更新后,跟据全球媒体的反馈来看,GPT-4相较于GPT-3.5确实有很大的性能提升,但出乎全球AI关注者的意料的是最近这种能力似乎有了全新的进化。

(GPT-4反思后,准确率为88%,之前为67%)

一名前谷歌大脑研究工程师发现了GPT-4可以合理的方式批评自己的成果,也就是说GPT-4模型已经有了一定的反思能力,这再一次加快了GPT-4模型的进化速度,据相关媒体测试称,有了反思能力的GPT-4测试成功率相较于没有反思能力的GPT-4提升了30%。

GPT-4越来越快的发展速度可以加重了用户对于个人信息安全的担忧,并且对ChatGPT是否可控提出了质疑。

根据网络安全公司Darktrace公布的最新研究报告,攻击者使用ChatGPT等生成式AI,通过增加文本描述、标点符号和句子长度,让社会工程攻击量增加了135%。

此外,据相关媒体报道,三星电子引入聊天机器人ChatGPT不到20天就发生了3起涉及ChatGPT的事故,其中2起与半导体设备有关,1起与会议内容有关。

为了防止类似事故再次发生,三星正在制定相关的保护措施。如果今后发生类似事故,三星可能切断ChatGPT服务。

而对于快速增长的安全问题不少国家也采取了措施,据人民网报道,就在3月31日,意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”,意大利数据保护机构表示,该模型存在隐私问题。

而在此前,人们一直担心AI的潜在风险,包括它对工作的威胁以及错误信息和偏见的传播。意大利数据保护机构表示,意大利不仅会阻止OpenAI 的聊天机器人,还会调查它是否符合通用数据保护条例。

此外,爱尔兰数据保护委员会也表示,该机构正在与意大利监管机构跟进,以了解他们采取行动的依据,来保护本国用户的信息安全。

而就在昨日,据相关媒体报道称,不只是意大利,德国、法国等国家也可能跟随意大利的做法对ChatGPT进行停用,并且德国相关组织表示已经与意大利相关组织进行了联系,并讨论了调查结果。

据相关媒体报道称,由于多国对于ChatGPT的相关信息安全问题的调查,ChatGPT概念股C3.ai的股价持续走低,收跌26.34%报24.95美元,市值28亿美元,创该股上市以来最大日内跌幅。

就目前来看,ChatGPT确实有其独到的优势,并且相较于其他竞品其性能优势很大,但是目前因为其不能被有效的控制所产生的问题也是非常明显的,首先AI目前并不能每次提供完全正确的答案,会有几率输出错误答案,造成误解;此外,无法对违法行为施加更加严格的管控,使得相关信息安全的犯罪成本和在社交媒体上制造谣言的成本更低,加重了审查的负担。

正如OpenAI的CEO奥特曼在之前接受采访时所说,ChatGPT还是个非常早期的AI。但正式因为其是非常早期的AI,其问题也就更多,在大量训练的过程中就更应该对其加以管控,保障其可以安全有效的使用,否则任其发展未来的情况可能会更糟。

有关变强速度超出预期,安全问题逐渐变大,多国停用ChatGPT的更多相关文章

  1. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  2. ruby - 如何安全地删除文件? - 2

    在Ruby中是否有Gem或安全删除文件的方法?我想避免系统上可能不存在的外部程序。“安全删除”指的是覆盖文件内容。 最佳答案 如果您使用的是*nix,一个很好的方法是使用exec/open3/open4调用shred:`shred-fxuz#{filename}`http://www.gnu.org/s/coreutils/manual/html_node/shred-invocation.html检查这个类似的帖子:Writingafileshredderinpythonorruby?

  3. ruby-on-rails - ruby 日期方程不返回预期的真值 - 2

    为什么以下不同?Time.now.end_of_day==Time.now.end_of_day-0.days#falseTime.now.end_of_day.to_s==Time.now.end_of_day-0.days.to_s#true 最佳答案 因为纳秒数不同:ruby-1.9.2-p180:014>(Time.now.end_of_day-0.days).nsec=>999999000ruby-1.9.2-p180:015>Time.now.end_of_day.nsec=>999999998

  4. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  5. ruby - 用 YAML.load 解析 json 安全吗? - 2

    我正在使用ruby2.1.0我有一个json文件。例如:test.json{"item":[{"apple":1},{"banana":2}]}用YAML.load加载这个文件安全吗?YAML.load(File.read('test.json'))我正在尝试加载一个json或yaml格式的文件。 最佳答案 YAML可以加载JSONYAML.load('{"something":"test","other":4}')=>{"something"=>"test","other"=>4}JSON将无法加载YAML。JSON.load("

  6. Ruby 日期参数超出范围 - 2

    我正在尝试使用在我的代码中是动态的Time.local来安排时间。在每个月的第一天,我传递的值是Time.local(2009,9,-1,0)。在PHP中,这会将时间设置为上个月的最后一天。在ruby​​中,我只是得到“ArgumentError:参数超出范围”。是我用错了方法还是什么?谢谢。 最佳答案 您应该使用DateTime类而不是Time。(您可能需要先require'date'并安装activesupportgem。)它比Time更通用,并且可以用DateTime.civil(2009,9-1,-1,0)做你想做的事。为天

  7. ruby-on-rails - 安全地显示使用回形针 gem 上传的图像 - 2

    默认情况下:回形针gem将所有附件存储在公共(public)目录中。出于安全原因,我不想将附件存储在公共(public)目录中,所以我将它们保存在应用程序根目录的uploads目录中:classPost我没有指定url选项,因为我不希望每个图像附件都有一个url。如果指定了url:那么拥有该url的任何人都可以访问该图像。这是不安全的。在user#show页面中:我想实际显示图像。如果我使用所有回形针默认设置,那么我可以这样做,因为图像将在公共(public)目录中并且图像将具有一个url:Someimage:看来,如果我将图像附件保存在公共(public)目录之外并且不指定url(同

  8. ruby - Sinatra session 未按预期持续 - 2

    我正在尝试使用Sinatra中的重定向和session在网站周围传递一些数据。这是一个简化的示例,使用PrettyPrint进行调试:require'pp'require'rubygems'require'sinatra'enable:sessionsget'/'dosession[:foo]='12345'puts'session1'ppsessionredirectto('/redir')endget'/redir'doputs'session2'ppsession'helloworld'end查看Thin的输出,我看到:>>Listeningon0.0.0.0:4567,CTRL

  9. ruby - 为什么 Minitest 的 assert_raises 在这种情况下没有按预期工作? - 2

    我正在尝试使用ActionControllerbugreporttemplate解决Rails中的一个奇怪行为.为了记录,这是模板中的Controller:classTestController我已经为缺失的Action添加了一条路线:routes.drawdoget'/'=>'test#index'get'/missing'=>'test#missing'end并且我试图断言AbstractController::ActionNotFound在遵循该路线时被引发:classBugTest预期行为:绿色测试。实际行为:#Runningtests:D,[2014-04-24T09:17:

  10. ruby - 使写入文件线程安全 - 2

    我在一个ruby​​文件中有一个函数可以像这样写入一个文件File.open("myfile",'a'){|f|f.puts("#{sometext}")}这个函数在不同的线程中被调用,使得像上面这样的文件写入不是线程安全的。有谁知道如何以最简单的方式使这个文件写入线程安全?更多信息:如果重要的话,我正在使用rspec框架。 最佳答案 您可以通过File#flock给锁File.open("myfile",'a'){|f|f.flock(File::LOCK_EX)f.puts("#{sometext}")}

随机推荐