草庐IT

火爆的GPT-4来了!

七里香 2023-03-28 原文
3月14日,人工智能公司OpenAI发布了ChatGPT(GPT-3.5阶段)的升级版GPT-4,让原本已经略显沉寂的ChatGPT话题再次迎来了“爆炸式热议”,毫无悬念地冲上了社交平台热搜。“AI 终将取代人类”、“GPP-4考试能力强国90%的人类”等话题受到越来越多的用户关注。

和之前的ChatGPT相比,此次GPT-4的升级堪称“重磅级”:采用了“超大多模态模型”,回答准确率上大幅提升;输出文本扩写能力增强,处理上限增加至2.5W个单词;在纯文本输入基础上增加了图像识别;创造力大幅提升,能够处理更细微的指令......

和ChatGPT相比,GPT-4是如此之优秀,带来的可怕结果是:在用户的疯狂订购下,OpenAI付款系统宕机了。

扔掉Chat之后,GPT-4更强大了

如果说基于GPT-3.5模型的ChatGPT还是个在及格线徘徊的”差生“,那么GPT-4的实力则有望踏入”尖子生“行列,不仅更加智能,也更加难以被“欺骗”。

扔掉Chat的前缀后,GPT-4能力发生了明显的变化。简单来说,随着OpenAI在深度学习方向上的不断扩展,GPT-4朝着“更像人”的方向迈出了一大步,它甚至参加了美国律师资格考试 Uniform Bar Exam、法学院入学考试 LSAT等,成绩排在前20%;还有用户在 YouTube上进行直播用GPT-4写文章、写代码、报税、写诗、讲笑话……

通过对26种语言进行测试,GPT-4在24种语言方面的表现均优于GPT-3.5等其他大语言模型,包括拉脱维亚语、威尔士语和斯瓦希里语等低资源语言,其中对中文识别的准确性达到了80.1%(下图)。

OpenAI演示了一段用GPT-4用26个单词写作的《灰姑娘》故事梗概,其中这26个单词的首字母正好对应26个字母从A到Z的正确排序,足以证明GPT-4在词汇量及语言创作方面能力的强大。

但最大的更新之处,在于GPT-4在图片识别方面的支持,能够在读懂图片内容的基础上,给出有逻辑的回答。比如当用户问下图有何特别之处,GPT-4能够直接描述出是”一名男子正在行驶中的出租车车顶上的熨衣板上熨烫衣服“。

在另一个例子中,GPT-4能够按照用户要求,在”读懂“论文的基础上给出摘要,并能对其中的某个试验过程进行精简的描述。

此外,GPT-4还能在一定程度上读懂网络上流行的搞笑”梗图“,比如能够描述出下图的搞笑之处在于”将过时的大型 VGA 连接器插入小型现代智能手机充电端口的荒谬做法“。

GPT-4将会成为黑客手中的利剑?

首先我们必须意识到一个问题,越来越智能的GPT-4会不会带来更加可怕的安全风险,或者成为网络犯罪组织手中的“利剑”?

在ChatGPT版本,FreeBuf曾深入探讨其在网络犯罪方面被利用的情况,以及可能给网络空间带来的安全风险。

一是其本身的风险。

例如安全专家在ChatGPT生成的内容中发现了与公司内部机密十分相似的文本,原因可能是亚马逊员工在使用ChatGPT生成代码和文本时输入了公司内部数据信息。那么,在GPT-4中,这样的安全隐患将会仍旧存在,各大巨头依旧会对GPT进行防守。

在网安政策方面,GPT-4同样面临踩红线的危险。例如是否违反了GDPR的“最小数据”原则,是否满足“被遗忘权”或“删除权”,对于公共数据的使用是否合规,对于学术型、知识产权型信息的收集适合符合当前的法律、法规。

目前,我国《网络安全法》《数据保护法》《个人信息保护法》对于数据的采集、使用都有细致的规定,仅从现有的情况来看,GPT-4显然无法全部满足这些要求。而且未来全球的法律体系将朝着“数据保护”的方向进一步细化,那时GPT将面临更加严峻的合规压力。

其次是使用GPT-4编辑代码可能存在更多隐蔽的漏洞。

在ChatGPT-3.5阶段,已经有企业和开发人员尝试利用它来写代码和漏洞排查。在卡巴斯基的一项实验中,分析师发现ChatGPT 可用于为未运行端点检测和响应 (EDR) 系统、检测代码混淆或逆向工程代码二进制文件的公司收集取证信息。

而更智能的GPT-4也被很多人给予厚望,当越来越多的开发人员使用GPT-4来编写代码,其中隐藏的漏洞将会成为更加可怕的定时炸弹,一旦被攻击者利用,将会给整个网络安全空间带来难以言表的灾难,尤其是在供应链安全领域需要提高警惕。

最后,如何防止GPT-4被黑客利用,从而给网络安全防御带来新的压力。

一个十分明显的事实是,从ChatGPT 阶段开始,GPT 被用于黑产、网络犯罪、黑客攻击等领域的案例越来越多,未来甚至有可能成为常态。

例如Cybernews的研究人员曾发现,ChatGPT可以被黑客用于寻找网站的安全漏洞,在其帮助下,研究人员对一个普通网站进行了渗透测试,并在45分钟内结合ChatGPT提供的建议和代码更改示例完成了破解。

ChatGPT已经具备这样的能力,更何况更加智能的GPT-4?短时间想要利用GPT-4对网络安全体系产生实质性的强化似乎难以实现,但是被用于网络犯罪却已是近在眉睫,类似的安全风险该如何处理已经成为当下必须要思考的问题。

当然,在安全方面OpenAI也在持续努力。例如他们聘请了50 多位来自人工智能对接风险、网络安全、生物风险、信任和安全以及国际安全等领域的专家对模型进行对抗性测试,训练各种高风险场景,从而为缓解措施和模型的改进提供依据。例如通过搜集额外专业数据,以提高GPT-4拒绝有关如何合成危险化学品请求的能力。

但仅依靠这些,很明显无法满足安全的诉求,这也意味着我们需要从多方面入手来增强,以GPT-4为代表的人工智能在安全方面的能力,包括制定政策法规、以技术手段遏制作恶的风险等。

写在最后

无论如何,科技的进步对于人类的发展有着不可估量的作用,但与此同时我们更需要对风险有清晰的认识。换言之,我们以积极的态度拥抱GPT-4,但是我们更要做好应对风险的准备。

正如二战某领袖所说的那样:我们改变不了别人的想法,既然他们要备战,我们也要备战。对于GPT-4也是如此,我们无法改变他人用它来“作恶”,但我们可以决定如何用它来“为善”。

AI这把剑,握在网安的手里,同样异常锋利。

我们做好准备!

有关火爆的GPT-4来了!的更多相关文章

  1. 续集来了丨UI自动化测试(二):带视频,实在RPA高效进行web项目UI自动化测试 - 2

    一、什么是web项目ui自动化测试?通过测试工具模拟人为操控浏览器,使软件按照测试人员的预定计划自动执行测试的一种方式,可以完成许多手工测试无法完成或者不易实现的繁琐工作。正确使用自动化测试,可以更全面的对软件进行测试,从而提高软件质量进而缩短迭代周期。二、构建测试用例的“九部曲”(一)创建流程包划分功能模块日常测试活动中,都会根据功能模块进行拆分,所以在设计器中我们可以通过创建流程包的方式来拆分需要测试的功能模块,如下图中操作创建一个电脑流程包并且取名为对应的功能模块名称,如果有多个功能模块就创建多个对应的流程包,实在RPA设计器有易用的图形可视化界面,方便管理较多的功能模块。(二)在流程包

  2. 火爆的ChatGPT快速学成,要看哪些书? - 2

    以前我们经常打趣说:***,你out了!当然了,玩笑成分居多。但是如果作为一名技术人员,现在还没有听说过ChatGPT,那么你可能真的“out”了。比尔·盖茨说,ChatGPT的重要性堪比互联网的发明,甚至它“将改变我们的世界”。ChatGPT得到科技界大佬的如此推崇,那么,ChatGPT到底是什么?ChatGPT是2022年11月底,美国OpenAI公司推出的一款人工智能聊天机器人。两个月后,ChatGPT的月活用户已经突破1亿,成为有史以来增长速度最快的消费者应用程序。ChatGPT功能极其强大,它能够通过学习和理解人类的语言进行对话,还能根据上下文进行互动,实现像人类一样的聊天交流。除了

  3. 评测:对接GPT-4的NewBing使用体验变化 - 2

    GPT-4是OpenAI发布的最新一代语言模型,于2023年3月14日正式发布,并通过API和ChatGPTPlus平台向用户开放。微软也证实,在GPT-4正式发布之前,就已经在部分版本的Bing中使用GPT-4技术。本文旨在对使用GPT-4技术的NewBing进行中立、专业的使用评测,探讨其使用体验的变化。界面与限额早于2月26日小编获得Newbing试用资格,届时Newbing初体验并不理想,限制多,例如对话只能持续5条自动终止,对话字符受限,生成效果不尽如人意。然而今日对接GPT-4全新bing额度扩充至15条,且对话字数扩容至2000字。Newbing提供了三种模式选项,即创造力、平衡

  4. 生成式人工智能(AIGC)综述:ChatGPT从GPT-4到GPT-5可以一统AIGC? - 2

    原文题目:《ACompleteSurveyonGenerativeAI(AIGC):IsChatGPTfromGPT-4toGPT-5AllYouNeed?》文章链接:https://arxiv.org/abs/2303.11717https://arxiv.org/abs/2303.11717引言:随着ChatGPT的火热传播,生成式AI(AIGC,即AI生成的内容)因其分析和创造文本、图像等能力而在各地引起了轰动。在如此强烈的媒体关注下,我们几乎不可能错过从某个角度欣赏AIGC的机会。 “一个具有未来科幻感的机器人坐着,手握画笔正在创作一幅五颜六色的图画“由dalle2创作在AI从纯分析转

  5. 2023火爆共享购商业模式概念、框架、基础制度 - 2

    各位企业家及创业者朋友们,你们好。我是微三云(陈志坤),在你打开这个文章的时候,先不要急,因为任何一个能够长久、安稳、盈利的平台,背后肯定有一位看准宏观方向且耐心的人。这是一个极具颠覆性的模式。你慢慢的往下看,我会从框架到核心一一给你介绍,不要错过任何一个字共享购商业模式,致力于社交电商,以社交网络为核心,将自营产品和商家商品让利为切入点,带动用户的消费热情,自主创造消费,从而释放出持续不断的新消费动力,打造商业新生态的商业模式。通过可以整合各个商家入驻平台,助力线上线下新经济发展,更是还运用了新的“消费商”的概念!以下首部分为共享购模式概念、框架、和基础制度:共享购有两个概念:分别是(1)卖

  6. 【ChatGPT】基于tensorflow2实现transformer(GPT-3.5) - 2

    请记住,您是一位NLP领域的专家和优秀的算法工程师。使用带有tensorflow2.0subclassapi的python从头开始实现transformer模型。全部内容如下:构建transformer模型架构和依赖层;生成并预处理一些假样本数据,用于训练上面构建的模型;上面生成的样本数据的训练模型示例教程;上面生成的样本数据的预测模型示例教程;上面生成的示例数据的部署模型示例教程;最后,您所有的答案都以markdown格式呈现。You:Rememberyou’reanexpertandexcellentalgorithmengineerinNLParea.Implementtransform

  7. 木有错!又是一款足球射门游戏!Box2D物理引擎游戏《王牌射手》他来了! - 2

    《王牌射手》起因游戏地址游戏介绍游戏开发后续(如果有后续得话~)最后其他游戏起因之前作者借着CocosCreator得3D性能和官方活动,开发了一款点球大战得3D射门游戏。既然3D都来了,那么2D得射门游戏《王牌射手》也是如期而至了!(掌声鼓励)游戏地址体验地址:王牌射手体验源码地址:王牌射手源码游戏介绍以作者本身得能力,游戏得策划当然是需要抄袭,是借鉴呀,借鉴了微信小游戏**《天天足球》**得玩法。简单得介绍下玩法:就是足球会于场中得球员发生碰撞,如果球员碰到了我方球员,球员会90°以内左右旋转,玩家点击屏幕发射足球,在固定得发球数量内,达到进球门槛即判定为过关呀。那么有的朋友就会问了,你这

  8. javascript - 如何使用特征检测来了解浏览器是否支持 border-radius? (包括IE9) - 2

    我见过很多使用以下方法检测对边界半径的支持的示例:varcssAttributeNames=['BorderRadius','MozBorderRadius','WebkitBorderRadius','OBorderRadius','KhtmlBorderRadius'];for(vari=0;i但这似乎不适用于支持border-radius的IE9。我错过了什么吗? 最佳答案 知道了-检测数组需要添加“borderRadius”-它区分大小写。 关于javascript-如何使用特征

  9. 历时两天,我终于在TensorFlow里面调用起来了gpu - 2

    新买的笔记本怎么配置TensorFlow-gpu新买的笔记本怎么配置TensorFlow-gpu为了更好地学习深度学习,我今年斥重金买了一台联想-拯救者-R9000,除了P9000之外,这台电脑的配置应该算是笔记本当中的天花板了。但是买来半个月,一直在修改自己的论文,所以除了新的鼠标灵敏度高,打开word不卡之外,也没有体验到天花板有多香。这几天论文改的差不多了,心中又燃起了对深度学习的浴火(主要是想看看这个天花板的性能有没有外界说的那么神)。结果!结果!家人们,咱就是说,吊起来了,内心雀跃之余,得给广大网友分享这份喜悦。具体的心路历程和配置步骤如下:判断自己的电脑适不适合安装TensorFl

  10. 【GPT4】微软 GPT-4 测试报告(4)GPT4 的数学能力 - 2

    **欢迎关注【youcans的AGI学习笔记】原创作品微软GPT-4测试报告(1)总体介绍微软GPT-4测试报告(2)多模态与跨学科能力微软GPT-4测试报告(3)编程能力微软GPT-4测试报告(4)数学能力微软GPT-4测试报告(5)与外界环境的交互能力微软GPT-4测试报告(6)与人类的交互能力微软GPT-4测试报告(7)判别能力微软GPT-4测试报告(8)局限性与社会影响微软GPT-4测试报告(9)结论与展望【GPT4】微软GPT-4测试报告(4)数学能力4.数学能力(Mathematicalabilities)4.1与GPT4的数学对话(Amathematicalconversatio

随机推荐