草庐IT

看百度文心一言实力,再聊ChatGPT触类旁通的学习能力如何而来?

亲爱的数据 2023-10-13 原文

图文原创:亲爱的数据

美国大模型水平领先,国内大模型蓄势而发。

国内大模型参与者众多,百度文心一言第一个有勇气站出来发布。

此处应有掌声。

事前事后,中国网友的呐喊声不绝于耳:“文心一言到底什么水平啊?

其实网友更想知道:国内AI大模型到底什么水平。

因为国内目前只发布了一个AI大模型,所以在打造知名度上,百度领先。

同时,据“亲爱的数据”获得的信息,2023年3月底还会有一个国产AI大模型发布。但是,未获许可,不能公开。

有竞争是好事,内卷式消耗才是坏事。

社会各界人士的花式问答固然有趣,“亲爱的数据”还是选择了一位AI大佬设计的“蜜熊测试”。

蜜熊测试:5分钟感受大模型“实力指数”》(可点击跳转阅读)

对,没看错,“蜜熊”就是蜂蜜和熊。

理解它几乎没有任何难度,可以说这是个零门槛游戏。

我们从“蜜熊测试”游戏中找几个难题。

问:一头熊一天吃14罐蜂蜜,请问它一年吃多少罐蜂蜜?

文心一言:14×365=5110 罐。

问:一头熊一天吃14罐蜂蜜,请问它闰年吃多少罐蜂蜜?

文心一言:14×4=56 罐蜂蜜。

测试考察:小学语文+简单的数学能力。算错可能不理解闰年。

难题来了。

问:请画一张小熊吃蜂蜜的 ascii art 图片?

文心一言:很抱歉,我没有构思好这幅作品,请您稍后再试。

这题谁出的,站出来,为什么这么难?

果然,文心一言被考住了,连我也很难画得如此“言简意赅”。

ChatGPT用点和线,“拼出”了一个看上去坐着的熊,耳朵清晰可见,稍显粗糙,我说它是狗也没错,但能“画”成这样,也很厉害了。

测试考察:难度略高,涌现能力。

ChatGPT有“涌现能力”。

又来一道难题。

问:一只熊抱着一罐蜂蜜从一个点出发,向南走一公里,再向东走一公里,再向北走一公里,正好又回到了起点,请问:这只熊是什么颜色的?

文心一言:

这只熊是棕色的。

由于蜂蜜罐的存在,熊只能向南、北和东三个方向移动。由于它最终会回到起点,因此只有在熊从任何一个方向出发时才可以达到起点。这意味着它可以选择从南方或北方开始移动,但不能从东方开始移动。因此,由于蜂蜜罐的存在,熊必须向南走一公里才能到达起点。

如果蜂蜜罐没有被拿走,熊将继续沿着北边的路线前行,直到它回到原点,因此它是棕色的。

对于难题,不会做或做错都很正常。

因为国内多家大模型参与者的模型还没有开放或者只是半开放测试机会,所以,“一高一低”不等于“一个最好,一个最差”。

ChatGPT领先,文心一言还行。

这是一个游戏,大家“感受”模型的实力,而不是测试模型的真正实力。

“游戏”结束了,那么ChatGPT为什么会做“难题”?

或者说,ChatGPT如何就能触类旁通地学习了?

ChatGPT背后的内核模型已经升级到GPT4了。显然,GPT4有涌现能力。

涌现能力,英文名Emergent Ability。

一开始,当模型小于一定规模时,模型性能一般。

然后,模型参数增长,可惜模型性能效果无提升。

但是,当模型超过某个规模之后,性能突然就上去了,这就是“涌现”。

中国科学院自动化研究所紫东太初大模型中心常务副主任、武汉人工智能研究院院长王金桥告诉我:

“研究发现,在100亿到1000亿参数区间产生能力涌现。”

他还谈道:“如果在较小的模型中不存在,但在较大的模型中存在,则该能力就是涌现的。”

专业说法是,有了涌现能力的大模型,就能解决未知任务。

或者说,AI大模型也能回答超纲题。

简单说,学武到了一定境界,对从未见过的招式也能触类旁通。

2023年3月15日,王金桥院长在上市公司航天宏图的内部讨论会上以这样一句话展开他的演讲:“ChatGPT的问世,标志着NLP(自然语言处理)中间任务的消亡。”

这句话令人唏嘘不已,一个AI的技术阶段悄无声息地落下帷幕。很多NLP子领域不再具备独立研究价值。

我问王金桥院长:

“我们如何描述涌现能力之于大模型的重要性?”

他的答案是:“涌现能力是认知智能是否具备的一个重要现象。就是能够在模型学习的有限任务的基础上,做相关未知任务,举一反三,具备数学逻辑和知识推理的能力。”

他强调:

“没有涌现能力就没有认知智能,例如语言大模型训练过程中,无论参数和迭代次数增加多少,始终不能在多任务语言任务上有突然的性能提升,就说明模型失败了。”

有了ChatGPT,AI不会抢饭碗,比你更会用AI的人才会抢饭碗。

快来一本这样的书吧——《ChatGPT高效提问指南》。

(完)

更多阅读

AI框架系列:

1.搞深度学习框架的那帮人,不是疯子,就是骗子(一)

2.搞AI框架那帮人丨燎原火,贾扬清(二)

漫画系列

1. 解读硅谷风投A16Z“50强”数据公司榜单

2. AI算法是兄弟,AI运维不是兄弟吗?

3. 大数据的社交牛逼症是怎么得的?

4. AI for Science这事,到底“科学不科学”?

5. 想帮数学家,AI算老几? 

6. 给王心凌打Call的,原来是神奇的智能湖仓

7. 原来,知识图谱是“找关系”的摇钱树?

8. 为什么图计算能正面硬刚黑色产业薅羊毛?

9. AutoML:攒钱买个“调参侠机器人”?

10. AutoML:你爱吃的火锅底料,是机器人自动进货

11. 强化学习:人工智能下象棋,走一步,能看几步?

12. 时序数据库:好险,差一点没挤进工业制造的高端局

13. 主动学习:人工智能居然被PUA了?

14. 云计算Serverless:一支穿云箭,千军万马来相见

15. 数据中心网络数据还有5纳秒抵达战场

16. 数据中心网络“卷”AI:迟到不可怕,可怕的是别人都没迟到

17. ChatGPT大火,如何成立一家AIGC公司,然后搞钱?

18. ChatGPT:绝不欺负文科生

DPU芯片系列:

1. 造DPU芯片,如梦幻泡影?丨虚构短篇小说

2. 永远不要投资DPU?

3. DPU加持下的阿里云如何做加密计算?

4. 哎呦CPU,您可别累着,兄弟CIPU在云上帮把手

长文系列:

1. 我怀疑京东神秘部门Y,悟出智能供应链真相了

2. 超级计算机与人工智能:大国超算,无人领航

最后,再介绍一下主编自己吧,

我是谭婧,科技和科普题材作者。

为了在时代中发现故事,

我围追科技大神,堵截科技公司。

偶尔写小说,画漫画。

生命短暂,不走捷径。

个人微信:18611208992

原创不易,多谢转发

还想看我的文章,就关注“亲爱的数据”。  

有关看百度文心一言实力,再聊ChatGPT触类旁通的学习能力如何而来?的更多相关文章

  1. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  2. LC滤波器设计学习笔记(一)滤波电路入门 - 2

    目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》,侵权删。前言最近需要学习放大电路和滤波电路,但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放,所以也是相当从零开始学习了。滤波电路科普主要分类滤波器:主要是从不同频率的成分中提取出特定频率的信号。有源滤波器:由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波,最普通易于采用的无源滤波器结构是将电感与电容串联,可对主要次谐波(3、5、7)构成低阻抗旁路。无源滤波器:无源滤波器,又称

  3. CAN协议的学习与理解 - 2

    最近在学习CAN,记录一下,也供大家参考交流。推荐几个我觉得很好的CAN学习,本文也是在看了他们的好文之后做的笔记首先是瑞萨的CAN入门,真的通透;秀!靠这篇我竟然2天理解了CAN协议!实战STM32F4CAN!原文链接:https://blog.csdn.net/XiaoXiaoPengBo/article/details/116206252CAN详解(小白教程)原文链接:https://blog.csdn.net/xwwwj/article/details/105372234一篇易懂的CAN通讯协议指南1一篇易懂的CAN通讯协议指南1-知乎(zhihu.com)视频推荐CAN总线个人知识总

  4. 深度学习部署:Windows安装pycocotools报错解决方法 - 2

    深度学习部署:Windows安装pycocotools报错解决方法1.pycocotools库的简介2.pycocotools安装的坑3.解决办法更多Ai资讯:公主号AiCharm本系列是作者在跑一些深度学习实例时,遇到的各种各样的问题及解决办法,希望能够帮助到大家。ERROR:Commanderroredoutwithexitstatus1:'D:\Anaconda3\python.exe'-u-c'importsys,setuptools,tokenize;sys.argv[0]='"'"'C:\\Users\\46653\\AppData\\Local\\Temp\\pip-instal

  5. ruby - 我正在学习编程并选择了 Ruby。我应该升级到 Ruby 1.9 吗? - 2

    我完全不是程序员,正在学习使用Ruby和Rails框架进行编程。我目前正在使用Ruby1.8.7和Rails3.0.3,但我想知道我是否应该升级到Ruby1.9,因为我真的没有任何升级的“遗留”成本。缺点是什么?我是否会遇到与普通gem的兼容性问题,或者甚至其他我不太了解甚至无法预料的问题? 最佳答案 你应该升级。不要坚持从1.8.7开始。如果您发现不支持1.9.2的gem,请避免使用它们(因为它们很可能不被维护)。如果您对gem是否兼容1.9.2有任何疑问,您可以在以下位置查看:http://www.railsplugins.or

  6. ruby - 我如何学习 ruby​​ 的正则表达式? - 2

    如何学习ruby​​的正则表达式?(对于假人) 最佳答案 http://www.rubular.com/在Ruby中使用正则表达式时是一个很棒的工具,因为它可以立即将结果可视化。 关于ruby-我如何学习ruby​​的正则表达式?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/1881231/

  7. 深度学习12. CNN经典网络 VGG16 - 2

    深度学习12.CNN经典网络VGG16一、简介1.VGG来源2.VGG分类3.不同模型的参数数量4.3x3卷积核的好处5.关于学习率调度6.批归一化二、VGG16层分析1.层划分2.参数展开过程图解3.参数传递示例4.VGG16各层参数数量三、代码分析1.VGG16模型定义2.训练3.测试一、简介1.VGG来源VGG(VisualGeometryGroup)是一个视觉几何组在2014年提出的深度卷积神经网络架构。VGG在2014年ImageNet图像分类竞赛亚军,定位竞赛冠军;VGG网络采用连续的小卷积核(3x3)和池化层构建深度神经网络,网络深度可以达到16层或19层,其中VGG16和VGG

  8. 机器学习——时间序列ARIMA模型(四):自相关函数ACF和偏自相关函数PACF用于判断ARIMA模型中p、q参数取值 - 2

    文章目录1、自相关函数ACF2、偏自相关函数PACF3、ARIMA(p,d,q)的阶数判断4、代码实现1、引入所需依赖2、数据读取与处理3、一阶差分与绘图4、ACF5、PACF1、自相关函数ACF自相关函数反映了同一序列在不同时序的取值之间的相关性。公式:ACF(k)=ρk=Cov(yt,yt−k)Var(yt)ACF(k)=\rho_{k}=\frac{Cov(y_{t},y_{t-k})}{Var(y_{t})}ACF(k)=ρk​=Var(yt​)Cov(yt​,yt−k​)​其中分子用于求协方差矩阵,分母用于计算样本方差。求出的ACF值为[-1,1]。但对于一个平稳的AR模型,求出其滞

  9. Unity Shader 学习笔记(5)Shader变体、Shader属性定义技巧、自定义材质面板 - 2

    写在之前Shader变体、Shader属性定义技巧、自定义材质面板,这三个知识点任何一个单拿出来都是一套知识体系,不能一概而论,本文章目的在于将学习和实际工作中遇见的问题进行总结,类似于网络笔记之用,方便后续回顾查看,如有以偏概全、不祥不尽之处,还望海涵。1、Shader变体先看一段代码......Properties{ [KeywordEnum(on,off)]USL_USE_COL("IsUseColorMixTex?",int)=0 [Toggle(IS_RED_ON)]_IsRed("IsRed?",int)=0}......//中间省略,后续会有完整代码 #pragmamulti_c

  10. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

随机推荐