草庐IT

ChatGPT - 横看成岭侧成峰

SoftwareTeacher 2023-07-18 原文

定义

ChatGPT 是什么?
ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序,由 OpenAI 公司于2022年11月推出。该程序使用基于GPT-3.5架构的大型语言模型并通过强化学习进行训练。

ChatGPT以对话方式进行交互,可以用于包括自动文本生成、自动问答、自动摘要等在内的多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本,在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。

这是 ChatGPT 自己的介绍:

注:自我介绍不错,但是 “转移学习”, 应该翻译为 “迁移学习” 才精准。

ChatGPT 背后的技术是 OpenAI 公司的 GPT 大型语言模型框架,OpenAI 也得到了微软公司的大力投资,ChatGPT 是这样回答 “你怎么分析微软公司持续投资 OpenAI 公司?” 这个问题的:

微软公司持续投资 OpenAI 公司,可能是因为以下原因:
先进技术: OpenAI 是一家先进的人工智能研究机构,其研究成果和技术在人工智能领域具有高度的创新性和潜力,微软公司可能希望能够通过投资获得这些先进技术。
市场机会: 随着人工智能技术的不断发展,人工智能市场机会也在不断增加,微软公司可能希望能够通过投资 OpenAI 来获得这些市场机会。
合作机会: OpenAI 和微软公司在人工智能领域有着高度的互补性,微软公司可能希望

嗯,chatGPT 最后一句话没有讲完,它也没有解释。

网上流传了 chatGPT 能做的各种事情,我们的博主也写了不少博客: https://blog.csdn.net/nav/advanced-technology/chatgpt

我认为,GPT 之所以破圈,掀起了大众的热潮,有几个原因:

  • 能够像人类处理上下文,并层层递进和用户一起解决问题。
  • 能用自然语言对话,把 AI 的门槛降低到了 0。这个突破可能 IT 专业人士觉得无所谓,其实,这个突破跨越了 “创新的鸿沟 Chasm” (见下图)。 以前的各种 AI 突破,都是在业界人士引起巨大兴趣,但是对于大众,并没有产生真正的触动,这次的 ChatGPT,让大部分用户 (Early Majority)都能亲手亲身体会到 AI 对自己的帮助,可以说,星星之火已经出现燎原之势

ChatGPT 可以生成各种内容,可以回答不少技术问题,大家对它的态度刚开始是好奇,惊艳,随后就有不同的反应,特别是在问答,教育领域 –


限制、禁止 chatGPT

英文 IT 界最大的问答平台 StackOverflow 禁止在它的平台上使用 ChatGPT 生成的内容。 主要原因是ChatGPT 生成的回答 看起来非常高质量,非常容易生成,但是准确度低。这会导致很多用户大量生产此类内容,对平台和想得到正确答案的用户都是有害的。

这是 StackOverflow 官网的解释截屏:

一个用户 (Alex Poole)的评论得到了很多赞:(我翻译成中文)
不管 AI 生成的答案正确与否,“StackOverflow是一个面向专业程序员和热心编程爱好者的问答网站" 这句话同时适用于 【提问】 和【回答】的部分。在我看来,那些只是将提问粘贴到 AI 那里,然后把 AI 的回答再复制回来的人, 不算是专业程序员,也不算是热心编程爱好者。也许这些人对 AI 的回答进行了检查和测试,如果他们真的能够验证这是一个好的正确答案,他们应该能够自己写出来。这并不一定意味着互联网上没有(或不会有)人工智能提供服务的地方,但它并不属于 StackOverflow。

下面是我用 deepl.com 服务得到的翻译:

美国的一些学校也禁止学生使用学校的网络连到 ChatGPT,主要原因是:“虽然该工具可能能够提供快速和简单的问题答案,但它并不能培养批判性思维和解决问题的能力,而这些能力对学术和终身成功至关重要” (报道链接) 但是,学校防止不了学生用其他方式连到 ChatGPT,这样, 自己有手机流量的,就能用,没有手机流量的,就不能用。 或者是,某个地区的学生,可以通过某种方式上网的少部分学生,就能得到这种服务,这是否造成了一种不公平呢?


出错了怎么办?

在大约 10 年前,我在研究院的同事就开发了一个 AI 的写作助手,你输入上一句, 写作助手就会根据上下文建议下一句,当时的 AI 技术和数据量还是比较初级,所以它的一些建议看起来很幼稚可笑。这个研究项目在小范围演示后,就停下来了, 十年后,大不一样了,这是我刚才随手给 ChatBot 出的题目:


如果 ChatBot 聊天聊出问题了怎么办? 这也是实际发生的情况。 我试着和她聊 “在犯罪的边缘试探” 的笑话,ChatGPT 倒是很冷静:

2016 年,微软就发布过一个有感情的聊天机器人 – Tay,但是 16 小时之后,就把她下线了。因为她在和用户聊天的过程中,从用户那里学到了很多骂人、歧视、以及其他恶劣的行为。 这个聊天机器人有 “自觉” 和 “良心” 么,知道自己的言语会伤害别人么? 要找机会直接问她。

从我有限的测试来看, ChatGPT (他背后的高人) 很明智地吸取了前人的教训,给自己画了一些红线,不敢越雷池半步。


共存

ChatGPT 能快速地给出看起来很有信心的答案,学生拷贝就好了,这是作弊么? 也有老师说,这就像 20 年前 Google 出现的时候一样,当时也有老师不让学生从 Google 上直接找答案,后来怎么样了呢?

打不过你,就加入你好了。

这其实反映了 人工智能 (简单或复杂的算法) 辅助人类工作的一个趋势。 下面是一些例子:

  • Word 编辑器的文字拼写自动纠错功能(这算作弊么)?以及后续不断提高的语法建议功能,Excel 的自动数据自动填充、计算功能, PowerPoint 的 “幻灯片自动排版” 功能
  • 以前初学者翻译文章,要一个词一个词地查纸板的字典,后来,有网络上的词典,便携式的电子词典,手机 app,现在,很多的翻译工具能翻译整段话,而且效果不错,就像本文上面用的 deepl.com 的例子。
  • 代码编辑器中的 IntelliSence 自动完成变量名和函数名的功能,自动生成函数API 的注释,演化到最近的自动生成测试用例,自动完成函数功能,等。
  • wolframalpha.com 网站的自动解题并列出步骤画出优美的图形…
  • 艺术创造中的美颜,AI 作画等。
  • 更不用说在股市交易中的 AI 算法的作用 …

这些进步,在当时都引起一些争议,现在看来,都好像是挺自然的了。

当然,AI 从解决单个离散的任务,发展到可以完成一整套考试,这是极大的飞跃 – 最近世界著名的沃顿商学院的教授 Christian Terwiesch 让 ChatGPT 做课程的期末试卷,AI 居然得了大约是 B 或者 B- 的分数。 考虑到 AI 的发展速度,我们不难想象不久的将来, AI 在 MBA 课程中碾压人类,就像 AlphaGO 碾压人类围棋手那样… 那么,上 MBA 学院的价值是增加了还是减少了呢?

在我们软件工程师的面试中, 我们经常要考察基本的算法,例如快速排序,红黑树,等,如果一个候选人说, 这些算法都有 API 和别人经过考验的算法库,我只管调用就好了! 你作为面试官,你怎么办呢? 我们在考试和面试中,经常要考察这个人的 “技能”, 那么,会用 ChatGPT,算是一个有价值的技能么? 技能的反面是什么呢?


鼓励使用 ChatGPT

打不过你,就加入你好了,而且还要充分利用这个工具。 我今天看到这个 npr.org 的报道,有老师要求所有学生都用 ChatGPT 来做作业, 他认为,在讨论和创意阶段,这个工具还是很不错的。

这位老师说,他对于 AI 工具对于教学的影响,又激动,又焦虑,但是,还是要跟上时代啊!

著名数学家陶哲轩设想,考试也许应该走向 “open books, open AI” 的模式 – 又开卷,又允许允许 AI 工具。 在这种情况下,我们的试卷应该怎么设计,才能区分出学生的 好/中/差 呢?


分清楚 【参考】还是 【作弊】

在一些人抱怨 ChatGPT 导致作弊的时候,他们可能忘了,作弊是人类有史以来就有的行为,现在也不例外,可以搜索一下 “论文代写” 或者是 “毕业设计 源码” – 搜索这些东西的人,收集资料呢,还是直接拿现成的方案去当作自己的作品呢? 这就不得而知了。

这个 BBC的报道 也提到肯尼亚的大型作业代写的服务。 一旦开始了作弊,大家就从 “学术道德” 的高地上走下来了,随之而来的是各种环节的作弊行为:

  • 这些代写作业的人,都是在肯尼亚一带的非洲同胞,但是他们都头像都是白人
  • 这些代写作业的账户上面的五星好评,也是假的,这也有一个假账号和假评价的交易市场
  • 这给了顾客(欧美的学生)一种印象,是 “高水平的西方人在替我写文章,老子的钱花得值”!

从报道中的数据可以推导出,一个一周工作七天的代写文章者,可以挣到相当于当地成年人的平均工资。 这对于很多接受了高等教育但是在当地找不到工作的年轻人来说,这是一个很不错的出路。

当然,人们也开发了各种检测作弊的工具,对于 ChatGPT,也有检测工具出现了 GPTZero

如果所有人都能用上 ChatGPT,而且,检测 ChatGPT 的技术也在提高,那么,对肯尼亚一带的人肉论文代写行业,有什么影响呢? 我们能训练 ChatGPT 去检测作弊行为么?


AI 贵有自知之明

ChatGPT 是怎么看自己产生的内容被学生使用的呢? 请看它的直接回答:

理论上,ChatGPT 属于哪个层次的 AI 呢? 如果低层次的 AI 都这么厉害了,高级的 AI 出现后,我们怎么办呢?

(图片来自:汪军教授的演讲

当然,人和 AI 在各个领域的较量才刚刚开始,魔高一尺,道高一丈,双方的较量的过程和结果是合作,共存,融合,还是对抗?最终谁能胜出?让我们 拭目以待 (说到拭目以待,说不定有人正在做机器眼睛接入人脑的实验咧)!


后续 … 更大的余波

最近有些作者把 ChatGPT 也列为自己文章的合作者,并发表了学术论文,这引起了很多专家的担忧和争论,在写完博客正文后,我在网上还看到了这样的报道: 卫报的报道 和其他网友的说明:https://weibo.com/1924545467/MqwNKgeKw
核心决定是:

主要科学期刊出版商决定禁止将 ChatGPT 列为署名作者,但是允许真人的作者在论文准备阶段使用 ChatGPT 等工具,只要说明使用的情况即可。

ChatGPT 在全球的教育界也引起了持续的争论。 根据这个文章收集的信息,我们可以看到:

关于英语教育 在拥有12年教龄的旧金山高中英语教师赫尔曼看来,ChatGPT能瞬间完成主要文本类型的写作,这颠覆了英语教学的基本功能,英语教育的地位也岌岌可危。美国企业研究所的高级研究员庞迪西奥却认为,赫尔曼的观点只代表了部分知识精英,而知识精英推崇的各种思维训练,都必须建立在相当的知识储备上。由于多数学生的知识和语言能力尚未达到基础水平,写作训练依然必不可少。庞迪西奥还讽刺了当前对ChatGPT的过度推崇:“与其说创造内容,不如说ChatGPT更擅长通过编造和修辞,来弥补谈话的空白;这个软件在模仿人类胡说八道方面,能力着实出色。”

关于 技术与人文之辩 加拿大作家马奇认为,相比科技的突飞猛进,人文学者长期醉心于宏大叙事的建构与批判,反而忽视语言、历史、伦理、政治等方面的现实问题。而ChatGPT等新技术越来越擅长完成论文等 “文科工作”,人文和技术的差距将继续拉大。然而,福布斯专栏作家里姆认为,不能过分夸大ChatGPT对论文乃至人文教育的影响——就论文写作而言,最重要的是学生不断思考和尝试创作的过程。人文学者应学会驾驭新技术,并教会学生熟练运用这些工具。

南方科技大学的于仕琪老师也在微博上分享了自己的感受

我这学期教"C/C++程序设计"课,刚布置了第一个作业,然后我把作业要求输入到ChatGPT,看了结果后心情很复杂。第一步ChatGPT编出来的程序实现了基本要求,高级要求虽然没实现,但给出了实现建议。于是我让它优化,它就给出了很好的解决方案。第三步,它在我的要求下,它写出了一份还不错的报告。我觉得,如何评价学生面临巨大挑战!

人类学习数学有很长时间了,如果用卖日杂货物算钱这个场景,大致经历了 在地上写写画画 - 石板上写写画画 - 算筹 - 部分人的心算 - 珠算 - 计算器 - 集成到其他工具中 现在你去买东西,就是不断拿货物扫码,然后你也扫自己的wx/支付宝付钱,都不用算如何找零。 但是,青少年要学习算术么? 要! 为什么? 因为数学是一个理解世界,锻炼大脑分析能力的工具,没有这个能力,人类就不能进行其他的更高层的 思考、尝试、创作 的过程,所以,我们在享受越来越便利的计算成果的同时,还是要从基本的算术学起。

编程语言,软件工程也是同理。ChatGPT 给我们提供了方便的工具,让我们更快地就能看到很多解题的方法,很多初步的结果,但是我们自己的大脑还是要经历漫长的学习过程才能在编程和软件工程的领域实现 思考、尝试、创作的过程, IT 专业的老师面临的挑战,就是在日新月异的工具进步中,如何能持续打造这样一个训练的环境, 让学生可以 思考、尝试、创作

参考文章:
教学的核心:构建一个自然的, 有批判精神的, 学习的环境

有关ChatGPT - 横看成岭侧成峰的更多相关文章

  1. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  2. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

  3. 【ChatGPT】ChatGPT 的 N 种用法 - 2

    目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型,由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写,意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器(Trans

  4. 「想体验ChatGPT中文聊天?」那快进来,你用不上算我输 - 2

    ♥️作者:白日参商🤵‍♂️个人主页:白日参商主页♥️坚持分析平时学习到的项目以及学习到的软件开发知识,和大家一起努力呀!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!「想体验ChatGPT中文聊天?」那快进来,你用不上算我输项目场景:项目条件一、那就开始吧1、安装ChatGPT-Desktop2、OpenAPI设置二、使用实例恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!项目场景:近几个月可以说ChatGPT是火得一

  5. 半个月狂飙1000亿,ChatGPT概念股凭什么? - 2

    ChatGPT掀起了AI股历史上最疯狂的一轮市值狂飙。自春节后至今,ChatGPT概念股开始了暴走模式,短短半月时间,海天瑞声、开普云等ChatGPT概念股市值累计增加了近1400亿。如此的爆炸效应,得益于ChatGPT所展现出商业化落地的巨大潜力。要知道,在此之前,无论是十年AI投入超千亿的百度,还是困在硬件化里的AI四小龙,都在重复着AI商业化难落地的故事。ChatGPT的出现,让AI从生产力的赋能者直接成为一种创造生产力的工具。随着订阅模式的推出,ChatGPT已经成为第一个以AI技术为核心直接变现的消费者应用。本文持有以下核心观点:1、ChatGPT是AI技术迭代的受益者。过去受限技术

  6. 未来的趋势————以ChatGPT为标杆的AI对生活的影响是巨大的 - 2

    文章目录前言1.AI的发展历程2.我是如何接触到人工智能的概念和产品的3.对于ChatGPT的一点看法4.AI对大学毕业生的职业发展的利与弊5.对于AI的思考和问题前言随着ChatGPT的爆火,生成式AI,大模型的人工智能被越来越多的人注意到,同时他也带来了许多问题。本文将对几方面进行探讨。1.AI的发展历程远古时期在公元前第一个千禧年,中国,印度和希腊哲学家都提出了一些推理的研究理论,比如亚里士多德(Aristotle)进行了演绎推理三段论的完整分析,欧几里得(Euclid)所著Elements是一种形式推理的模型,MuḥammadibnMūsāal-Khwārizmī,发明了代数学,即我们

  7. 山石发声|风暴眼中的ChatGPT,看NLPer怎么说? - 2

    当前科技领域最有热度的话题,无疑是OpenAI新提出的大规模对话语言模型ChatGPT,一经发布上线,短短五天就吸引了百万用户,仅一个多月的时间月活已然破亿,并且热度一直在持续发酵,各行各业的从业人员、企业机构都开始体验关注甚至自研“类ChatGPT”模型。这里,笔者从一位NLP从业人员的角度谈一谈对ChatGPT的一些看法和思考。1、ChatGPT诞生之路1.1BERT2018年,谷歌提出BERT(BidirectionalEncoderRepresentationfromTransformer)模型,一时之间疯狂屠榜,在各种自然语言处理领域建模任务中取得了最佳的成绩,NLP自此进入了大规模

  8. ChatGPT教程之深入了解魔术背后的技术 - 2

    解开谜团:深入探索ChatGPT的技术奇迹。ChatGpt无处不在,无论是在播客、博客、YouTube还是社交媒体上。当我注意到这项新技术如此受欢迎时,我决定试一试,我被震惊了!有很多关于ChatGpt及其魔力的博客,但在这篇博客中,我将深入探讨其内部技术及其工作原理!ChatGpt简介根据OpenAI,ChatGpt被描述为:“我们训练了一个名为ChatGpt的模型,它以对话方式进行交互。对话格式使ChatGpt可以回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。ChatGPT是InstructGPT的兄弟模型,它经过训练可以按照提示中的说明进行操作并提供详细的响应。”OpenA

  9. 火爆的ChatGPT快速学成,要看哪些书? - 2

    以前我们经常打趣说:***,你out了!当然了,玩笑成分居多。但是如果作为一名技术人员,现在还没有听说过ChatGPT,那么你可能真的“out”了。比尔·盖茨说,ChatGPT的重要性堪比互联网的发明,甚至它“将改变我们的世界”。ChatGPT得到科技界大佬的如此推崇,那么,ChatGPT到底是什么?ChatGPT是2022年11月底,美国OpenAI公司推出的一款人工智能聊天机器人。两个月后,ChatGPT的月活用户已经突破1亿,成为有史以来增长速度最快的消费者应用程序。ChatGPT功能极其强大,它能够通过学习和理解人类的语言进行对话,还能根据上下文进行互动,实现像人类一样的聊天交流。除了

  10. ChatGPT陷伦理风波 “纯净版”机器人在赶来的路上 - 2

     近期,AI安全问题闹得沸沸扬扬,多国“禁令”剑指ChatGPT。自然语言大模型采用人类反馈的增强学习机制,也被担心会因人类的偏见“教坏”AI。4月6日,OpenAI官方发声称,从现实世界的使用中学习是创建越来越安全的人工智能系统的“关键组成部分”,该公司也同时承认,这需要社会有足够时间来适应和调整。至于这个时间是多久,OpenAI也没给出答案。大模型背后的“算法黑箱”无法破解,开发它的人也搞不清机器作答的逻辑。十字路口在前,一些自然语言大模型的开发者换了思路,给类似GPT的模型立起规矩,让对话机器人“嘴上能有个把门的”,并“投喂”符合人类利益的训练数据,以便它们输出“更干净”的答案。这些研发

随机推荐