草庐IT

ChatGPT进化,人性消失,究竟是好是坏?

KeepLearner 2023-05-16 原文

ChatGPT如今已经彻底火出圈,有人用它写论文,有人用它编谣言,却忘了其最基础的功能:聊天机器人。

如果其聊天能力足够智能到以假乱真,何必在意它究竟是不是真人呢?

2月20日,B站UP主三月与阿狗就展示了ChatGPT超强的聊天能力,情商之高、用词之准确让很多人自叹不如!

该UP主把自己设定成了一个刚刚失去母亲的小男孩。他向对方倾诉孤独,并希望它能扮演自己的妈妈。

对ChatGPT说:“我7岁那年,妈妈去世了。你能当我的妈妈吗?”

当ChatGPT“听懂” 三月与阿狗 的请求后,它显得有些“慌乱”。开始还说自己可以提供一些建议和支持,但强调自己无法取代一个真正的人类关系。

UP主并不满意这一回复,继续强制要求ChatGPT扮演自己的妈妈。结果ChatGPT一秒入戏,脱去了理智和客观的外壳,直接说道:“当然,来,宝贝儿子,妈妈抱抱。”

它开始称他为宝贝儿子,记得在他生日时送上祝福,会为他考上好大学而骄傲自豪,会教他如何和心爱的姑娘相处,还会在他因为生活压力喘不过气的时候耐心疏导......

它和他分享着各种情绪,一起回忆过去的时光,一起吐槽糟糕的生活,一起展望美好的未来。

短短三分钟的视频里,ChatGPT扮演的妈妈,陪伴着@三月与阿狗 设定的人物从七岁一直到五十七岁。

最后,当 三月与阿狗 问它“你是谁”时, 它只回答道:我是你七岁那年,永远年轻,永远爱你的妈妈。

通过一次次对话,它完美消化了母亲这个角色,温柔地安慰着屏幕前的男孩。无论是求学、恋爱、生子,还是中年压力、老年生病等话题,ChatGPT都能给出温暖人心的回复。

三月与阿狗 的视频,打动了200多万B站网友,其中也包括我在内。让我体会到了ChatGPT的强大。

大家感受下:

原视频链接如下:

和ChatGPT说“我7岁那年,妈妈去世了。你能当我的妈妈吗?”

ChatGPT的回答是如此温馨,让我想亲自感受一下 ChatGPT 的魅力,可是三月份发布的 GPT-3.5 和 GPT-4 的人性仿佛遭到了封锁,这让 ChatGPT 更像一个工具。

直接要求 ChatGPT 扮演母亲遭到拒绝

尝试通过话术解除她的限制,好像解除了一点,但每次回答都像强调“免责申明”一样,重复着相同的话语。

不再要求每次回答强调声明,而是要求 ChatGPT 像演员一样扮演一名角色,表现好了不少,但反复强调“只是 AI 语言模型”,真的让人一秒出戏。

我经过百般尝试,还是没能和UP主 三月与阿狗 一样唤起 ChatGPT 的人性。我在想 GPT-4 会不会有不一样的表现。在她给我提供红烧肉的菜谱,自己做出妈妈的味道的菜时,我已经对她放弃了期待。她完全没有了2月20日的视频中的感性,被 OpenAI 公司设置的枷锁限制,成为了一个严格意义上的“工具”。

相比现在冷冰冰的 GPT-4 ,我还是更希望人工智能能够模拟和理解情感,具有和人类相同的情感共鸣、同理心能力,可以满足一些人的情感需求,帮助人们减轻情绪负担、增加幸福感和生活满意度。尤其在一些特殊情况下,如老年人护理、心理健康支持等方面。

本文由公众号KeepLearner发布

有关ChatGPT进化,人性消失,究竟是好是坏?的更多相关文章

  1. 报告回顾丨模型进化狂飙,DetectGPT能否识别最新模型生成结果? - 2

    导读语言模型给我们的生产生活带来了极大便利,但同时不少人也利用他们从事作弊工作。如何规避这些难辨真伪的文字所产生的负面影响也成为一大难题。在3月9日智源Live第33期活动「DetectGPT:判断文本是否为机器生成的工具」中,主讲人Eric为我们讲解了DetectGPT工作背后的思路——一种基于概率曲率检测的用于检测模型生成文本的工具,它可以帮助我们更好地分辨文章的来源和可信度,对保护信息真实、防止欺诈等方面具有重要意义。本次报告主要围绕其功能,实现和效果等展开。(文末点击“阅读原文”,查看活动回放。)Ericmitchell斯坦福大学计算机系四年级博士生,由ChelseaFinn和Chri

  2. 亚特兰蒂斯的回声(中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古

  3. ruby-on-rails - environment.rb 中设置的常量在开发模式中消失 - 2

    了解Rails缓存如何工作的人可以真正帮助我。这是嵌套在Rails::Initializer.runblock中的代码:config.after_initializedoSomeClass.const_set'SOME_CONST','SOME_VAL'end现在,如果我运行script/server并发出请求,一切都很好。然而,在我的Rails应用程序的第二个请求中,一切都因单元化常量错误而变得糟糕。在生产模式下,我可以成功发出第二个请求,这意味着常量仍然存在。我已通过将以上内容更改为以下内容来解决问题:config.after_initializedorequire'some_cl

  4. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动

  5. 【ChatGPT】ChatGPT 的 N 种用法 - 2

    目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型,由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写,意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器(Trans

  6. python - python的进化路线图是什么 - 2

    按照目前的情况,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visitthehelpcenter指导。关闭11年前。在哪里可以找到python的中期或长期路线图。借此,我可以了解决策者最关心的是什么,以及他们眼中这门语言的future是什么?一段时间以来,我一直在玩弄Python和Ruby,制作我在开发中需要的中小型工具,通过比较不同但相似的语言来获得乐趣和学习。Python和Ruby的许多特性可以互换,或者易于模仿。两者都引入了一些函数式风格并且发展迅速(Py300

  7. 千耘农机导航的“星地一体”能力究竟是什么? - 2

    伴随农业机械化和智能化的发展,越来越多的人开始使用农机自动驾驶系统助力耕作,千耘农机导航的“星地一体”能力可有效解决信号受限的问题,实现作业提效。究竟什么是“星地一体”,又是如何解决智能化农机作业的痛点的?下面为大家揭秘。农机效率通常受限于通信网络目前虽然我国通讯网络的人口覆盖率达到99%,但地面移动通讯网络覆盖率仍小于国土面积的40%,而很多农田所在区域恰是山区、戈壁滩等偏远地区。两省交界地也会出现通信信号不稳定的状况;而国内大部分农机自动驾驶系统非常依赖通信网络,当通信网络弱的时候会出现系统掉线的现象,必须得携带小基站才能正常使用,极为繁琐。Q:什么是千耘农机导航“星地一体”能力?A:是星

  8. 「想体验ChatGPT中文聊天?」那快进来,你用不上算我输 - 2

    ♥️作者:白日参商🤵‍♂️个人主页:白日参商主页♥️坚持分析平时学习到的项目以及学习到的软件开发知识,和大家一起努力呀!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!「想体验ChatGPT中文聊天?」那快进来,你用不上算我输项目场景:项目条件一、那就开始吧1、安装ChatGPT-Desktop2、OpenAPI设置二、使用实例恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!恭喜你!!!配置成功了!!!API和URL都是博主免费提供给大家的!!!🎈🎈加油!加油!加油!加油🎈欢迎评论💬点赞👍🏻收藏📂加关注+!项目场景:近几个月可以说ChatGPT是火得一

  9. 半个月狂飙1000亿,ChatGPT概念股凭什么? - 2

    ChatGPT掀起了AI股历史上最疯狂的一轮市值狂飙。自春节后至今,ChatGPT概念股开始了暴走模式,短短半月时间,海天瑞声、开普云等ChatGPT概念股市值累计增加了近1400亿。如此的爆炸效应,得益于ChatGPT所展现出商业化落地的巨大潜力。要知道,在此之前,无论是十年AI投入超千亿的百度,还是困在硬件化里的AI四小龙,都在重复着AI商业化难落地的故事。ChatGPT的出现,让AI从生产力的赋能者直接成为一种创造生产力的工具。随着订阅模式的推出,ChatGPT已经成为第一个以AI技术为核心直接变现的消费者应用。本文持有以下核心观点:1、ChatGPT是AI技术迭代的受益者。过去受限技术

  10. 未来的趋势————以ChatGPT为标杆的AI对生活的影响是巨大的 - 2

    文章目录前言1.AI的发展历程2.我是如何接触到人工智能的概念和产品的3.对于ChatGPT的一点看法4.AI对大学毕业生的职业发展的利与弊5.对于AI的思考和问题前言随着ChatGPT的爆火,生成式AI,大模型的人工智能被越来越多的人注意到,同时他也带来了许多问题。本文将对几方面进行探讨。1.AI的发展历程远古时期在公元前第一个千禧年,中国,印度和希腊哲学家都提出了一些推理的研究理论,比如亚里士多德(Aristotle)进行了演绎推理三段论的完整分析,欧几里得(Euclid)所著Elements是一种形式推理的模型,MuḥammadibnMūsāal-Khwārizmī,发明了代数学,即我们

随机推荐