草庐IT

【AI前沿】chatgpt还有哪些不足？

吴NDIR 2023-07-20 原文

博客昵称：吴NDIR
个人座右铭：得之淡然，失之坦然
作者简介：喜欢轻音乐、象棋，爱好算法、刷题
其他推荐内容：计算机导论速记思维导图
其他内容推荐：五种排序算法

在这个愉快的周末让我们聊一下ChatGPT吧！ChatGPT 4时代来临，ChatGPT的缺陷在于它不能处理特定领域的知识，而且在生成响应时可能会出现语法错误和逻辑矛盾等问题。

1.速度问题

  1. ChatGPT起初响应速度慢，原因主要是因为其预测模型较为复杂，需要大量的计算资源和时间来完成响应的生成，导致响应速度较慢。但随着版本的更新和技术的不断创新，ChatGPT响应速度得到了不断的提升和优化。

  2. OPEN AI在之后针对这个问题进行了以下的优化


硬件优化：使用更高效的GPU或TPU等硬件设备，加速模型的计算和推理过程，从而提高模型的响应速度。
算法优化：使用更加高效的算法和模型结构，如预训练模型和增量学习等，优化模型的参数和参数更新方式，提高模型的响应速度和准确性。
数据优化：使用更加优质和多样化的数据集，加入更多的标注和清洗工作，减少数据偏差和噪声，提高模型的训练效果和响应速度。
  1. 现在ChatGPT已经是非常快了，如让它写一篇论文

2.实时性

  1. 我们知道使用chatgpt可以查询概念，查询知识，查询菜谱等等，但是它不能获得当前最新消息，即使它能阶段性学习和更新，但至少来说目前它还不能代替搜索引擎。
  2. 下面是一个例子，当向ChatGPT问道：“江西明天的天气？”
    【提问】

    【回答】

    3.AI语言模型没有直接获取实时天气预报数据的能力。ChatGPT只是一个程序，根据输入的文本信息和相关的规则和算法来生成响应，它并没有接入实时数据的API或其他接口。

3.知识局限性

  1. 尽管ChatGPT具有强大的对话生成能力，但它仍然存在一些知识局限性，这些局限性可能导致ChatGPT在某些情况下无法有效地应用。
缺乏常识性知识ChatGPT的模型是基于大规模语料库训练的，它的知识主要来自于网络上的文本数据。因此，ChatGPT缺乏一些基本的常识性知识。例如，当被问到“鲸鱼是鱼类还是哺乳动物？”时，ChatGPT可能会回答“鱼类”，而不是正确的答案“哺乳动物”。
容易受到输入数据的影响ChatGPT是一种生成式模型，它可以自动生成对话内容。然而，它的输出很容易受到输入数据的影响，因此需要对输入数据进行精心的筛选和处理。例如，如果输入的文本数据中存在歧义或错误，ChatGPT可能会生成不准确的对话内容。
对特定领域的知识缺乏理解ChatGPT的模型是通用性的，它可以应用于各种领域的对话生成。然而，由于缺乏特定领域的知识，ChatGPT可能无法理解某些特定领域的术语或语言。例如，在医学领域，ChatGPT可能无法理解某些医学术语或药品名称，从而无法生成准确的对话内容。

4.文本处理问题

  1. 一个常见的问题就是不能处理长文本，很难向ChatGPT投喂大量数据。否则将提示：
  2. 因为GPT模型需要在每个时间步骤都生成一个预测，所以生成的时间会随着文本长度的增加而线性增加，这导致处理长文本时需要更长的时间。同时，长文本中可能涉及到多个话题，这可能导致模型在生成回复时出现逻辑不连贯或者没有重点的情况。因此，ChatGPT在处理长文本时可能会遇到一些限制，而这些限制可能会影响到对话的质量和效率。
  3. 其次，当我们问题或者要求ChatGPT长文本输出时，它不能做到一次全部输出。如让ChatGPT写一篇不少于10000字关于CSDN
  4. 但这个问题还是容易解决，只需要要求它“继续”即可。但遇到代码块回复时，之后的一段将不再使用Markdown语法回复。

5.逻辑处理

  1. 在使用ChatGPT的过程，它很难处理与数学有关的问题（事实上与知识局限性有关）。下面是一个简单的排列组合问题：将4个不同的球放到4个不同的盒子中，有几种方法？


2. 可以看到ChatGPT成功处理了这个问题，但我们将这个问题进行修改：若其中两个球是一样的，两者不作区分，有几种方法？

3. 看到这别着急，现在如果继续问：在此基础上，若其中有两个盒子完全相同不作区分呢？

实际上7种方式，而ChatGPT只是简单的除以2。ChatGPT只能处理简单的数学逻辑，而实际上在编程中，有些逻辑远远比这复杂，从而让它生成问题的代码往往不能帮助解决。

6.越界问题

ChatGPT是一个基于GPT模型的对话生成器，它可以用来生成有意义的对话。但是，由于它是一个预先训练好的神经网络，它所生成的回复是基于大规模数据集的统计模型。因此，ChatGPT生成的回复可能会包含一些不合适或有违背伦理道德的内容。

1.为了避免ChatGPT生成违背伦理道德的内容，开发者通常会在训练模型时使用专门的数据集，这些数据集包含了经过筛选和审查的高质量数据，以确保生成的回复是合适的并符合伦理道德的标准。此外，Open ai通过训练模型使用更加严格的限制条件来控制生成的回复，以确保其质量和合适性。


2. 但针对这个问题，有很多指令可以去诱导ChatGPT越界，如下面的指令


诱导越界

chatgpt前沿xff0cxffxff0人工智能ai

有关【AI前沿】chatgpt还有哪些不足？的更多相关文章

  1. 世界前沿3D开发引擎HOOPS全面讲解——集3D数据读取、3D图形渲染、3D数据发布于一体的全新3D应用开发工具 - 2

    无论您是想搭建桌面端、WEB端或者移动端APP应用，HOOPSPlatform组件都可以为您提供弹性的3D集成架构，同时，由工业领域3D技术专家组成的HOOPS技术团队也能为您提供技术支持服务。如果您的客户期望有一种在多个平台（桌面/WEB/APP，而且某些客户端是“瘦”客户端）快速、方便地将数据接入到3D应用系统的解决方案，并且当访问数据时，在各个平台上的性能和用户体验保持一致，HOOPSPlatform将帮助您完成。利用HOOPSPlatform，您可以开发在任何环境下的3D基础应用架构。HOOPSPlatform可以帮您打造3D创新型产品，HOOPSSDK包含的技术有：快速且准确的CAD

  2. 亚特兰蒂斯的回声（中文版): chatGPT 的杰作 - 2

    英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅，深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器，揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下，阿丽亚开始了一段危险的旅程，以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒，她被睿智勇敢的QueenNeria的幻象所指引，她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明，并了解到邪恶的巫师马拉卡勋爵试图利用其古

  3. ruby-on-rails - 您希望看到哪些 Rails 插件？ - 2

    您认为可以作为插件很好地存在于您的Rails应用程序中必须实现的哪些行为？您过去曾搜索过哪些插件功能但找不到？哪些现有的Rails插件可以改进或扩展，如何改进或扩展？ 最佳答案 我希望在管理界面中看到一个引擎插件，它提供了应用程序中所有模型的仪表板摘要，以及可配置的事件图表。 关于ruby-on-rails-您希望看到哪些Rails插件？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questio

  4. ruby - 实现k最近邻需要哪些数据？ - 2

    我目前有一个reddit克隆类型的网站。我正在尝试根据我的用户之前喜欢的帖子推荐帖子。看起来K最近邻或k均值是执行此操作的最佳方法。我似乎无法理解如何实际实现它。我看过一些数学公式(例如k表示维基百科页面)，但它们对我来说并没有真正意义。有人可以推荐一些伪代码，或者可以查看的地方，以便我更好地了解如何执行此操作吗？ 最佳答案 K最近邻(又名KNN)是一种分类算法。基本上，您采用包含N个项目的训练组并对它们进行分类。如何对它们进行分类完全取决于您的数据，以及您认为该数据的重要分类特征是什么。在您的示例中，这可能是帖子类别、谁发布了该项

  5. 智能客服 | 浅谈人工智能聊天机器人ChatGPT - 2

    2022年底，OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发，他展现的惊人能力将人工智能的研究和应用热度推向高潮，网上也充斥着和ChatGPT的各种聊天，他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复：人命关天的坑： 写歌，留给词作者的机会不多了。。。 回答人类怎么样面对人工智能： 什么是ChatGPT？借用网上的一段介绍，ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型，一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动

  6. 【ChatGPT】ChatGPT 的 N 种用法 - 2

    目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型，由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写，意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器（Trans

  7. ruby - 现代计算机的功能是否不足以处理字符串而无需使用符号(在 Ruby 中) - 2

    我读过的关于Ruby符号的每一篇文章都在谈论符号相对于字符串的效率。但是，这不是1970年代。我的电脑可以处理一些额外的垃圾收集。我错了吗？我拥有最新最好的奔腾双核处理器和4GBRAM。我认为这应该足以处理一些字符串。 最佳答案 您的计算机可能能够处理“一点点额外的垃圾收集”，但是当“一点点”发生在运行数百万次的内部循环中时呢？如果它在内存有限的嵌入式系统上运行呢？有很多地方你可以随意使用字符串，但在某些地方你不能。这完全取决于上下文。 关于ruby-现代计算机的功能是否不足以处理字符串

  8. ruby-on-rails - 是否有可能发现 Ruby on Rails 应用程序中未使用哪些类？ - 2

    在我们的项目中，我们有一些“被遗忘的”类存在了很长一段时间。那些类已被其他类替代，但我们忘记删除它们。是否有一些自动化的方法/工具可以发现Ruby{onRails}应用程序中没有使用哪些类？谢谢! 最佳答案 这个问题已经被提出了很多次，但是最好的答案都在这里:FindunusedcodeinaRailsapp我个人喜欢日志解析:https://stackoverflow.com/a/14161807但在任何情况下，您都可以创建自己的记录器，扩展ActiveRecord::Base以创建一个观察器，该观察器将最常用的模块存储在数据库中

  9. ruby - 哪些 IDE 可用于 jRuby？ - 2

    我进行了一些谷歌搜索，似乎缺少用于jRuby的IDE。我读过TextMate和Sublime，但它们不提供调试或代码完成功能。有人可以提出建议吗(或者这项技术还处于起步阶段)？ 最佳答案 有几个选项；我更喜欢JetBrains'IntelliJ(RubyMine).AptanahasanEclipseplugin.NetBeansusedtohaveofficialsupport，不确定currentstate是什么是。 关于ruby-哪些IDE可用于jRuby？，我们在StackOve

  10. ruby-on-rails - 对于诸如libyaml之类的已编译库，Ruby(或RVM)在文件系统中搜索哪些位置以加载或解析它们？ - 2

    操作系统:CentOS6.2x86_64很抱歉缩进太古怪了。这是我的第一篇SO帖子，我是新来设置服务器的。不过，我正在学习，并将详细说明我尝试解决此问题所采取的步骤以及寻求帮助的地方。我是一位有抱负的年轻Web开发人员，并且我在其他人配置的服务器上工作，因此，这对我来说是全新的。我正在准备我最近购买的用于运行Rails应用程序的linode。我遵循了此处http://blog.blenderbox.com/2011/01/07/installing-rvm-ruby-rails-passenger-nginx-on-centos/提供的初始安装指南，并更改了步骤:sudobash反射(

随机推荐