
AI语言模型中的ChatGPT近期在互联网平台上引起了广泛的讨论。那么,如果想将这个大型语言模型应用在智能客服产品中,或者将其在ToB SaaS应用软件领域落地,应该采用哪种构建策略?
现在ChatGPT这个大型语言模型已经在各种平台获得了广泛的关注。那么,如果在ToB SaaS应用软件领域中想要将LLM大语言模型应用于智能客服产品中,应该如何实现呢?
首先,我们需要解决一个问题:在智能客服领域,是否值得使用LLM大语言模型进行智能化产品改造?
让我们先综合考虑一下智能客服产品的几个典型特征:
智能客服是高度依赖人工操作的系统,需要解放生产力,提高效率。
智能客服产品能够沉淀大量过程性数据,例如会话信息、通话记录、录音和操作日志。这种数据能够为人工智能应用提供基础。
这类产品往往可以通过业务流程抽象来实现,例如IVR语音交互、外呼任务和工单流转等。
智能客服早已成为人工智能技术的先锋之一,例如文本机器人、语音机器人和智能质检等应用已经非常成熟。客户和用户对此也已经接受并习惯。
综上所述,如果某个行业拥有相对落后的生产工具、标准的生产流程、大量未充分处理的数据且不排斥人工智能技术,那么这个行业无疑是值得LLM大语言模型落地生根的沃土。
虽然LLM大语言模型在智能客服产品中的应用前途广阔,但现阶段看来,其应用仍处于不成熟的阶段。
这就是一个见仁见智的问题了,大家的产品架构不同,目标客群不同、业务规模不同、主打产品各异。
我们可以假设,已经有了一套得到验证,稳定运营的成熟产品,不希望引入LLM带来现有产品的巨大变化,进而影响客户体验。如何搞?
提倡拥抱变化,嘴上鼓吹AGI通用人工智能带来行业巨变,这些都没问题,真要不破不立,付出真金白银的代价来决策,去执行,还是一个很难抉择的命题。
考虑我们的产品架构是否能够支持LLM大语言模型的应用。目前我们的主打产品架构由于历史原因显得陈旧,模块化解耦不完善,性能瓶颈难以解决。虽然我们有很多生产客户,但这也使得我们难以轻易地改动架构。在这种情况下,如果将ChatGPT整合到我们的架构中,将会带来更多的沉重压力。
因此,我们需要先确定我们的下一步行动是优化当前架构还是探索新的LLM应用方案。这就好比对待老房子改造,我们需要先施工打好基础,或者简单装修打造软装。如果历史包袱较重,我们也可以另起炉灶,组建一支精锐团队进行探索。这也可以看作是给原有池塘投入一只鲶鱼。
设计顶层应用之前,我们需要先梳理一下我们需要的工具,例如AI引擎管理、数据建模工具、意图管理、标签标注和管理、流程生成工具、业务构建工具等等。
引入ChatGPT的能力,相对于以前智能客服产品所使用的自然语言处理、语义理解、意图识别、关键字和正则处理等方式,带来了颠覆性的改变。借助其能力,我们可以使用上下文关联、逻辑链提示处理等方式,摆脱以前的手把手定义流程、字词句填槽的旧模式,从而实现极大的改进。
如果以前构建复杂的AI应用需要半编程化的方式,那么使用ChatGPT就更像是RPG游戏编程工具,通过场景搭建、角色扮演、提示格式化、逻辑化等方式来构建应用,并辅以人工反馈监督。
这种方式是可行的。如果我们做得足够好用,我们甚至可以邀请用户参与“游戏”开发。
此外,很多工具本身也可以通过借助ChatGPT进行智能化改造,以更高效、智能的方式来处理数据、生成数据。例如,我们可以通过自动训练和标注、知识库的自动化扩充来代替语料手工标注,代替传统问答对的低效人力处理,并给出标准问题,自动扩展相似问题等等。
最后让我们讨论一下智能客服应用的设计,这个层面是用户能够感知到的界面和内容。
为了更好地体现ChatGPT的优势能力,我们可以以智能客服的典型场景为例,探讨其所能带来的富有创意的改变。
ChatGPT无疑带来了非常强大的对话能力,我们十分期待并开始思考它加入智能客服对话中的效果。
然而,在智能客服产品领域中,对话通常是限定于特定业务领域和任务驱动的需求。我们的客户并不希望访客进来只是为了寻找一个超级智能、善解人意、会写会画的陪聊机器人。对话内容必须在企业业务范畴内收敛,服务于客服和营销场景,解决和处理问题,不要浪费宝贵的资源。
直接将ChatGPT引入客服领域而不加控制,就好比你回家发现扫地机器人不工作,而隔壁的智能吸尘器却会和你侃侃而谈,你会感到很失望!
因此,构建增强型对话能力的过程中,我们一方面可以借助ChatGPT简化对话流程的设计。以前需要设置无数个意图和上下文才能实现的方式,现在可以使用开箱即用的自然语言对话获取和格式化提示,完成限定任务并收集访客数据和意向。另一方面,我们可以通过私有化训练和公共文本数据的结合,为访客提供不僵化、更优质的回答体验。
将ChatGPT与传统的文本和语音机器人能力结合起来,将为智能客服机器人服务能力带来质的飞跃。
虽然传统智能质检已经非常成熟,但是通过结合ChatGPT的预训练能力和业务规则定义,可以实现更智能的质检结果输出,而无需复杂的设置。
我们可以将一定数量的优质录音和文本投入模型中,并告知ChatGPT哪些因素可以提高质检分数,从而让模型自动判断生产数据的质量。接着,我们可以通过手动质检来进行对齐和调优,让ChatGPT不断学习和改进。
同样地,我们可以通过提供优质的数据样本、定义正确的流程和加分因子,不断地让ChatGPT在数据的滋养下,为座席提供更好的智能辅助功能。虽然原有的辅助功能框架可以保留,但是在内部,它将成为一个不断进化、自动学习的“业务助理”。
基于智能质检和智能辅助的基本能力,针对企业内部培训场景,我们可以利用现有数据样本,更自动化地生成一个内训"教官"。业务管理人员可以针对不同的岗前培训、业务流程、服务过程等设置不同的内训主题,让内训机器人在训练过程中获得足够的标准语料,从而指导座席进行自我训练。这种方案对于注重学习能力和管理能力的运营型客户具有很强的吸引力。
在智能客服应用中,需要手动输入大量表单,如客户资料、跟进记录和服务工单。目前,有一些CRM产品已经尝试使用ChatGPT进行智能填单的实验应用。以往的实现方式需要进行复杂的工程化设计,实时匹配会话文本,进行词性分析、语义分析和关键字查找等操作,但是这些方法的表现经常不尽如人意。随着LLM大语言模型的出现,我们可以期待它的超强能力可以有效提升这类产品的实用性。
全功能的智能客服产品是一个非常复杂的产品,拥有众多功能和高上手难度。
许多设计需要操作者进行复杂的操作、跳转、配置和调整。以前的帮助方式通常是简单的页面提示或者是像维基一样庞大的在线帮助页面,对用户来说不够友好,对开发者来说也有沉重的更新和维护负担。
但是,使用智能助理模式的在线帮助,不同角色的用户可以通过简单的对话式体验实时获得帮助,甚至进行功能性的配置和要求,智能助理可以精准理解用户的对话,直接进行配置和修改。
例如,系统管理员唤起智能配置助理:
“小M小M,请帮我查找近半个月名字叫做***的客户的所有访问和对话记录。”
对于小M的能力来说,这是小菜一碟。
“小M小M,我需要设置一个清明节的IVR语音导航,所有清明节时间呼入的电话都要播放这样一句话:***。”
这个需求有一定的风险,出于谨慎的目的,小C需要反复确认一些关键配置要素,以确保没有误操作。
智能客服产品中,最需要内容生产能力的地方,莫过于知识库。
产品必备的知识库通常分几类:内部知识库、机器人知识库和外部知识库。
对于内部知识库,这是提供给座席使用者,实时定位查询使用的知识库。由于企业的业务变化频繁,知识库的调整需要及时到位。一般需要专人进行上传、编辑、整理,这是一个非常耗费工作量的事情。引入ChatGPT,可以协助高效智能的归类和自动生成知识库类目、明细。如果增加对外部数据源的引用,知识库还可以自动关联,减少知识库同步的操作。使用者在应用中,可以给与知识点反馈,帮助知识库进行权重自动调节。
机器人知识库是文本和语音机器人能够回答访客问题的核心所在。机器人知识库的有效内容对于机器人的表现至关重要。对于未知问题的整理,需要智能客服使用者大量投入工作量。借助用户反馈对未知问题进行自动整理和关联,能节省很多知识库维护者的工作。同时,通过多机器人组合的方式,在一通会话中接力棒一般服务于客户的不同场景,ChatGPT专属机器人也可以在特定的场合发挥能力,并逐步替代一些以往模式僵化的问答型机器人。
外部知识库需要整合在智能客服产品中,将已整理的知识内容转化为输出产物,更方便生成知识文章、图片、甚至音视频。基于ChatGPT的多模态的AIGC能力,可以快速生成一个个性化的知识空间。
数据预测类应用是基于对智能客服数据的预测分析。建设数据预测类产品可能需要很重的CDP数据平台建设,CEM客户体验管理等方式,但如果ChatGPT可以更高效精准的进行销售意向,行为,成交概率的预测,对利润中心导向的智能客服产品,将具有很大价值。
以上内容充满了构想和想象,但如果要真正将这些想法付诸实践,我们必须同时考虑以下几个问题:
这些问题只是冰山一角,我们需要深入研究和思考,才能确保产品能够真正落地,并为客户带来价值。
最后,我们期待与大家进行深入交流,分享更多的想法和经验,共同探索ChatGPT等技术的应用和发展。同时,我们也期待ChatGPT和文心一言能够为我们解答更多的问题和提供更多的帮助。


英文版英文链接关注公众号在“亚特兰蒂斯的回声”中踏上一段难忘的冒险之旅,深入未知的海洋深处。足智多谋的考古学家AriaSeaborne偶然发现了一件古代神器,揭示了一张通往失落之城亚特兰蒂斯的隐藏地图。在她神秘的导师内森·兰登教授的指导和勇敢的冒险家亚历克斯·默瑟的帮助下,阿丽亚开始了一段危险的旅程,以揭开这座传说中城市的真相。他们的冒险之旅带领他们穿越险恶的大海、神秘的岛屿和充满陷阱和谜语的致命迷宫。随着Aria潜在的魔法能力的觉醒,她被睿智勇敢的QueenNeria的幻象所指引,她让她为即将到来的挑战做好准备。三人组揭开亚特兰蒂斯令人惊叹的隐藏文明,并了解到邪恶的巫师马拉卡勋爵试图利用其古
注意:本文主要掌握DCN自研无线产品的基本配置方法和注意事项,能够进行一般的项目实施、调试与运维AP基本配置命令AP登录用户名和密码均为:adminAP默认IP地址为:192.168.1.10AP默认情况下DHCP开启AP静态地址配置:setmanagementstatic-ip192.168.10.1AP开启/关闭DHCP功能:setmanagementdhcp-statusup/downAP设置默认网关:setstatic-ip-routegeteway192.168.10.254查看AP基本信息:getsystemgetmanagementgetmanaged-apgetrouteAP配
基础版云数据库RDS的产品系列包括基础版、高可用版、集群版、三节点企业版,本文介绍基础版实例的相关信息。RDS基础版实例也称为单机版实例,只有单个数据库节点,计算与存储分离,性价比超高。说明RDS基础版实例只有一个数据库节点,没有备节点作为热备份,因此当该节点意外宕机或者执行重启实例、变更配置、版本升级等任务时,会出现较长时间的不可用。如果业务对数据库的可用性要求较高,不建议使用基础版实例,可选择其他系列(如高可用版),部分基础版实例也支持升级为高可用版。基础版与高可用版的对比拓扑图如下所示。优势 性能由于不提供备节点,主节点不会因为实时的数据库复制而产生额外的性能开销,因此基础版的性能相对于
我有三个模型:User、Product、Offer以及这些模型之间的关系问题。场景:用户1发布了一个产品用户2可以向用户1发送报价,例如10美元用户1可以接受或拒绝提议我现在的问题是:用户、产品和报价之间的正确关系是什么?我如何处理那些“接受或拒绝”操作?是否有更好的解决方案?用户模型:classUser:productsend产品型号:classProduct:usersend提供模型:classOffer提前致谢:)编辑:我正在使用Rails3.2.8 最佳答案 警告:小小说来了第1部分:设置关联我建议阅读Railsguideo
前面一篇关于智能合约翻译文讲到了,是一种计算机程序,既然是程序,那就可以使用程序语言去编写智能合约了。而若想玩区块链上的项目,大部分区块链项目都是开源的,能看得懂智能合约代码,或找出其中的漏洞,那么,学习Solidity这门高级的智能合约语言是有必要的,当然,这都得在公链``````以太坊上,毕竟国内的联盟链有些是不兼容Solidity。Solidity是一种面向对象的高级语言,用于实现智能合约。智能合约是管理以太坊状态下的账户行为的程序。Solidity是运行在以太坊(Ethereum)虚拟机(EVM)上,其语法受到了c++、python、javascript影响。Solidity是静态类型
安全产品安全网关类防火墙Firewall防火墙防火墙主要用于边界安全防护的权限控制和安全域的划分。防火墙•信息安全的防护系统,依照特定的规则,允许或是限制传输的数据通过。防火墙是一个由软件和硬件设备组合而成,在内外网之间、专网与公网之间的界面上构成的保护屏障。下一代防火墙•下一代防火墙,NextGenerationFirewall,简称NGFirewall,是一款可以全面应对应用层威胁的高性能防火墙,提供网络层应用层一体化安全防护。生产厂家•联想网御、CheckPoint、深信服、网康、天融信、华为、H3C等防火墙部署部署于内、外网编辑额,用于权限访问控制和安全域划分。UTM统一威胁管理(Un
2022年底,OpenAI的预训练模型ChatGPT给人工智能领域的爱好者和研究人员留下了深刻的印象和启发,他展现的惊人能力将人工智能的研究和应用热度推向高潮,网上也充斥着和ChatGPT的各种聊天,他可以作诗、写小说、写代码、讨论疫情问题等。下面就是一些他的神回复:人命关天的坑: 写歌,留给词作者的机会不多了。。。 回答人类怎么样面对人工智能: 什么是ChatGPT?借用网上的一段介绍,ChatGPT是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动的自然语言处理工具。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动
目录ChatGPT简介技术原理应用未来发展ChatGPT的10 种用法ChatGPT简介ChatGPT是一种基于深度学习的大型语言模型,由OpenAI公司开发。技术原理GPT是GenerativePre-trainedTransformer的缩写,意为生成式预训练变压器。它的技术原理是使用了一个基于注意力机制的变压器(Trans
我一直在学习Ruby,所以我想我应该尝试一下项目中的一些Euler难题。尴尬的是,我只完成了问题4...问题4如下:Apalindromicnumberreadsthesamebothways.Thelargestpalindromemadefromtheproductoftwo2-digitnumbersis9009=91×99.Findthelargestpalindromemadefromtheproductoftwo3-digitnumbers.所以我想我会在嵌套的for循环中从999循环到100并测试回文,然后在找到第一个(应该是最大的)时跳出循环:final=nilrang
我正在使用Rails创建一个新产品,并想为每个产品添加一个类别。我有三个表:产品、类别和分类(存储产品和类别之间的关系)。我正在尝试使用嵌套属性来管理分类的创建,但不确定应如何更新我的Controller和View/表单,以便新产品也更新分类表。这是我的模型:classProduct:categorizationshas_attached_file:photoaccepts_nested_attributes_for:categorizations,allow_destroy:trueattr_accessible:description,:name,:price,:photovali