文章主题:关键词:ChatGPT, 大语言模型, 智能客服, 人工智能
作者|冬梅
ChatGPT 的问世,标志着现代 AI 军备竞赛的第一轮开火。以 GPT-4、ChatGTP、Bard 等为代表的大型语言模型,在全球范围内都引发了广泛的关注。结合 ChatGPT 的技术原理,我们可以预见在未来中短期内,ChatGPT 产业化的主要方向将包括智能客服、文字模态的 AIGC 应用、代码开发相关的工作以及图像生成等领域。在这些方向中,最为适合直接实施的项目,无疑是智能客服领域的工作。
大模型技术的应用使得智能客服的建设发生了根本性的变革。通过这种技术的运用,智能客服的对话流程能够得到自动生成,从而使得运营人员的工作效率大幅提升。这种方式不仅可以提高解决复杂问题的能力,还能增强人机交互的感觉,提升意图理解、流程构建、知识生成的效率。因此,我们可以预见,未来智能客服将更加智能化、高效化。
在过去七八年中,智能客服已经在电商和金融等领域逐渐普及。这主要得益于两个关键变革:其一是开发智能客服产品的成本大幅降低,这要归功于大模型的出现;其二是用户体验得到了显著提升,这也是智能客服技术不断演进的结果。
在大约2016年的时候,构建一个智能客服的原型产品需要一个由七八人组成的小团队花费几个月的时间才能完成。然而,随着大型模型的出现,现在的工程团队仅需两到三天就能实现这一目标。尽管将原型产品转化为实际可用的产品仍需更长时间,但与过去相比,人力和时间的投入成本已经大幅度降低,呈现出数量级的差距。
另外,之前的智能客服产品尽管被称为“智能”,但在回答问题时却给用户留下了“机器人”的刻板印象。这些问题基本都是通过预先设定的模板来回答的,而且能够回答的问题范围也相对有限。然而,如今的大语言模型可以根据用户提出的问题以及相应的标准答案,提供个性化的解决方案。这样一来,用户在使用智能客服时已经很难区分是人还是机器提供的服务,这在很大程度上提升了用户体验。
新一代智能技术的突破,特别是大模型的出现,为智能客服带来了强大的自然语言生成能力,正在推动智能客服向更智能、更高效和更个性化的方向发展。
在当前的智能客服领域中,大语言模型的应用前景看似十分广阔,然而,我们也不能忽视它在实际应用中存在的一些问题。首先,我们需要面对的是,尽管大语言模型已经展现出强大的能力,但其生成的结果并不十分稳定,其可信度也还有待提高。如果我们草率地将这样一款成熟稳定的产品引入大语言模型,可能会带来难以预料的变化,甚至可能影响到产品的质量和客户体验,以及浪费大量的人力和物力资源。因此,对于大语言模型的应用,我们需要谨慎对待,确保其在合适的场景下发挥出最大的价值。
要将 LLM 大语言模型与智能客服产品融合,或将其应用于 ToB SaaS 应用软件领域,首先需要构建相应的技术栈。在这个过程中,大模型产品将为智能客服产品提供强大的赋能支持。为了深入探讨这一议题,我们采访了华院计算技术总监兼数字人事业部联合负责人贾皓文以及中关村科金智能交互研发总监、中关村科金智能客服技术团队负责人王素文。他们共同探讨了 AIGC 在智能客服产品中的实际应用及其未来发展前景。
大模型在智能客服领域的落地可以看到,目前 AIGC 智能客服的优势⾮常明显,随着 AIGC 智能客服技术的不断升级和完善,其在⾦融、电商、物流等领域的应用前景也是十分乐观的。
但在大模型掀起一场“新革命”革命之前,我们还需要为其铺好每一段路,不能操之过急。比如在智能客服产品领域中,对话通常是限定于特定业务领域和任务驱动的需求。但客户并不希望访客进来只是为了寻找⼀个超级智能、善解⼈意、会写会画的聊天机器⼈。对话内容必须在企业业务范畴内收敛,服务于客服和营销场景,解决和处理问题,不要浪费宝贵的资源。直接将 ChatGPT 这类大模型引⼊客服领域⽽不加控制,其结果难免会让人失望。
构建一款能够实际应用于业务中的大模型并非容易事,通常需要完成多项步骤,包括大模型选型、数据采集清洗、模型训练、模型测试与评估、模型微调、部署应用等。具体链路:
选择开源的通用大模型
收集领域数据,用领域数据继续训练开源大模型(学术上叫知识注入),得到领域大模型
整理领域任务的指令集合(可以半自动生成),用这些指令数据对领域大模型进行指令微调
筛选优质的真实场景的客服多轮对话数据,继续微调领域大模型(使领域大模型的对话能力增强)
收集一些安全相关的问题(例如涉及到政治、敏感话题、歧视等),人工给出符合安全要求的答案,继续微调大模型(对齐到人类的价值观、规范)
模型部署,对接智能客服系统进行应用
数据准备对话模型的训练数据应该具有足够的质量和多样性,以提高模型的泛化能力。对话数据可以通过爬虫、问答社区、对话记录等多种方式获得。在获得数据后,需要进行数据清洗和预处理,使得数据格式规范、数据质量高。
模型训练在准备好训练数据后,就可以开始训练大模型了。在训练过程中,需要选择合适的超参数,如学习率、批量大小、训练轮数等,以达到最佳的效果。另外,在训练过程中,可以使用分布式训练技术,以加速训练过程。
模型优化在模型训练完成后,需要对模型进行评估和优化,以提高模型的泛化能力和效果。常见的优化方法包括调整超参数、增加训练数据、使用正则化技术、剪枝模型等。另外,也可以通过模型蒸馏等技术,将大模型的知识转移给小模型,以提高小模型的效果。
对话生成在模型训练和优化完成后,就可以进行对话生成了。对话生成可以通过两种方式实现:一种是使用单个模型进行对话生成,另一种是使用多个模型进行对话生成。在使用单个模型进行对话生成时,需要对话模型具备记忆能力,即模型可以通过上下文信息,生成更加合理、连贯的对话回复。在使用多个模型进行对话生成时,可以利用模型的多样性,生成更加丰富、多样的对话文本。
在智能客服产品中,最需要内容⽣产能⼒的地⽅,莫过于知识库。⼀般⽽⾔,智能客服产品都具备这样⼏类知识库:内部知识库、机器⼈知识库和外部知识库。
对于内部知识库,⼀般将其定义成需要实时定位查询使⽤的知识库。由于企业的业务变化频繁,知识库的调整需要及时到位。传统的上传、编辑、整理等流程⾮常耗费⼯作量。引⼊大模型,可以协助⾼效智能的协助员⼯归类、⽣成知识库的类⽬及明细。同时,还可以增加对外部数据源的引⽤,并减少知识库的同步操作。⽤户在实际应⽤时,还可以给对知识点给出反馈,帮助知识库⾃动调节权重。
机器⼈知识库是⽂本和语⾳机器⼈能够回答访客问题的核⼼所在。机器⼈知识库的有效内容对于机器⼈的表现⾄关重要。对于未知问题的整理,需要智能客服使⽤者⼤量投⼊⼯作量。借助⽤户反馈对未知问题进⾏⾃动整理和关联,能节省很多知识库维护者的⼯作。同时,通过多机器⼈组合的⽅式,在⼀通会话中接⼒棒⼀般服务于客户的不同场景,大模型专属机器⼈也可以在特定的场合发挥能⼒,并逐步替代⼀些以往模式僵化的问答型机器⼈。
而外部知识库需要整合在智能客服产品中,将已整理的知识内容转化为输出产物,更⽅便⽣成知识⽂章、图⽚、甚⾄⾳视频。基于 ChatGPT 的多模态的 AIGC 能⼒,可以快速⽣成⼀个个性化的知识空间。
总的来说,还是利⽤大模型⾃⾝的⽣成能⼒,基于向量数据库、可信内容审核等技术,为智能客服提供优质的内容补充。
尽管大模型在智能客服领域的构建流程和链路已经基本清晰,但在实际落地过程中仍然面临着多种挑战。
据受访专家透露,这些挑战主要来自数据层面,以及和实际客户的系统场景对接层面,产品本身反而是比较容易的。例如,新要上的系统的客户数据本身是原始的数据,需要清理出高质量的结构化的数据才能够有一个比较好的效果,但这一步是十分困难的。
第二个是当实际深入到业务中去的时候,会出现各种信息散落在客户内部的各种系统里的情况,只有把这些信息打通才能有一个好的效果和体验。这些都是未来需要重点攻破的难题。
做 Demo 很容易,但是要深入场景的成本,其实主要不在有一个模型上,其实没法给一个具体的数字。 如何让智能客服说“人话”?目前,以 ChatGPT 为代表的大模型已经在许多企业中用于智能客服应用。它可以通过自动回答常见问题、解决简单问题和提供基本支持,减轻人工客服的负担。大语言模型通过深度学习和大量的语言数据训练,能够理解和生成人类语言,使得用户能够以自然的方式与它交互。在一些常见的客户查询和问题解答方面,这类大模型已经取得了相当不错的效果。
然而,当前的大语言模型在实际应用于智能客服场景中时仍存在一些挑战——它可能会生成错误或不准确的回答,尤其是对于复杂的问题或领域特定的知识,这就对智能化程度提出了更高的要求。未来的在线客服系不仅需要更高级的算法和机器学习技术,还需要更多精准的自然语言处理能力。这将对在技术上不太强大的企业形成巨大的压力。
此外,随着用户数量和访客量的增多,未来智能客服将需要处理超大规模的并发请求。这需要系统在多种方面都拥有特殊的设计,如负载均衡、高可扩展性和高可用性等。
现在市面上的很多对话机器人,回答是单一固定的,变化比较少,与真实的人与人对话还有差距,未来的智能客服系统将需要进一步加强对用户行为的自适应性和个性化服务。这就需要系统学习更多的用户数据和信息,并适应不同的用户行为,为他们提供更好的服务和体验。如何提升用户体验就成为了智能客服供应商主攻的方向。
具体来讲,主要应从人性化服务、个性化服务和拟人化的对话交互方面进行改进。
首先是人性化服务。在场景和意图理解精准的基础上,附加更有温度的对话语境,可以让机器人在拟人化上,再进一步。多模态情感计算是实现这一步的有效方法。目前,我们正在推进虚拟数字人客服进行人机交互对话,在此过程中结合情感计算,可识别用户通过视频、语音、文本所传递的情感表达,让智能客服在应对是作出相应情感反馈,打造具有情感理解、有温度的人机交互。这种多模态情感计算技术的实现方法主要是通过基于专家规则和基于机器学习两种。其中,基于机器学习的方法通过训练模型来自动学习情感状态的分类标准,可以更好地适应不同领域、不同语境下的情感表达,效果相对更优些。
其次是拟人化的对话型交互。通过场景化设计优化,比如问题拆解、主题继承、多轮对话、上下文理解等等,机器人能够带来一种更加贴近自然对话场景的对话型交互模式。
第三是个性化服务。根据客户画像千人千面提供个性化服务,从多角度出发进行语义理解,此外还要附加语音情绪判别。
大模型诞生后,无疑为智能客服领域注入了新的“营养剂”。这种“革新”体现在多个方面,包括座席辅助和座席提效、闲聊寒暄、话术优化建议、提供语料扩写等。
座席辅助和座席提效:过去的智能辅助更多局限于按单轮对话来完成,基于大模型的能力能够快速分析并生成面向客户侧的系统支撑策略,这种处理效率和结果,远超出依附纯规则或者纯知识库所能达到的效果;
闲聊寒暄:是智能客服非常关键的基础能力,能够帮助企业对任意进线客户进行即时响应。过去的智能客服闲聊主要是将各类非业务相关的语料堆到素材库,并通过调取数据库已有的关键词进行内容的回复。如今可以充分借助大模型能力提供闲聊,在非业务领域上为座席和客服提供更多决策依据和参考;
话术优化建议:话术往往决定了客服的效果,话术回复不精准将直接导致用户的流失。通过大模型强大的内容生成能力,智能客服能够对话术进行不断地迭代和与优化,提升客户满意度;
提供语料扩写:在智能客服冷启动阶段,往往需要足够多的语料来丰富知识库的相似问法,以保证上线初期智能客服有足够高的解决率和场景覆盖率。以往的语料生成模型很难覆盖众多垂直行业和领域,大模型在通用领域中积累了足够的数据和语料,可以很好的弥补语料生成模型的不足,快速生成相似问法,解决智能客服冷启动语料不足,场景覆盖率低等问题。
归根结底,提高对话质量的核心还是理解客户和用户的场景,以及能够搭建出衡量得失的数据框架。这两个组合之下,会有一个循环反馈的过程,就能够通过正常的产品迭代达到好的效果,并且能够衡量出来 ROI 和对实际业务的共享。
未来,AIGC 是否会完全取代客服人员?随着全社会点数智化进程步入深水区,越来越多的企业开始使用数字化工具——智能客服系统来做好客户服务,打造极致体验,进而提升企业核心竞争力。
无论是垂直领域还是通用型职能客服厂商,都希望凭借 AIGC 技术的成熟让企业更上一个台阶。但要想把梦境变为现实,仍然任重⽽道远。⽐如需要衡量成本与收益之间的投⼊产出⽐、需要保证⽤户的数据隐私安全并遵守相关的法律法规、需要保证产品在不同⾏业场景的通⽤性及灵活度。
就客服行业而言,传统人工客服向智能客服升级是必然趋势,但在可预见的未来内,智能客服还无法完全替代人工客服。它们分别有不同的特点和定位,在处理复杂问题以及对高潜客户跟进的服务场景中,人工客服仍然处于不可或缺的地位。因此,企业需要根据自身实际情况,综合考虑人工客服和智能客服的优势,从而制定最佳的客户服务策略。
整体来看,AIGC 未来有较广阔的发展空间,未来两三年 AIGC 和类 ChatGPT 产业将高速发展,带来互联网和企服产业的进一步升级和变化。
不过目前在内容质量、投入成本、数据安全、隐私规范、版权归属等方面仍存诸多问题。另外,在长文本生成、视频生成、融入世界知识等方面,还需更好的建模方法;通过加大模型参数增强 AI 能力,其训练和推理成本高昂,需要探索更经济、有效的性能改进途径。
采访嘉宾 :贾皓文,华院计算技术总监兼数字人事业部联合负责人,原阿里巴巴集团架构师,也是一位连续创业者。
王素文,中关村科金智能交互研发总监、中关村科金智能客服技术团队负责人。
AIGC 课程推荐
极客时间《AI 大模型应用开发 · 实战营》首发,作者是深耕 AI 领域多年的技术专家彭靖田。
课程 8 周全程直播授课,覆盖硬件选型、大模型理论、 LangChain 开发框架剖析和落地实践,全程紧贴实际生产环境。现在市面上流行实用的,比如 AutoGPT 数字员工、翻译助手、智能销售顾问等经典项目,课程中都会带你动手实践。
不容错过的历史机遇,帮助你掌握利用大模型开发相关的 AI 应用的能力!
活动推荐OpenAI 推出的 ChatGPT 带来了革命性的变化,整个 IT 生态面临大模型(LLM)的洗牌和洗礼。在这个过程中,架构师、工程师会遇到前所未有的挑战和机遇。
在 7 月 21 – 22 日深圳站 ArchSummit 架构师峰会上,我们邀请了出门问问工程 VP 李维博士来会议现场分享最新的研究成果。让你放下焦虑,找到解决思路。点击「阅读原文」查看专题详情。
今日荐文OpenAI 又赢麻了!谷歌 DeepMind 创始人刚称 Gemini 能碾压 GPT-4,OpenAI 的挖人大计就出炉了
引领手机向“全知全能”进化!iOS版ChatGPT推出联网模式:集成Bing搜索功能,仅对付费用户开放
瞄准 B 端!腾讯云推多款行业大模型解决方案,打造模型应用商店
AIGC领域最大收购:Databricks花费13亿美元买下只有15名研发的小公司!
你也「在看」吗? ?
关键词:ChatGPT, 大语言模型, 智能客服, 人工智能
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!