大模型结合 RAG 构建客服场景自动问答.docx

大模型结合RAG构建客服场景自动问答

齐家兴，NVIDIA资深解决方案架构师

RAG基本概念

?检索增强生成（RAG）从外部知识库检索事实，结合大语言模型针对用户的问题作出回答。它确保模型能够访问必威体育精装版、可靠的事实，并且用户能够访问检索的来源，确保可以检查其声明的准确性。

?开源工具包LangChain,LlamaIndex等提供了构建RAG的众多组件:

?文件读取(word,pdf,md,html,…)

?索引(vectorDB,keyword,knowledgegraph,….)

?存储(vectorstore,KVstore,graphstore,….)

?大模型(ChatGPT,LLaMa,….)?评估

?RAG是一种范式，需要根据场景定制达到最好效果。

客服场景自动问答

背景介绍

?已有的自动回复系统

?现有的客服自动回复系统由两个部分组成：自动回复和人工客服

?当用户提问时，系统使用关键词匹配的方法从预先准备好的问答对中寻找相关答案。如果匹配失败，系统返回若干相似的问题让用户进行选择。如果用户不满意，可以呼叫人工客服对话。

?关键词匹配的方法虽然简单但经常失败，因为即便一个字不同也无法匹配，例如登陆vs.登录

?自动问答系统的目标

?借助大模型更精准的回答用户问题，提升服务效率，降低人工成本。

用户

用户：登陆

客服：您是不是要咨询以下问题：1，无法登录

2，手机端如何登录3，账号被盗

4，从哪里下载PC端程序5，找回登录名

用户：找回登录名

客服：你可以参考网页链接进行找回。

使用关键词匹配进行自动回复

客服场景自动问答

数据情况

?我们在这个场景中可以使用的数据：

?客服部门的内部的规则介绍和常见问题，作为知识库用来回答用户问题。文本格式与内容无规则。

?一千条左右的用户与人工客服之间的真实对话记录。

?400条用户真实问题作为测试集评估效果。

访客

你好，我上次的问题解决了么？

客服

您好，请稍等

客服

让您久等了，关于您的问题这边已经反馈给工作人员进行核实了，具体结果会在3个工作日内通过@客服私信回复您的，烦请您耐心等待下的

访客

谢谢

客服

您客气了

真实用户与客服对话记录片段

如您开启登录保护验证，请点击查看登录提示需要【登录保护验证】

解决办法为了确保您的账号安全，使用密码登录时，需完成短信或私信等方式验证，验证通过即可登录。验证时您可以选择接收短信验证码验证、私信验证、扫码验证或选择其他方式验证。1、如验证时页面出现异常，建议您清除浏览器缓存或换个浏览器再进行尝试，如提示频繁，建议休息一段时间再进行尝试。*注：如选择私信验证方式，建议关注安全中心，以免出现收不到私信验证码的情况2、如验证时提示“暂不支持该手机号验证，请更换后重试”或“系统错误，请稍后再试”，建议您使用曾经验证过此账号的手机号进行验证。

您好，登录提示【账号长期未使用，已处于保护状态】是由于账号长期未使用，存在较大安全隐患。依据《服务使用协议》，系统自动处置为保护状态所致。建议您在登录页面输入账号密码后，根据页面提示进行账号激活，或重新注册新账号使用。操作流程如下：一、希望继续使用该账号1、点击【激活账号】进行账号激活，选择【希望使用该账号，申请激活】进入验证页面；2、您可根据页面提示：

①点击【获取短信验证码】，使用手机获取验证码方式进行验证后即可登录账号；②点击【使用其他方式验证】进行扫脸验证，通过验证后即可登录账号。如扫脸时提示“今日扫脸机会已用完，请明天再试”，建议您第二天零点之后再尝试扫脸。③如无法通过绑定手机或扫脸验证，可通过申请激活方式进行自助反馈，相关工作人员核实后会尽快做出回复，反馈结果您可在客服中心--服务记录中查询。二、不想再使用原账号如不想再继续使用原账号，可点击【不再使用该账号，注

页面左下角的【有用】，期待您的反馈册新账号】重新注册账号即可。如内容

页面左下角的【有用】，期待您的反馈

客服内部的规则介绍和常见问题片段

客服场景自动问答

系统流程

Pretrain/SFT

EmbeddingModelRerankQApairsDataprocesstextchunksRawFAQLogembeddingsPrompt+query+

EmbeddingModel

Rerank

QApairs

Dataprocesstextchunks

RawFAQLog

embed