AI Agent - 在业务增长中的落地实践.pptx

AIAgent-在业务增长中的落地实践51Talk资深架构师

目录案例简介智能客服面临的困境与挑战智能客服落地过程中的曲折与困难Agent概念简介智能客服落地过程中的关键实践成绩与展望

我们的AI客服不仅具备常规的回答问题功能，更拥有主动与用户沟通的机制，能够从用户语言和业务事件中感知用户行为，调整沟通策略，同时，它还能与其他人工岗位进行协作，通过人机协作显著提升业务指标。亮点：主动沟通、情感感知、动作感知、人机协作独特性：我们的AI智能体客服并不是一个传统意义上的聊天机器人，而是一个智能助手，能够主动识别和解决问题。这种创新设计显著提高了新用户的注册成功率和约课效率，同时减少了人工客服的工作量，为公司节省了大量成本。通过这项技术，我们成功地提升了客户满意度和忠诚度，为公司的业务增长注入了新的动力。案例简介

案例背景我们是一家致力于提供优质的在线教育服务的公司。随着海外业务的发展、广告投放力度的加大，我们的用户没有得到一个高质量的服务，伴随而来的也有一系列挑战。遇到的问题用户多，客服和销售少，服务不及时人员频繁换代人才模型与服务模型不匹配无法24小时工作基础性劳动占用精力过多高成本案例背景 海外客服面临的困境和挑战

全方面模拟人类在真实场景中的活动，不是简单的答疑智能客服成功要点

智能客服落地过程中的曲折与困难51Talk智能客服的核心指标：预约率、出席率传统聊天助手的核心功能自动回复-QABot主动引导-TaskBot（SOP）槽位识别-核心数据获取传统NLP技术：能很好的处理结构化的数据，但处理非结构化的数据非常低效，流程冗长，且不能实时化大模型技术：将非结构化的文本内容结合RAG形式给到大模型，大模型基于文档自动组织答案

在开发这款AI只能客服机器人的过程中，我们还经历了许多传统电商智能客服所没有的的曲折和挑战。用户行为不符合预期计算能力不足创新和思维跳跃交互模式僵化缺乏主动服务意识如何人机协作智能客服落地过程中的曲折与困难

AI Agent 是什么？Agent概念理解

Agent概念理解LLM大语言模型LLM具有明显的能力边界，它无法获取实时数据（甚至是过期数据），另外，一切的推理全部依赖prompt，但它的篇幅是有限的。

Agent概念理解AutoGen，MetaGPT，SemanticKAIAgent--query=未来两天北京天气如何？

Agent概念理解FunctionC

Agent概念理解CoTReAct《ReAct：语言模型中推理和动作的协同作用》《思维链提示引发了大型语言模型中的推理能力》Chain-of-ThoughtPromptingElicitsReasoninginLargeLanguageModels论文地址：/pdf?id=_VjQlMeSB_JREACT：SYNERGIZINGREASONINGANDACTINGINLANGUAGEMODELS论文地址：/pdf/2210.03629项目页面：https://react-lm.github.io/ReAct=Reason+Act=推理+动作=LLM+T

Agent概念理解ReAct并不是一种工程范式，如何引导大语言模型最大程度的释放推理能力，不同的框架/产品给出的答案略有不同。ReAct也不是唯一的方法论。SemanticKernel（Java）/microsoft/semantic-kernel/tree/main/java/extensions/semantickernel-planners/src/main/java/com/microsoft/semantickernel/planner/stepwiseplanSemanticKernel（Python）/microsoft/semantic-kernel/tree/main/python/semantic_kernel/planning/stepwise_plannerLangChain：

Agent概念理解RAG向量查询提问：我最近在51talk学习的单词中，哪个单词掌握的不好，请帮我组装一套试卷重点练习。”“

智能客服落地过程中的关键实践系统架构

智能客服落地过程中的关键实践CloudIM

智能客服落地过程中的关键实践用户行为不符合预期缺乏主动服务意识

2思维跳跃、不可控3交互模式僵化1客户体验不连贯且难以找到核心信息。智能客服落地过程中的关键实践

智能客服落地过程中的关键实践工具的使用FunctionCall计算能力不足

智能客服落地过程中的关键实践情绪感知/意图识别（文本、语音语意识别）

智能客服落地过程中的关键实践人机协作