蚂蚁集团（陈发强）：AI原生数据应用架构与落地探讨.docx

AI原生数据应用架构与落地探讨

陈发强（踏天）

蚂蚁集团国际数据库负责人

2024/7/6

目录

1背景

2DB-GPT架构介绍

3智能体应用实践与挑战

4未来规划

2

01|背景

01|

AI给数据领域带来的挑战与机遇？

1.1大模型出现之后，交互方式的变化

Assets｜Data

大语言模型LLMS|ChatGPT、通义千问、文心一言、LLaMA

大语言模型

LLMS|ChatGPT、通义千问、文心一言、LLaMA、Bard

领域模型

SQLNLU…Code

SQL

NLU

…

Code

Envs

工具云｜基础设施｜IAAS｜PAAS｜SAAS知识

工具

云｜基础设施｜IAAS｜PAAS｜SAAS

知识

5

1.2多维数据

存管用取半结构化流

存

管

用

取

半结构化

流

企业的真实数据

1.结构化数据，如Excel、数据库

2.非结构化、文本、文档数据、日志数据

3.多维关系数据，如图、数据库

4.离线数据，数仓、数据湖等

无法通过单一的知识库进行处理

转核算非结构化融

转

核

算

非结构化

融

结构化

合规隐私高效稳定灵活质量安全

合规

隐私

高效

稳定

灵活

质量

安全

6

1.3数据的下一代交互范式

02|DB-GPT架构解读

02|

AI原生数据应用架构思考、设计与实践

8

2.1项目介绍

DB-GPT是一个开源的AI原生数据应用开发框架AINativeDataAppDevelopmentframeworkwithAWEL(AgenticWorkflowExpressionLanguage)andAgents

目的是构建大模型领域的基础设施，通过开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力，让围绕数据库构建大模型应用更简单，更方便。

数据3.0时代，基于模型、数据库，企业/开发者可以用更少的代码搭建自己的专属应用。

项目优势

1、支持AI原生数据应用开发

2、智能体工作流编排

3、私域问答数据处理RAG(Retrieval-AugmentedGeneration)

4、多数据源GBI(GenerativeBusinessIntelligence)

5、服务化多模型管理

6、Text2SQL/Text2NLU微调

7、数据驱动Agents框架

8、私有化部署、隐私安全

9、完全开源，采用宽松的MIT协议

核心特色2.2架构介绍

核心特色

架构

SMMF

RAG

Agents

Workflow

Text2SQL微调

数据洞察

可视化9

可视化

10

2.3隐私安全

11

11

2.4智能体架构

03|数据智能体应用

03|

数据智能体在实际场景中的应用与挑战

3.1数据库专家智能体-Kevin

数据库专家智能体应用

数据库专家智能体应用

3.2效果展示-Web端

Kevin-智能问答Kevin-智能诊断

3.3效果展示-移动端

Kevin-数据分析助手

Kevin-问答助手

Kevin-数据运维助手

3.4构建技术

3.5知识构建

3.5意图识别

3.6智能体构建流程

2.Agents构建

2.Agents构建

3.Workflow编排1.资源准备(知识库、API、算子、插件)

3.Workflow编排

1.资源准备(知识库、API、算子、插件)

5.应用对话与使用

5.应用对话与使用

4.应用调试与发布6.SDK集成/钉钉集成

4.应用调试与发布

6.SDK集成/钉钉集成

3.7诊断智能体构建

领域文档准备故障诊断Agents构建发布上线

领域文档准备

故障诊断Agents构建

发布上线

知识加工处理

方案流程设计

3.8智能体构建

3.8智能体调试与发布

3.8智能体评测与使用

智能体的评测会从主观打分与客观打分两个维度进行评测

1.客观评测需要根据领域准备具体的专业评测数据集。

2.主观评测一般是采用专家打分、真实用户反馈等。

3.8技术挑战

1.意图识别:如何准确理解用户意图，并匹配到对应的Agent

2.Agent-Linking:多Agent如何提供一个统一入口，回答多个领域专业问题的同时，还可以自由对话。

3.召回准确率:如何准备高质量的问答与知识库，结合多种RAG检索技术，准确召回相关内容。

4.多轮对话进行参数补充: