从数据到知识：Data+Centric+范式大模型落地实践.docx

从数据到知识：

Data-Centric范式大模型落地实践

演讲人：张红兵

枫清科技(Fabarta)/AI负责人

大模型落地现状和痛点

Data-Centric落地范式介绍

目

目录

如何使用

如何使用Data-Centric助力大模型落地

Data-Centric范式案例分享

总结与展望

05

大模型落地现状与痛点

大模型与应用落地发展趋势

大模型持续发布但频率降低

大模型持续发布但频率降低

各公司发布大模型

各公司发布

大模型GPT4-01发布

OpenAI发布ChatGPT

企业加速落地

国资委人工智能专题推进会

逐步开始尝试

企业观望为主

2022.112023.62023.122024.62024.12时间线

模型发布趋势企业落地情况

如何与企业共同推进大模型落地

如何共同推进

AI+

AI+企业数据助力智能决策

成熟阶段领先应对：深入理解业务，使用智能体串联企业数据、大模型模型，助力企业决策

成熟阶段

领先

大模型落地认知与实践

大模型落地认知与实践

平台建设（可选），选取应用场景，进行实际落地使用

平台建设（可选），选取应用场景，进行实际落地使用

选取特定数据和场景，进行探索验证

应用

建设阶段应对：梳理业务场景，助力降本增效

建设阶段

痛点：遇到落地问题，场景选择难，落地效果差

评估探索阶段应对：梳理企业数据，使用成熟落地工具，助力场景验证

评估

探索阶段

痛点：对大模型可能有过高期望或者过低期望

认知阶段对模型认知有限，跟进发展中

认知阶段对模型认知有限，跟进发展中

应对：大模型知识普及，对齐理解

企业大模型场景落地的关注点和痛点

规划：

规划：前期如何规划？

n如何统一规划整体架构？n目标

n统一规划还是各自尝试

n服务于哪些业务目标n大模型

n商用还是开源

n本地还是云端n算力

n租用还是自建

n算力需求多大

n数据安全性考量

n总体多少预算

选型：

选型：技术路线怎么选？

n如何做合理的技术选型？

n对大模型的要求

n是不是只要大模型就够了

n需要大模型做微调

n构建行业大模型

n各类场景分别选用什么样的大模型合适

n落地方法

n使用各种RAG技术做落

地，还是需要融入图技术

n问数应该是Text2SQL，还是Text2指标?

落地：

落地：如何有好的效果？

n如何做到结果可信

n如何减少幻觉

n如何保证结果可解释

n如何做到效果好

n为什么换一份数据效果不好

n表格、图片效果如何

n简单问题可以处理，复杂问题回答不了

n可以做混合问答么，问答和问数融合在一起

n如何保证数据安全性

n数据权限

场景：

场景：如何选定高价值场景？

n目标用户是谁，有什么痛点？

n应该如何找场景？

n需要哪些人参与

n如何找到高价值场景

n业务成熟度如何？

n是否高频、重复、标准

n数据情况如何？

n已有数据，持续迭代情况？

n技术成熟度

n是否可以支持场景实现？

规划：企业大模型落地参考架构

应用场景驱动+

应用场景驱动+智能平台与工具+行业大模型与优质数据

业务应用业务应用智能销售智慧运营驾驶舱智能研发智能运维智能采购智慧安全合规多场景支持

业务应用

业务应用

智能销售

智慧运营驾驶舱

智能研发

智能运维

智能采购

智慧安全合规

企业知识中台

智能体平台知识引擎

智能体平台

(知识构建、应用与运营）应用支撑中心（枫清科技关注点）

(知识构建、应用与运营）

数据基础设施（图和向量）

数据

行业数据集开发平台统一纳管（企业数据

行业数据集

开发平台统一纳管

（企业数据、外部数据）

数据集A数据集N开源商用灵活选择模型工厂（多模型管