AI 应用开发新范式.docx

里

里

AI应用开发新范式

计缘

阿里云智能云原生应用平台

C-里云

01AI应用架构新范式

AIAgent架构和发展趋势

AIAgent架构

PromptTemplate

PromptTemplate

Instructions

/ReasoningPromptAgentPlanning

/Reasoning

Prompt

Agent

ResponseLLMs

Response

LLMs

ActionsStore/Retrieve

Actions

ToolsMemory

Tools

Memory

AIAgent趋势

UniversalAgents

UniversalAgentsMulti-Agents

UsefulnessPlatform-Level

Usefulness

Platform-LevelAgents

Smarter

Smartermodelsusingmoretoolstoaccomplishhighervaluetasks

Siloed,

Single-Purpose

Agents

LevelOfIntelligence

编排AIAgent的两类方式多种部署方式的LLMSLS触发器Kafka触发器RocketMQ触发器DTS触发器定时触发器…LLM服务统一管理多APIKey管理、LLM切换、Fallback鉴权认证、安全、限流、联网有哪些信誉好的足球投注网站User现存业务A现存业务B现存业务C微服务服务注册（Java微服务，Go）从Nacos发现MobileAPPMSENacosWebAPP现存业务E多语言服务API/路由统一管理流量统一管控（转发、负载）

编排AIAgent的两类方式

多种部署方式的LLM

SLS触发器

Kafka触发器

RocketMQ触发器

DTS触发器

定时触发器…

LLM服务统一管理

多APIKey管理、LLM切换、Fallback

鉴权认证、安全、限流、联网有哪些信誉好的足球投注网站

User

现存业务A

现存业务B

现存业务C

微服务

服务注册

（Java微服务，Go）

从Nacos发现

MobileAPP

MSENacos

WebAPP

现存业务E

多语言服务

API/路由统一管理

流量统一管控（转发、负载）

鉴权认证、安全、限流

DashVector

Store/Retrieve

Redis

通过IP，域名代理

Device

各类三方API

三方服务

RDS

OSS

流程式

函数A函数

函数A

函数D

函数B

函数C

CloudFlow流程编排

节点A

节点A

节点B

节点

节点C

Serverless应用引擎部署Dify

节点A

节点A

节点B

节点

节点C

容器服务ACK部署Dify

编码式

函数C函数

函数C

函数B

函数A

函数A

函数计算

SpringAIAlibaba/LangChain/…

标准化MCP标准化了LLM访问外部数据的方

标准化

MCP标准化了LLM访问外部数据的方式，简化了不同数据源和工具的集成。

模型上下文协议（ModelContextProtocol）是一个开源协议，由Anthropic（Claude开发公司）开发，旨在让大型语言模型（LLM）能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AI应用，而无需为每个AI模型和外部系统组合进行定制集成。MCP被设计为一个通用接

口，类似于USB-C端口，允许LLM应用以一致的方式连接到各种数据源和工具，如文件、数据库、API等。

MCP

MCP

MCPProtocol

MCPProtocol

HostwithMCPClient（Claude，Cline，IDEs）

可扩展性MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。MCP

可扩展性

MCP使得添加新数据源或工具变得简单，无需大幅修改现有系统。

MCP

MCPServerA

MCP

MCPServerB

安全性MCP提供结构化的访问模式，内置验

安全性

MCP提供结构化的访问模式，内置验证，确保数据交互安全且受控。

MCPServerC

WebAPIs

模块化

MCP促进了模块化设计，允许独立开发和维护不同组件。