人工智能论文+The+state+of+the+AI+Agents+ecosystem_+The+tech,+use+cases,+and+economics（汉化）.pdf

AI代理⽣态系统的现状：技术、⽤例和经济学

今年5⽉，我们讨论了企业架构即将向AI代理转变的问题。⾃那篇⽂章发表以来的六个⽉⾥，我们⼀直

在监控公司之间的实际代理部署，注意到⽤例复杂性的差异、购买特定功能代理与构建⾃定义代理⼯

作流的权衡，以及价值衡量和归因⽅式的多样性。

我们与建筑商、企业、最终⽤⼾和研究⼈员进⾏了交谈，以更深⼊地了解代理商今天的地位，企业⽣

产中的⽤例，并分享关键的学习经验，以帮助建筑商和企业在他们的代理之旅中。

1.AI代理⽣态系统的现状

你对代理⼈的定义是什么？

学术定义⸺可以推理任务并独⽴采取⾏动的软件⸺通常是⼀个有趣的对话开始者，它抓住了AI代理

的⾼级愿望。我们认为代理是⼀种新的架构，将核⼼应⽤逻辑和相关的⼯作流⾃动化结合在⼀个统⼀

的流程中，嵌⼊LLM以交织复杂任务的规划和执⾏。

代理可以像单任务代理⼀样简单，它将LLM与特定⼯具或功能相结合。多代理平台通过将任务分解为

不同的代理和模块来解决复杂的⼯作流程，这些代理和模块被编排以提供所需的输出。

AI代理的设计注意事项

构建代理始于对任务和⽤⼾体验的深刻理解。虽然LLM是架构的关键部分，但⼤多数构建者在适⽤的

情况下使⽤基础模型，并将它们与标准应⽤程序元素、数据和⼯具集成以及API相结合。

我们从下⾯的对话中分享了两个关键的学习和设计权衡：

1.⽤⼾在环：开发⼈员在整个代理⽣命周期中与⽤⼾密切合作

为了让代理超越实验，开发⼈员正在采取协商⽅法与⽤⼾迭代⽣产环境中的设计、部署和扩展。挑战

仍然存在于⼈-代理通信中；我们收集到的⼀些最佳实践包括：

•建⽴对⽤⼾⼯作流轨迹的清晰理解，以构建多样化的训练⽰例和奖励功能，以优化Agent性能并改

进任务计划

•绘制所需的集成和最终⽤⼾数据架构，以使代理接地

•开发良好的⽤⼾评价、错误处理和反馈以训练和微调输出

•在⾯向客⼾的⽤例中优化输出格式和语⽓的⽤⼾体验

•通过⽣成审计跟踪和⾃动化⼯件来与策略对⻬，从⽽建⽴信任

•从⽤⼾和组织中获得⼼理和技术⽀持

2.任务规划（⼜名推理）：⼈类定义的任务规划与LLM派⽣的规划

将⽤⼾输⼊转化为任务计划是⼀个关键的设计选择，⼀些⼈选择为代理执⾏定义规定性的⽤⼾控制

流，⽽另⼀些⼈则允许LLM提出计划。“思想链”推理模型将强化学习与强制模型在推理时选择最佳

路径之前考虑多条路径相结合，可能会改变代理设计的游戏规则。对于简单的有界⼯作流程，将任务

分解为LLM可以记忆的序列以及主动反馈循环来微调模型可能会奏效。

更复杂的⼯作流或应⽤程序可以采⽤多代理⽅法，需要编码执⾏图LangGraph或多代理编排⽅法，如

CrewAI，它可以：

•帮助开发⼈员和最终⽤⼾构建代理（访问⼯具、API和数据源）

•编排任务流和Agent交互，推动⼲净的切换和状态维护

•提供反馈循环和可定制的⽤⼾体验，以帮助优化代理性能

企业Agent的参考架构

确定性代理性能需要具有强⼤集成和⼲净接⼝的良好系统⼯程。

代理架构的⼀些关键构建块如下：

数据检索

构建者可以根据⽤例向代理添加上下⽂的选项组合多种多样。

•检索增强⽣成（RAG）：通过从私有和公共数据集中检索和集成知识来⽀持LLM响应。LLM对输⼊

变化敏感，需要⼀致的数据输⼊。例如，Llamaindex有助于为简单代理构建RAG管道。

•记忆：通过LLM添加记忆以及Mem0等解决⽅案，代理可以⽤外部数据完善语义记忆中的知识，从

情景记忆中回忆动作，并在⻓期记忆中积累经验，以提供适应性和个性化。

•⻓上下⽂：LLM中不断增⻓的窗⼝⼤⼩通过跟踪每个步骤⽽不截断，可以实现更好的上下⽂感知和

多步骤推理。它还将有助于⻓视界任务和多模态输⼊。RAG与⻓上下⽂窗⼝仍然是⼀个活跃的争

论。

代理计算机接⼝

代理设计的⼒量倍增器，将从各种数据源到外部资源和⼯具的所有内容连接起来，以简化设计并提⾼

其能⼒。

•函数/⼯具调⽤：LLM可以本地发出结构化请求，如API调⽤、数据库查询、⽂件操作，并调⽤Web

有哪些信誉好的足球投注网站或执⾏代码等⼯具。由于API服务表⽰为代理（条带⽀付），这些将被合并到代理⼯作流中。

•计算机使⽤：这是LLM使⽤⼈机界⾯在计算环境中执⾏命令的⼀个令⼈兴奋的功能。由于操作空间

有限（Bash
cmds，File
ops），这⾮常适合快速实现。对于需要精确执⾏的复杂和模糊的任务，

最佳令牌使⽤可能会推动基于API的⽅法来实现规模和⼀致性。

•集成：集成定义了代理的功能。连接到相关数据源和应⽤程