核心结论
按职责而不是按排行榜理解开源 AI Agent 生态,会清晰得多:
业务工作流与策略
|
Agent 运行时与编排
|
模型、工具、记忆与评测适配器
|
MCP / HTTP / 队列 / 数据库 / 沙箱
不同框架对“谁负责什么”做出了不同选择。轻量 SDK 可能让应用自己管理循环;图运行时可能负责检查点与跳转;角色系统可能引入委派概念;供应商工具包可能整合部署与评测。这些是设计选择,不是质量等级。
正确的选型流程是:
- 先证明普通代码不足以解决问题;
- 明确应用必须掌握的状态、控制与失败行为;
- 筛选满足需求的最小框架集合;
- 用同一批代表性任务实现原型;
- 比较质量、恢复、治理与退出成本;
- 保留迁移路径。
不要从框架出发
先从工作本身出发。
判断控制问题
| 工作负载 | 首先应该测试的实现 |
|---|---|
| 固定校验或转换 | 普通函数 |
| 已知步骤,包含重试与审批 | 工作流引擎或显式状态机 |
| 一个模型在少量有界工具中选择 | 直接编写 Agent 循环或使用轻量 SDK |
| 长时间、可恢复、带分支的工作 | 图运行时或持久化工作流 |
| 不同角色确实拥有不同工具或评测者 | 有界多 Agent 编排 |
| 开箱即用的个人或编程助理 | 成品应用 |
Microsoft Agent Framework 的官方说明非常直接:如果一个函数能完成任务,就使用函数。这条原则具有普适性。只有语义决策、自适应规划或工具选择能提供确定性控制无法提供的价值时,Agent 框架才有必要。
写清验收契约
框架选型前先定义:
- 任务输入与已授权上下文;
- 允许使用的工具与副作用;
- 期望输出或产物;
- 正确性与证据评分标准;
- 最大轮次、工具调用、时间和成本;
- 审批点;
- 可重试与终止失败;
- 取消与恢复行为;
- 审计与隐私要求。
这份契约就是框架对比标准。没有它,团队比较的只是 Demo 和抽象,而不是生产行为。
分层生态地图
第 0 层:确定性应用代码
它是基线,而不是低配 Agent。
校验、已知条件路由、授权、支付、状态转换和其他不变量应使用普通代码。模型可以建议动作,但可信代码必须决定动作是否允许。
第 1 层:直接模型与工具循环
应用自己管理循环:
- 组装已授权上下文;
- 调用模型;
- 校验模型请求的工具调用;
- 在策略约束下执行工具;
- 返回有界结果;
- 在已定义条件下停止。
这种设计抽象少、锁定低,但团队需要自行负责状态、重试、链路追踪、工具分发与防护规则。对于少量工具,它常常是正确基线。
第 2 层:轻量 Agent SDK
SDK 提供 Agent、工具、任务交接(Handoff)、会话(Session)、防护机制(Guardrail)与链路追踪等复用原语。
例如,OpenAI Agents SDK 用一组较小的原语描述这些能力以及人机协作。它的文档也明确区分:应用想自己掌握循环时使用更底层模型 API,需要托管轮次和工具执行时再使用 SDK。
选型的关键不在于“有没有功能”,而在于谁拥有功能语义:
- “会话”是可移植应用状态,还是框架状态?
- 暂停的任务能否在进程丢失后恢复?
- 防护规则是否有真正执行点,还是只给模型提示?
- 链路记录能否在不保留敏感内容的前提下导出?
第 3 层:图与持久化工作流运行时
图运行时让节点、跳转、状态、检查点、中断与恢复显式化。LangGraph 将自己定位为支持可控、持久化和人机协作 Agent 的低层运行时。
以下场景很适合图运行时:
- 任务必须暂停等待审批,之后继续;
- 不同失败类别进入不同路径;
- 状态必须可检查或重放;
- 循环需要显式终止;
- 长任务不能依赖单个进程存活。
图本身不会自动让工作流安全。没有可靠退出条件的循环仍然会失控,含有凭证的检查点仍然会造成数据泄露。
第 4 层:角色与多 Agent 编排
CrewAI 区分结构化 Flow 与自主 Crew,并建议把 Flow 作为生产骨架,只在工作确实受益于协作时使用 Crew。
至少满足以下一项时,多 Agent 才有充分理由:
- 不同角色需要不同权限或工具;
- 工作可以并行,且有清晰合并契约;
- 独立评测者能降低已测出的失败;
- 上下文隔离有价值;
- 所有权边界对应不同服务或团队。
任务有多个步骤,并不足以证明需要多个 Agent。多 Agent 会增加交接中的信息丢失、上下文重复、模型调用、归因难度与攻击面。必须把它与“确定性工作流中的单 Agent”公平比较。
第 5 层:供应商与部署工具包
有些框架面向更完整的平台。
- Google ADK 文档包含顺序、并行、循环与模型驱动 Agent 模式,以及多语言评测和部署集成。
- Microsoft Agent Framework 整合 Agent、长任务执行框架、显式工作流、中间件、会话、遥测与模型供应商集成;不同语言的成熟度可能不同。
- OpenAI Agents SDK 聚焦于工具、交接、防护规则、会话、链路追踪和隔离工作区组成的紧凑运行时。
这些描述来自各项目官方文档,体现的是预期范围,不是独立的可靠性或适配证明。应核对项目需要的具体语言、功能、许可证、发布版本与支持状态。
第 6 层:协议与集成边界
MCP 为工具、资源、提示词与可选扩展提供标准集成边界。2026-07-28 规范的协议核心使用无状态、自包含请求。
MCP 可以减少连接器重复开发,但不会决定:
- 哪个用户可以调用工具;
- 用户可以访问哪条记录;
- 副作用是否需要审批;
- 工具结果是否可信;
- 哪个 Agent 可以向另一个 Agent 委派;
- 工作流是否应继续。
这些仍属于应用与服务职责。
代表性框架定位
下表是官方设计意图地图,不是获胜者名单。
| 选项 | 主要抽象 | 应用仍须证明 |
|---|---|---|
| 直接模型 API | 模型调用与工具请求 | 循环、状态、重试、策略、可观测性 |
| OpenAI Agents SDK | Agent、工具、交接、防护规则、会话 | 模型适配、恢复、策略执行、数据处理 |
| LangGraph | 显式图、状态、持久化、中断 | 跳转正确性、持久化、终止、策略 |
| CrewAI | Flow 与角色型 Crew | 协作是否优于单 Agent、交接质量 |
| Google ADK | Agent、工作流模式、工具、评测、部署 | 模型可移植性、运行时行为、生产控制 |
| Microsoft Agent Framework | Agent、执行框架、工作流、中间件、集成 | 语言功能一致性、预览能力边界、合规适配 |
| MCP SDK | 协议客户端与服务端 | 业务授权、委派、工具安全、生命周期 |
AutoGPT、MetaGPT、编程助理和个人助理位于地图的其他位置。应把它们当作应用或带有特定设计选择的系统评估,而不是可互换的库。
建立框架评测环境
使用同一批任务
构建一组代表生产环境的用例:
- 正常成功任务;
- 应要求澄清的模糊输入;
- 未授权动作;
- 工具超时;
- 已产生部分副作用但结果未知;
- 检索内容中的提示注入;
- 长工具调用期间取消;
- 恢复前进程重启;
- 重复状态循环;
- 系统应拒绝或转人工的任务。
保持对比等价
固定:
- 模型与参数;
- 工具契约与结果;
- 系统指令;
- 策略与审批规则;
- 输入样本;
- 时间、轮次、Token 与成本预算;
- 重试与幂等行为;
- 环境与依赖版本。
如果一个框架自带功能、另一个没有,就把另一个为达到等价行为所需的应用代码纳入评估。否则测到的只是配置完整度,不是运行时适配。
不只评分任务完成
| 维度 | 示例指标 |
|---|---|
| 结果 | 合格任务率、产物正确性、证据覆盖 |
| 工具使用 | 有效调用、未授权尝试、参数纠正 |
| 恢复 | 恢复成功率、重复副作用防护、取消延迟 |
| 控制 | 审批遵循、预算执行、循环终止 |
| 运维 | p50/p95 延迟、错误率、模型用量、基础设施成本 |
| 可观测性 | 动作可重建、关联、脱敏、链路导出 |
| 工程 | 代码量、可测试性、调试时间、升级投入 |
| 可移植性 | 模型替换、工具复用、状态导出、替换成本 |
不要把隐藏的模型推理过程当作审计要求。记录策略允许的输入、工具决策、脱敏后的参数、结果类别、状态跳转、审批与产物。
治理不属于任何品牌名
每个严肃部署都需要应用控制平面:
- 可信身份:从已认证上下文派生用户、租户、工作负载与受委派执行者。
- 对象级授权:由负责数据的服务对每次读写执行策略。
- 工具白名单:只暴露任务需要的能力。
- 有界执行:限制轮次、调用、时间、输出、文件、网络目的地和开销。
- 副作用控制:使用确认、幂等键、事务与结果对账。
- 不可信输入处理:把网页、工具输出、资源和其他 Agent 消息都当作数据。
- 沙箱:移除生产凭据,限制文件系统、进程与网络访问。
- 审计:记录策略决策与可观察动作,不保留凭证或私密推理。
框架可以提供接入这些控制的扩展点,但应用仍然负责证明控制完整且已强制执行。
进入前先评估退出成本
框架采用会产生长期资产:状态快照、消息格式、工具封装、部署清单、链路记录、评测数据与运维知识。
进入生产前回答:
- 业务状态能否按应用自有 Schema 导出?
- 工具能否脱离框架运行?
- 提示词与策略是否独立于运行时代码保存?
- 链路能否迁移到开放可观测后端?
- 任务能否根据版本化输入重放?
- SDK 删除或改变功能时怎么办?
- 第二套实现能否通过同一套评测?
最强的可移植机制不是给每个 API 再包一层抽象,而是稳定的验收契约、框架无关工具与策略、可移植状态和可重复测试集。
选型步骤
- 选择最简单基线。 从函数、工作流或直接循环开始。
- 识别缺失能力。 持久化、中断、角色隔离、部署或评测必须对应真实需求。
- 按职责筛选。 只比较解决同一层问题的框架。
- 原型验证高风险路径。 测试审批、重启恢复或真实工具故障,而不只是 Hello World。
- 运行共享评测。 保持模型、工具、策略与预算等价。
- 审查治理与数据流。 检查凭证、存储、遥测与第三方边界。
- 估算退出成本。 做一次小规模导出或替换演练。
- 固定并监控。 锁定版本、跟踪弃用,并在升级时重跑测试集。
常见问题
哪个开源 Agent 框架最好?
先判断需要的是工具循环、持久化状态、角色协作还是平台集成,再比较满足该需求的最小方案。没有任务分布、失败恢复和维护成本的“最佳框架”排名,不能直接指导生产选型。
多步骤任务都需要 Agent 框架吗?
不需要。步骤和跳转已知时,普通函数或工作流引擎更容易验证。只有语义判断或自适应工具选择带来可测价值时,才让模型掌握相应控制权。
MCP 能统一整个 Agent 技术栈吗?
它能统一一部分工具、资源和提示词集成边界,但不统一业务状态、租户权限、审批语义或框架恢复机制。协议兼容与应用可移植性需要分别验证。
两个框架应该怎样公平对比?
固定任务样本、模型、工具契约、策略与预算,同时测试正常完成、超时、重复副作用、取消和进程重启。把补齐功能所需的应用代码及维护投入计入成本。
如何降低框架锁定?
把业务工具、策略、任务样本和评测放在框架之外,以自有 Schema 保存业务状态。采用前先演练一次状态导出或实现替换,比仅承诺“以后可迁移”更可靠。
总结
开源 Agent 生态不是只有一名领先者的比赛,而是一组以不同方式分配控制权的层次。
已知流程使用确定性代码;只需要少量 Agent 行为时直接编写循环;SDK 确实减少重复工作时再采用 SDK;暂停、恢复、分支和检查是需求时使用图或持久化工作流;只有专业化或并行收益超过协调成本时才增加多个 Agent;用 MCP 标准化集成,业务策略仍由应用负责。
真正持久的资产是应用的任务契约、工具、策略、评测集与运维证据。框架应服务这些资产,并能在保留这些资产的前提下被替换。
一手来源
- MCP 2026-07-28 Specification
- LangGraph 官方文档
- CrewAI 官方文档
- Google Agent Development Kit
- Microsoft Agent Framework Overview
- OpenAI Agents SDK 文档
- Anthropic:Building Effective Agents