什么是 AI Agent？
AI Agent 是一种软件系统：AI 模型依据当前状态与环境反馈选择下一步、工具或转交对象，而应用运行时负责执行、权限、预算、持久化和终止控制。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
Agent、工作流与聊天机器人的边界
聊天机器人可以只生成对话响应；确定性工作流按照代码预设分支执行；当下一步无法提前写死，需要模型根据动态证据在受限动作中选择时，才适合使用 Agent。同一系统可以组合三者，例如在确定性业务流程中只设置一个 Agent 决策点。
规划、持久记忆、自我反思和多 Agent 都是可选模式，不是定义 Agent 的必要条件。它们会增加状态、延迟与失败模式，只有相对简单基线带来可测收益时才应引入。
运行循环与状态
典型循环会组装可信指令与当前状态，调用模型，把结果分类为最终回答、工具提议、转交、澄清或拒绝，执行获准操作，追加观察结果，再进入下一轮。每次运行都需要稳定标识、最大轮数、时间与成本预算、取消机制和明确终态。
对话消息只是状态的一种视图。生产系统还需记录任务版本、工具 Call ID、审批、外部副作用状态、检查点和产物引用；存在并发或断点恢复时，应由运行时作为权威状态写入者。
工具、权限与副作用
工具 Schema 能帮助模型生成参数，但工具调用只是提议，不是授权。执行器必须从可信上下文获取租户、用户、资源范围与实时策略，重新校验参数，分离读写能力，并对高影响操作要求审批。
外部副作用需要幂等键与 Effect Journal。请求超时不等于操作失败，重试前必须区分安全重放和结果未知。工具结果与检索内容也属于不可信观察，可能携带提示注入或陈旧数据。
评测、恢复与运行治理
评测对象是完整轨迹，而不只是最终文案。关键指标包括任务成功、工具选择、参数正确性、授权决策、部分失败恢复、重复副作用率、升级质量、延迟和成本，并应与单次模型调用或确定性工作流基线比较。
生产控制包括可追踪发布身份、脱敏事件日志、必要时的沙箱、检查点、暂停与恢复、人工升级、Kill Switch 和回滚。即使回答看似合理，只要违反策略或丢失副作用状态，这次 Agent 运行仍然失败。
主要特点
- 受约束的模型控制：模型选择下一步，运行时保留最终执行权
- 与环境形成反馈闭环：工具或用户观察会更新后续决策使用的状态
- 终止语义明确：成功、拒绝、升级、取消、超时和预算耗尽是不同终态
- 按需持久化：任务、调用、审批、检查点和副作用标识可跨重试或恢复保留
- 最小权限设计：可用动作与资源范围来自可信运行时上下文
- 系统级评测：除回答质量外，还评估轨迹、副作用、故障、延迟与成本
常见用途
- 处理无法预先确定需要读取哪些文件、运行哪些测试和采取哪些修复步骤的软件问题
- 跨多个来源研究问题，保留主张级来源，并在证据不足时主动澄清
- 分流客服请求并提出受限操作，再由确定性策略决定是否执行
- 运行可暂停等待审批、随后从检查点恢复的长流程任务
- 当专业 Worker 协作优于单 Agent 与固定工作流基线时进行任务协调
示例
Loading code...常见问题
AI Agent、聊天机器人和工作流有什么区别？
聊天机器人主要生成对话响应；工作流按照代码定义的步骤和分支运行；Agent 则让模型根据动态状态和观察，在受限动作中选择下一步。这些类别可以组合，某个工作流含有一个模型决策点，并不意味着整个系统都具有自主性。
AI Agent 必须具备规划、长期记忆或多 Agent 吗？
不需要。最小可用模式是模型在受控反馈循环中选择下一步。规划、持久记忆、反思和任务委派都是可选能力；只有代表性评测证明它们带来的任务收益足以覆盖新增状态、延迟、成本和运行风险时，才值得加入。
工具调用参数通过 Schema 校验后可以自动执行吗？
不能把结构合法当作业务授权。运行时仍需从可信上下文识别调用者和租户，核对实时资源状态与策略，约束参数，并在必要时请求审批。合法 JSON 依然可能访问错误账户、重复产生副作用或违反业务规则。
AI Agent 在调用超时后应如何恢复？
执行前记录 Call ID、幂等键、请求与副作用状态。超时后先查询下游或对账 Effect Journal，因为结果可能是未知，而非明确失败。恢复必须以权威状态为准，不能让模型自行猜测操作是否已经生效。
如何评测 AI Agent？
应衡量端到端任务成功与轨迹质量，包括工具和参数是否正确、策略判断、证据使用、恢复、重复副作用、人工升级、延迟和成本。测试集还需覆盖对抗输入与部分失败，并与更简单基线比较；潜在伤害无法安全自动化时保留人工复核。