什么是 Agent 运行时（Agent Runtime）？
Agent 运行时（Agent Runtime）是管理 AI Agent 会话的执行环境，包括状态、工具调用、记忆访问、策略、事件、取消、重试和失败处理。
工作原理
Agent 运行时是 Agent 真正运行的地方。它协调模型推理、工具执行、观察、记忆访问和最终响应之间的循环。运行时可以嵌入应用框架，也可以作为独立服务部署。它的职责偏运行层：追踪会话状态、执行限制、调度步骤、取消不安全或停滞的工作、隔离租户，并发出让运行可观测的事件。
主要特点
- 会话执行：拥有一个或多个 Agent 运行的生命周期
- 状态管理：追踪消息、计划、中间观察、记忆引用和输出
- 工具中介：通过受控接口调用工具，而不是暴露任意执行
- 运行策略：执行超时、步骤上限、预算、审批和取消
- 事件发射：产生用于监控、调试和评估的追踪与生命周期事件
常见用途
- 运行带有有界重试的多步骤客户支持 Agent
- 在编程助手中协调工具调用和记忆更新
- 当 Agent 超过步骤、时间或成本限制时取消运行
- 在企业 Agent 平台中隔离租户级状态
- 把运行时事件流式发送到可观测性或评估管线
示例
loading...
Loading code...常见问题
Agent Runtime 和 Agent Harness 有什么区别？
Runtime 是执行会话和步骤的环境。Harness 是 Agent 周围更大的控制层，通常包括运行时、策略、可观测性、评估和治理。
Agent Runtime 应隔离什么？
它应隔离用户、租户、凭据、工具权限、记忆范围和运行状态，避免一个会话意外影响另一个会话。
为什么取消能力重要？
Agent 可能进入长循环、等待慢工具或尝试高风险动作。运行时取消能力允许系统在超过限制或用户撤回意图时停止工作。
Agent Runtime 可以是无状态的吗？
薄运行时可以把状态委托给外部存储，但如果支持长任务、恢复或审计，Agent 运行状态仍需要在某处持久化。