什么是 图编排(Graph Orchestration)?
图编排(Graph Orchestration)是把 AI 工作流表示为显式 Node、Transition 与版本化 State 的执行模式,由应用代码定义 Branch、Cycle、Parallel Join、Interrupt、Retry 和 Terminal Condition。Graph 可以包含模型驱动节点,但不自动等于自主 Agent。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
当固定 Chain 无法表达真实控制流时,图编排更合适。Node 执行模型调用、Retrieval、Validation、Tool、Approval 或 State Migration 等有界工作;Edge 定义允许的 Transition,确定性条件或模型输出可以在其中选择。State 只携带节点间必需数据,并具有版本化 Schema、Ownership、Size Limit 与显式序列化。
Parallel Branch 会产生合并问题。多个 Node 写同一字段时,Runtime 需要满足确定性要求的 Reducer 或显式 Conflict Policy;到达顺序不能作为稳定业务规则。优先使用 Append-only Event、Keyed Map 或分别归属字段,并在不同 Scheduling Order 下测试 Replay。
Checkpoint 记录 Graph State 与 Execution Position,不记录外部系统实际提交了什么。Durable Runtime 恢复时可能重新执行 Node 或 Task,而不是从某行代码继续。应把非确定性工作与副作用放入有界节点,为 Write 使用稳定 Operation Key,并维护 Effect Journal。派发后 Timeout 要先对账 outcome_unknown,不能盲目重试。
每个 Cycle 都需要可测量 Progress Condition,以及 Step、Repetition、Wall-clock、Token 与 Spend Limit。Retry Edge 应分别处理 Transient、Permanent、Validation、Policy 与 Ambiguous Effect。Human Interrupt 的审批要持久化并绑定精确 Actor、Resource、Argument、Tool / Policy Version、Expiry 与 Decision;进程内 Boolean 不是持久审批。
只有记录 Node Input / Output、Transition Decision、State Version、Policy Decision、Effect、Retry 与 Terminal Reason,Graph 才真正可检查。不要记录隐藏思维链或不必要私密载荷。应验证 Reachability、Terminal Path、Reducer Algebra、Schema Migration、Cancellation、Crash Recovery、Replay Determinism、Stale Checkpoint、Concurrency Conflict 与 Rollback。
Graph 与 Agent 描述不同维度。Graph 定义可能的控制流和状态转换;Agent 把更多运行时路径选择交给模型。确定性 Workflow 可以运行在 Graph 上,Agent Loop 也可以占据一个 Node 或 Cycle。路径有序且有界时先用 Chain;只有显式 State、Branch、Join、Interrupt 或 Recovery 值得额外运营成本时才使用 Graph。
主要特点
- 显式 Node、Edge、Terminal State 与版本化共享 State
- 支持 Conditional Route、有界 Cycle、Parallel Branch、Join、Interrupt 与 Retry
- 并发写共享状态时使用 Reducer 或 Conflict Policy
- Checkpoint / Replay 与外部 Effect Accounting 分离
- 确定性处理 Termination、Cancellation、Budget、Migration 与 Stale State
- 追踪 Transition 与 Effect 证据,不依赖隐藏推理
常见用途
- 具有检索回退、证据 Gate 与 Abstention Path 的 RAG Workflow
- 需要审批、副作用对账和有界重试的 Tool Workflow
- 暂停等待输入并从版本化 Checkpoint 恢复的长期流程
- 通过已测试 Reducer 合并结果的 Parallel Analysis
- 具有显式 Stop、Escalation、Cancellation 与 Budget Node 的 Agent Loop
- 要求新旧 State Schema 一致 Replay 的多阶段迁移
示例
Loading code...常见问题
图编排与 AI Agent 是同一概念吗?
不是。Graph 定义允许的 Node、Transition 与 State;Agent 把更多运行时路径选择交给模型。确定性 Workflow 可以使用 Graph,Agent Loop 也可以表示在 Graph 内。
图编排为什么需要 Reducer?
Parallel Branch 可能更新同一个 State Key。没有确定性 Reducer 或 Conflict Rule,结果会依赖完成顺序。每个共享字段都应测试结合律、重复投递、Replay 与调度变化。
Checkpoint 能保证 Tool Side Effect 安全吗?
不能。Checkpoint 记录 Workflow State,不一定知道下游是否已提交。Write 还需要 Idempotency Key 与 Effect Journal,结果不明确时应先对账再重试。
应该怎样限制 Cycle 与 Retry?
要求可测量进展,并限制 Step、等价状态重复、时间、Token、成本和 Tool Call。Transient、Permanent、Validation、Policy 与 Unknown Outcome 不能共用一个无条件 Retry Edge。
什么时候 Chain 比 Graph 更合适?
流程有序、短时运行,且很少需要分支或恢复时使用 Chain。显式 State、Cycle、Parallel Join、Durable Interrupt、人工审批或崩溃恢复成为一等需求时再选择 Graph。