什么是 图编排(Graph Orchestration)?

图编排(Graph Orchestration)是把 AI 工作流表示为显式 Node、Transition 与版本化 State 的执行模式,由应用代码定义 Branch、Cycle、Parallel Join、Interrupt、Retry 和 Terminal Condition。Graph 可以包含模型驱动节点,但不自动等于自主 Agent。

快速了解

规范文档官方规范

工作原理

当固定 Chain 无法表达真实控制流时,图编排更合适。Node 执行模型调用、Retrieval、Validation、Tool、Approval 或 State Migration 等有界工作;Edge 定义允许的 Transition,确定性条件或模型输出可以在其中选择。State 只携带节点间必需数据,并具有版本化 Schema、Ownership、Size Limit 与显式序列化。

Parallel Branch 会产生合并问题。多个 Node 写同一字段时,Runtime 需要满足确定性要求的 Reducer 或显式 Conflict Policy;到达顺序不能作为稳定业务规则。优先使用 Append-only Event、Keyed Map 或分别归属字段,并在不同 Scheduling Order 下测试 Replay。

Checkpoint 记录 Graph State 与 Execution Position,不记录外部系统实际提交了什么。Durable Runtime 恢复时可能重新执行 Node 或 Task,而不是从某行代码继续。应把非确定性工作与副作用放入有界节点,为 Write 使用稳定 Operation Key,并维护 Effect Journal。派发后 Timeout 要先对账 outcome_unknown,不能盲目重试。

每个 Cycle 都需要可测量 Progress Condition,以及 Step、Repetition、Wall-clock、Token 与 Spend Limit。Retry Edge 应分别处理 Transient、Permanent、Validation、Policy 与 Ambiguous Effect。Human Interrupt 的审批要持久化并绑定精确 Actor、Resource、Argument、Tool / Policy Version、Expiry 与 Decision;进程内 Boolean 不是持久审批。

只有记录 Node Input / Output、Transition Decision、State Version、Policy Decision、Effect、Retry 与 Terminal Reason,Graph 才真正可检查。不要记录隐藏思维链或不必要私密载荷。应验证 Reachability、Terminal Path、Reducer Algebra、Schema Migration、Cancellation、Crash Recovery、Replay Determinism、Stale Checkpoint、Concurrency Conflict 与 Rollback。

Graph 与 Agent 描述不同维度。Graph 定义可能的控制流和状态转换;Agent 把更多运行时路径选择交给模型。确定性 Workflow 可以运行在 Graph 上,Agent Loop 也可以占据一个 Node 或 Cycle。路径有序且有界时先用 Chain;只有显式 State、Branch、Join、Interrupt 或 Recovery 值得额外运营成本时才使用 Graph。

主要特点

  • 显式 Node、Edge、Terminal State 与版本化共享 State
  • 支持 Conditional Route、有界 Cycle、Parallel Branch、Join、Interrupt 与 Retry
  • 并发写共享状态时使用 Reducer 或 Conflict Policy
  • Checkpoint / Replay 与外部 Effect Accounting 分离
  • 确定性处理 Termination、Cancellation、Budget、Migration 与 Stale State
  • 追踪 Transition 与 Effect 证据,不依赖隐藏推理

常见用途

  1. 具有检索回退、证据 Gate 与 Abstention Path 的 RAG Workflow
  2. 需要审批、副作用对账和有界重试的 Tool Workflow
  3. 暂停等待输入并从版本化 Checkpoint 恢复的长期流程
  4. 通过已测试 Reducer 合并结果的 Parallel Analysis
  5. 具有显式 Stop、Escalation、Cancellation 与 Budget Node 的 Agent Loop
  6. 要求新旧 State Schema 一致 Replay 的多阶段迁移

示例

loading...
Loading code...

常见问题

图编排与 AI Agent 是同一概念吗?

不是。Graph 定义允许的 Node、Transition 与 State;Agent 把更多运行时路径选择交给模型。确定性 Workflow 可以使用 Graph,Agent Loop 也可以表示在 Graph 内。

图编排为什么需要 Reducer?

Parallel Branch 可能更新同一个 State Key。没有确定性 Reducer 或 Conflict Rule,结果会依赖完成顺序。每个共享字段都应测试结合律、重复投递、Replay 与调度变化。

Checkpoint 能保证 Tool Side Effect 安全吗?

不能。Checkpoint 记录 Workflow State,不一定知道下游是否已提交。Write 还需要 Idempotency Key 与 Effect Journal,结果不明确时应先对账再重试。

应该怎样限制 Cycle 与 Retry?

要求可测量进展,并限制 Step、等价状态重复、时间、Token、成本和 Tool Call。Transient、Permanent、Validation、Policy 与 Unknown Outcome 不能共用一个无条件 Retry Edge。

什么时候 Chain 比 Graph 更合适?

流程有序、短时运行,且很少需要分支或恢复时使用 Chain。显式 State、Cycle、Parallel Join、Durable Interrupt、人工审批或崩溃恢复成为一等需求时再选择 Graph。

相关术语

相关文章