什么是 链式编排（Chain Orchestration）？
链式编排（Chain Orchestration）是由代码定义模型、检索、工具、校验与转换步骤的执行顺序，并让每个步骤把类型化结果或显式失败传给下一阶段的 LLM 应用模式。其核心是应用控制流程，而不是绝对没有 Gate 或并行子步骤。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
链式编排把大任务拆成固定且可检查的阶段，例如规范化输入、检索证据、构建上下文、调用模型、解析结构化输出、验证事实和渲染响应。每个步骤应声明 Input / Output Contract、Timeout、Retry Class、Observability Field 与 Failure Behavior。模型可以在步骤内部推理，但下一步只能由应用代码在允许路径中选择。
Chain 比 Workflow 范围更窄。Workflow 可以包含 Routing、Fan-out / Join、Loop、Durable Wait、Human Approval、Compensation 与多个 Chain；Graph 则用 Node、Edge、State 与 Cycle 表示并执行这些结构；Agent 把任务拆解、Tool Selection 或 Stop Decision 等更多运行时控制交给模型。框架名称不能证明架构：LangGraph 可以实现一条线性 Chain，普通函数管线也可以包含有界条件 Gate。
Prompt Chaining 适合把任务拆为更小且可验证的子问题。它用额外调用、Latency、Context Serialization 与 Cost 换取更清楚的中间检查。只有接口保留必要证据、错误不会逐步放大时，拆分才有价值；弱步骤或有损交接组成的长链可能不如一个通过验收的单次调用可靠。
生产 Chain 必须明确失败语义。Transient Read 可以在 Deadline 内 Backoff Retry，但异常输出不能无限重试。Write 需要 Idempotency Key 与 Effect Status。派发后 Timeout 可能是 outcome_unknown，不能直接视为失败。后续步骤失败也不会自动撤销前面已提交的副作用；需要 Preview、Compensation、Approval，或在业务要求恢复时改用 Durable Workflow。
Streaming 会改变契约，因为上游产出可能快于下游或客户端消费。应限制 Buffer、传播 Cancellation、实施 Backpressure，并决定 Validation 前是否允许暴露 Partial Output。只持久化 Replay 所需最小状态，不记录 Secret、完整私密 Prompt 或隐藏思维链。
评测应同时覆盖每个 Stage 与端到端 Outcome。固定 Prompt、Model、Parser、Retriever、Schema、Policy 和 Dataset Version，测试 Empty、Malformed、Multilingual、Adversarial、Timeout、Cancellation 与 Dependency Failure。记录逐阶段 Latency、Token、Cost、Retry、Validation Decision 和 Outcome。当 Recovery、Branching、State、Parallelism 或 Approval 成为一等需求时升级为 Workflow / Graph；只有执行路径确实无法预先编码，且评测证明收益时才升级为 Agent。
主要特点
- 代码定义控制流，阶段有界且可以检查
- 类型化步骤契约覆盖输入、输出、错误、超时与版本身份
- 中间 Gate 可以在无效证据传播前拒绝它
- 相对模型驱动 Agent Loop，调用次数和路径更可预测
- 显式定义 Streaming、Cancellation、Retry 与 Side-effect 语义
- 逐阶段和端到端评测绑定同一 Release Configuration
常见用途
- 检索证据、构建上下文、生成答案、校验引用并渲染输出
- 抽取结构化字段、按业务规则校验并请求人工复核
- 生成大纲、检查必需章节、撰写内容并运行确定性校验
- 通过固定预处理和后处理步骤完成文档分类或规范化
- 执行拓扑预先确定的 Map、独立分析与 Join
- 考虑模型驱动编排前建立可测量的 Workflow Baseline
示例
Loading code...常见问题
链式编排必须是完全线性的吗？
不必。Chain 可以包含由代码定义的有界校验 Gate 或并行工作。分支、循环、持久等待、补偿或共享状态成为主要结构时，使用 Workflow 或 Graph 表达更清晰。
链式编排与 AI Agent 有什么区别？
Chain 的 Stage 与 Transition 由应用代码选择；Agent 则把任务拆解、Tool Selection 和 Stop Decision 等更多运行时决策交给模型。区别在控制流，而不在导入了哪个框架。
把一个 Prompt 拆成 Chain 一定能改善质量吗？
不一定。Chaining 可以简化子任务与检查，但会增加延迟、成本、序列化损失和故障点。应使用相同任务与 Outcome 标准，与通过验收的单次调用基线比较。
Chain 步骤失败后可以安全重试吗？
只有归类为瞬时错误且位于有界 Deadline 内时才重试。Read 通常容易重试；Write 需要幂等与结果对账。Validation Failure 应走声明好的修复、回退、拒绝或升级路径。
什么时候应把 Chain 升级为 Graph 或 Durable Workflow？
需要显式分支、循环、并行汇聚、长期状态、人工暂停、崩溃恢复、补偿或版本迁移时应升级。只有路径无法预先确定且评测证明自主性有收益时才使用 Agent。