什么是 JSON 模式(JSON Mode)?
JSON 模式(JSON Mode)是一种 LLM API 或解码能力,用于约束模型响应成为合法 JSON,或强烈偏向 JSON 语法。
工作原理
JSON 模式帮助应用获得可解析模型输出,但不应与完整 schema 正确性混淆。不同提供商的 JSON 模式可能只保证语法合法,而字段、类型、枚举值和业务约束仍然需要验证。它适用于抽取、分类、工具参数和工作流自动化。生产系统应把 JSON 模式与明确 schema、重试、验证和兜底处理结合。
主要特点
- 约束或偏置生成结果,使其符合 JSON 语法
- 相比自由文本提示词,可提升可解析性
- 不会自动保证 schema 或业务规则正确
- 常与结构化输出、函数调用和工具参数一起使用
- 仍需要验证、错误处理和测试
常见用途
- 把文档字段抽取成 JSON
- 用固定键返回分类结果
- 为 Agent 生成工具调用参数
- 减少生产 LLM 工作流中的解析失败
- 把 JSON 输出与 schema 验证和重试结合
示例
loading...
Loading code...常见问题
JSON 模式能保证字段正确吗?
不一定。它通常改善 JSON 语法,但 schema 字段、类型和业务有效性仍需验证。
JSON 模式和结构化输出有什么区别?
JSON 模式是一种机制;结构化输出是返回符合预期约束的机器可读数据的更广泛实践。
JSON 模式输出可以不检查直接解析吗?
不应这样做。仍要解析、验证、处理缺失字段,并定义重试或兜底行为。
JSON 模式什么时候有用?
当应用需要可预测 JSON 进行抽取、分类、工具调用或自动化时,它很有用。