什么是 检索增强生成？
检索增强生成是一种在推理时检索外部证据，并把筛选后的上下文交给生成模型，使回答能够依据知识、及时更新和追溯来源的 AI 架构。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
从来源记录到最终回答
离线链路解析来源，保留稳定文档 ID 和版本，附加访问权限元数据，再生成分块或其他检索单元。在线链路理解查询、执行权限过滤、检索候选、按需重排序或压缩、组装受限上下文、生成答案，并把答案主张映射回证据。稠密检索只是选项之一，稀疏检索、混合搜索、图查询、SQL 和工具调用都可以实现同一证据契约。
按阶段定位失败，而不是只看答案
错误答案本身不能说明根因。应依次检查语料中是否存在最新且授权可见的证据、检索是否覆盖证据、排序是否把有用片段保留在前列、生成器是否忠实于上下文，以及引用是否真的支持对应主张。端到端任务成功率决定业务价值，阶段指标则让回归问题可以被定位和修复。
生产控制与工程权衡
分块、top-k、过滤、查询改写和重排序都应在代表性问题集上调优，而不是照搬固定经验值。日志应记录来源与索引版本、检索 ID 和分数、过滤条件、模型与提示词版本、引用、延迟和降级决策，同时避免泄露受保护正文。事实需要独立于模型权重更新时使用 RAG；行为或输出形式需要改变时考虑微调，只有两类需求都成立时才组合使用。
主要特点
- 把可更新证据库与模型参数中的知识分离
- 先执行检索和排序，再生成答案，而不是把搜索当成附加步骤
- 依赖稳定来源标识、数据版本和访问控制来支持审计
- 明确暴露索引、检索、生成与引用归因的不同失败模式
- 可接入稠密、稀疏、混合、图、数据库和工具型证据源
- 必须结合阶段指标与端到端指标，因为检索并不保证事实正确
常见用途
- 基于版本化内部政策和运行手册回答企业问题
- 使用最新产品、权益和事故信息支持客户
- 对法律、合规或研究资料进行可追溯探索
- 构建面向代码仓库和技术文档的编程助手
- 从频繁变化的业务记录中生成有证据的摘要
示例
Loading code...常见问题
RAG 解决的核心问题是什么？
RAG 让应用无需把每项事实固化进模型权重，就能查询持续变化或私有的证据。用户需要当前领域知识、可检查来源或按权限回答时，它尤其有价值；如果目标是教会模型新的行为，RAG 并不能替代训练。
使用 RAG 就能保证答案真实且没有幻觉吗？
不能。检索器可能漏掉必要证据、返回误导性来源或加入大量噪声，生成器也可能补充无依据主张。事实正确性还取决于来源是否真实和新鲜，因此必须分别评估检索、忠实度、引用支持度与任务正确性。
RAG 的分块大小和 top-k 应该如何选择？
两者都应作为实验参数，而不是通用常数。先构建含必要证据标签的代表性问题集，再比较多种分块和排序配置，同时检查上下文精确率、召回率、生成质量、延迟与 Token 成本。
什么时候应该选择 RAG，而不是模型微调？
主要需求是查询私有、频繁更新或必须引用的事实时选择 RAG；需要模型稳定遵循新风格、格式或任务行为时选择微调。部分系统会组合两者，但每个组件都应对应已经验证的独立问题。
生产 RAG 链路应记录哪些可观测信息？
应记录查询变换、语料与索引版本、访问过滤条件、召回和重排后的 ID 与分数、发送给模型的上下文、提示词和模型版本、主张与引用映射、降级路径、延迟及错误。追踪数据应遵守与原始来源相同的权限和保留规则。