什么是 引用溯源(Citation)?
更新于
引用溯源(Citation)是把 AI 生成主张映射到用于支持它的具体来源片段、记录或工具结果,并保留足以重新获取和检查该证据的来源信息。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
保存来源链路,而不只是 URL
引用记录应包含主张或句子 ID、稳定来源 ID、来源版本、页码或章节、可用时的字符或 Token 偏移、展示标签和检索授权上下文。来源会变化时,应保存被引片段或防篡改引用。答案采用流式输出、句子编辑、去重或文档重建索引后,渲染器仍必须保持主张与证据映射。
分别衡量支持度与覆盖率
引用支持度或正确性评估每个被引来源是否真的蕴含对应主张;引用覆盖率或完整性评估所有需要外部证据的主张是否获得充分引用。回答可能一项很高而另一项很低:已有引用都正确,但一半事实没有引用;或者每项主张都有链接,却有多个链接无法提供支持。
围绕验证成本与访问控制设计
用户需要核验决策时,优先使用主张级或句子级锚点,同时保留周边语境,避免断章取义。应拒绝过期偏移量、缺失版本、不可访问来源,以及生成完成后未经蕴含检查才补上的引用。当前用户无权访问的来源,其存在、标题、摘要和 URL 都不应泄露;引用展示必须服从与检索相同的权限。
主要特点
- 把具体答案主张映射到可检查证据
- 保留来源身份、版本、位置与展示元数据
- 把引用支持正确性与主张覆盖率分开
- 要求锚点在流式生成、编辑和重建索引后保持稳定
- 本身不能证明来源权威、新鲜或事实真实
- 必须执行与检索和答案生成相同的访问策略
常见用途
- 为企业政策答案展示证据片段
- 把 Agent 结论追溯到数据库行或工具输出
- 审计医疗、法律、金融与合规主张
- 在 RAG 回归测试中衡量引用支持度与覆盖率
- 调试过期、失效、过宽或越权的来源链接
示例
Loading code...常见问题
RAG 答案中的正确引用需要满足什么条件?
被引片段必须在限定条件、数值和时间范围上支持对应主张。主题相近或共享关键词并不够。审查者应能打开指定来源版本,在无需搜索整篇文档的情况下验证蕴含关系。
引用支持度和引用覆盖率有什么区别?
支持度衡量已经出现的引用能否证明对应主张;覆盖率衡量所有需要外部证据的主张是否都有充分引用。两者都要报告,因为系统可能只有少数完美引用,却留下大量无依据事实。
只提供文档级引用够用吗?
短且稳定的文档有时可以,但片段、章节、页码或记录级锚点能降低核验成本与歧义。高风险场景还应保留精确来源版本和足够周边语境,以发现断章取义。
来源文档变化后,引用应该怎样处理?
使用不可变来源版本或快照,并保存稳定 ID、偏移量或结构锚点。如果重建索引导致映射失效,应把引用标为过期并重新生成或隐藏,而不能继续静默指向已经变化的内容。
引用会泄露受限信息吗?
会。文档标题、摘要、URL 甚至文档是否存在都可能敏感。系统应在检索前和引用渲染前分别执行授权检查,并避免把受保护证据写入更广泛可见的日志。