什么是 事实锚定(Grounding)?
事实锚定(Grounding)是把 AI 系统输出绑定到检索证据、可信来源、工具结果或结构化数据上的做法,而不是只依赖模型记忆。
工作原理
事实锚定是可信 RAG 和 Agent 系统的核心。一个有锚定的答案应由系统在运行时能够检查、引用或验证的证据支持。这些证据可以来自文档、数据库、搜索结果、API 调用、日志或用户上传文件。事实锚定本身并不保证绝对正确:检索可能错误,来源可能过期,模型也可能误读证据。但没有事实锚定,生成答案就更难审计、纠正和信任。
主要特点
- 把生成输出连接到可检查证据或工具结果
- 降低但不能完全消除幻觉风险
- 需要可靠检索、来源新鲜度,以及引用或轨迹支持
- 可使用文档、数据库、API、搜索结果、日志或结构化记录
- 对监管、企业、医疗、法律和金融 AI 工作流很重要
常见用途
- 生成带来源片段引用的 RAG 答案
- 从权限过滤后的知识库回答企业问题
- 使用 API 结果而非模型记忆回答当前账户状态
- 用检索证据和工具轨迹审计 Agent 决策
- 减少合规或政策助手中的无依据说法
示例
loading...
Loading code...常见问题
事实锚定能消除幻觉吗?
不能。它通过提供证据降低幻觉风险,但系统仍可能检索错误来源或误读正确来源。
RAG 是事实锚定 AI 系统的唯一方法吗?
不是。工具调用、数据库查询、搜索结果、用户上传文件和结构化记录也可以用于锚定回答。
什么样的事实锚定才可审计?
系统应保留来源标识、引用文本、偏移量、时间戳、工具输入和工具输出,让声明可以追踪。
事实锚定和引用溯源有什么区别?
事实锚定是使用证据的更广泛做法;引用溯源是把证据展示给用户的一种方式。