什么是 事实锚定(Grounding)?

事实锚定(Grounding)是把 AI 系统输出绑定到检索证据、可信来源、工具结果或结构化数据上的做法,而不是只依赖模型记忆。

工作原理

事实锚定是可信 RAG 和 Agent 系统的核心。一个有锚定的答案应由系统在运行时能够检查、引用或验证的证据支持。这些证据可以来自文档、数据库、搜索结果、API 调用、日志或用户上传文件。事实锚定本身并不保证绝对正确:检索可能错误,来源可能过期,模型也可能误读证据。但没有事实锚定,生成答案就更难审计、纠正和信任。

主要特点

  • 把生成输出连接到可检查证据或工具结果
  • 降低但不能完全消除幻觉风险
  • 需要可靠检索、来源新鲜度,以及引用或轨迹支持
  • 可使用文档、数据库、API、搜索结果、日志或结构化记录
  • 对监管、企业、医疗、法律和金融 AI 工作流很重要

常见用途

  1. 生成带来源片段引用的 RAG 答案
  2. 从权限过滤后的知识库回答企业问题
  3. 使用 API 结果而非模型记忆回答当前账户状态
  4. 用检索证据和工具轨迹审计 Agent 决策
  5. 减少合规或政策助手中的无依据说法

示例

loading...
Loading code...

常见问题

事实锚定能消除幻觉吗?

不能。它通过提供证据降低幻觉风险,但系统仍可能检索错误来源或误读正确来源。

RAG 是事实锚定 AI 系统的唯一方法吗?

不是。工具调用、数据库查询、搜索结果、用户上传文件和结构化记录也可以用于锚定回答。

什么样的事实锚定才可审计?

系统应保留来源标识、引用文本、偏移量、时间戳、工具输入和工具输出,让声明可以追踪。

事实锚定和引用溯源有什么区别?

事实锚定是使用证据的更广泛做法;引用溯源是把证据展示给用户的一种方式。

相关工具

相关术语

相关文章