什么是 HyDE(Hypothetical Document Embeddings)?
HyDE(Hypothetical Document Embeddings)是一种零样本检索方法,先生成一段或多段类似答案的假设文档,将其嵌入为查询表示,再搜索邻近的真实文档。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
生成、嵌入、聚合、检索
提示生成器输出与语料体裁相符的文档式段落,再用索引建库时相同的文档编码器和预处理方式编码,并通过均值等明确规则聚合向量。原始方法会采样多个假设文档,当前框架可能暴露不同数量或管线。查询文本、提示词、生成模型、采样参数、编码器和聚合规则都属于检索版本。
把假设文本挡在证据边界之外
看似合理的假设段落可能编造产品名、法规、API 或因果关系,并把检索带向错误邻域。不能引用它,也不能把它作为证据放进答案上下文。应在 Trace 中明确标记其生成属性,与真实候选隔离,并只允许最终答案使用通过权限与事实锚定检查的真实来源。高风险或精确标识符查询应路由到词法或原始查询分支,而不是只依赖 HyDE。
测量增量价值与成本
在同一份相关性标注上比较原始查询稠密检索、HyDE、词法和混合方案,并报告 Recall@K、nDCG 或 MRR、生成失败率、主题漂移率、延迟、Token 成本和缓存命中率。需要单独观察短查询、领域偏移、命名实体、否定、多语言输入和歧义意图。ACL 论文证明了该方法在其模型和基准任务上的可行性,但没有证明 HyDE 能改善所有语料或优于有监督领域检索器。
主要特点
- 使用生成的文档式文本作为中间检索表示
- 把查询到文档匹配转换为文档到文档相似性搜索
- 可将多个假设文档嵌入聚合成一个搜索向量
- 必须遵守目标索引建库时使用的同一文档编码器契约
- 在检索前增加生成延迟、成本、随机性和主题漂移风险
- 严格隔离生成假设与可归因的真实证据
常见用途
- 在没有相关性标注时测试零样本稠密检索
- 弥合短用户问题与专业文档之间的词汇差距
- 为陌生领域生成更接近文档形态的检索探针
- 把 HyDE 作为原始查询或混合候选管线中的一个分支
- 研究多个生成视角能否改善探索式检索
示例
Loading code...常见问题
HyDE 生成的文档可以作为引用证据吗?
不可以。它用于塑造搜索向量,本身可能是错误的。引用和答案主张必须来自通过鉴权、来源追踪与事实锚定检查的真实检索文档。
HyDE 一定能改善稠密检索吗?
不一定。它可能缓解词汇不匹配和零样本领域问题,也可能增加主题漂移、延迟与成本。应在同一份留出标注上与原始查询向量、词法检索和混合检索比较。
为什么要生成多个假设文档?
多个样本可以覆盖不同相关措辞,降低单次生成依赖,但均值也可能模糊彼此不同的意图。样本数和聚合方法都应作为检索契约的一部分调优。
HyDE 和普通查询改写有什么区别?
普通查询改写通常输出另一个查询或若干简短搜索表达式;HyDE 输出类似答案、接近文档形态的文本并进行嵌入,让检索发生在预期文档分布附近。
哪些查询使用 HyDE 风险较高?
精确标识符、当前事实、歧义多意图问题、否定表达以及生成器不了解的领域风险较高,因为虚构细节会误导搜索。应保留原始查询和词法分支,监控漂移,并在缺少真实证据时拒答。