什么是 HyDE(Hypothetical Document Embeddings)?

HyDE(Hypothetical Document Embeddings)是一种零样本检索方法,先生成一段或多段类似答案的假设文档,将其嵌入为查询表示,再搜索邻近的真实文档。

快速了解

规范文档官方规范

工作原理

生成、嵌入、聚合、检索

提示生成器输出与语料体裁相符的文档式段落,再用索引建库时相同的文档编码器和预处理方式编码,并通过均值等明确规则聚合向量。原始方法会采样多个假设文档,当前框架可能暴露不同数量或管线。查询文本、提示词、生成模型、采样参数、编码器和聚合规则都属于检索版本。

把假设文本挡在证据边界之外

看似合理的假设段落可能编造产品名、法规、API 或因果关系,并把检索带向错误邻域。不能引用它,也不能把它作为证据放进答案上下文。应在 Trace 中明确标记其生成属性,与真实候选隔离,并只允许最终答案使用通过权限与事实锚定检查的真实来源。高风险或精确标识符查询应路由到词法或原始查询分支,而不是只依赖 HyDE。

测量增量价值与成本

在同一份相关性标注上比较原始查询稠密检索、HyDE、词法和混合方案,并报告 Recall@K、nDCG 或 MRR、生成失败率、主题漂移率、延迟、Token 成本和缓存命中率。需要单独观察短查询、领域偏移、命名实体、否定、多语言输入和歧义意图。ACL 论文证明了该方法在其模型和基准任务上的可行性,但没有证明 HyDE 能改善所有语料或优于有监督领域检索器。

主要特点

  • 使用生成的文档式文本作为中间检索表示
  • 把查询到文档匹配转换为文档到文档相似性搜索
  • 可将多个假设文档嵌入聚合成一个搜索向量
  • 必须遵守目标索引建库时使用的同一文档编码器契约
  • 在检索前增加生成延迟、成本、随机性和主题漂移风险
  • 严格隔离生成假设与可归因的真实证据

常见用途

  1. 在没有相关性标注时测试零样本稠密检索
  2. 弥合短用户问题与专业文档之间的词汇差距
  3. 为陌生领域生成更接近文档形态的检索探针
  4. 把 HyDE 作为原始查询或混合候选管线中的一个分支
  5. 研究多个生成视角能否改善探索式检索

示例

loading...
Loading code...

常见问题

HyDE 生成的文档可以作为引用证据吗?

不可以。它用于塑造搜索向量,本身可能是错误的。引用和答案主张必须来自通过鉴权、来源追踪与事实锚定检查的真实检索文档。

HyDE 一定能改善稠密检索吗?

不一定。它可能缓解词汇不匹配和零样本领域问题,也可能增加主题漂移、延迟与成本。应在同一份留出标注上与原始查询向量、词法检索和混合检索比较。

为什么要生成多个假设文档?

多个样本可以覆盖不同相关措辞,降低单次生成依赖,但均值也可能模糊彼此不同的意图。样本数和聚合方法都应作为检索契约的一部分调优。

HyDE 和普通查询改写有什么区别?

普通查询改写通常输出另一个查询或若干简短搜索表达式;HyDE 输出类似答案、接近文档形态的文本并进行嵌入,让检索发生在预期文档分布附近。

哪些查询使用 HyDE 风险较高?

精确标识符、当前事实、歧义多意图问题、否定表达以及生成器不了解的领域风险较高,因为虚构细节会误导搜索。应保留原始查询和词法分支,监控漂移,并在缺少真实证据时拒答。

相关术语

相关文章

向量嵌入工程指南:模型选型、语义检索评测与安全迁移

向量嵌入如何支撑语义搜索和 RAG?本文从向量空间、任务类型、归一化与距离函数讲到模型选型、混合检索、重排、Recall@k 评测、索引容量、权限过滤和双索引迁移,帮助开发者用真实查询集验证 Embedding,而不是依赖排行榜、固定维度或无条件相似度阈值。还覆盖向量版本契约、数据删除、跨租户隔离、近似索引取舍和生产监控。

2026-02-21

语义搜索:混合检索、权限控制与评测指南

把语义搜索下沉为可授权、可度量、可迁移的检索系统。本文系统讲解词法与向量召回、RRF 融合、重排、权限过滤、索引迁移、缓存和分层评测,并提供可运行 Python 示例,适合 RAG、企业知识库、商品搜索、代码检索和多语言内容发现等生产场景。重点说明相似度分数边界、ANN 召回损失、跨租户隔离、版本化缓存键,以及如何用影子流量和回放评测完成安全切流。

2026-02-21

多模态 RAG:生产级架构、检索与评测指南

面向 PDF、图表、图片与文本设计生产级多模态 RAG。系统比较 OCR 与版面检索、Caption 代理、共享多模态向量、ColPali 视觉文档检索和混合检索,给出查询路由、排名融合、证据打包、安全防护、成本治理与分层评测方法,适合企业知识库、财报问答、合同检索和扫描文档场景,帮助团队从演示原型走向可验证、可追溯的生产系统。

2026-04-08