返回

混合检索架构:BM25 + 向量召回怎么融合(含 RRF)

通智云团队 ·
向量搜索 搜索系统 通智搜索
混合检索架构:BM25 + 向量召回怎么融合(含 RRF)

摘要:BM25 与向量召回不是二选一,而是互补。真正决定效果的不是用不用向量,而是两路结果怎么合成一个列表。本文把融合拆成三个维度,并给出可以从最小可用形态起步的做法。

关键要点

一、为什么必须混合

单一召回的失败是结构性的,不是调参能解决的。

关键词检索的失手区有三类:用户用口语描述("电脑开不了机"对"无法启动")、跨语言或同义词("报销"对"费用申请")、拼写错误与简称。这些查询在倒排索引里可能一个词都对不上。

向量检索的失手区同样明确:精确标识符(订单号、型号、条款编号)、极短查询、以及训练语料里罕见的专有名词。向量把语义相近的东西拉到一起,恰恰容易把"编号 A-1024"和"编号 A-1025"混为一谈。

两类失手区几乎不重叠,这就是混合检索的价值来源。它不是为了"更先进",而是为了覆盖对方的结构性盲区。

还有一层现实考虑:真实流量里,精确查询与模糊查询的比例通常是稳定的。任何单一方案都会在固定比例的查询上表现不佳,而这个比例往往正好落在高价值查询上——用户找具体订单、具体条款时最不能出错。

站内搜索选型卡住了,或者效果一直不动?

看搜索与推荐能力

二、融合的三个维度

把融合拆开看,它涉及三件事,处理方式完全不同。

维度 要解决的问题 常见做法 陷阱
候选集 每路各取多少、是否并集 各取 Top-K 后合并去重 K 太小导致正确结果没进候选
分数 两路分数量纲不同怎么比 加权、归一化、RRF 直接相加,量纲错配
排名 最终顺序怎么定 融合排序、重排 融合后不做重排,顺序仍不可控

候选集是最容易被忽略的一维。很多实现只取每路前十条,合并后二十条里却没有正确答案——因为正确结果在向量那一路排第十五。K 的取值应该按召回评估定,而不是按"页面展示条数"定。

分数维度的核心问题是量纲。BM25 的分数是"匹配强度"的无界值,向量相似度通常是 0 到 1 的余弦值,两者直接相加没有意义。要么归一化后再加权,要么放弃分数、只看排名。

排名维度是可解释性的来源。融合后的列表如果无法说明"为什么这条排第一",后续调优就只能靠试。RRF 的好处正在于此:它的排序依据是"两路里的名次之和",任何一条结果的位置都能被追溯。

三、五个落地步骤

第一步,确定两路召回的候选规模。用真实查询集测召回率,把 K 调到"再增大也不提升召回"的位置。这一步决定了后续所有工作的上限。

第二步,先上 RRF。公式很简单:每条结果的分数等于各路名次的倒数之和,平滑常数取一个常见值后固定。RRF 不需要训练,也不需要标注数据,适合作为基线。

第三步,加去重与同源合并。同一文档在多个分片、多个版本里出现时,要先归并再排序,否则前十条可能全是同一篇的不同版本。

第四步,接重排。用一个小模型对融合后的前若干条做二次排序。重排的输入应该包含查询与片段,而不只是分数,否则它学不到语义。

第五步,做降级策略。任一路召回超时或失败时,用另一路结果顶上,并在响应里标明"部分召回"状态。没有降级的混合检索,可用性反而低于单路。

五步里最容易被跳过的是第三步。去重看起来是清理工作,实际直接影响体验:用户看到十条里五条重复,会认为搜索"不好用",尽管排序算法本身没问题。

四、工程要点:并行、超时与缓存

架构上的三个要点,决定系统在真实流量下是否稳定。

第一,两路必须并行。串行执行会让延迟等于两路之和,而用户对首屏时间的容忍度很低。并行之后,整体延迟约等于较慢那一路。

第二,超时要分级。向量路通常更慢,应设较短超时并允许降级;关键词路更快,可以作为兜底。超时值要按实际分布定,而不是拍一个固定数字。

第三,缓存要分层。查询级缓存适合高频重复查询,片段级缓存适合长尾。缓存失效策略与索引更新绑定,否则会出现"内容已更新但结果还是旧的"。

还有一层:索引更新的一致性。两路索引的更新节奏如果不同步,会出现"关键词能搜到、向量搜不到"的窗口期。窗口期短可以接受,但要有监控,否则问题会被当成随机故障。

五、选型与风险清单

选型时按四个问题判断:

第一,数据规模与更新频率。高频更新要求增量索引能力,而不是全量重建。

第二,是否需要多语言。多语言场景下,向量模型的语言覆盖比 BM25 的分词器更关键。

第三,是否需要过滤与权限。混合检索必须先过滤再召回,否则会把无权内容排进候选,后续再筛会造成结果空洞。

第四,运维能力。向量索引的内存占用与重建成本,通常高于团队预期。

风险清单有五条:候选集过小导致漏召回;分数直接相加导致排序失真;缺少去重导致同源堆叠;串行执行导致延迟翻倍;索引不同步导致结果不一致。

五条风险都可以通过前面的步骤规避,前提是把它们写进验收标准,而不是留在"以后优化"的清单里。

六、从最小可用到规模化

不建议一开始就做完整架构。一个可行的最小形态是:关键词召回保留现有实现,向量召回单独起一个服务,融合用 RRF 在应用层完成,重排暂时不做。这个形态一周内可以跑起来,也能给出"混合是否值得继续投"的初步答案。

规模化阶段再处理三件事:把融合下沉到检索服务内部以减少网络往返;引入分片与副本以支撑并发;把重排纳入同一套资源预算。这三件事的顺序很重要,顺序颠倒会让容量估算反复推翻。

还有一个容易被忽略的规模化成本:评估体系。查询集要持续扩充,否则上线半年后,你无法判断效果下降是模型退化还是流量结构变化。评估集本身是需要维护的资产。

常见问题

问:能不能只用向量,不用 BM25?
在通用问答场景可以尝试,但只要有编号、型号、条款这类精确查询,就会明显失手。多数业务场景两类查询并存。

问:RRF 的平滑常数怎么定?
先用常见值跑基线,再用真实查询集做小范围对比。这个参数对结果的影响小于候选集规模,不必过度调参。

问:融合前要不要归一化分数?
如果用 RRF,不需要。如果用加权融合,必须归一化,并且要在同一查询集上验证权重稳定性。

问:重排一定要上吗?
不是必须。融合做好之后,重排能提升排序质量,但会增加延迟与运维成本。先用融合跑一段时间,确认瓶颈在排序再上。

问:怎么评估混合是否有效?
用同一批查询分别测单路与混合的召回率与首位命中率。只看人工抽样感受,容易得出相反结论。

相关阅读

数据来源

  1. Elastic,《kNN 检索文档》——向量检索参数、近似算法与混合查询的实现细节。
  2. Microsoft Learn,《Azure AI 搜索概述》——关键词与向量混合检索的产品化实现。
  3. Lewis 等,《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》——检索质量如何影响下游生成。
← 上一篇: 2026 年私有化 AI 搜索:架构与容量规划 下一篇: 实验分析框架:指标、检查与决策 →
咨询
二维码

企业微信