返回

混合檢索架構:BM25 + 向量召回怎麼融合(含 RRF)

通智雲團隊 ·
向量搜尋 排序演算法 搜尋系統
混合檢索架構:BM25 + 向量召回怎麼融合(含 RRF)

摘要:BM25 與向量召回不是二選一,而是互補。真正決定效果的不是用不用向量,而是兩路結果怎麼合成一個列表。本文把融合拆成三個維度,並給出可以從最小可用形態起步的做法。

關鍵要點

一、為什麼必須混合

單一召回的失敗是結構性的,不是調參能解決的。

關鍵詞檢索的失手區有三類:使用者用口語描述("電腦開不了機"對"無法啟動")、跨語言或同義詞("報銷"對"費用申請")、拼寫錯誤與簡稱。這些查詢在倒排索引裡可能一個詞都對不上。

向量檢索的失手區同樣明確:精確識別符號(訂單號、型號、條款編號)、極短查詢、以及訓練語料裡罕見的專有名詞。向量把語義相近的東西拉到一起,恰恰容易把"編號 A-1024"和"編號 A-1025"混為一談。

兩類失手區幾乎不重疊,這就是混合檢索的價值來源。它不是為了"更先進",而是為了覆蓋對方的結構性盲區。

還有一層現實考慮:真實流量裡,精確查詢與模糊查詢的比例通常是穩定的。任何單一方案都會在固定比例的查詢上表現不佳,而這個比例往往正好落在高價值查詢上——使用者找具體訂單、具體條款時最不能出錯。

站內搜尋選型卡住了,或者效果一直不動?

看搜尋與推薦能力

二、融合的三個維度

把融合拆開看,它涉及三件事,處理方式完全不同。

維度 要解決的問題 常見做法 陷阱
候選集 每路各取多少、是否並集 各取 Top-K 後合併去重 K 太小導致正確結果沒進候選
分數 兩路分數量綱不同怎麼比 加權、歸一化、RRF 直接相加,量綱錯配
排名 最終順序怎麼定 融合排序、重排 融合後不做重排,順序仍不可控

候選集是最容易被忽略的一維。很多實現只取每路前十條,合併後二十條裡卻沒有正確答案——因為正確結果在向量那一路排第十五。K 的取值應該按召回評估定,而不是按"頁面展示條數"定。

分數維度的核心問題是量綱。BM25 的分數是"匹配強度"的無界值,向量相似度通常是 0 到 1 的餘弦值,兩者直接相加沒有意義。要麼歸一化後再加權,要麼放棄分數、只看排名。

排名維度是可解釋性的來源。融合後的列表如果無法說明"為什麼這條排第一",後續調優就只能靠試。RRF 的好處正在於此:它的排序依據是"兩路里的名次之和",任何一條結果的位置都能被追溯。

三、五個落地步驟

第一步,確定兩路召回的候選規模。用真實查詢集測召回率,把 K 調到"再增大也不提升召回"的位置。這一步決定了後續所有工作的上限。

第二步,先上 RRF。公式很簡單:每條結果的分數等於各路名次的倒數之和,平滑常數取一個常見值後固定。RRF 不需要訓練,也不需要標註資料,適合作為基線。

第三步,加去重與同源合併。同一文件在多個分片、多個版本里出現時,要先歸併再排序,否則前十條可能全是同一篇的不同版本。

第四步,接重排。用一個小模型對融合後的前若干條做二次排序。重排的輸入應該包含查詢與片段,而不只是分數,否則它學不到語義。

第五步,做降級策略。任一路召回超時或失敗時,用另一路結果頂上,並在響應裡標明"部分召回"狀態。沒有降級的混合檢索,可用性反而低於單路。

五步裡最容易被跳過的是第三步。去重看起來是清理工作,實際直接影響體驗:使用者看到十條裡五條重複,會認為搜尋"不好用",儘管排序演算法本身沒問題。

四、工程要點:並行、超時與快取

架構上的三個要點,決定系統在真實流量下是否穩定。

第一,兩路必須並行。序列執行會讓延遲等於兩路之和,而使用者對首屏時間的容忍度很低。並行之後,整體延遲約等於較慢那一路。

第二,超時要分級。向量路通常更慢,應設較短超時並允許降級;關鍵詞路更快,可以作為兜底。超時值要按實際分佈定,而不是拍一個固定數字。

第三,快取要分層。查詢級快取適合高頻重複查詢,片段級快取適合長尾。快取失效策略與索引更新繫結,否則會出現"內容已更新但結果還是舊的"。

還有一層:索引更新的一致性。兩路索引的更新節奏如果不同步,會出現"關鍵詞能搜到、向量搜不到"的視窗期。視窗期短可以接受,但要有監控,否則問題會被當成隨機故障。

五、選型與風險清單

選型時按四個問題判斷:

第一,資料規模與更新頻率。高頻更新要求增量索引能力,而不是全量重建。

第二,是否需要多語言。多語言場景下,向量模型的語言覆蓋比 BM25 的分詞器更關鍵。

第三,是否需要過濾與許可權。混合檢索必須先過濾再召回,否則會把無權內容排進候選,後續再篩會造成結果空洞。

第四,運維能力。向量索引的記憶體佔用與重建成本,通常高於團隊預期。

風險清單有五條:候選集過小導致漏召回;分數直接相加導致排序失真;缺少去重導致同源堆疊;序列執行導致延遲翻倍;索引不同步導致結果不一致。

五條風險都可以通過前面的步驟規避,前提是把它們寫進驗收標準,而不是留在"以後最佳化"的清單裡。

六、從最小可用到規模化

不建議一開始就做完整架構。一個可行的最小形態是:關鍵詞召回保留現有實現,向量召回單獨起一個服務,融合用 RRF 在應用層完成,重排暫時不做。這個形態一週內可以跑起來,也能給出"混合是否值得繼續投"的初步答案。

規模化階段再處理三件事:把融合下沉到檢索服務內部以減少網路往返;引入分片與副本以支撐併發;把重排納入同一套資源預算。這三件事的順序很重要,順序顛倒會讓容量估算反覆推翻。

還有一個容易被忽略的規模化成本:評估體系。查詢集要持續擴充,否則上線半年後,你無法判斷效果下降是模型退化還是流量結構變化。評估集本身是需要維護的資產。

常見問題

問:能不能只用向量,不用 BM25?
在通用問答場景可以嘗試,但只要有編號、型號、條款這類精確查詢,就會明顯失手。多數業務場景兩類查詢並存。

問:RRF 的平滑常數怎麼定?
先用常見值跑基線,再用真實查詢集做小範圍對比。這個引數對結果的影響小於候選集規模,不必過度調參。

問:融合前要不要歸一化分數?
如果用 RRF,不需要。如果用加權融合,必須歸一化,並且要在同一查詢集上驗證權重穩定性。

問:重排一定要上嗎?
不是必須。融合做好之後,重排能提升排序質量,但會增加延遲與運維成本。先用融合跑一段時間,確認瓶頸在排序再上。

問:怎麼評估混合是否有效?
用同一批查詢分別測單路與混合的召回率與首位命中率。只看人工抽樣感受,容易得出相反結論。

相關閱讀

資料來源

  1. Elastic,《kNN 檢索文件》——向量檢索引數、近似演算法與混合查詢的實現細節。
  2. Microsoft Learn,《Azure AI 搜尋概述》——關鍵詞與向量混合檢索的產品化實現。
  3. Lewis 等,《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》——檢索質量如何影響下游生成。
← 上一篇: 2026 年私有化 AI 搜尋:架構與容量規劃 下一篇: 實驗分析框架:指標、檢查與決策 →
諮詢
二維碼

企業微信