搜尋詞意圖識別:query 理解如何提升相關性
摘要:站內搜尋相關性的上限由 query 理解决定——用戶輸入的查詢平均只有 2–3 個詞,引擎必須先還原「用戶真正想要什麼」,再決定召回什麼、怎麼排序。本文給出意圖分類體系、從規則到統計模型再到 LLM 的三層實現架構,以及識別之後的路由、改寫與兜底策略。
很多相關性問題的根源不在排序演算法,而在入口就沒聽懂用戶。搜「蘋果」可能是水果也可能是手機;搜「退貨」可能是想看政策,也可能是想發起退貨。若引擎不做意圖識別,只能返回一組折中的結果,看起來個個相關、實際沒一個命中。本文從意圖分類體系講起,給出可落地的三層架構與評估方法。
關鍵要點
- 查詢平均只有 2–3 個詞,缺少上下文,意圖識別是相關性優化的第一道關口。
- 經典三類意圖中資訊型佔比最高(研究顯示超過 80%),導航型與交易型各約 10%。
- 企業站內搜尋應擴展到六類意圖,並為每類配置不同的召回與結果形態策略。
- 實現上應按「規則詞典 → 統計/深度分類 → LLM 兜底」三層漸進,兼顧延遲與覆蓋。
- 意圖應輸出機率分佈而非單一標籤,低置信度走混合檢索兜底,避免誤判硬傷。
- 評估用準確率、F1 與業務指標(零結果率、改寫率、首次搜尋成功率)雙重口徑。
一、意圖識別決定相關性的上限
相關性優化通常從排序入手,但排序能做的只是在候選集合裡排個先後;如果候選集合本身就是錯的,再好的排序也無解。而候選集合由 query 理解决定:分詞是否切對、同義是否歸一、實體是否識別、意圖是否判明。
query 理解的難點在於輸入極短。研究顯示,用戶查詢平均由 2–3 個關鍵詞構成,缺少句子的語法結構與上下文,傳統的自然語言處理工具又多為長文檔設計,直接套用效果會打折扣——這也是為什麼需要為查詢專門設計的實體識別與語言模型。短文本帶來的直接後果是歧義:同一個查詢在不同業務場景下指向完全不同的目標,而這正是意圖識別要解決的問題。
二、意圖分類體系:從經典三類到六類
經典研究把查詢意圖分為資訊型、導航型與交易型三類。基於百萬級查詢日誌的統計顯示,資訊型佔比超過 80%,導航型與交易型各約 10%。這套分類對通用搜尋引擎足夠,但企業站內搜尋需要更細的粒度,因為不同意圖對應的處置動作完全不同。
| 意圖類型 | 典型查詢 | 期望結果 | 檢索策略 |
|---|---|---|---|
| 資訊型 | 「報銷流程」「什麼是 RAG」 | 解釋、步驟、文件片段 | 語義召回 + 答案片段直達 |
| 導航型 | 「考勤系統」「登入頁」 | 唯一目標頁面或系統入口 | 標題/網域精確匹配,直接跳轉 |
| 交易型 | 「下載用戶端」「提交工單」 | 可操作的頁面或表單 | 元數據過濾,直達功能頁 |
| 商業調研型 | 「A 方案 vs B 方案」 | 對比表、評測、選型建議 | 混合檢索 + 權威度加權 |
| 本地型 | 「附近的服務點」「某城市倉庫」 | 地圖、地址、就近列表 | 地理過濾 + 實體匹配 |
| 事實型 | 「最新版本是多少」「誰負責」 | 單一可驗證事實 | 實體抽取 + 知識庫/圖譜定位 |
對企業而言,導航型與交易型尤其值得單獨處理:用戶搜「報銷系統」時最想要的是直達入口,而不是十篇制度文件。識別這兩類並給出直達卡片,往往是最快見效的優化。此外,行動端約 30% 的查詢帶有本地意圖,涉及門市、服務點與區域庫存的場景應把地理過濾前置。
三、技術實現:規則詞典、統計分類與 LLM 的三層架構
第一層是規則與詞典,處理高頻確定性模式。包括精確匹配詞典(品牌、產品型號、系統名)、正則(訂單號、編號、日期)、以及同義詞與糾錯表。它的價值是零延遲成本、可解釋、可即時修正,應該覆蓋 60%–80% 的高頻查詢。
第二層是統計與深度學習分類。用標註過的查詢日誌訓練分類器(從傳統機器學習到微調的 Transformer 模型),輸出意圖標籤與置信度。這類方法能處理詞典覆蓋不到的長尾表達,延遲通常在 10–100 毫秒量級,適合作為主力。第三層是 LLM 零/少樣本兜底,用於新詞、複雜長句與多意圖查詢,幾乎不需要標註數據,但延遲在 100–1000 毫秒以上,只適合低流量或非同步場景。
| 方案 | 延遲量級 | 數據需求 | 可解釋性 | 適用場景 |
|---|---|---|---|---|
| 規則 + 詞典 | < 10 ms | 無需標註,靠人工維護 | 高 | 高頻確定性查詢、直達入口 |
| 傳統機器學習 | < 10 ms | 大量標註數據 | 中 | 意圖體系穩定、低延遲生產環境 |
| 深度學習(BERT 類) | 10–100 ms | 大量標註數據 | 低 | 複雜語義、固定業務域 |
| LLM 零/少樣本 | 100–1000+ ms | 極少標註 | 低 | 新詞、長句、動態意圖、原型驗證 |
四、識別之後:路由、查詢改寫與實體抽取
識別出意圖只是開始,關鍵是把意圖轉換成檢索動作,即「路由」。資訊型查詢走語義召回 + 精選片段;導航型直接返回目標頁卡片;交易型返回可操作組件(按鈕、表單入口);事實型走實體與知識庫定位。研究也指出,在檢索增強生成(RAG)架構裡,意圖分類決定了去哪個知識源取上下文,是抑制幻覺的第一道閘門。
查詢改寫與實體抽取是同一環節的兩翼。改寫包括糾錯、同義歸一、省略補全與拼寫變體合併,讓「無線耳機」與「藍牙耳機」落到同一召回集合;實體抽取識別品牌、型號、地點、人名、時間等結構化要素,供過濾器與排序使用。三者共同構成「查詢理解層」,其輸出是一份結構化的檢索意圖描述,而非一個字串。
需要特別注意的是,意圖必須輸出機率分佈而非硬性單一標籤。經典研究的自動分類準確率約 74%,剩餘約 25% 的查詢意圖本就模糊或多重——強行打成單一標籤必然誤判。正確做法是對高置信度查詢走專用策略,對低置信度查詢退化為「混合檢索 + 多路召回 + 融合排序」,並保留結果頁上的篩選器讓用戶自行收窄。
五、準確率怎麼評估與提升
評估要同時看模型指標與業務指標。模型側用留出手測試集計算準確率、精確率、召回率與 F1,並按意圖類別分別統計——宏平均能暴露小類別被犧牲的問題。實踐中,自動分類的準確率基線約在 74% 左右;透過引入面向查詢的語言特徵(如大小寫無關模型、查詢專用實體識別),準確率可比純詞特徵方法提升數個百分點。
業務側則看意圖識別上線後零結果率、改寫率、首次搜尋成功率與點擊位置是否改善。提升路徑有三條:一是擴充標註集,優先標註高頻與高價值查詢;二是做難例治理,把縮寫、多意圖、新詞與跨類目查詢單獨成冊,用規則或 LLM 專項兜底;三是建立反饋閉環,把「用戶點擊了哪一類結果」作為意圖標籤的弱監督信號持續回流,讓分類器隨業務演進。
六、企業落地路徑:從日誌標註到線上灰階
落地建議分四步走。第一步建評估集:從查詢日誌裡抽樣 500–1000 條高頻與典型查詢做人工標註,作為訓練與測試的黃金集;這一步沒有捷徑,但決定了後續一切優化是否可衡量。第二步先上規則層:把精確匹配、同義詞與糾錯詞典上線,通常就能拿下大部分高頻查詢的可見改善。
第三步訓練分類層:用標註集訓練模型,先在離線評估集上跑到可接受水平,再以影子模式(shadow mode)上線——只記錄預測不生效,對比預測與用戶實際行為的吻合度。第四步灰階與兜底:按置信度分流,高置信度走專用路由,低置信度走混合檢索;持續監控每類意圖的零結果率與點擊率,異常即回滾該類路由。
整個過程中,詞典與規則需要專人維護,且與業務變更同步(上新品牌、改產品名、調整流程說法都要更新)。把意圖體系當作一份需要持續運營的資產,而不是一次性交付的模型,是它能否長期有效的關鍵。
常見問題
問:意圖識別一定要上模型嗎?規則和詞典夠不夠?
答:起步階段規則與詞典往往就能覆蓋 60%–80% 的高頻查詢,且可解釋、易修正、零延遲成本。模型用來解決長尾與新詞。建議先上規則層拿可見收益,再逐步引入分類模型與 LLM 兜底。
問:意圖分類的準確率做到多少才算可用?
答:學術研究給出的自動分類準確率基線約 74%,且剩餘約 25% 的查詢本就意圖模糊或多重。因此不應追求接近 100% 的單標籤準確率,而應輸出機率分佈,對低置信度查詢走混合檢索兜底。
問:導航型和交易型為什麼要單獨處理?
答:因為用戶想要的是「直達」而非「相關列表」。搜某個系統名時返回十篇文件是失敗的,正確做法是返回目標頁卡片或功能入口。這兩類在企業站內搜尋中佔比不高但體驗影響極大,是最快見效的優化點。
問:LLM 可以直接替代分類模型嗎?
答:不建議直接替代。LLM 零/少樣本幾乎不需要標註、能處理新詞與複雜長句,但延遲通常在 100–1000 毫秒以上,成本也更高。合理定位是低流量與難例兜底,主流量仍由規則與分類模型承擔。
問:多意圖查詢怎麼處理?
答:不要強打單一標籤。輸出多標籤與機率分佈,走多路召回後融合排序,並在結果頁提供篩選器讓用戶自行收窄。經典研究也指出約四分之一的查詢意圖模糊或多重,需要機率化分類。
問:怎麼判斷意圖識別是否真的提升了效果?
答:雙口徑驗證:模型側看留出手上的準確率與分類別 F1;業務側看零結果率、查詢改寫率、首次搜尋成功率與首位點擊率是否改善。只漲模型指標而業務指標不動,說明路由策略沒接上。
問:標註數據從哪來最省力?
答:從查詢日誌抽樣高頻與典型查詢人工標註,建立 500–1000 條的黃金集;上線後用「用戶最終點擊了哪類結果」作為弱監督信號持續回流擴充。優先標註高頻與高�value查詢,性價比最高。
關於通智雲
意圖識別是查詢理解的核心環節,直接決定召回集合是否正確、結果能否直達;通智搜尋面向這類場景提供查詢理解、意圖路由與查詢改寫能力。通智雲(TENGENCE)是 AI 時代的企業增長引擎,專注公域引流獲客與私域轉化成交;核心產品為通智 GEO(GEO + SEO 雙引擎)與通智搜尋。
相關閱讀
資料來源
- Jansen, Booth & Spink(2008):Determining the Informational, Navigational, and Transactional Intent of Web Queries:基於 150 萬條查詢日誌的統計顯示資訊型佔比超過 80%、導航型與交易型各約 10%,自動分類準確率 74%,且約 25% 查詢意圖模糊或多重,需機率化分類。
- Inference Systems:Intent Classification:給出六類意圖 taxonomy(資訊型 50–80%、導航型 10–25%、交易型 10–20%、商業調研 5–15%、本地型、事實型)及各自對應的結果形態與檢索策略,並指出行動端約 30% 查詢含本地意圖。
- Inference Systems:Query Intent Classification:對比傳統機器學習(延遲 <10 ms)、深度學習(10–100 ms)與 LLM 零/少樣本(100–1000+ ms)在數據需求、特徵工程、可解釋性與適用場景上的差異,並說明意圖分類在 RAG 中作為路由器決定檢索策略。
- ScienceDirect:Exploring effective features for recognizing the user intent behind web queries:指出查詢平均僅 2–3 個詞、缺乏上下文,需為查詢專門設計語言特徵;引入大小寫無關模型等語言特徵後,準確率較純詞特徵方法最多提升約 8.3 個百分點。