返回

RAG 幻覺治理:企業上 RAG 的第一顧慮怎麼解

通智雲團隊 ·
RAG 技術方案 通智搜尋
RAG 幻覺治理:企業上 RAG 的第一顧慮怎麼解

摘要:幻覺不是單一模型問題,而是「檢索沒給對依據」與「生成沒守住依據」的疊加。先分型、修召回、約束生成,再用忠實度指標把問題變成可回歸的數字。

企業上線 RAG 時最常被問的一句是「它會不會一本正經地編」。多數團隊的第一反應是換更強的模型,或把溫度調低,但幾輪下來發現問題只是換了形態:明顯的編造少了,答案與依據悄悄偏移的情況卻更難被發現。原因是幻覺並不只發生在生成端——檢索沒取回正確片段、切塊把關鍵條件切丟、重排把權威檔案壓到後面,都會讓模型在錯誤的依據上寫出流暢答案。治理因此要有鏈路視角:先把幻覺分型,定位到具體環節,再逐層加約束,最後建立能持續回歸的評測。本文按這個順序給出可執行的做法。

關鍵要點

一、結論先行:先分型,再定位到鏈路層

把「幻覺」當成一個統一故障,是治理中最常見的框架錯誤。上線評審裡至少要把它拆成四類:答案憑空給出上下文裡完全沒有的事實;上下文裡有依據但被模型曲解或過度外推;依據本身已經過期或來自錯誤版本;以及問題被理解偏了,導致檢索與生成都朝着錯誤方向使勁。四類的責任環節完全不同,第一類多屬召回與知識覆蓋不足,第二類出在生成約束與提示結構,第三類屬於數據治理與版本管理,第四類要回到查詢理解與意圖識別。若不做分型,團隊往往會把所有問題都歸因到模型,反覆調整提示詞卻收效甚微。可操作的做法是先建一份按類型標註的失敗樣例集,每條記錄原始問題、檢索到的片段、生成的答案與錯誤歸類;累積到一定規模後,哪一層是主要矛盾就會清晰可見。分型之後再談技術選型:召回層要修的是覆蓋與切塊,生成層要修的是輸出格式與拒答邊界,評測層要修的是能不能穩定復現問題。這個順序決定了後面所有投入是否會打在正確的位置上。

二、召回層:沒有正確依據,生成再克制也沒用

第一層治理不發生在模型裡,而發生在檢索鏈路。Sentence-Transformers 的 Retrieve & Re-rank 官方教程 給出的兩階段範式,把一個常被忽略的事實講得很清楚:先用高效檢索取回候選,再對短候選列表精排,而正確檔案若壓根不在候選裡,後續任何重排都無法補救。企業場景裡造成「不在候選」的原因通常不是模型不夠強,而是工程細節:長檔案被粗暴切塊,把「適用條件」「生效日期」與主體結論切到了不同片段;商品型號、內部縮寫與多語言別名沒有同義詞映射;只用單一向量召回,恰好漏掉標題裡精確匹配的專業術語。對應的修法是先把切塊改成按語義邊界與結構切分並保留上下文標題,再用倒排、多路與語義召回並行取候選,把查詢理解層的分詞、糾錯、類目預測與詞權重接在前面。驗收方式也應當具體:用一份已知正確檔案的問題集,檢查正確片段是否穩定進入候選集,而不是只看最終答案是否流暢。召回覆蓋率上不去時,任何生成端的「請嚴格依據上下文」都只是在要求模型用錯誤材料寫得更小心。

三、生成層:把有據可查變成硬約束

第二層才是生成端的約束,但重點不是措辭,而是輸出結構。在提示詞裡加一句「不要編造」屬於軟約束,模型在上下文不足時仍傾向於補全一個看似合理的答案。更可靠的做法是讓答案必須攜帶可校驗的依據:Anthropic 在 Citations 官方檔案 中描述的引用式輸出,把每個論斷與具體來源片段關聯起來,使下遊可以逐條核對而不是整段通讀。落到企業應用上,至少要做到三件事:要求答案按論斷分句,每句對應一個片段編號;當檢索片段與問題不匹配或置信不足時,走明確的拒答或轉人工路徑,而不是降級成自由發揮;把「不得引用片段之外的數字、日期與承諾」寫成輸出校驗規則,在返回用戶前做一次程序化檢查。這裡要注意一個平衡:引用密度過高會損害可讀性,因此可以按場景分級,客服與合規類答案強制逐句引用,導航與概要類答案保留來源列表即可。拒答率本身也應被監測——它突然升高往往意味着召回或數據版本出了問題,反而是比答案流暢度更靈敏的預警信號。把約束做成格式與校驗,而不是願望清單,幻覺才會從「偶爾發生」變成「可被攔截」。

四、評測層:用忠實度把幻覺變成可回歸的數字

第三層解決「怎麼知道有沒有變好」。主觀抽查無法支撐迭代,因為不同評審人的標準不同,且每輪抽樣的問題難度不一。RAGAS 在 Faithfulness 指標檔案 裡給出的判據很實用:把答案拆成論斷,逐條檢查能否由檢索到的上下文支撐,再計算被支撐論斷的佔比。這個定義把「是否編造」轉成可計算、可設閾值的量,也天然區分了「依據錯」與「表述錯」。其背後的 RAGAS 評測框架論文 進一步主張在不依賴大量人工標註的前提下,對檢索與生成分別評估,便於持續跑批。工程落地建議配一份固定的評測集:覆蓋高頻問題、邊界條件、已知易錯案例與應當拒答的問題,每次改動檢索策略、切塊、模型或提示詞後都跑同一批,記錄忠實度、答案相關性與拒答率三項變化。LlamaIndex 的 Evaluating 模塊檔案 描述了把檢索與生成拆開評測的組件,適合接進持續回歸流程。評測的價值不在分數本身,而在於讓每次改動都有可比的基準:如果忠實度沒動而拒答率翻倍,說明只是把問題擋在門外,並沒有真正修好。

五、企業落地:監控、回歸與運營幹預

能把治理長期跑下去的,是把「監測 → 定位 → 改動 → 回歸 → 幹預」接成閉環,而不是一次性調參。線上要保留每個答案的原始問題、檢索片段、引用映射與拒答原因,出現投訴時可完整復現;用固定評測集做發布前回歸,任何一項指標越界就阻斷上線;對高風險主題設確定性運營規則,把已知錯誤來源屏蔽、把權威檔案加權或直達,並讓這些規則獨立於模型分數存在,避免一次模型升級把治理成果衝掉。通智搜尋作為企業級站內搜索引擎,把查詢理解、倒排與多路及 AI 語義召回、粗排精排模型,以及固定位、屏蔽、直達、打散與加權等運營幹預做成可配置能力,並提供報表與 A/B 讓每次調整可被驗證;它面向企業內部搜索、知識庫問答與 RAG / 向量等站內檢索場景,不涉及對外搜索引擎排名或 AI 答案引用。回到 RAGAS 的忠實度定義:先把召回覆蓋做紮實,再用引用式輸出約束生成,最後讓評測集與運營層守住長期品質,RAG 幻覺就從「上線前最大的顧慮」變成一項可度量、可收斂的工程指標。

常見問題

問:換個更強的模型是不是就能解決幻覺?

答:通常不能。若正確依據沒被召回,更強的模型只會把錯誤材料組織得更流暢。先檢查切塊、同義詞與多路召回,讓正確片段穩定進入候選,再評估模型升級的收益。

問:提示詞裡寫「不要編造」為什麼效果有限?

答:這是軟約束,上下文不足時模型仍傾向於補全。應改成硬約束:答案按論斷分句並附帶片段引用,依據不足時走拒答路徑,返回前對數字、日期與承諾做程序化校驗。

問:忠實度指標怎麼理解,多少算合格?

答:它衡量答案裡的論斷有多少能被檢索上下文支撐。合格線應按場景自定並用固定評測集建立基線,看的是相對變化而非一個通用閾值;同時要看拒答率,避免用「多拒答」把分數做高。

問:拒答率突然升高說明什麼?

答:往往不是模型變保守,而是召回或數據出了變化,例如索引版本更新、切塊規則改動、權威檔案下線。把拒答率與檢索覆蓋率一起監控,它通常比答案流暢度更早暴露問題。

問:業務規則應該放在模型裡還是檢索鏈路裡?

答:放在檢索鏈路裡,並獨立於模型分數。屏蔽、加權、直達屬於確定性業務規則,與模型耦合會在升級時被衝掉;用報表與 A/B 觀察幹預效果,定期覆核即可。

資料來源

相關閱讀

立即行動

關於通智雲

通智雲(TENGENCE)是 AI 時代的企業增長引擎,專注公域引流獲客與私域轉化成交;核心產品為通智 GEO(GEO + SEO 雙引擎)、通智搜尋與通智睿見 Insight(智能數據平臺)。圍繞本文討論的 RAG 幻覺治理,通智搜尋麵向企業級站內檢索場景,把查詢理解、倒排與多路及 AI 語義召回、粗排精排模型,以及固定位、屏蔽、直達、打散與加權等運營幹預做成可配置能力,並提供報表與 A/B 讓每一次檢索調整都可量化驗證;企業內部搜索、知識庫問答與 RAG / 向量均在其適用場景之內。

← 上一篇: 產品分析 vs 網站分析 vs BI:何時用哪個 下一篇: GEO 與 SEO 有什麼區別?一張表講清雙引擎差異 →
諮詢
二維碼

企業微信