Agentic RAG 是什麼？智慧體檢索的架構與落地
摘要：Agentic RAG 把自主規劃與工具調用引入檢索流程，讓模型按需多輪檢索、改寫查詢並挑選數據源，再生成答案。
傳統 RAG 一次性檢索取回固定片段便交給生成模型，遇到需要跨文檔比對、多條件篩選或多跳推理的問題就容易答偏。Agentic RAG 用具備規劃能力的智慧體接管檢索決策，把「取回什麼、什麼時候再取」交給模型自己判斷。本文拆解其定義、四段流水線、三種架構形態與落地清單。
關鍵要點
- Agentic RAG 的核心是檢索決策權從固定流水線轉移到具備規劃與工具調用能力的智慧體。
- 一次問答可觸發多輪檢索：先探查、再改寫查詢、必要時換數據源，直到證據滿足生成條件。
- 典型流水線為四段：查詢理解與規劃、檢索執行、證據評估、生成與引用。
- 三種主流架構形態分別是路由式、循環式與多智慧體式，複雜度與可控性此消彼長。
- 它並不替代傳統 RAG：問題越簡單、延遲要求越嚴，固定流水線的性價比越高。
- 通智搜索面向企業站內檢索場景，把查詢理解、混合檢索與結果排序串成可編排鏈路，為 Agentic RAG 提供可落地的檢索底座。
一、Agentic RAG 的一句話定義
Agentic RAG 是讓自主智慧體接管檢索決策的檢索增強生成範式：模型不只被動接收檢索結果，而是自己規劃檢索步驟、調用檢索工具、評估證據是否足夠，並決定是否繼續檢索。
傳統 RAG（Lewis 等人在 2020 年提出的檢索增強生成）把流程固定為「用戶提問、向量檢索取回若干片段、拼進提示詞、生成答案」這條鏈路。它對單跳事實問答有效，但面對「比較兩種方案在三種條件下的差異」這類問題，一次性檢索取回的證據往往並不齊備。Agentic RAG 的改動在於把智慧體放進檢索環節：智慧體先把複雜問題拆成若干子問題，逐個發起檢索，再根據已得證據判斷是否需要補檢索。IBM 對 Agentic RAG 的界定同樣強調這一點——智慧體能夠自主規劃檢索策略、調用外部工具並迭代修正，而不是執行一條固定流水線。
二、Agentic RAG 怎麼工作：四段流水線
Agentic RAG 的執行鏈路可以拆成四段：先規劃查什麼，再執行檢索，隨後評估證據是否充分，最後生成答案並標註來源；其中「是否補檢索」由模型在第三段顯式決策。
| 階段 | 職責 | 關鍵信號與產物 |
|---|---|---|
| ① 查詢理解與規劃 | 拆解子問題、選擇數據源、決定檢索順序 | 子查詢列表、工具選擇 |
| ② 檢索執行 | 向量檢索、關鍵詞檢索、結構化查詢或 API 調用 | 候選片段集、來源標識 |
| ③ 證據評估 | 判斷證據是否充分、是否衝突、是否需要補檢索 | 充分性判定、改寫後的查詢 |
| ④ 生成與引用 | 組織答案並標註來源，保留可追溯的引用鏈 | 帶腳註的答案、引用列表 |
關鍵在於第三段：證據評估讓「要不要再檢索一次」成為模型的顯式決策，而不是流水線裡的固定步數。這也是延遲與成本的主要來源——多輪檢索意味著更多次模型調用與檢索請求，因此工程上必須配套輪次上限與超時策略。
三、三種主流架構形態怎麼選
Agentic RAG 的架構形態可以按「決策集中度」分為三類：路由式、循環式與多智慧體式，三者複雜度與可控性此消彼長，選型取決於問題的跳數與並行性。
| 形態 | 適用問題 | 優勢 | 代價 |
|---|---|---|---|
| 路由式（Router） | 數據源明確、只需判斷查哪個庫 | 實現簡單、延遲低 | 無法處理多跳推理 |
| 循環式（Loop／自我修正） | 需要多輪改寫查詢逐步逼近證據 | 證據品質高、可自我糾錯 | 輪次不可控，需設上限 |
| 多智慧體式（Multi-agent） | 跨域、需並行分工檢索的調研型問題 | 覆蓋廣、可並行 | 編排複雜、成本高、結果一致性難保證 |
選型規則很直接：先按問題的「跳數」判斷——單跳問題用路由式，雙跳以上用循環式，跨域且可並行的調研型問題才考慮多智慧體式。架構越複雜，越需要額外的輪次上限、超時與降級策略來兜住不確定性。
四、它和傳統 RAG 的差距到底在哪
差異不在「檢索」本身，而在「誰來決策檢索」：傳統 RAG 的檢索參數在部署期寫死，Agentic RAG 把這部分決策移到運行期，由模型按當前證據動態決定。
| 維度 | 傳統 RAG | Agentic RAG |
|---|---|---|
| 檢索決策 | 部署期固定的流水線參數 | 運行期由智慧體動態決定 |
| 檢索輪次 | 通常一次 | 多輪，直到證據充分 |
| 查詢改寫 | 可選，規則或固定模板 | 智慧體按證據缺口改寫 |
| 延遲與成本 | 低且可預測 | 更高，且隨輪次波動 |
| 適用問題 | 單跳事實問答 | 多跳、跨源、需要比對的複雜問題 |
值得注意的是，Agentic RAG 並不必然更準確。若規劃環節把問題拆錯，或證據評估誤判為「已充分」，多輪檢索反而會引入更多噪聲。因此工程上通常保留降級路徑：輪次超限或證據仍不足時，退回固定流水線並顯式標註不確定性。
五、常見誤區
引入 Agentic RAG 最常見的四個誤區，都源於把它當成「必然更準」的架構升級，而忽略了它本質上是一次針對複雜問題的取捨。
- 誤區一：Agentic RAG 一定比傳統 RAG 準。它只在中高複雜度問題上佔優；簡單事實問答用固定流水線更快也更穩。
- 誤區二：輪次越多越好。缺少上限與充分性判定的循環會無限放大成本，且容易把無關片段帶進上下文。
- 誤區三：換上智慧體就不需要檢索優化了。檢索品質仍是天花板，查詢理解、索引切分與重排不達標時，智慧體只是在劣質候選集上反覆折騰。
- 誤區四：它只服務於問答機器人。企業內更常見的落地形態是調研、跨文檔比對與報告生成，而非聊天。
六、企業落地的自檢清單
企業落地的關鍵不是先上架構，而是先量化問題複雜度，再決定是否需要智慧體規劃；下列五項按執行順序排列，前兩項是前置條件。
- 先量化問題複雜度：抽樣一批真實問題，統計需要跨文檔比對或多條件篩選的比例；該比例偏低時優先優化傳統 RAG。
- 給檢索層打底：查詢理解、混合檢索（向量與關鍵詞並用）、結果重排三項先達標，再引入智慧體規劃。
- 設硬約束：單輪超時、總輪次上限、降級觸發條件必須寫進編排配置，且可觀測。
- 保留引用鏈：每個結論都能追溯到具體片段與來源，這是審計與持續迭代的前提。
- 建立評測集：以「證據充分率」與「答案覆蓋率」為主指標，而非只看最終答案是否通順。
若檢索底座尚未成型，可參考企業知識庫搜索與文檔搜索實踐先把查詢理解與結果排序做穩，再疊加智慧體規劃。對「智慧體」本身的能力邊界，可延伸閱讀智慧體搜索是什麼。
常見問題
問：Agentic RAG 和傳統 RAG 的根本區別是什麼？
答：區別在於檢索決策的歸屬。傳統 RAG 的檢索參數在部署期固定，Agentic RAG 由智慧體在運行期按當前證據動態決定查什麼、查幾次、換不換數據源。
問：一次問答最多應該允許幾輪檢索？
答：沒有通用答案，但必須設上限。工程上常以兩到四輪為起點，配合單輪超時與證據充分性判定；超過上限即降級並標註不確定性。
問：Agentic RAG 必須用多智慧體架構嗎？
答：不是。路由式與循環式已能覆蓋多數場景，多智慧體只在跨域且可並行檢索時才划算，代價是編排複雜度與結果一致性風險。
問：檢索品質差的時候上 Agentic RAG 有用嗎？
答：幫助有限。智慧體只能規劃與選擇，無法憑空提升索引與排序品質；應先把查詢理解、混合檢索與重排做達標。
問：它會顯著推高推理成本嗎？
答：會。成本主要來自多輪模型調用與多次檢索請求，且隨輪次波動，因此需要輪次上限、快取與降級策略共同約束。
問：企業場景最現實的落地形態是什麼？
答：多數不是聊天機器人，而是調研、跨文檔比對與報告生成這類高複雜度、對延遲不敏感的任務，先在這些場景驗證收益再逐步外擴。
關於通智雲
通智搜索面向企業站內與知識庫檢索場景，把查詢理解、混合檢索與結果排序串成可編排的檢索鏈路，讓 Agentic RAG 的多輪檢索決策能穩定落在企業自有數據上。通智雲（TENGENCE）是 AI 時代的企業增長引擎，專注公域引流獲客與私域轉化成交；核心產品為通智 GEO（GEO + SEO 雙引擎）與通智搜索。了解通智搜索。
相關閱讀
資料來源
- arXiv：Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG（2025）：支撐「Agentic RAG 由智慧體自主規劃檢索步驟、調用工具並迭代修正」的範式界定與架構分類。
- IBM Think：What is agentic RAG?：支撐「智慧體能夠自主規劃檢索策略、調用外部工具並迭代修正，而非執行固定流水線」的表述。
- arXiv：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（Lewis et al., 2020）：支撐「傳統 RAG 把流程固定為取回片段再生成」的原始定義。
- LlamaIndex 官方文檔：Agents：支撐「智慧體按證據缺口改寫查詢、調用不同檢索工具」的工程實現路徑。
- Elastic Search Labs：Agentic RAG：支撐「多輪檢索帶來延遲與成本波動、需設輪次上限與降級」的工程約束判斷。
