RAG（檢索增強生成）

什麼是 RAG（檢索增強生成）？

檢索增強生成（RAG）是一種結合資訊檢索與文字生成的 AI 架構，用以產出準確且有依據的回覆。RAG 不僅依賴大型語言模型（LLM）可能過時或不完整的內部知識，而是從外部知識來源檢索相關文件，並在生成時將這些情境提供給語言模型。這種「先檢索、再生成」的方法是現代 AI 客服平台的基礎，因為它能減少 AI 幻覺，並確保回答以經過驗證的最新資訊為依據。

RAG 如何運作

RAG 流程主要分為兩個階段：檢索與生成。

**檢索階段：**客戶提出查詢時，系統會將其轉換為稠密向量嵌入，也就是能捕捉語意的數值表示。系統再使用餘弦相似度或近似最近鄰（ANN）搜尋等相似度搜尋演算法，將此嵌入與預先處理過的文件（說明文章、產品文件、政策頁面、過往工單）向量索引進行比對，檢索並排序最相關的文件片段。進階實作會以知識圖譜查詢與關鍵字檢索（混合搜尋）強化向量搜尋，同時掌握語意與產品代碼、錯誤 ID 等精確比對字詞。

**生成階段：**檢索到的文件片段會作為情境注入 LLM 的提示中。語言模型將檢索到的資訊整合成連貫的自然語言回答。由於模型是以真實來源資料為條件，而非僅仰賴參數記憶，因此回覆具備事實依據，並可追溯到特定文件。

正式環境等級的 RAG 系統會加入中間步驟：以查詢改寫提升檢索品質、以重新排序優先呈現最相關的片段，以及透過 RAG Fusion 技術合併多種檢索策略的結果。這些改良能減少雜訊並提升精確度。

RAG 為何重要

大型語言模型是強大的生成工具，但有一項關鍵限制：它們可能產出聽起來正確、實際上卻錯誤的資訊。這就是幻覺；在客服情境中，這代表可能告訴客戶錯誤的帳單政策、錯誤的疑難排解步驟，或根本不存在的功能。RAG 透過讓每個回覆都以檢索到的證據為依據來解決這個問題。

Lewis 等人於 2020 年在 NeurIPS 發表的 RAG 奠基論文證明，將預訓練語言模型與針對外部文件的神經檢索器結合，能產出比僅依賴參數的模型更具體、多元且符合事實的結果。此架構此後已成為知識密集型 AI 應用的標準，詳見 arXiv 上的原始 RAG 研究。

對客服而言，RAG 的影響十分直接。AI 代理能引用來源，支援團隊能驗證準確性，客戶得到的答案來自企業的實際知識，而非模型的猜測。RAG 也讓 AI 更容易保持最新：只要更新文件索引，AI 就能立即反映新資訊，無須重新訓練。

使用案例與應用

RAG 是各產業準確 AI 支援的技術骨幹：

• **客戶支援：**檢索說明文章、產品文件與帳戶資料，精準回答客戶問題
• **內部知識管理：**讓員工以自然語言查詢 Confluence、Notion、Google Drive 等資料庫
• **合規與受監管產業：**讓每個 AI 回覆都以核准的政策文件為依據，並保留引用紀錄以供稽核
• **技術疑難排解：**擷取錯誤文件、API 參考資料與過往解決模式，引導 SaaS 支援互動
• **多語言支援：**以某種語言檢索來源文件，再以客戶偏好的語言生成回覆

Maven 的優勢

Maven AGI 平台建構於精密的 RAG 架構之上。Agent Maven 採用混合搜尋，結合稠密向量嵌入與結構化知識圖譜查詢，涵蓋 100+ 個連接的資料來源。多階段重新排序與情境融合，確保最相關的資訊進入生成層，產出準確且完整的回覆。

PropTech 公司 Enumerate 導入 Maven AGI 後，解決率達 91%。之所以能達到如此準確度，是因為 Maven 的 RAG 流程從企業自身的知識庫與產品系統檢索經過驗證的資訊，而非來自 LLM 的參數記憶，消除了損害 AI 支援信任度的幻覺風險。

獲得 $78M 資金挹注的 Maven AGI，將 RAG 視為基礎層。Agent Maven 產生的每個回覆都以檢索到的證據為依據，並附上來源引用以確保透明度。這正是 K1x 等 Maven 客戶能達到 80% 解決率（比先前的 AI 高出 10x）、Papaya Pay 能達到 90% 自主解決率的原因。欲了解更多，請參閱 IBM Research 關於檢索增強生成的介紹，或探索結合知識圖譜之 RAG 的最新研究，了解混合檢索的進展。

常見問題

RAG 如何減少 AI 幻覺？

RAG 讓語言模型的輸出以檢索到的來源文件為條件，而非僅依賴內部參數，藉此減少幻覺。模型會從具體且經過驗證的文字段落取材。若檢索到的情境中沒有答案，設計良好的 RAG 系統會坦承資訊不足，而不是捏造回覆。

什麼是向量嵌入？為何對 RAG 很重要？

向量嵌入是能捕捉語意的文字數值表示。例如「refund」一詞與「get my money back」這個片語，即使沒有共同字詞，嵌入也會很相近。在 RAG 中，嵌入讓語意搜尋成為可能：系統能找到概念相關的文件，而不只是關鍵字相符的結果。這正是 RAG 在對話式 AI 中遠比傳統搜尋有效的原因。

RAG 需要重新訓練語言模型嗎？

不需要。RAG 的主要優勢之一，就是資訊變更時無須重新訓練語言模型。團隊只要更新文件索引，檢索層就會在生成時立即提供最新資訊。因此 RAG 非常適合文件經常變動的快速環境，例如 SaaS 支援。

RAG 系統中的混合搜尋是什麼？

混合搜尋結合向量語意搜尋與關鍵字檢索（BM25 或類似方法）。向量搜尋擅長理解語意與意圖，關鍵字搜尋則較適合產品代碼、錯誤 ID 等精確比對。兩者結合，確保無論查詢是口語化或具體明確，RAG 流程都能檢索到相關結果。Maven AGI 在其企業 AI 支援平台中即採用此混合方法。