機器學習和 AI 是強大的工具，具有改變世界的潛力，但它們的強大功能，僅止於為他們提供資料以及他們使用的模型。自然語言處理（NLP）是機器學習和 AI 的重要組成部分，可讓電腦解讀、操作和理解人類語言。
擷取增強生成（RAG）代表了 NLP 的重大進展，透過縮小生成能力與外部知識的取得之間的差距，進而產生更健全、更上下文感知的語言理解和生成系統。
本文說明 RAG 是什麼、為何它很重要、如何運作，以及其應用與效益。
什麼是 RAG？
RAG 是一種將 LLM 功能與外部權威知識庫整合，以擴展其原始訓練資料之外的技術。
在 RAG 中，一種生成機器學習模型會在產生過程中從大型外部知識庫中擷取相關資訊，進而產生更豐富的脈絡、更豐富的成果，以及更好的內容。
為何 RAG 在 NLP 領域很重要？
RAG 結合了預先訓練語言模型的優勢，以及擷取資訊的脈絡豐富性，在各種應用程式中產生更明智且準確的文字，包括問題解答、總結和對話系統。
RAG 是 NLP 領域的重要概念，因為它帶來：
提升情境理解能力：透過整合擷取機制，RAG 模型可以存取與輸入查詢或產生任務相關的大量外部知識或內容。這使得模型能夠更深入地理解背景，從而得到更準確和與背景相關的回應。
更好的內容產生：RAG 模型不僅能流暢產生內容，還能建立在真實世界的知識基礎上。這在產生輸出需要真實和連貫的任務中特別有用。
減少偏見和錯誤資訊：RAG 模型可透過驗證產生的內容與外部來源，協助減少偏見和錯誤資訊。透過整合來自知識庫的多元觀點，該模型可以產生更平衡、更真實的產出。
彈性與適應性：RAG 架構具有彈性，可適應不同的領域和語言。他們可以利用特定領域的知識庫，或在推論期間動態擷取相關資訊，以適應新的主題。
可擴充性：RAG 模型可以有效擴展，以處理大規模的知識庫。擷取元件不僅僅仰賴預先訓練的參數，還能將方法擴展到各種應用程式和使用案例。
持續學習與改善：RAG 系統的設計可隨時間持續學習與改善。RAG 模型結合回饋機制與反覆精煉流程，可提升其在產生高品質內容時的效能、準確性與相關性。這個反覆的學習循環有助於 RAG 驅動應用程式的長期效能和可靠性。
RAG 如何運作？
RAG 結合了預先訓練的語言模型與檢索機制，以改善文字式輸出的產生。
我們來看看 RAG 的基本要素：
- 預先訓練的語言模型
該過程從預先訓練的語言模型開始，如生成預先訓練的變壓器 （GPT）或來自變壓器的雙向編碼器表示 （BERT）。這些模型經過大量文字資料訓練，能理解並產生類似人類的文字。
- 擷取機制
擷取機制使用 Okapi BM25（搜尋引擎使用的排名功能）等技術，從知識庫取得相關資訊。
- 知識庫
RAG 需要存取知識庫或工作主體，其中包含與手頭任務相關的資訊。可以是資料庫、文件集，甚至是一系列精心設計的網頁。
- 輸入查詢
使用者向 RAG 系統提供輸入查詢或提示。此查詢可以是問題、部分句子，或是任何需要上下文或資訊才能產生有意義的回應的輸入形式。
- 檢索流程
擷取機制會處理輸入查詢，並從知識庫擷取相關文件或段落。
- 內容融合
擷取的資訊會與原始輸入查詢融合，或提示為語言模型建立內容豐富的輸入。此內容融合步驟可確保語言模型在產生輸出前，能夠存取相關資訊。
- 世代
預先訓練的語言模型採用脈絡豐富的輸入，並產生所需的輸出。這個輸出內容可以是問題的完整答案、故事的延續、重述句子，或任何其他文字式回應。
- 評估與完善
可根據預先定義的指標或人為判斷來評估產生的輸出。系統可依據回饋進行微調與微調，以改善產出的品質。
RAG 應用程式
RAG 適用於各種產業的多種應用程式。
聊天機器人
最常見的範例是聊天機器人和虛擬助理，其中 RAG 透過提供情境相關且準確的回應來改善對話能力。舉例來說，電信公司的客戶服務聊天機器人，可以使用 RAG 從知識庫中擷取資訊，如常見問題、產品規格和故障排除指南。當網站使用者提出問題時，聊天機器人可以根據使用者查詢和擷取的知識來產生回應，從而產生更多資訊和有用的互動。
內容產生
其他常見的 RAG 應用程式包括內容生成和總結。例如，新聞摘要系統可使用 RAG 擷取特定主題的相關文章或背景資訊。然後，系統將新聞文章的要點與擷取到的知識進行綜合，為讀者提供全面的概述，而不會省略重要細節，從而建立簡明、資訊豐富的摘要。
大型語言模型
RAG 可用於大規模、高效能的大型語言模型（LLM） 使用案例，讓公司能夠透過外部、更具體且專有的資料來源來改善並自訂一般 LLM。這解決了關鍵的生成 AI 問題，如幻覺，透過引用訓練之外的知識庫，使 LLM 更加準確、及時和相關。
電子商務
RAG 也透過擷取產品評論、規格和使用者意見回饋，協助電子商務應用程式。當使用者搜尋特定產品或類別時，系統可根據使用者的偏好、過去的互動和擷取的知識，產生個人化的建議。
教學
教育機構和網站可以使用 RAG 建立個人化的學習體驗，並為教育內容提供額外的背景。舉例來說，以 AI 為基礎的輔導系統，可以使用 RAG 取得與所教授主題相關的教材、教科書和補充資源。當學生詢問問題或要求釐清概念時，系統可以透過將擷取的知識與學生目前的學習背景相結合來產生解釋或範例。
醫療
醫療資訊系統可以使用 RAG 為臨床醫師和患者提供準確且最新的醫療資訊。醫療聊天機器人或資訊系統可以使用 RAG 擷取醫學文獻、治療指引和患者教育資料。當健康照護者或患者詢問特定醫療病況、治療選項或症狀時，系統可根據擷取的知識產生資訊反應，協助使用者更輕鬆地做出明智的決定，並理解複雜的醫療概念。
這些範例展示了 RAG 在各產業的多樣性，並強調了其增強 NLP、內容生成、推薦系統和知識管理應用程式等各方面的潛力。
結論
RAG 結合了預先訓練的語言模型與擷取機制，以強化文字產生作業。它能改善內容品質、減少偏見，並提升使用者滿意度、擴充性，以及持續學習能力。RAG 應用程式包括聊天機器人、內容生成、推薦系統、教育平台、醫療資訊系統等。
隨著 RAG 不斷進化，並與先進的 AI 技術整合，它有可能徹底改變我們與 AI 系統的互動方式，在自然語言的互動中提供更加個人化、資訊豐富且引人入勝的體驗。
了解 RAG 管線如何運用 NVIDIA GPU、NVIDIA 網路、NVIDIA 微服務，以及 Pure Storage FlashBlade//S TM 優化企業級 GenAI 應用程式。
