RAG (Retrieval Augmented Generation)

Czym jest RAG (Retrieval Augmented Generation)?

Retrieval Augmented Generation (RAG), czyli generowanie wspomagane wyszukiwaniem, to architektura AI łącząca wyszukiwanie informacji z generowaniem tekstu w celu tworzenia trafnych odpowiedzi opartych na źródłach. Zamiast polegać wyłącznie na wewnętrznej wiedzy dużego modelu językowego (LLM), która może być nieaktualna lub niepełna, RAG pobiera odpowiednie dokumenty z zewnętrznego źródła wiedzy i przekazuje ten kontekst modelowi językowemu podczas generowania. Podejście „najpierw wyszukaj, potem wygeneruj” stanowi podstawę nowoczesnych platform obsługi klienta opartej na AI, ponieważ ogranicza halucynacje AI i zapewnia, że odpowiedzi opierają się na zweryfikowanych, aktualnych informacjach.

Jak działa RAG

Potok RAG działa w dwóch głównych etapach: wyszukiwania i generowania.

Etap wyszukiwania: Gdy klient przesyła zapytanie, system zamienia je na gęsty wektor osadzeń (embedding) – numeryczną reprezentację, która oddaje znaczenie semantyczne. Ten wektor jest porównywany z indeksem wektorowym wstępnie przetworzonych dokumentów (artykułów pomocy, dokumentacji produktu, stron z zasadami, wcześniejszych zgłoszeń) za pomocą algorytmów wyszukiwania podobieństwa, takich jak podobieństwo cosinusowe czy przybliżone wyszukiwanie najbliższych sąsiadów (ANN). Najbardziej trafne fragmenty dokumentów są pobierane i szeregowane. Zaawansowane wdrożenia uzupełniają wyszukiwanie wektorowe zapytaniami do grafu wiedzy oraz wyszukiwaniem słów kluczowych (wyszukiwanie hybrydowe), aby uchwycić zarówno znaczenie semantyczne, jak i dokładne dopasowania, np. kody produktów czy identyfikatory błędów.

Etap generowania: Pobrane fragmenty dokumentów są wstawiane do promptu LLM jako kontekst. Model językowy generuje odpowiedź, która łączy pobrane informacje w spójną odpowiedź w języku naturalnym. Ponieważ model opiera się na rzeczywistych materiałach źródłowych, a nie wyłącznie na pamięci parametrycznej, odpowiedź jest zgodna z faktami i można ją powiązać z konkretnymi dokumentami.

Systemy RAG klasy produkcyjnej dodają etapy pośrednie: przeformułowanie zapytania w celu poprawy jakości wyszukiwania, ponowne szeregowanie (reranking), które priorytetyzuje najbardziej trafne fragmenty, oraz techniki RAG Fusion łączące wyniki wielu strategii wyszukiwania. Te usprawnienia ograniczają szum i zwiększają precyzję.

Dlaczego RAG ma znaczenie

Duże modele językowe świetnie generują tekst, ale mają istotne ograniczenie: mogą tworzyć informacje, które brzmią wiarygodnie, ale są nieprawdziwe. To właśnie halucynacje, a w obsłudze klienta oznaczają one podanie klientowi błędnych zasad rozliczeń, niewłaściwego kroku rozwiązywania problemu lub nieistniejącej funkcji. RAG rozwiązuje ten problem, opierając każdą odpowiedź na pobranych dowodach.

Przełomowa publikacja na temat RAG autorstwa Lewisa i in. (2020), zaprezentowana na konferencji NeurIPS, wykazała, że połączenie wstępnie wytrenowanego modelu językowego z neuronowym mechanizmem wyszukiwania w zewnętrznych dokumentach daje bardziej konkretne, zróżnicowane i zgodne z faktami wyniki niż modele wyłącznie parametryczne. Od tego czasu ta architektura stała się standardem w aplikacjach AI wymagających rozległej wiedzy, co opisano w oryginalnej pracy badawczej o RAG w serwisie arXiv.

W obsłudze klienta wpływ RAG jest bezpośredni. Agent AI może wskazać swoje źródła, zespoły wsparcia mogą zweryfikować poprawność, a klienci otrzymują odpowiedzi oparte na rzeczywistej wiedzy firmy, a nie na domysłach modelu. RAG ułatwia też utrzymanie aktualności AI: wystarczy zaktualizować indeks dokumentów, a AI natychmiast uwzględnia nowe informacje bez ponownego trenowania.

Zastosowania

RAG stanowi techniczną podstawę trafnego wsparcia AI w wielu branżach:

• Obsługa klienta: pobieranie artykułów pomocy, dokumentacji produktu i danych konta w celu generowania precyzyjnych odpowiedzi na pytania klientów
• Wewnętrzne zarządzanie wiedzą: umożliwienie pracownikom przeszukiwania Confluence, Notion, Google Drive i innych repozytoriów za pomocą języka naturalnego
• Zgodność i branże regulowane: opieranie każdej odpowiedzi AI na zatwierdzonych dokumentach z zasadami i zachowywanie śladu cytowań na potrzeby audytu
• Rozwiązywanie problemów technicznych: pobieranie dokumentacji błędów, opisów API i wcześniejszych schematów rozwiązań na potrzeby wsparcia SaaS
• Wsparcie wielojęzyczne: pobieranie dokumentów źródłowych w jednym języku i generowanie odpowiedzi w języku preferowanym przez klienta

Przewaga Maven

Platforma Maven AGI opiera się na zaawansowanej architekturze RAG. Agent Maven korzysta z wyszukiwania hybrydowego, które łączy gęste wektory osadzeń ze strukturalnymi zapytaniami do grafu wiedzy w ponad 100 podłączonych źródłach danych. Wieloetapowe ponowne szeregowanie i łączenie kontekstu sprawiają, że do warstwy generowania trafiają najbardziej trafne informacje, co przekłada się na dokładne i kompletne odpowiedzi.

Enumerate, firma z branży PropTech, osiągnęła 91% rozwiązanych spraw dzięki Maven AGI. Taka dokładność jest możliwa tylko dlatego, że potok RAG w Maven pobiera zweryfikowane informacje z własnej bazy wiedzy i systemów produktowych firmy, a nie z pamięci parametrycznej LLM. To eliminuje ryzyko halucynacji, które podważa zaufanie do wsparcia opartego na AI.

Maven AGI, wspierany finansowaniem w wysokości 78 mln USD, traktuje RAG jako warstwę fundamentalną. Każda odpowiedź generowana przez Agent Maven opiera się na pobranych dowodach i zawiera odnośniki do źródeł, co zapewnia przejrzystość. Dlatego klienci Maven, tacy jak K1x, osiągają 80% rozwiązanych spraw (10-krotnie więcej niż przy wcześniejszym rozwiązaniu AI), a Papaya Pay – 90% spraw rozwiązanych autonomicznie. Więcej informacji można znaleźć w materiałach IBM Research o Retrieval Augmented Generation oraz w najnowszych badaniach nad RAG z wykorzystaniem grafów wiedzy, które pokazują rozwój wyszukiwania hybrydowego.

Najczęściej zadawane pytania

Jak RAG ogranicza halucynacje AI?

RAG ogranicza halucynacje, uzależniając odpowiedź modelu językowego od pobranych dokumentów źródłowych, a nie wyłącznie od jego wewnętrznych parametrów. Model korzysta z konkretnych, zweryfikowanych fragmentów tekstu. Jeśli pobrany kontekst nie zawiera odpowiedzi, dobrze zaprojektowany system RAG przyznaje się do luki zamiast wymyślać odpowiedź.

Czym są wektory osadzeń i dlaczego mają znaczenie dla RAG?

Wektory osadzeń (embeddingi) to numeryczne reprezentacje tekstu oddające jego znaczenie semantyczne. Słowo „zwrot” i zwrot „chcę odzyskać pieniądze” miałyby podobne osadzenia, choć nie mają wspólnych słów. W RAG osadzenia umożliwiają wyszukiwanie semantyczne: system znajduje dokumenty powiązane pojęciowo, a nie tylko dopasowania słów kluczowych. Dzięki temu RAG jest znacznie skuteczniejszy niż tradycyjne wyszukiwanie w konwersacyjnej AI.

Czy RAG wymaga ponownego trenowania modelu językowego?

Nie. Jedną z kluczowych zalet RAG jest to, że model językowy nie wymaga ponownego trenowania, gdy zmieniają się informacje. Zespoły aktualizują indeks dokumentów, a warstwa wyszukiwania natychmiast udostępnia aktualne informacje podczas generowania. Dlatego RAG doskonale sprawdza się w dynamicznych środowiskach, takich jak wsparcie SaaS, gdzie dokumentacja często się zmienia.

Czym jest wyszukiwanie hybrydowe w systemie RAG?

Wyszukiwanie hybrydowe łączy wektorowe wyszukiwanie semantyczne z wyszukiwaniem opartym na słowach kluczowych (BM25 lub podobnym). Wyszukiwanie wektorowe świetnie rozpoznaje znaczenie i intencję, a wyszukiwanie słów kluczowych lepiej radzi sobie z dokładnymi dopasowaniami, np. kodami produktów i identyfikatorami błędów. Połączenie obu metod gwarantuje, że potok RAG pobiera trafne wyniki niezależnie od tego, czy zapytanie jest konwersacyjne, czy szczegółowe. Maven AGI stosuje to hybrydowe podejście w swojej platformie wsparcia AI dla przedsiębiorstw.