RAG (Retrieval Augmented Generation)

Wat is RAG (Retrieval Augmented Generation)?

Retrieval Augmented Generation (RAG) is een AI-architectuur die het ophalen van informatie combineert met tekstgeneratie om nauwkeurige, onderbouwde antwoorden te geven. In plaats van alleen te vertrouwen op de interne kennis van een large language model (LLM), die verouderd of onvolledig kan zijn, haalt RAG relevante documenten op uit een externe kennisbron en geeft die context mee aan het taalmodel tijdens het genereren. Deze aanpak van eerst ophalen, dan genereren vormt de basis van moderne platforms voor AI-klantenservice: het beperkt AI-hallucinaties en zorgt dat antwoorden gebaseerd zijn op geverifieerde, actuele informatie.

Hoe RAG werkt

De RAG-pipeline bestaat uit twee hoofdfasen: ophalen en genereren.

Ophaalfase: Als een klant een vraag stelt, zet het systeem die om in een dense vector embedding: een numerieke representatie die de betekenis vastlegt. Die embedding wordt vergeleken met een vectorindex van vooraf verwerkte documenten (helpartikelen, productdocumentatie, beleidspagina's, eerdere tickets) met zoekalgoritmen op basis van gelijkenis, zoals cosine similarity of approximate nearest neighbor (ANN) search. De meest relevante documentfragmenten worden opgehaald en gerangschikt. Geavanceerde implementaties vullen vector search aan met zoekopdrachten in een knowledge graph en zoeken op trefwoorden (hybrid search), zodat zowel de betekenis als exacte termen zoals productcodes of foutcodes worden gevonden.

Generatiefase: De opgehaalde documentfragmenten worden als context in de prompt van het LLM geplaatst. Het taalmodel genereert een antwoord dat de opgehaalde informatie samenvoegt tot een samenhangend antwoord in natuurlijke taal. Omdat het model werkt met echt bronmateriaal en niet alleen met zijn parametrische geheugen, is het antwoord feitelijk onderbouwd en herleidbaar tot specifieke documenten.

RAG-systemen voor productie voegen tussenstappen toe: query rewriting om de ophaalkwaliteit te verbeteren, reranking om de meest relevante fragmenten voorrang te geven en RAG Fusion-technieken die resultaten van meerdere ophaalstrategieën samenvoegen. Deze verfijningen verminderen ruis en verhogen de precisie.

Waarom RAG belangrijk is

Large language models zijn krachtige generatoren, maar ze hebben een cruciale beperking: ze kunnen informatie produceren die correct klinkt, maar feitelijk onjuist is. Dat heet hallucinatie. In de klantenservice betekent het dat een klant een verkeerd factuurbeleid, een onjuiste stap voor probleemoplossing of een niet-bestaande functie te horen krijgt. RAG pakt dit aan door elk antwoord te verankeren in opgehaald bewijs.

Het baanbrekende RAG-paper van Lewis et al. (2020), gepubliceerd op NeurIPS, toonde aan dat het combineren van een voorgetraind taalmodel met een neurale retriever over externe documenten specifiekere, gevarieerdere en feitelijk juistere output opleverde dan modellen die alleen op parameters vertrouwen. Deze architectuur is sindsdien de standaard geworden voor kennisintensieve AI-toepassingen, zoals beschreven in het oorspronkelijke RAG-onderzoek op arXiv.

Voor klantenservice is de impact van RAG direct. De AI-agent kan zijn bronnen vermelden, supportteams kunnen de juistheid controleren en klanten krijgen antwoorden op basis van de echte kennis van het bedrijf, niet op basis van de beste gok van het model. RAG maakt het ook eenvoudig om AI actueel te houden: werk de documentindex bij en de AI gebruikt direct de nieuwe informatie, zonder opnieuw te trainen.

Use cases en toepassingen

RAG is in alle sectoren de technische ruggengraat van nauwkeurige AI-support:

• Klantenservice: helpartikelen, productdocumentatie en accountgegevens ophalen om precieze antwoorden op klantvragen te genereren
• Intern kennisbeheer: medewerkers in natuurlijke taal laten zoeken in Confluence, Notion, Google Drive en andere opslagplaatsen
• Compliance en gereguleerde sectoren: elk AI-antwoord baseren op goedgekeurde beleidsdocumenten en bronvermeldingen bewaren voor audits
• Technische probleemoplossing: foutdocumentatie, API-referenties en eerdere oplossingspatronen ophalen als leidraad voor SaaS-support
• Meertalige support: brondocumenten in de ene taal ophalen en antwoorden genereren in de voorkeurstaal van de klant

Het voordeel van Maven

Het platform van Maven AGI is gebouwd op een geavanceerde RAG-architectuur. Agent Maven gebruikt hybrid search, die dense vector embeddings combineert met gestructureerde zoekopdrachten in een knowledge graph over 100+ gekoppelde databronnen. Reranking in meerdere stappen en contextfusie zorgen dat de meest relevante informatie de generatielaag bereikt, voor nauwkeurige en volledige antwoorden.

Enumerate, een PropTech-bedrijf, behaalde met Maven AGI een oplossingspercentage van 91%. Dat niveau van nauwkeurigheid is alleen mogelijk omdat de RAG-pipeline van Maven geverifieerde informatie ophaalt uit de eigen kennisbank en productsystemen van het bedrijf, niet uit het parametrische geheugen van het LLM. Zo verdwijnt het risico op hallucinaties dat het vertrouwen in AI-support ondermijnt.

Maven AGI, gesteund met $78 miljoen aan financiering, ziet RAG als fundamentele laag. Elk antwoord dat Agent Maven genereert is gebaseerd op opgehaald bewijs, met bronvermeldingen voor transparantie. Daarom ziet Maven-klant K1x 80% oplossing (10x beter dan hun eerdere AI) en behaalt Papaya Pay 90% autonome oplossing. Lees meer in het onderzoek van IBM Research naar Retrieval Augmented Generation, of ontdek hoe hybrid retrieval zich ontwikkelt in recent onderzoek naar RAG met knowledge graphs.

Veelgestelde vragen

Hoe vermindert RAG AI-hallucinaties?

RAG vermindert hallucinaties door de output van het taalmodel te baseren op opgehaalde brondocumenten in plaats van alleen op interne parameters. Het model put uit specifieke, geverifieerde tekstpassages. Als de opgehaalde context het antwoord niet bevat, erkennen goed ontworpen RAG-systemen dat gat in plaats van een antwoord te verzinnen.

Wat zijn vector embeddings en waarom zijn ze belangrijk voor RAG?

Vector embeddings zijn numerieke representaties van tekst die de betekenis vastleggen. Het woord "terugbetaling" en de zin "mijn geld terugkrijgen" hebben vergelijkbare embeddings, ook al delen ze geen woorden. In RAG maken embeddings semantisch zoeken mogelijk: het systeem vindt inhoudelijk relevante documenten, niet alleen documenten met dezelfde trefwoorden. Daardoor is RAG veel effectiever dan traditioneel zoeken voor conversational AI.

Moet het taalmodel voor RAG opnieuw worden getraind?

Nee. Een van de belangrijkste voordelen van RAG is dat het taalmodel niet opnieuw getraind hoeft te worden als informatie verandert. Teams werken de documentindex bij en de ophaallaag gebruikt direct de actuele informatie tijdens het genereren. Dat maakt RAG ideaal voor snel veranderende omgevingen zoals SaaS-support, waar documentatie vaak wijzigt.

Wat is hybrid search in een RAG-systeem?

Hybrid search combineert semantisch zoeken op basis van vectoren met zoeken op trefwoorden (BM25 of vergelijkbaar). Vector search blinkt uit in het begrijpen van betekenis en intentie, terwijl zoeken op trefwoorden beter werkt voor exacte overeenkomsten zoals productcodes en foutcodes. Door beide te combineren haalt de RAG-pipeline relevante resultaten op, of de vraag nu conversationeel of specifiek is. Maven AGI gebruikt deze hybride aanpak in zijn platform voor enterprise AI-support.