RAG (Retrieval Augmented Generation)

Qu'est-ce que le RAG (Retrieval Augmented Generation) ?

La génération augmentée par récupération (Retrieval Augmented Generation, ou RAG) est une architecture d'IA qui associe la recherche d'informations à la génération de texte pour produire des réponses exactes et fondées sur des sources. Au lieu de s'appuyer uniquement sur les connaissances internes d'un grand modèle de langage (LLM), qui peuvent être obsolètes ou incomplètes, le RAG récupère des documents pertinents dans une source de connaissances externe et transmet ce contexte au modèle au moment de la génération. Cette approche « récupérer puis générer » est au cœur des plateformes modernes de service client IA, car elle réduit les hallucinations de l'IA et garantit des réponses fondées sur des informations vérifiées et à jour.

Comment fonctionne le RAG

Le pipeline RAG fonctionne en deux étapes principales : la récupération et la génération.

Étape de récupération : lorsqu'un client soumet une requête, le système la convertit en embedding vectoriel dense, une représentation numérique qui capture son sens. Cet embedding est comparé à un index vectoriel de documents prétraités (articles d'aide, documentation produit, pages de politiques, tickets passés) à l'aide d'algorithmes de recherche par similarité, comme la similarité cosinus ou la recherche approximative des plus proches voisins (ANN). Les extraits de documents les plus pertinents sont récupérés et classés. Les implémentations avancées complètent la recherche vectorielle par des requêtes sur un graphe de connaissances et par une recherche par mots-clés (recherche hybride), afin de saisir à la fois le sens et les termes exacts comme les références produit ou les codes d'erreur.

Étape de génération : les extraits récupérés sont injectés dans le prompt du LLM en tant que contexte. Le modèle génère alors une réponse qui synthétise ces informations en un texte cohérent et naturel. Comme le modèle s'appuie sur de véritables sources plutôt que sur sa seule mémoire paramétrique, la réponse est factuellement fondée et traçable jusqu'à des documents précis.

Les systèmes RAG de niveau production ajoutent des étapes intermédiaires : la reformulation des requêtes pour améliorer la qualité de la récupération, le reranking pour prioriser les extraits les plus pertinents, et des techniques de RAG Fusion qui combinent les résultats de plusieurs stratégies de récupération. Ces améliorations réduisent le bruit et renforcent la précision.

Pourquoi le RAG est important

Les grands modèles de langage sont de puissants générateurs, mais ils présentent une limite majeure : ils peuvent produire des informations plausibles mais factuellement fausses. C'est ce qu'on appelle une hallucination et, dans le service client, cela revient à communiquer une politique de facturation erronée, une mauvaise étape de dépannage ou une fonctionnalité inexistante. Le RAG répond à ce problème en ancrant chaque réponse dans des éléments récupérés.

L'article fondateur sur le RAG de Lewis et al. (2020), publié à NeurIPS, a montré qu'associer un modèle de langage pré-entraîné à un moteur de récupération neuronal portant sur des documents externes produisait des résultats plus précis, plus variés et plus factuels que les modèles purement paramétriques. Cette architecture est depuis devenue la référence pour les applications d'IA à forte intensité de connaissances, comme le montre la recherche originale sur le RAG publiée sur arXiv.

Pour le service client, l'impact du RAG est direct. L'agent IA peut citer ses sources, les équipes support peuvent vérifier l'exactitude des réponses, et les clients obtiennent des réponses fondées sur les connaissances réelles de l'entreprise, et non sur la meilleure supposition du modèle. Le RAG permet aussi de maintenir facilement l'IA à jour : il suffit de mettre à jour l'index documentaire pour que l'IA intègre immédiatement les nouvelles informations, sans réentraînement.

Cas d'usage et applications

Le RAG constitue le socle technique d'un support IA fiable dans tous les secteurs :

• Support client : récupération d'articles d'aide, de documentation produit et de données de compte pour répondre précisément aux questions des clients
• Gestion des connaissances internes : interrogation en langage naturel de Confluence, Notion, Google Drive et d'autres référentiels par les collaborateurs
• Conformité et secteurs réglementés : chaque réponse de l'IA est fondée sur des documents de politique approuvés, avec un historique des citations pour les audits
• Dépannage technique : exploitation de la documentation des erreurs, des références API et des résolutions passées pour guider les interactions de support SaaS
• Support multilingue : récupération de documents sources dans une langue et génération de réponses dans la langue préférée du client

L'avantage Maven

La plateforme de Maven AGI repose sur une architecture RAG sophistiquée. Agent Maven utilise une recherche hybride qui combine des embeddings vectoriels denses et des requêtes structurées sur un graphe de connaissances, sur plus de 100 sources de données connectées. Un reranking en plusieurs étapes et la fusion de contexte garantissent que les informations les plus pertinentes atteignent la couche de génération, pour des réponses exactes et complètes.

Enumerate, une entreprise de la PropTech, a atteint un taux de résolution de 91 % avec Maven AGI. Ce niveau de précision n'est possible que parce que le pipeline RAG de Maven récupère des informations vérifiées dans la base de connaissances et les systèmes produit de l'entreprise, et non dans la mémoire paramétrique du LLM, ce qui élimine le risque d'hallucination qui mine la confiance dans le support IA.

Maven AGI, qui a levé 78 M$, considère le RAG comme une couche fondamentale. Chaque réponse générée par Agent Maven s'appuie sur des éléments récupérés, avec des citations de sources par souci de transparence. C'est pourquoi des clients de Maven comme K1x atteignent 80 % de résolution (10x par rapport à leur IA précédente) et Papaya Pay 90 % de résolution autonome. Pour en savoir plus, consultez les travaux d'IBM Research sur la Retrieval Augmented Generation, ou découvrez les avancées de la récupération hybride dans les travaux récents sur le RAG avec graphes de connaissances.

Questions fréquentes

Comment le RAG réduit-il les hallucinations de l'IA ?

Le RAG réduit les hallucinations en conditionnant la sortie du modèle de langage aux documents sources récupérés, au lieu de s'appuyer uniquement sur ses paramètres internes. Le modèle puise dans des passages précis et vérifiés. Si le contexte récupéré ne contient pas la réponse, un système RAG bien conçu le reconnaît au lieu d'inventer une réponse.

Que sont les embeddings vectoriels et pourquoi sont-ils importants pour le RAG ?

Les embeddings vectoriels sont des représentations numériques du texte qui en capturent le sens. Le mot « remboursement » et l'expression « récupérer mon argent » auront des embeddings proches, alors qu'ils n'ont aucun mot en commun. Dans le RAG, les embeddings permettent une recherche sémantique : le système trouve les documents pertinents sur le plan conceptuel, et pas seulement ceux qui contiennent les mêmes mots-clés. C'est ce qui rend le RAG bien plus efficace que la recherche traditionnelle pour l'IA conversationnelle.

Le RAG nécessite-t-il de réentraîner le modèle de langage ?

Non. L'un des principaux avantages du RAG est que le modèle n'a pas besoin d'être réentraîné lorsque les informations changent. Les équipes mettent à jour l'index documentaire, et la couche de récupération fait immédiatement remonter les informations à jour lors de la génération. Le RAG est donc idéal dans des environnements en évolution rapide comme le support SaaS, où la documentation change fréquemment.

Qu'est-ce que la recherche hybride dans un système RAG ?

La recherche hybride combine la recherche sémantique vectorielle et la recherche par mots-clés (BM25 ou équivalent). La recherche vectorielle excelle à comprendre le sens et l'intention, tandis que la recherche par mots-clés est plus performante pour les correspondances exactes comme les références produit et les codes d'erreur. Combiner les deux garantit que le pipeline RAG récupère des résultats pertinents, que la requête soit formulée de manière conversationnelle ou précise. Maven AGI utilise cette approche hybride sur l'ensemble de sa plateforme de support IA pour les grandes entreprises.