RAG (Retrieval Augmented Generation)

Che cos'è la RAG (Retrieval Augmented Generation)?

La Retrieval Augmented Generation (RAG) è un'architettura AI che combina il recupero di informazioni con la generazione di testo per produrre risposte accurate e fondate. Invece di affidarsi solo alla conoscenza interna di un large language model (LLM), che può essere obsoleta o incompleta, la RAG recupera documenti pertinenti da una fonte di conoscenza esterna e li passa come contesto al modello linguistico durante la generazione. Questo approccio "prima recupera, poi genera" è alla base delle moderne piattaforme di customer service basato sull'AI, perché riduce le allucinazioni dell'AI e garantisce risposte basate su informazioni verificate e aggiornate.

Come funziona la RAG

La pipeline RAG opera in due fasi principali: recupero e generazione.

Fase di recupero: quando un cliente invia una richiesta, il sistema la converte in un embedding vettoriale denso, una rappresentazione numerica che ne cattura il significato semantico. Questo embedding viene confrontato con un indice vettoriale di documenti pre-elaborati (articoli di assistenza, documentazione di prodotto, pagine delle policy, ticket precedenti) tramite algoritmi di ricerca per similarità come la similarità del coseno o la ricerca approximate nearest neighbor (ANN). I frammenti di documento più pertinenti vengono recuperati e ordinati. Le implementazioni più avanzate affiancano alla ricerca vettoriale le interrogazioni del knowledge graph e il recupero per parole chiave (ricerca ibrida), per cogliere sia il significato semantico sia i termini esatti come codici prodotto o ID di errore.

Fase di generazione: i frammenti di documento recuperati vengono inseriti nel prompt dell'LLM come contesto. Il modello linguistico genera una risposta che sintetizza le informazioni recuperate in un testo coerente e in linguaggio naturale. Poiché il modello si basa su materiale di origine reale e non solo sulla propria memoria parametrica, la risposta è fondata sui fatti e riconducibile a documenti specifici.

I sistemi RAG di livello produttivo aggiungono passaggi intermedi: la riscrittura delle query per migliorare la qualità del recupero, il reranking per dare priorità ai frammenti più pertinenti e le tecniche di RAG Fusion che uniscono i risultati di più strategie di recupero. Questi affinamenti riducono il rumore e migliorano la precisione.

Perché la RAG è importante

I large language model sono generatori potenti, ma hanno un limite critico: possono produrre informazioni che sembrano corrette ma sono false. È il fenomeno delle allucinazioni, che nel customer service significa comunicare al cliente una policy di fatturazione errata, un passaggio di troubleshooting sbagliato o una funzionalità inesistente. La RAG risolve il problema ancorando ogni risposta a prove recuperate.

Il paper fondativo sulla RAG di Lewis et al. (2020), pubblicato a NeurIPS, ha dimostrato che combinare un modello linguistico pre-addestrato con un retriever neurale su documenti esterni produce output più specifici, vari e accurati rispetto ai modelli solo parametrici. Da allora questa architettura è diventata lo standard per le applicazioni AI ad alta intensità di conoscenza, come documentato nella ricerca originale sulla RAG su arXiv.

Nel customer service l'impatto della RAG è diretto. L'agente AI può citare le proprie fonti, i team di supporto possono verificarne l'accuratezza e i clienti ricevono risposte basate sulla conoscenza reale dell'azienda, non sull'ipotesi migliore del modello. La RAG semplifica anche l'aggiornamento dell'AI: basta aggiornare l'indice dei documenti e l'AI riflette subito le nuove informazioni, senza bisogno di riaddestramento.

Casi d'uso e applicazioni

La RAG è la spina dorsale tecnica di un supporto AI accurato in tutti i settori:

• Assistenza clienti: recupero di articoli di assistenza, documentazione di prodotto e dati dell'account per rispondere con precisione alle domande dei clienti
• Gestione della conoscenza interna: consente ai dipendenti di interrogare Confluence, Notion, Google Drive e altri repository in linguaggio naturale
• Compliance e settori regolamentati: ogni risposta dell'AI si basa su documenti di policy approvati, con tracciabilità delle citazioni a fini di audit
• Troubleshooting tecnico: recupero di documentazione sugli errori, riferimenti API e soluzioni adottate in passato per guidare le interazioni di supporto SaaS
• Supporto multilingue: recupero di documenti in una lingua e generazione di risposte nella lingua preferita dal cliente

Il vantaggio di Maven

La piattaforma di Maven AGI si basa su un'architettura RAG sofisticata. Agent Maven utilizza una ricerca ibrida che combina embedding vettoriali densi con interrogazioni strutturate del knowledge graph su oltre 100 fonti dati collegate. Il reranking multistadio e la fusione del contesto assicurano che le informazioni più pertinenti arrivino al livello di generazione, producendo risposte accurate e complete.

Enumerate, azienda PropTech, ha raggiunto un tasso di risoluzione del 91% con Maven AGI. Questo livello di accuratezza è possibile solo perché la pipeline RAG di Maven recupera informazioni verificate dalla knowledge base e dai sistemi di prodotto dell'azienda, non dalla memoria parametrica dell'LLM, eliminando il rischio di allucinazioni che mina la fiducia nel supporto AI.

Maven AGI, che ha raccolto 78 milioni di dollari di finanziamenti, considera la RAG un livello fondamentale. Ogni risposta generata da Agent Maven si basa su prove recuperate, con citazione delle fonti per garantire trasparenza. Per questo clienti di Maven come K1x raggiungono l'80% di risoluzione (10x rispetto alla precedente AI) e Papaya Pay ottiene il 90% di risoluzione autonoma. Approfondisci con la ricerca di IBM sulla Retrieval Augmented Generation o scopri come si sta evolvendo il recupero ibrido nella ricerca recente sulla RAG con knowledge graph.

Domande frequenti

Come riduce la RAG le allucinazioni dell'AI?

La RAG riduce le allucinazioni condizionando l'output del modello linguistico ai documenti recuperati, invece di affidarsi solo ai parametri interni. Il modello attinge a passaggi di testo specifici e verificati. Se il contesto recuperato non contiene la risposta, un sistema RAG ben progettato riconosce la lacuna invece di inventare una risposta.

Cosa sono gli embedding vettoriali e perché sono importanti per la RAG?

Gli embedding vettoriali sono rappresentazioni numeriche del testo che ne catturano il significato semantico. La parola "rimborso" e la frase "riavere i miei soldi" avrebbero embedding simili pur non avendo parole in comune. Nella RAG gli embedding abilitano la ricerca semantica: il sistema trova documenti concettualmente pertinenti, non solo corrispondenze di parole chiave. È ciò che rende la RAG molto più efficace della ricerca tradizionale per la conversational AI.

La RAG richiede di riaddestrare il modello linguistico?

No. Uno dei principali vantaggi della RAG è che il modello linguistico non va riaddestrato quando le informazioni cambiano. I team aggiornano l'indice dei documenti e il livello di recupero rende subito disponibili le informazioni aggiornate durante la generazione. Per questo la RAG è ideale in contesti in rapida evoluzione come il supporto SaaS, dove la documentazione cambia spesso.

Che cos'è la ricerca ibrida in un sistema RAG?

La ricerca ibrida combina la ricerca semantica vettoriale con il recupero per parole chiave (BM25 o simili). La ricerca vettoriale eccelle nel comprendere significato e intento, mentre quella per parole chiave funziona meglio per le corrispondenze esatte come codici prodotto e ID di errore. Combinarle garantisce che la pipeline RAG recuperi risultati pertinenti sia per richieste conversazionali sia per richieste specifiche. Maven AGI adotta questo approccio ibrido in tutta la sua piattaforma di supporto AI enterprise.