RAG: cos'è e come funziona

Cosa significa RAG?

La sigla viene dall'inglese: Retrieval (recupero), Augmented (arricchita), Generation (generazione). Tradotto: la risposta generata dall'AI viene arricchita con informazioni recuperate da una fonte esterna al modello.

È il modo più diffuso per far parlare un LLM dei contenuti di un'azienda senza doverlo riaddestrare: il modello resta lo stesso, cambiano le informazioni che gli metti davanti a ogni domanda.

Come funziona la RAG, passo per passo?

Ogni volta che arriva una domanda succede questo, in pochi istanti:

1. Preparazione (una volta sola): i documenti della knowledge base vengono divisi in brani e indicizzati per significato, non solo per parole.
2. Ricerca: la domanda del cliente viene confrontata con l'indice e si recuperano i brani più pertinenti.
3. Composizione: i brani trovati vengono passati al modello insieme alla domanda e alle istruzioni.
4. Risposta: il modello scrive la risposta usando quei brani come fonte, e se non trova niente lo dice.

Perché la RAG riduce gli errori?

Un modello che risponde "a memoria" mescola quello che sa in generale e tende a riempire i vuoti. Con la RAG ha davanti il testo giusto: l'orario vero, il prezzo del listino, la clausola del contratto. È come la differenza tra un esame a memoria e uno a libro aperto.

Funziona però solo se la base di conoscenza è buona. Se il sito dice una cosa e il PDF del listino un'altra, l'AI troverà entrambe. Per questo la cura dei contenuti conta quanto la tecnologia.

Che differenza c'è tra RAG e addestrare un modello?

Addestrare (o "affinare") un modello sui tuoi dati cambia il modello stesso: costa, richiede tempo e ogni aggiornamento va rifatto. Con la RAG il modello non cambia: aggiorni un documento e dalla domanda successiva la risposta è già quella nuova. Per un servizio clienti, dove prezzi e orari cambiano spesso, è quasi sempre la scelta giusta.