Come funziona il RAG? Le quattro fasi principali

Il funzionamento di un sistema RAG si articola generalmente in quattro fasi: indicizzazione dei documenti, recupero delle informazioni, arricchimento del prompt e generazione della risposta.

Vediamole nel dettaglio.

1. Ingestione e indicizzazione dei documenti

La prima fase consiste nella raccolta delle informazioni che il sistema dovrà utilizzare.

Le fonti possono essere molto diverse:

• Documenti PDF.
• Pagine web.
• File Word.
• Manuali aziendali.
• Database.
• Cataloghi di prodotti.
• Documentazione tecnica.
• Wiki e archivi interni.

I documenti vengono elaborati e suddivisi in porzioni di testo più piccole, chiamate chunk.

Successivamente, attraverso modelli specifici, i contenuti vengono trasformati in rappresentazioni numeriche chiamate embedding.

Gli embedding permettono di rappresentare il significato dei testi attraverso vettori, rendendo possibile una ricerca basata sulla somiglianza semantica.

Queste rappresentazioni vengono archiviate in un database vettoriale, che costituisce una delle componenti fondamentali dell’architettura RAG.