Come funziona il fine tuning?

Per comprendere il funzionamento del fine tuning è utile distinguere due momenti dell’addestramento di un modello AI.

Il primo è il pre-training, ovvero la fase iniziale durante la quale il modello apprende attraverso grandi quantità di dati. È grazie a questo processo che un Large Language Model (LLM) sviluppa la capacità di comprendere e generare linguaggio naturale.

Il secondo momento è il fine tuning, durante il quale il modello viene ulteriormente addestrato su esempi più specifici.

Il procedimento comprende generalmente cinque passaggi:

Scelta del modello di partenza: si individua un modello AI già addestrato e adatto agli obiettivi del progetto.
Preparazione dei dati: si raccolgono esempi di qualità che rappresentano il comportamento desiderato.
Addestramento aggiuntivo: il modello viene allenato utilizzando il dataset selezionato.
Verifica dei risultati: si controlla che le risposte siano coerenti con gli obiettivi e che non si verifichino peggioramenti nelle capacità generali.
Implementazione: il modello personalizzato viene integrato nel sistema o nel processo di lavoro.