Quando non conviene utilizzare il fine tuning?

Nonostante i vantaggi, il fine tuning non rappresenta sempre la soluzione migliore.

In alcuni casi, un buon prompt engineering è più che sufficiente.

Se l’obiettivo è chiedere a ChatGPT di scrivere un articolo con un determinato tono di voce, per esempio, potrebbe bastare preparare un prompt dettagliato, corredato da esempi e indicazioni editoriali. Il fine tuning diventa più interessante quando queste istruzioni devono essere applicate frequentemente e in maniera sistematica.

Anche la qualità e la quantità dei dati disponibili devono essere considerate attentamente. Non esiste una soglia universale di esempi necessaria per ottenere buoni risultati: il fabbisogno dipende dal modello, dal compito e dalla qualità del dataset.

Infine, se il problema riguarda informazioni che cambiano continuamente, come prezzi, disponibilità o aggiornamenti normativi, una soluzione basata su RAG può essere più appropriata.