Immagina di avere un ristorante che funziona benissimo. La cucina è rodata, lo chef è bravissimo, i clienti sono contenti. Un giorno ti viene un’idea: vuoi che il locale diventi famoso per la pizza fritta, non per la margherita. Cosa fai? Ristrutturi tutto? Cambi chef? O basta un piccolo tocco in cucina?
Questa è esattamente la scelta che devi fare quando vuoi insegnare qualcosa di nuovo a un modello di intelligenza artificiale già addestrato. Si chiama fine-tuning e in questa guida ti spiego i 4 modi principali per farlo: Full Fine-Tuning, LoRA, QLoRA e TinyLoRA. Con esempi maccheronici, perché certe cose si capiscono meglio con la pizza davanti.
Di cosa parleremo..
Cos’è il fine-tuning, in una riga e mezza
Un modello come un LLM non nasce sapendo rispondere alle tue domande: viene addestrato su montagne di testo e il risultato è un cervello generico, capace di tutto ma specialista di niente. Il fine-tuning è la fase in cui gli insegni un compito specifico, usando un dataset più piccolo ma mirato. Non riparti da zero: parti da quel cervello già pronto e lo aggiusti.
La domanda è: quanto lo aggiusti. Qui entrano in gioco i 4 metodi. E qui torna la pizzeria.
1. Full Fine-Tuning: la ristrutturazione totale
Il Full Fine-Tuning è come comprare la pizzeria e rifarla da capo. Butti giù il bancone, cambi il forno, sostituisci metà del personale e riscrivi anche la ricetta della margherita, che tra l’altro era perfetta.
Tecnicamente aggiorni tutti i pesi del modello, cioè miliardi di parametri. Il modello impara benissimo il nuovo compito, ma il conto è salato:
- ti serve un dataset grande e curato (sulla qualità dei dati ho scritto una guida qui);
- ti servono GPU potenti e tante, per giorni o settimane;
- rischi il dimenticatoio: il modello può dimenticare cose che sapeva già, un fenomeno chiamato catastrophic forgetting.
In pratica il Full Fine-Tuning ha senso quando devi cambiare davvero tanto, hai i dati, hai il budget e hai il tempo. Per tutto il resto, esiste la via leggera.
2. LoRA: l’aggeggio che si attacca al bancone
Nel 2021 un gruppo di ricercatori ha pubblicato il paper LoRA: Low-Rank Adaptation of Large Language Models con un’idea geniale: e se, invece di toccare lo chef, attaccassimo un piccolo modulo al bancone?
LoRA (Low-Rank Adaptation) funziona così: il modello originale resta congelato, intatto. Aggiungi due matrici piccole, chiamate A e B, il cui prodotto imita l’aggiornamento dei pesi. Il rango basso significa che queste matrici sono sottilissime: in pratica addestri solo lo 0,1-1% dei parametri del modello.
La metafora: lo chef continua a fare la margherita come sempre, ma tu gli lasci un post-it sul bancone con scritto “stasera un filo di maggiorana in più”. Non hai toccato la sua tecnica, hai solo aggiunto un promemoria minuscolo. E quando vuoi tornare alla pizza di prima, togli il post-it.
I vantaggi: si addestra su una GPU sola, in poche ore, e puoi tenere più adattatori sullo stesso modello base (un post-it per la pizza fritta, uno per i dolci). Lo svantaggio: se il compito è molto diverso da quello che il modello già sa fare, il post-it potrebbe non bastare.
3. QLoRA: LoRA, ma la cucina sta in un furgoncino
QLoRA (2023, paper QLoRA: Efficient Finetuning of Quantized LLMs) fa un passo in più: prima comprime la cucina, poi ci attacca il post-it.
La compressione si chiama quantizzazione: i pesi del modello passano da 16 bit a 4 bit. È come trasformare la cucina da sala da pranzo a food truck: tutto più piccolo e leggero, ma il cibo è quasi identico.
Con QLoRA puoi fare fine-tuning di modelli enormi, dell’ordine dei 65 miliardi di parametri, su una singola GPU da 48 GB, e su GPU consumer con modelli più piccoli. Il risultato è quasi uguale a quello di LoRA: c’è un leggero calo di precisione dovuto alla compressione, che nella pratica si sente poco.
La metafora: non hai il locale, hai il furgoncino. Ci stai in garage, lo parcheggi dove vuoi e sforni comunque pizze decenti.
4. TinyLoRA: un granello di sale
E adesso la parte che sembra uscita da una barzelletta. Nel febbraio 2026 un gruppo di ricercatori ha pubblicato il paper Learning to Reason in 13 Parameters (imparare a ragionare in 13 parametri). Hanno preso un modello da 8 miliardi di parametri (Qwen2.5-8B) e gli hanno insegnato a risolvere problemi di matematica addestrando… 13 parametri. Tredici. In bf16, 26 byte in tutto.
È come se lo chef, con un solo granello di sale in più, diventasse improvvisamente un campione di matematica.
Il metodo si chiama TinyLoRA e porta l’idea di LoRA all’estremo: gli adapter possono scendere fino a un singolo parametro. Secondo il paper, recupera circa il 90% dei miglioramenti con 1.000 volte meno parametri addestrati, su benchmark come AIME, AMC e MATH500.
Ma c’è il trucco, e va detto chiaramente: funziona con l’apprendimento per rinforzo (RL), non con l’addestramento classico supervisionato. Con il training tradizionale servono aggiornamenti 100-1.000 volte più grandi per ottenere lo stesso risultato.
In pratica TinyLoRA è ricerca freschissima: affascinante, ma non è ancora roba da scaffale. Se devi risolvere un problema oggi, LoRA e QLoRA restano le scelte sicure. Se vuoi seguire dove sta andando il mondo, TinyLoRA è uno dei filoni più interessanti.
Full, LoRA, QLoRA o TinyLoRA: come scegliere
Una regola pratica, da appendere in cucina:
- Hai tante GPU, tanti dati e tanto tempo e il compito è molto diverso dal modello base: Full Fine-Tuning.
- Hai una GPU, pochi dati e vuoi risultati in fretta: LoRA.
- Hai una GPU normale e il modello è grosso: QLoRA.
- Vuoi sperimentare e ti piace vivere pericolosamente: TinyLoRA, con RL e pazienza.
E prima ancora di tutto questo, la regola d’oro: prova prima con un buon prompt. Spesso il modello già sa fare quello che ti serve, e il fine-tuning è come chiamare l’artigiano per cambiare una lampadina: a volte basta la scala.
FAQ
Qual è la differenza tra LoRA e QLoRA?
La stessa idea, ma QLoRA in più comprime il modello base a 4 bit prima di addestrare gli adapter. Risultato: ci stai in molta meno memoria, con una piccolissima perdita di precisione. Se il modello ti entra in GPU con LoRA, usi LoRA; se non ti entra, usi QLoRA.
TinyLoRA funziona con qualsiasi modello?
Per ora è ricerca: i risultati forti arrivano con l’apprendimento per rinforzo su modelli specifici, non con l’addestramento classico. Non è un metodo pronto all’uso generalizzato, ma è la dimostrazione che c’è ancora tantissimo spazio per rendere il fine-tuning più leggero.
Quanta GPU serve per fare fine-tuning?
Dipende dal metodo: il Full Fine-Tuning vuole GPU potenti e tante, LoRA si accontenta di una GPU consumer per modelli piccoli e medi, QLoRA riesce a gestire modelli che altrimenti non ci starebbero proprio. Più è piccola la cucina, meno spazio serve.
Il fine-tuning serve sempre, o basta un buon prompt?
Nella maggior parte dei casi basta prompt engineering o RAG. Il fine-tuning serve quando il modello deve imparare uno stile, un formato o un dominio specifico in modo stabile e ripetibile, ad esempio il tono della tua azienda o un formato di risposta obbligatorio.
Posso fare fine-tuning senza saper programmare?
Oggi servono Python e un minimo di riga di comando, anche se librerie e servizi a pagamento stanno abbassando la soglia. La parte difficile però non è il codice: è preparare un buon dataset. E lì la pizzeria torna utile: con ingredienti scadenti, nessun metodo ti salva la cena.
Se questo viaggio nel fine-tuning ti è piaciuto, nel mio corso sull’intelligenza artificiale trovi anche come funzionano gli alberi decisionali e come si preparano le caratteristiche dei dati: due tappe perfette per chi vuole capire davvero cosa c’è sotto il cofano.
