Modelli decisionali: cosa sono, come funzionano e come si usano (con e senza RAG)

Ogni volta che il tuo telefono decide se una mail è spam, che la tua banca valuta se concederti un prestito, o che una piattaforma ti propone il film giusto, dietro c’è lo stesso tipo di macchina: un modello decisionale.

Sono i modelli che non scrivono, decidono. Prendono un insieme di informazioni e restituiscono una scelta: sì o no, questa categoria o quell’altra, un punteggio, una classifica, un’azione da compiere. Se vuoi un esempio concreto di questa famiglia, ne ho parlato in dettaglio nell’articolo su Jev, il modello AI che non scrive ma decide.

Vale la pena capirli, perché oggi li usiamo in due modi molto diversi: quelli classici addestrati sui dati e quelli basati su un LLM, che si usano sia da soli sia insieme al RAG.

Qui vediamo cosa sono, come funzionano e soprattutto come si mettono al lavoro, con e senza RAG.

Cosa sono i modelli decisionali

Un modello decisionale è un sistema che, dato un input, produce in output una scelta invece di un testo. L’input può essere una riga di dati (importo, età, storico pagamenti) oppure una richiesta in linguaggio naturale, come una mail o un messaggio di assistenza.

L’output non è una risposta da leggere: è un esito che cambia qualcosa nel mondo.

• Classificazione: “questa transazione è fraudolenta?” sì o no, oppure “questa richiesta riguarda fatturazione, spedizione o reso?“.
• Punteggio e soglia: “quanto è probabile che questo cliente se ne vada?“, un numero tra 0 e 1 che poi diventa un’azione.
• Classifica: “quali sono i dieci prodotti più adatti a questo utente, in ordine?“.
• Azione: “quale mossa conviene fare adesso?“, tipico dei sistemi che imparano a muoversi, come un agente che coordina strumenti.

Non sono per forza sistemi di intelligenza artificiale generativa. Spesso sono modelli statistici o di machine learning più piccoli e mirati: una regressione logistica, un albero decisionale, un insieme di alberi, una piccola rete neurale.

Il punto chiave è che il loro mestiere non è raccontare, ma scegliere.
E una scelta, in molti contesti, vale più di mille parole ben scritte.

Come funzionano: dal dato alla scelta

Anche se sotto il cofano ci sono cose diverse, un modello decisionale segue sempre la stessa catena.

I quattro ingredienti di una decisione

Primo, l’input: le informazioni disponibili nel momento in cui si decide. Possono essere numeri e categorie, oppure testo, immagini, audio.

Secondo, il modello: la funzione matematica che trasforma quell’input in un punteggio o in un insieme di probabilità. “Probabilità di frode: 0,82“. “Classe più probabile: spedizione“.

Terzo, la regola di decisione: il passaggio dal numero alla scelta. Di solito è una soglia. Se la probabilità di frode supera 0,9 blocco la transazione, altrimenti la lascio passare. La regola non la decide il modello: la decide chi progetta il sistema, in base ai costi in gioco.

Quarto, l’azione e il suo contesto: cosa succede dopo la scelta. Bloccare un pagamento, mandare un coupon, instradare un ticket, chiamare una persona.

Addestramento: come imparano a decidere

La maggior parte dei modelli decisionali classici impara in modo supervisionato: si prende una grande raccolta di casi passati, ciascuno con la decisione corretta già nota (spam o non spam, cliente perso o mantenuto) e si chiede al modello di riprodurla.

Il modello non memorizza le risposte: aggiusta i propri parametri per cogliere i pattern che portano a una decisione piuttosto che a un’altra. Alla fine deve funzionare su casi nuovi, mai visti durante l’addestramento. Questa è la differenza tra aver capito qualcosa e aver imparato a memoria.

Esistono anche modelli che imparano senza etichette, per esempio per raggruppare clienti simili e modelli che imparano dall’esperienza per tentativi e ricompense, tipici dei sistemi che devono scegliere un’azione in una sequenza.

La soglia e il costo dell’errore

Un modello raramente sbaglia in modo simmetrico. In un filtro antispam, bloccando una mail importante fai più danni che lasciando passare uno spam. In uno screening medico, ignorare un caso positivo è diverso dal mandare a controlli inutili.

Per questo i modelli decisionali si regolano sulla matrice dei costi: quanto costa un falso positivo, quanto un falso negativo. Si sceglie la soglia che minimizza il danno complessivo, non quella che massimizza la percentuale di risposte giuste. La percentuale giusta, da sola, è quasi sempre una metrica ingannevole.

Modelli decisionali senza RAG: il classico che funziona

Quando si parla di modelli decisionali senza RAG si intende la strada più consolidata: un modello addestrato sui tuoi dati, che decide basandosi solo sulle informazioni che riceve in ingresso e su quello che ha imparato. Un esempio tipico di questa famiglia è l’albero decisionale e le sue evoluzioni.

Qui non serve nessun recupero di documenti. Il modello sa decidere perché qualcuno gli ha mostrato tanti casi simili.

Come si usano, passo per passo

• Definisci la decisione. Prima di tutto: qual è esattamente la scelta da prendere e qual è il suo costo. Se la domanda non è chiara, nessun modello la salva.
• Raccogli i dati e le etichette. Servono esempi passati con l’esito corretto. È la fase più lunga e più sottovalutata.
• Scegli le informazioni giuste. Cosa sa il modello nel momento della decisione? Occhio a non usare dati che nella realtà non avresti ancora.
• Addestra e valida. Si allena su una parte dei dati e si prova su un’altra, mai vista, per capire se generalizza.
• Valuta con le metriche giuste. Precisione, richiamo, matrice di confusione, non solo l’accuratezza.
• Fissa la soglia sui costi. Si sceglie il punto di taglio che minimizza il danno reale.
• Metti in produzione e monitora. Il mondo cambia, i dati cambiano: servono controllo periodico e riaddestramento.

Esempio: prevedere l’abbandono di un cliente

Vuoi ridurre i clienti che disdicono il servizio. Il modello guarda storico degli acquisti, frequenza d’uso, contatti con l’assistenza, anzianità. Restituisce una probabilità di abbandono per ciascun cliente.

A quel punto la regola di decisione fa il lavoro: sopra una certa soglia invii un’offerta di ritenzione, sotto non fai nulla per non scontare inutilmente a chi sarebbe rimasto comunque. Il modello non comunica: segnala chi rischia, poi tocca a te decidere cosa farne.

Punti di forza e limiti

I pregi: sono veloci, economici, stabili e spiegabili. Si può dire perché hanno deciso una cosa, cioè quali fattori hanno pesato. Non hanno costi di inferenza alti e non inventano: fanno quello per cui sono stati addestrati.

I limiti: la loro conoscenza è congelata al momento dell’addestramento. Se cambia una regola, un listino o una policy, il modello non lo sa finché non lo riaddestri. E non sanno leggere una nuova istruzione scritta in italiano: capiscono numeri e pattern, non comunicazioni.

Modelli decisionali con gli LLM: decidere “parlando”

Con i modelli linguistici il quadro cambia. Un LLM può essere usato come motore decisionale: gli si chiede di leggere una situazione e di restituire una decisione, spesso in formato strutturato, come un’etichetta, un JSON o la chiamata a uno strumento.

Qui la domanda “con o senza RAG” diventa centrale, perché il modello, da solo, non ha accesso ai tuoi documenti né alle novità di ieri.

Senza RAG: decidere con quello che il modello già sa

Senza RAG, il modello decide basandosi su due cose: le informazioni che gli passi nel prompt e la conoscenza assorbita durante l’addestramento.

Funziona bene quando la decisione è di natura generale e non dipende da dati freschi o privati: capire l’intenzione di un messaggio, assegnare una categoria prevista, classificare il tono di una recensione, smistare una richiesta tra poche opzioni note.

Il vantaggio è la semplicità: nessun database da mantenere, nessun recupero da gestire. Si scrive un buon prompt con la decisione, le opzioni possibili e qualche esempio e si ottiene una risposta strutturata.

I limiti però sono seri: il modello può allucinare, cioè inventare con sicurezza. Non conosce i tuoi documenti interni, le offerte di questa settimana o la normativa aggiornata. E non può citare una fonte, perché non ne ha una sotto gli occhi.

Con RAG: decidere con le prove davanti

Qui entra in gioco il RAG. Prima di decidere, il sistema va a recuperare le informazioni rilevanti da una base di conoscenza e le mette davanti al modello. Il modello non decide a memoria: decide leggendo i documenti giusti.

È la differenza tra un consulente che risponde a memoria e uno che, prima di parlare, apre il fascicolo corretto. Se vuoi vedere come si costruisce un sistema così, ne ho scritto una guida pratica in come sviluppare un RAG domestico.

Come si usa un RAG per decidere, passo per passo

• Costruisci la base di conoscenza. Documenti, policy, procedure, FAQ, casi passati. Ogni testo viene spezzato in blocchi e trasformato in embedding, cioè in vettori numerici che ne catturano il significato.
• Salva i vettori in un database vettoriale. Serve a trovare in fretta i blocchi più simili alla richiesta.
• Alla domanda, recupera il contesto. La richiesta viene trasformata in vettore e confrontata con la base: si estraggono i blocchi più pertinenti.
• Riordina i risultati con il reranking. I primi risultati non sono sempre i migliori: un passaggio di riordino alza la qualità di ciò che finisce nel prompt.
• Componi il prompt con il contesto. Istruzioni chiare, più i blocchi recuperati, più la richiesta. Il modello deve decidere usando solo quel materiale.
• Chiedi una decisione strutturata e la fonte. Etichetta, punteggio, motivazione e riferimento al documento da cui deriva.
• Aggiungi i guardrail. Se il recupero non trova nulla di adatto, il modello deve poter dire “non lo so” invece di inventare.

Perché il RAG cambia davvero la decisione

Ci sono tre motivi concreti.

Il primo è l’aggiornamento. Cambia una policy? Aggiorni il documento, non riaddestri il modello. La decisione segue la realtà, non la data di addestramento.

Il secondo è la verificabilità. Una decisione supportata da un documento citato è controllabile. In ambito aziendale, legale o sanitario questo spesso conta più dell’accuratezza in sé.

Il terzo è la personalizzazione senza addestramento. Puoi dare al sistema la conoscenza di un singolo cliente, reparto o progetto senza toccare i pesi del modello.

La terza famiglia: i modelli decisionali che non scrivono

Fin qui abbiamo visto i modelli classici e gli LLM usati come decisori. Esiste una terza famiglia, che sta prendendo piede proprio adesso: i System One Model. Sono modelli costruiti per una cosa sola: decidere. Non sanno scrivere nemmeno una riga di testo.

Il nome arriva da Kahneman, il Sistema 1 è il pensiero veloce e intuitivo, quello che giudica in un istante. L’idea è la stessa: non un assistente con cui chatti, ma un motore che, dato uno stato, restituisce un giudizio tipizzato. L’esempio più concreto è Jev di TypeSafe AI, di cui ho parlato in dettaglio nell’articolo dedicato.

Come fa Jev a decidere su qualunque argomento

La parte controintuitiva è che Jev non conosce l’argomento in anticipo. Non è un modello addestrato su un solo dominio, come un filtro antispam o un motore di raccomandazione. Quello che cambia non è il modello, ma la domanda che gli poni.

Il funzionamento è in due pezzi. Tu gli dai uno stato, cioè il testo da valutare (un messaggio, un ticket, una recensione, una scheda). Poi gli dai una o più domande tipizzate, ciascuna con i suoi criteri. Il modello confronta lo stato con quei criteri e restituisce la decisione con la probabilità di ciascuna opzione.

Ecco perché può decidere su qualunque argomento: l’argomento lo definisci tu nel momento in cui scrivi domande e criteri. Il modello è il motore che mappa lo stato in una decisione, non una base di conoscenza enciclopedica da interrogare.

Cosa bisogna passargli

In concreto, a una chiamata servono tre cose.

• Lo stato: il testo da decidere. Solo testo, per ora: niente immagini, audio o video. Se il tuo input è una foto o una registrazione, va convertito in testo prima.
• Le domande tipizzate: sono di tre tipi. Choice sceglie tra le opzioni che elenchi (con una descrizione per ciascuna), score assegna un punteggio su una scala che definisci, noul risponde vero o falso su un’affermazione.
• Il modello e l’autenticazione: il nome del modello da usare e la chiave di accesso. Il resto lo fa il servizio.

In cambio ricevi valori tipizzati, non frasi: l’opzione scelta con la probabilità di tutte le alternative, il punteggio con la distribuzione sui livelli, il vero o falso. Il tuo codice li legge direttamente, senza doverli interpretare.

Un esempio di chiamata

{
  "state": "Il cliente scrive che da tre giorni non riesce a collegare l'account e sta perdendo vendite.",
  "model": "jev-latest",
  "questions": {
    "reparto": {
      "type": "choice",
      "instructions": "Quale team deve gestire questo caso",
      "criteria": {
        "fatturazione": "Problemi di pagamento o abbonamento",
        "tecnico": "Bug o problemi di integrazione",
        "commerciale": "Domande su prezzi o account"
      }
    }
  }
}

La risposta arriva strutturata: reparto: "tecnico", con la probabilità di ogni opzione e un livello di confidenza. Nessun parser da scrivere, nessuna frase da interpretare, nessun valore fuori dagli schemi.

Perché conviene, in pratica

• Niente allucinazioni di tipo. Le risposte possibili le dichiari tu, quindi il modello non può inventare una categoria che non esiste né restituire un formato sbagliato. Può sbagliare il giudizio, ma non può uscire dagli schemi.
• Probabilità e confidenza su ogni risposta. È il pezzo che permette l’automazione seria: sopra 0,9 agisci da solo, tra 0,6 e 0,9 agisci e logghi, sotto 0,6 passi a una persona.
• Veloce ed economico. Si parla di decine o centinaia di millisecondi e di costi bassi sui token di input. Vuol dire mettere l’IA dentro il software, non in una chat a parte.
• Domande atomiche, regole tue. Conviene chiedere una cosa per volta e combinare i punteggi con una formula scritta da te. Quando cambiano le priorità, cambi un coefficiente nel codice invece di riscrivere un prompt.

I limiti attuali vanno conosciuti prima di costruirci sopra: un contesto di 64.000 token per richiesta, solo input testuale e un accesso ancora in lista d’attesa. Sono vincoli di oggi, dichiarati in movimento mentre il servizio cresce.

Con e senza RAG: come scegliere

Non esiste la strada migliore in assoluto, esiste quella adatta alla decisione. Una mappa rapida:

• Modello classico senza RAG quando la decisione è stabile nel tempo, il volume è alto, l’input è strutturato (numeri, categorie), servono velocità, costi bassi, spiegabilità e categorie fisse.
• LLM senza RAG quando conta la comprensione del linguaggio, le categorie sono poche e generali, il volume è contenuto, non servono dati freschi o privati e si tollera un po’ di latenza.
• LLM con RAG quando la decisione dipende da informazioni aggiornate, interne o regolamentate e vuoi poter citare la fonte di ciò che decidi.

Spesso la risposta migliore è ibrida. Un modello classico prende il grosso dei casi, veloce ed economico. Gli LLM con RAG gestiscono i casi ambigui o complessi, dove serve leggere e ragionare. È l’approccio a cascata: prima il filtro semplice, poi il ragionamento, poi, se serve, la persona.

Errori comuni e buone pratiche

• Partire dal modello invece che dalla decisione. Si comincia sempre da cosa si deve decidere e quanto costa sbagliare.
• Fidarsi dell’accuratezza. È una metrica comoda e spesso fuorviante. Contano i costi dei due tipi di errore.
• Dimenticare la deriva. Il mondo cambia anche se il modello non lo fa. Servono monitoraggio e riaddestramento.
• Trascurare la qualità in ingresso. Dati sporchi nel modello classico o recupero scadente nel RAG producono decisioni scadenti, sempre.
• Togliere la persona dai casi delicati. Nelle decisioni ad alto impatto il modello aiuta a decidere, non decide da solo.
• Non prevedere l’astensione. Un buon sistema sa dire “non sono abbastanza sicuro, passalo a una persona”.

Domande frequenti

Un modello decisionale è per forza un’intelligenza artificiale?

No. Molte decisioni automatiche nascono da regole fisse, tabelle e soglie, senza machine learning. L’IA entra in gioco quando le regole sono troppe o troppo sfumate per essere scritte a mano e conviene farle imparare dai dati.

Qual è la differenza tra un modello decisionale e un LLM?

Un LLM è un modello generativo: il suo prodotto tipico è un testo. Un modello decisionale produce una scelta, un punteggio o una classe. Un LLM può fare anche il modello decisionale, se gli si chiede di restituire una decisione strutturata invece di un discorso.

Quando serve davvero il RAG per decidere?

Serve quando la decisione dipende da informazioni che il modello non ha imparato: dati aziendali interni, documenti aggiornati, normative recenti, casi specifici di un cliente. Se la decisione è generale e stabile, spesso il RAG è complessità inutile.

Un modello decisionale può sbagliare?

Sempre. Non esistono modelli perfetti, solo modelli con un tasso di errore accettabile rispetto ai costi. Il lavoro serio consiste nel misurare gli errori, scegliere le soglie e prevedere cosa fare quando la decisione è incerta.

Posso usare un LLM come modello decisionale senza addestrarlo?

Sì, è uno dei suoi vantaggi: con un buon prompt e, se serve, con il RAG, ottieni decisioni utili senza toccare i pesi del modello. È però essenziale valutarlo su casi reali, perché un LLM convincente non è automaticamente un LLM accurato.