In sintesi
- Il modello si sceglie per compito, non per azienda: lo stesso progetto può usare un modello veloce per smistare le richieste e uno più capace per scrivere le risposte.
- Il metodo che funziona è un set di 30-50 casi reali su cui provare due o tre modelli, misurando qualità, tempi, costo e correzioni.
- Nello stesso listino, un modello veloce può costare decine di volte meno per token di uno di fascia alta.
- Dove vanno i dati conta quanto la qualità: fornitore in cloud, cloud europeo dedicato o server aziendale.
Perché le classifiche non bastano
Ogni mese esce un modello che supera gli altri in qualche classifica. Ma i test pubblici misurano matematica, codice o domande generali, non la capacità di leggere le vostre conferme d’ordine, i vostri capitolati o le email dei vostri clienti. Un modello primo in classifica può sbagliare un codice articolo che un modello più piccolo legge correttamente.
Per questo nei nostri progetti la scelta del modello arriva dopo aver definito il compito e raccolto esempi reali, non prima.
Le tre fasce di modelli
| Fascia | Compiti tipici | Cosa considerare |
|---|---|---|
| Veloci ed economici | Classificare email e ticket, estrarre campi da documenti, instradare richieste | Costo per token molto basso e risposte rapide; da verificare sui casi ambigui |
| Intermedi | Bozze di risposte, sintesi di documenti, assistenti che citano le fonti | Il compromesso più usato nei processi aziendali |
| Fascia alta | Documenti lunghi e tecnici, ragionamenti in più passaggi, agenti che usano molti strumenti | Costano di più e sono più lenti; da usare solo dove servono davvero |
| Open weight | Gli stessi compiti, con i dati che non escono dall’azienda | Richiedono server con GPU o un cloud dedicato; capacità variabile per famiglia e dimensione |
Tutti i grandi fornitori, cioè Anthropic con Claude, OpenAI con GPT e Google con Gemini, offrono modelli in ciascuna fascia. Tra i modelli open weight più usati per installazioni aziendali ci sono le famiglie Mistral, Llama, Qwen e Gemma, con licenze diverse da verificare caso per caso. I prezzi aggiornati sono nelle pagine ufficiali indicate nelle fonti.
Il metodo in cinque passi
- Definire il risultato: una categoria, un campo estratto, una bozza di testo, un’azione nel gestionale. Più è precisa la definizione, più è facile misurare.
- Raccogliere 30-50 casi reali, compresi quelli difficili: documenti scansionati male, email ambigue, eccezioni. Per ognuno, la risposta corretta scritta da chi fa il lavoro oggi.
- Provare due o tre modelli con le stesse istruzioni, uno per fascia.
- Misurare quattro cose: risposte corrette, tempo di risposta, costo per caso e tempo che una persona impiega a correggere gli errori.
- Scegliere il più economico che supera la soglia di qualità concordata, non il migliore in assoluto.
Il quarto punto è quello che si dimentica più spesso: un modello che costa la metà ma richiede il doppio delle correzioni costa di più.
Dove vanno i dati
- API dei grandi fornitori: contratti business con esclusione dei dati dall’addestramento e, per alcuni fornitori, elaborazione in regioni europee.
- Cloud europeo dedicato: modelli open weight su infrastruttura riservata in Europa, senza condividere risorse con altri clienti.
- Server aziendale: il modello gira in azienda, utile per disegni sotto NDA, dati sanitari o segreti industriali. Ne parliamo in AI locale e on-premise.
La scelta va documentata anche ai fini dell’AI Act e del GDPR: quale modello, quale fornitore, dove sono trattati i dati e chi controlla i risultati. Per approfondire c’è la nostra pagina su AI Act e compliance.
Non legarsi a un solo fornitore
I modelli cambiano più in fretta dei processi aziendali. Un’architettura che permette di sostituire il modello senza riscrivere l’applicazione, con il set di casi di prova pronto per i confronti, protegge l’investimento. È lo stesso principio della sovranità AI aziendale e della continuità operativa quando un fornitore ha un disservizio.
Per le decisioni chiuse, come assegnare una categoria o decidere se serve una persona, esistono anche modelli decisionali specializzati, descritti in Jev e i modelli System One.
Fonti
- Anthropic, prezzi di Claude e delle API
- OpenAI, prezzi delle API
- Google, prezzi dell’API Gemini
- Regolamento (UE) 2024/1689, AI Act
Domande frequenti
Qual è il miglior modello AI per un’azienda?
Non esiste un modello migliore in assoluto. Esiste il modello adatto a un compito preciso, con i dati, i tempi e il budget di quell’azienda. Lo si sceglie provando due o tre alternative sugli stessi casi reali e confrontando qualità, tempi, costo e correzioni necessarie.
Conviene usare sempre il modello più potente?
No. Per classificare email, estrarre campi da un documento o instradare una richiesta, un modello veloce di fascia bassa spesso basta e costa molto meno. I modelli di fascia alta servono per ragionamenti lunghi, documenti complessi e agenti che usano molti strumenti.
Meglio un modello in cloud o installato in azienda?
Dipende dai dati. I modelli in cloud dei grandi fornitori sono i più capaci e non richiedono hardware. I modelli open weight installati su server aziendali o in un cloud europeo dedicato danno pieno controllo sui dati, a fronte di costi di infrastruttura e di capacità spesso inferiori sui compiti più difficili.
Ogni quanto va rivista la scelta?
I fornitori aggiornano modelli e prezzi più volte l’anno. Con un set di casi di prova già pronto, rivalutare un modello nuovo richiede poche ore: conviene farlo almeno ogni sei mesi o quando un fornitore annuncia il ritiro di un modello in uso.
Agentix sviluppa modelli propri?
No. Selezioniamo e integriamo modelli esistenti, in cloud o installati su server aziendali, scegliendo per ogni processo la combinazione che dà il miglior equilibrio tra qualità, costo e controllo dei dati.