Definizione
Che cos’è Explainable AI e come funziona?
La spiegazione può mostrare fattori influenti, fonti, regole o limiti. Deve essere adatta al destinatario e non ridursi a una giustificazione generica.
Le tecniche si dividono in globali, che descrivono quali variabili pesano in generale sul modello, e locali, che spiegano la singola previsione: SHAP e LIME sono le più diffuse. Per gli LLM la forma più utile è spesso la citazione delle fonti da cui proviene la risposta. L’AI Act prevede obblighi di trasparenza per i sistemi ad alto rischio e, in alcuni casi, un diritto alla spiegazione delle decisioni.
Esempio aziendale
Esempio di Explainable AI in azienda
Un modello segnala un’anomalia e mostra quali misure si discostano maggiormente dal comportamento abituale.
Applicazioni
Quando può essere utile
- decisioni assistite
- analisi del rischio
- diagnosi di errori
- audit
- comunicazione agli utenti
Limiti
Quando fare attenzione
- spiegazioni approssimate scambiate per causalità
- grafici tecnici incomprensibili per l’operatore
- motivazioni plausibili generate a posteriori dall’LLM
- variabili correlate che si spartiscono l’importanza
Da non confondere
Explainable AI: con cosa non va confuso?
Spiegabilità e trasparenza sono collegate ma non identiche. La trasparenza descrive anche dati, finalità, fornitore e processo complessivo.
Dalla definizione al progetto
Cosa può realizzare Agentix con Explainable AI
Agentix progetta la spiegazione insieme all’interfaccia, pensando a chi la legge. Al responsabile qualità servono le misure che hanno fatto scattare l’allarme, al commerciale i fattori che rendono probabile un ritardo, a chi interroga un assistente documentale le pagine da cui viene la risposta.
Per i modelli predittivi si calcolano contributi delle variabili con SHAP e si mostrano in forma testuale breve; per gli assistenti basati su LLM ogni risposta riporta documento e sezione citati. Nei progetti soggetti ad AI Act le spiegazioni confluiscono nella documentazione tecnica del sistema.
Valuta il caso d’uso con AgentixRisposte rapide
Domande frequenti su Explainable AI
La spiegabilità è obbligatoria per legge?
Dipende dal sistema. Per i sistemi ad alto rischio l’AI Act richiede istruzioni e trasparenza tali da permettere a chi li usa di interpretarne i risultati. Il GDPR tutela le persone soggette a decisioni basate unicamente su trattamenti automatizzati. Per molti usi interni non esiste un obbligo specifico.
Cos’è SHAP?
È un metodo che calcola quanto ogni variabile ha spostato una singola previsione rispetto alla media, basandosi sui valori di Shapley della teoria dei giochi. Mostra per esempio che un ritardo previsto dipende soprattutto da fornitore e quantità ordinata.
Dal concetto all’applicazione
Vuoi applicare Explainable AI nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.