Definizione
Che cos’è Temperature e come funziona?
Valori bassi tendono a produrre risposte più stabili, valori alti aumentano varietà e imprevedibilità. Non trasforma però una risposta in un dato verificato.
Tecnicamente la temperature divide i punteggi dei possibili token prima di trasformarli in probabilità: sotto 1 la distribuzione si concentra sul token più probabile, sopra 1 si appiattisce. Molti servizi accettano valori tra 0 e 1 o tra 0 e 2. Anche a 0 le risposte possono variare leggermente per effetto del calcolo parallelo, e alcuni modelli di ragionamento non permettono di modificarla.
Esempio aziendale
Esempio di Temperature in azienda
Un estrattore di dati usa una temperature bassa, mentre un laboratorio creativo prova valori più alti per ottenere alternative.
Applicazioni
Quando può essere utile
- controllo della variabilità
- generazione creativa
- output strutturati
- test comparativi
- configurazione di assistenti
Limiti
Quando fare attenzione
- zero non rende le risposte perfettamente ripetibili
- valori alti producono formati JSON non validi
- modificata insieme a top_p rende i test confusi
- non corregge un prompt ambiguo
Da non confondere
Temperature: con cosa non va confuso?
La temperature influenza il campionamento della risposta. Non misura la qualità, la precisione o la sicurezza del modello.
Dalla definizione al progetto
Cosa può realizzare Agentix con Temperature
Nei flussi che Agentix sviluppa, la temperature viene fissata per funzione e non per applicazione. L’estrazione dei campi da un ordine gira a valore minimo, la stesura di una risposta al cliente con un margine maggiore, la generazione di varianti di testo ancora più alta.
I parametri sono salvati in configurazione insieme alla versione del prompt e del modello, così ogni risultato è riproducibile. Prima del rilascio la stessa domanda viene ripetuta più volte per verificare quanto variano le risposte e se il formato resta valido.
Valuta il caso d’uso con AgentixRisposte rapide
Domande frequenti su Temperature
Che temperature usare per un chatbot aziendale?
Per risposte su procedure, prodotti o documenti si usano valori bassi, tra 0 e 0,3, così la stessa domanda riceve risposte coerenti. Valori più alti hanno senso per proporre titoli, slogan o varianti di un testo da cui una persona sceglie.
Temperature e top_p sono la stessa cosa?
No. La temperature cambia la forma della distribuzione di probabilità, top_p limita la scelta ai token che insieme raggiungono una certa probabilità cumulata. I fornitori consigliano di regolarne uno solo alla volta per capire l’effetto delle modifiche.
Dal concetto all’applicazione
Vuoi applicare Temperature nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.