Come impara un modello di IA dai suoi errori?
Un modello impara misurando i suoi errori e regolando le sue impostazioni. Dopo ogni tentativo, un numero chiamato loss dice quanto ha sbagliato. La retropropagazione calcola da che parte deve girare ciascuno dei miliardi di pesi per abbassare la loss, e la discesa del gradiente li sposta tutti di un piccolo passo in quella direzione, ancora e ancora.
▶ Prova tu
Perché è importante
«Addestramento» suona misterioso, ma è un solo ciclo: misura l’errore, trova da che parte si scende, gira un po’ ogni manopola. Quanto è grande ogni spinta decide se l’addestramento funziona.
In 6 minuti saprai
- La loss è un solo numero che dice quanto era sbagliato un tentativo. L’addestramento cerca di abbassarla.
- La retropropagazione trova la direzione in discesa per ogni manopola, e la discesa del gradiente le sposta tutte.
- Un learning rate troppo piccolo striscia, uno troppo grande va oltre il bersaglio o esplode: per questo gli ingegneri lo regolano con cura.
Cosa eserciterai
Quattro parole da ingegneri
Tocca ogni carta. Queste quattro idee sono tutto il ciclo di addestramento.
- 📉 Loss
- Un solo numero che dice quanto ha sbagliato il modello. Se la parola vera era «blu» e il modello le dava poche probabilità, la loss è alta.
- 🎛️ Pesi
- Le manopole del modello, miliardi. Insieme decidono ogni previsione. L’addestramento cambia sempre e solo questi numeri.
- 🧭 Gradiente
- Per ogni manopola: da che parte girarla per abbassare la loss, e quanto conta. La retropropagazione lo calcola per tutte le manopole insieme.
- 👣 Learning rate
- Il tasso di apprendimento: quanto è grande ogni spinta. Troppo piccolo e l’addestramento procede a passo di lumaca, troppo grande e va oltre il bersaglio o esplode.
Rotola nella valle della loss
La pallina è una delle manopole di Vireo. Scegli la lunghezza del passo, premi Spingi e porta la loss sotto la linea verde.
Lunghezza del passo (learning rate): minimo · piccolo · medio · grande · enorme
L’altezza della pallina è la loss. Ogni Spingi controlla da che parte si scende e gira la manopola in quella direzione, della lunghezza che scegli tu. Porta la loss sotto la linea verde.
- In questa valle i passi medi sono i più veloci. Quelli minimi strisciano, quelli grandi rimbalzano, quelli enormi volano fuori.
- Una valle molto più ripida. Lo stesso passo funzionerà ancora? In una valle ripida vincono i passi piccoli. Un passo che prima andava bene ora va oltre il fondo: per questo gli ingegneri regolano il learning rate.
- Ora un pendio lungo e dolce. Cosa va bene qui? Su un pendio dolce i passi grandi sono sicuri e fanno risparmiare tempo. Gli addestramenti veri di solito accorciano i passi strada facendo.
Leggi il pannello dell’addestramento
La linea della loss di Vireo sale e scende all’impazzata e poi schizza fuori dal grafico. Qual è la soluzione più probabile?
- Abbassare il learning rate (Risposta)
- Alzare il learning rate
- Eliminare metà delle manopole
Quale parte calcola da che parte deve girare ogni singola manopola?
- La retropropagazione, che calcola il gradiente (Risposta)
- Un ingegnere che controlla ogni manopola a mano
Una loss più bassa vuol dire che ora Vireo ha sempre ragione?
- No, vuol dire che le sue previsioni si adattano meglio al testo di addestramento (Risposta)
- Sì, una loss bassa vuol dire che non sbaglia più
Ricorda
L’addestramento è un solo ciclo: misura la loss, trova da che parte si scende, sposta ogni manopola di un piccolo passo. La lunghezza del passo decide se funziona.
La loss misura l’errore, il gradiente indica la discesa e il learning rate decide quanto è grande ogni spinta.
Dati chiave
- La retropropagazione, il metodo che calcola come regolare ogni peso di una rete, è stata resa famosa da un articolo del 1986 su Nature. · Fonte: Rumelhart, Hinton & Williams, Learning representations by back-propagating errors, 1986
- GPT-3 ha 175 miliardi di parametri, e ognuno è una manopola che l’addestramento regola. · Fonte: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
- La maggior parte dei grandi modelli linguistici si addestra con Adam o una sua variante, una forma raffinata di discesa del gradiente che adatta la lunghezza del passo per ogni manopola. · Fonte: Kingma & Ba, Adam: A Method for Stochastic Optimization, 2015
- Nei grandi addestramenti il learning rate di solito sale all’inizio e poi cala gradualmente man mano che l’addestramento va avanti.
Aggiornato:
Domande frequenti
Cos’è la discesa del gradiente in parole semplici?
Un modo per trovare buone impostazioni facendo piccoli passi in discesa. Controlli quale direzione abbassa l’errore, fai un piccolo passo da quella parte e ripeti finché l’errore è basso.
Cos’è una funzione di perdita (loss)?
Una formula che trasforma l’errore di un modello in un solo numero. Per un modello linguistico misura quanto il modello è stato sorpreso dal token vero: meno lo riteneva probabile, più alta è la loss.
Cos’è il learning rate?
Il tasso di apprendimento, cioè la grandezza di ogni passo di aggiornamento durante l’addestramento. Troppo alto e l’addestramento diventa instabile, troppo basso e dura troppo: è una delle impostazioni regolate con più cura.
Cos’è la retropropagazione?
Il metodo che calcola, per ogni peso di una rete, come una piccola modifica cambierebbe la loss. Lavora all’indietro dall’uscita attraverso ogni strato, da cui il nome (in inglese backpropagation).
Termini correlati