Come nascono gli LLM / Glossario

Glossario di Come nascono gli LLM

Definizioni semplici dei termini di Come nascono gli LLM, ognuna collegata a una breve lezione visiva.

Allineamento dell’IA: L’allineamento dell’IA è il lavoro per far corrispondere il comportamento di un sistema di IA a ciò che le persone intendono e considerano importante: utile nelle richieste di tutti i giorni, onesto su ciò che sa e attento a evitare danni.
Benchmark di IA: Un benchmark di IA è un insieme fisso di compiti con risposte verificabili, come domande d’esame, problemi di matematica o esercizi di programmazione, usato per misurare e confrontare le prestazioni dei modelli.
Catena di pensiero (chain of thought): La catena di pensiero è il ragionamento passo per passo che un modello linguistico scrive prima della risposta finale. I modelli di ragionamento sono addestrati a produrre lunghe catene di pensiero per risolvere problemi più difficili.
Deduplicazione dei dati: La deduplicazione dei dati consiste nel trovare e togliere le copie ripetute dello stesso testo da un dataset, così un modello linguistico non vede lo stesso passaggio più e più volte durante l’addestramento.
Discesa del gradiente: La discesa del gradiente è il metodo con cui si addestra la maggior parte dei modelli di IA: calcola per ogni peso quale direzione abbassa la loss, poi sposta tutti i pesi di un piccolo passo in quella direzione, ancora e ancora.
Distillazione della conoscenza: La distillazione della conoscenza addestra un piccolo modello «studente» a copiare le risposte di un grande modello «insegnante», così lo studente conserva gran parte delle abilità dell’insegnante con una frazione delle dimensioni.
Embedding: Un embedding è una lista di numeri che rappresenta una parola, un token, una frase o un’immagine come un punto in uno spazio di significati, così le cose con significati simili finiscono vicine.
Fine-tuning: Il fine-tuning consiste nell’addestrare ancora un po’ un modello già pre-addestrato su un insieme più piccolo e mirato di esempi, così migliora in un compito o si comporta in un certo modo.
Finestra di contesto: La finestra di contesto è la quantità massima di testo, contata in token, che un modello linguistico può prendere in una volta, compresi i tuoi messaggi, le sue risposte, i file incollati e le istruzioni nascoste.
Funzione di perdita (loss): Una funzione di perdita è la formula che misura quanto era sbagliata la previsione di un modello. L’addestramento cerca di rendere questo numero, la loss, il più piccolo possibile.
Leggi di scala (scaling laws): Le leggi di scala sono schemi che mostrano come la loss di un modello linguistico scende in modo regolare e prevedibile quando aggiungi parametri, dati di addestramento e calcolo. I laboratori le usano per decidere quanto grande costruire.
Meccanismo di attenzione: Il meccanismo di attenzione è la parte di un transformer che permette a ogni token di pesare quanto conta per lui ogni altro token, e poi di prendere un mix delle loro informazioni in base a quei pesi.
Model card (scheda del modello): Una model card è un breve documento pubblico rilasciato insieme a un modello di IA, come un’etichetta nutrizionale. Dice a cosa serve il modello, come è stato addestrato e testato, e quali sono i suoi limiti e rischi noti.
Modello base: Un modello base è un modello linguistico appena uscito dal pre-addestramento. Continua i testi invece di seguire le istruzioni, quindi ha bisogno di altro addestramento prima di funzionare come assistente.
Modello di ricompensa (reward model): Un modello di ricompensa è un modello di IA separato che dà un voto alle risposte come farebbero i valutatori umani. Viene addestrato su confronti umani e poi usato per guidare un modello linguistico verso risposte migliori.
Parametri (pesi del modello): I parametri, chiamati anche pesi, sono i numeri regolabili dentro un modello di IA. L’addestramento li regola perché le previsioni migliorino, e tutti insieme custodiscono ciò che il modello ha imparato.
Pre-addestramento (pretraining): Il pre-addestramento è la prima e più grande fase della costruzione di un modello linguistico: il modello legge un’enorme quantità di testo e impara prevedendo il token successivo, ancora e ancora, senza etichette fatte da persone.
Quantizzazione: La quantizzazione rende un modello di IA più piccolo e veloce salvando ognuno dei suoi pesi con meno bit, per esempio 4 invece di 16, accettando un piccolo errore di arrotondamento.
Red teaming: Il red teaming consiste nell’attaccare di proposito il proprio sistema di IA prima del rilascio, cercando di farlo comportare male, così i suoi punti deboli si trovano e si correggono prima che li incontrino gli utenti veri.
RLHF (apprendimento per rinforzo dal feedback umano): L’RLHF, apprendimento per rinforzo dal feedback umano, è un metodo di addestramento che insegna a un modello quali risposte preferiscono le persone, usando molti confronti umani tra coppie di risposte.
robots.txt: robots.txt è un piccolo file di testo su un sito web che dice ai crawler quali pagine possono visitare e quali no. Chi gestisce un sito può usarlo per chiedere ai crawler dell’IA di non raccogliere i suoi contenuti.
Temperatura (IA): La temperatura è un’impostazione che controlla quanto è prevedibile o varia la risposta di un modello linguistico. Una temperatura bassa lo fa restare sui token più probabili; una alta rende più frequenti quelli meno probabili.
Tokenizer: Il tokenizer è lo strumento che taglia il testo in token, i pezzi che un modello linguistico legge, e trasforma ogni pezzo in un numero. Fa anche il contrario: trasforma i numeri prodotti dal modello di nuovo in testo.
Tool calling (chiamata di funzioni): Il tool calling è quando un modello linguistico scrive una richiesta strutturata per usare uno strumento esterno, come una ricerca, una calcolatrice o un calendario, e il software intorno esegue lo strumento e restituisce il risultato.
Transformer: Il transformer è l’architettura di rete neurale alla base di quasi tutti i modelli linguistici moderni. Elabora tutti i token di un testo in parallelo e usa l’attenzione per farli scambiare informazioni.
Web crawler: Un web crawler è un programma che visita automaticamente le pagine web, ne salva il contenuto e segue i link per trovarne altre. I crawler raccolgono gran parte del testo usato per addestrare i modelli linguistici.