Wie lernt ein KI-Modell aus seinen Fehlern?
Ein Modell lernt, indem es seine Fehler misst und seine Einstellungen anpasst. Nach jedem Tipp sagt eine Zahl, der Loss, wie falsch es lag. Die Backpropagation berechnet, in welche Richtung jedes der Milliarden Gewichte gedreht werden muss, um den Loss zu senken, und der Gradientenabstieg stupst alle einen kleinen Schritt dorthin, immer wieder.
▶ Probier es aus
Warum das wichtig ist
„Training“ klingt geheimnisvoll, ist aber eine Schleife: den Fehler bewerten, herausfinden, wo es bergab geht, jeden Regler ein wenig stupsen. Wie groß jeder Stupser ist, entscheidet, ob das Training überhaupt funktioniert.
In 6 Minuten kannst du
- Der Loss ist eine Zahl dafür, wie falsch ein Tipp war. Das Training versucht, ihn zu senken.
- Die Backpropagation findet für jeden Regler die Richtung bergab, und der Gradientenabstieg stupst alle an.
- Eine zu kleine Lernrate kriecht, eine zu große schießt übers Ziel oder explodiert. Darum wird sie sorgfältig abgestimmt.
Das übst du
Vier Begriffe aus dem Maschinenraum
Tipp auf jede Karte. Diese vier Ideen sind die ganze Trainingsschleife.
- 📉 Loss
- Eine Zahl dafür, wie falsch das Modell lag. War das echte nächste Wort „blau“ und gab das Modell ihm eine kleine Chance, ist der Loss hoch.
- 🎛️ Gewichte
- Die Regler des Modells, Milliarden davon. Zusammen entscheiden sie jede Vorhersage. Das Training verändert immer nur diese Zahlen.
- 🧭 Gradient
- Für jeden Regler: in welche Richtung er gedreht werden muss, um den Loss zu senken, und wie wichtig er ist. Die Backpropagation berechnet das für alle Regler auf einmal.
- 👣 Lernrate
- Wie groß jeder Stupser ist. Zu klein, und das Training kriecht; zu groß, und es schießt übers Ziel hinaus oder fliegt auseinander.
Roll ins Loss-Tal
Die Kugel ist einer von Vireos Reglern. Wähl eine Schrittgröße, drück „Stupsen“ und bring den Loss unter die grüne Linie.
Schrittgröße (Lernrate): winzig · klein · mittel · groß · riesig
Die Höhe der Kugel ist der Loss. Jedes Stupsen prüft, wo es bergab geht, und dreht den Regler dorthin, um die gewählte Schrittgröße. Bring den Loss unter die grüne Linie.
- In diesem Tal sind mittlere Schritte am schnellsten. Winzige kriechen, große prallen hin und her, riesige fliegen raus.
- Ein viel steileres Tal. Funktioniert dieselbe Schrittgröße noch? In einem steilen Tal gewinnen kleine Schritte. Ein Schritt, der vorher passte, schießt jetzt übers Ziel. Darum stimmen Fachleute die Lernrate fein ab.
- Jetzt ein langer, sanfter Hang. Was passt hier? Am sanften Hang sind große Schritte sicher und sparen Zeit. Echte Trainingsläufe machen ihre Schritte mit der Zeit meist kleiner.
Lies das Trainings-Dashboard
Vireos Loss-Linie springt wild auf und ab und schießt dann aus dem Diagramm. Was hilft am ehesten?
- Die Lernrate senken (Antwort)
- Die Lernrate erhöhen
- Die Hälfte der Regler löschen
Welcher Teil berechnet, in welche Richtung jeder einzelne Regler gedreht werden soll?
- Die Backpropagation, die den Gradienten berechnet (Antwort)
- Eine Ingenieurin, die jeden Regler von Hand prüft
Heißt ein niedrigerer Loss, dass Vireo jetzt immer richtigliegt?
- Nein, nur dass seine Tipps besser zum Trainingstext passen (Antwort)
- Ja, ein niedriger Loss heißt, dass es keine Fehler mehr macht
Merk dir
Training ist eine Schleife: Loss messen, herausfinden, wo es bergab geht, jeden Regler ein Stück stupsen. Die Schrittgröße entscheidet, ob es klappt.
Der Loss misst den Fehler, der Gradient zeigt bergab, und die Lernrate legt die Größe jedes Stupsers fest.
Die wichtigsten Fakten
- Die Backpropagation, das Verfahren, das berechnet, wie jedes Gewicht in einem Netz angepasst werden muss, wurde durch einen Artikel 1986 in Nature bekannt. · Quelle: Rumelhart, Hinton & Williams, Learning representations by back-propagating errors, 1986
- GPT-3 hat 175 Milliarden Parameter, und jeder davon ist ein Regler, den das Training verstellt. · Quelle: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
- Die meisten großen Sprachmodelle werden mit Adam oder einer engen Variante trainiert, einer verfeinerten Form des Gradientenabstiegs, die die Schrittgröße für jeden Regler anpasst. · Quelle: Kingma & Ba, Adam: A Method for Stochastic Optimization, 2015
- Große Trainingsläufe fahren die Lernrate am Anfang meist langsam hoch und senken sie im Lauf des Trainings nach und nach.
Aktualisiert:
Häufige Fragen
Was ist Gradientenabstieg, einfach erklärt?
Eine Methode, gute Einstellungen mit kleinen Schritten bergab zu finden. Du prüfst, welche Richtung den Fehler senkt, machst einen kleinen Schritt dorthin und wiederholst das, bis der Fehler klein ist.
Was ist eine Verlustfunktion?
Eine Formel, die den Fehler eines Modells in eine Zahl verwandelt. Bei einem Sprachmodell misst sie, wie überrascht das Modell vom echten nächsten Token war: Je unwahrscheinlicher es das Token fand, desto höher der Loss.
Was ist eine Lernrate?
Die Größe jedes Anpassungsschritts im Training. Zu hoch, und das Training wird instabil; zu niedrig, und es dauert viel zu lange. Darum gehört sie zu den am sorgfältigsten abgestimmten Einstellungen.
Was ist Backpropagation?
Das Verfahren, das für jedes Gewicht in einem Netz berechnet, wie sich eine kleine Änderung auf den Loss auswirken würde. Es arbeitet sich von der Ausgabe rückwärts durch jede Schicht, daher der Name.
Verwandte Begriffe