Wie LLMs entstehen / Glossar

Wie LLMs entstehen-Glossar

Wie LLMs entstehen-Begriffe einfach erklärt, jeweils mit einer kurzen visuellen Lektion verknüpft.

Attention-Mechanismus: Der Attention-Mechanismus ist der Teil eines Transformers, mit dem jedes Token gewichtet, wie wichtig jedes andere Token für es ist, und dann eine Mischung ihrer Informationen nach diesen Gewichten aufnimmt.
Basismodell (Base Model): Ein Basismodell ist ein Sprachmodell direkt nach dem Vortraining. Es setzt Text fort, statt Anweisungen zu folgen, und braucht weiteres Training, bevor es als Assistent funktioniert.
Chain of Thought (Gedankenkette): Chain of Thought ist der Schritt-für-Schritt-Lösungsweg, den ein Sprachmodell vor seiner endgültigen Antwort aufschreibt. Reasoning-Modelle werden darauf trainiert, lange Gedankenketten zu erzeugen, um schwerere Aufgaben zu lösen.
Deduplizierung: Deduplizierung heißt, wiederholte Kopien desselben Texts in einem Datensatz zu finden und zu entfernen, damit ein Sprachmodell im Training nicht dieselbe Passage immer wieder sieht.
Embedding: Ein Embedding ist eine Liste von Zahlen, die ein Wort, ein Token, einen Satz oder ein Bild als Punkt in einem Bedeutungsraum darstellt, sodass Dinge mit ähnlicher Bedeutung nah beieinander landen.
Fine-Tuning: Fine-Tuning heißt, ein bereits vortrainiertes Modell mit einem kleineren, gezielten Satz von Beispielen etwas weiterzutrainieren, damit es eine Aufgabe besser kann oder sich auf eine bestimmte Art verhält.
Gradientenabstieg: Der Gradientenabstieg ist das Verfahren, mit dem die meisten KI-Modelle trainiert werden: Er berechnet für jedes Gewicht, welche Richtung den Loss senkt, und stupst dann alle Gewichte einen kleinen Schritt dorthin, immer wieder.
KI-Alignment: KI-Alignment ist die Arbeit daran, dass sich ein KI-System so verhält, wie Menschen es wollen und für richtig halten: hilfreich bei Alltagsfragen, ehrlich darüber, was es weiß, und vorsichtig, um Schaden zu vermeiden.
KI-Benchmark: Ein KI-Benchmark ist ein fester Satz von Aufgaben mit prüfbaren Lösungen, etwa Prüfungsfragen, Matheaufgaben oder Programmieraufgaben, mit dem man misst und vergleicht, wie gut Modelle abschneiden.
Kontextfenster: Ein Kontextfenster ist die maximale Textmenge, gezählt in Tokens, die ein Sprachmodell auf einmal aufnehmen kann, samt deinen Nachrichten, seinen Antworten, eingefügten Dateien und versteckten Anweisungen.
Model Card (Modellkarte): Eine Model Card ist ein kurzes öffentliches Dokument, das mit einem KI-Modell veröffentlicht wird, ähnlich einer Nährwerttabelle. Sie sagt, wofür das Modell gedacht ist, wie es trainiert und getestet wurde und welche Grenzen und Risiken bekannt sind.
Parameter (Modellgewichte): Parameter, auch Gewichte genannt, sind die verstellbaren Zahlen in einem KI-Modell. Das Training stellt sie so ein, dass die Vorhersagen besser werden, und zusammen speichern sie alles, was das Modell gelernt hat.
Quantisierung: Quantisierung macht ein KI-Modell kleiner und schneller, indem jedes Gewicht mit weniger Bits gespeichert wird, zum Beispiel 4 statt 16, und dafür ein kleiner Rundungsfehler in Kauf genommen wird.
Red Teaming: Red Teaming heißt, das eigene KI-System vor dem Start gezielt anzugreifen und zu versuchen, es zu Fehlverhalten zu bringen, damit seine Schwachstellen gefunden und behoben werden, bevor echte Nutzer darauf stoßen.
Reward-Modell (Belohnungsmodell): Ein Reward-Modell ist ein separates KI-Modell, das Antworten so bewertet, wie menschliche Bewerter es tun würden. Es wird mit menschlichen Vergleichen trainiert und lenkt dann ein Sprachmodell zu besseren Antworten.
RLHF (Reinforcement Learning from Human Feedback): RLHF, bestärkendes Lernen durch menschliches Feedback, ist eine Trainingsmethode, die einem Modell anhand vieler menschlicher Vergleiche zwischen Antwortpaaren beibringt, welche Antworten Menschen bevorzugen.
robots.txt: Die robots.txt ist eine kleine Textdatei auf einer Website, die Crawlern sagt, welche Seiten sie besuchen dürfen und welche nicht. Betreiber können damit KI-Crawler bitten, ihre Inhalte nicht zu sammeln.
Skalierungsgesetze (Scaling Laws): Skalierungsgesetze sind Muster, die zeigen, dass der Loss eines Sprachmodells gleichmäßig und vorhersagbar sinkt, wenn man Parameter, Trainingsdaten und Rechenleistung hinzufügt. Labore planen damit, wie groß sie bauen.
Temperatur (KI): Die Temperatur ist eine Einstellung, die steuert, wie vorhersehbar oder abwechslungsreich die Ausgabe eines Sprachmodells ist. Niedrige Temperatur hält es bei den wahrscheinlichsten Tokens, hohe macht unwahrscheinlichere häufiger.
Tokenizer: Ein Tokenizer ist das Werkzeug, das Text in Tokens zerlegt, also in die Stücke, die ein Sprachmodell liest, und jedes Stück in eine Zahl umwandelt. Er macht aus den Ausgabezahlen des Modells auch wieder Text.
Tool Calling (Function Calling): Tool Calling heißt, dass ein Sprachmodell eine strukturierte Anfrage schreibt, um ein externes Werkzeug wie eine Suche, einen Rechner oder einen Kalender zu nutzen. Die Software drumherum führt das Tool aus und gibt das Ergebnis zurück.
Transformer: Ein Transformer ist die Bauart neuronaler Netze hinter fast allen modernen Sprachmodellen. Er verarbeitet alle Tokens eines Texts parallel und nutzt Attention, damit die Tokens Informationen austauschen.
Verlustfunktion (Loss): Eine Verlustfunktion ist die Formel, die misst, wie falsch die Vorhersage eines Modells war. Das Training versucht, diese Zahl, den Loss, so klein wie möglich zu machen.
Vortraining (Pretraining): Das Vortraining ist die erste und größte Phase beim Bau eines Sprachmodells: Es liest riesige Mengen Text und lernt, indem es immer wieder das nächste Token vorhersagt, ganz ohne menschliche Labels.
Webcrawler: Ein Webcrawler ist ein Programm, das automatisch Webseiten besucht, ihren Inhalt speichert und ihren Links folgt, um weitere Seiten zu finden. Crawler sammeln einen Großteil des Texts, mit dem Sprachmodelle trainiert werden.
Wissensdestillation (Knowledge Distillation): Bei der Wissensdestillation lernt ein kleines „Schüler“-Modell, die Ausgaben eines großen „Lehrer“-Modells nachzuahmen. So behält der Schüler viel vom Können des Lehrers, bei einem Bruchteil der Größe.