Wie LLMs entstehen / Glossar

Chain of Thought (Gedankenkette)

Chain of Thought ist der Schritt-für-Schritt-Lösungsweg, den ein Sprachmodell vor seiner endgültigen Antwort aufschreibt. Reasoning-Modelle werden darauf trainiert, lange Gedankenketten zu erzeugen, um schwerere Aufgaben zu lösen.

Forschende zeigten 2022: Schon die Aufforderung an ein großes Modell, seinen Lösungsweg Schritt für Schritt aufzuschreiben, verbesserte seine Trefferquote bei Textaufgaben in Mathe. Die Schritte geben dem Modell mehr Text, auf dem es aufbauen kann, bevor es sich auf eine Antwort festlegt.

Reasoning-Modelle gehen mit Training noch weiter. Sie üben an Aufgaben mit prüfbaren Lösungen, etwa Mathe und Code, und bestärkendes Lernen belohnt die Ketten, die zum richtigen Ergebnis führen. Gewohnheiten wie das Prüfen der eigenen Arbeit werden verstärkt, und länger nachzudenken hilft oft.

Eine Gedankenkette ist nützlich, aber kein perfektes Fenster ins Modell. Forschende fanden heraus, dass die aufgeschriebenen Schritte nicht immer zeigen, was die Antwort wirklich bestimmt hat. Das Endergebnis muss also trotzdem geprüft werden.