Wie LLMs entstehen / Glossar

Tool Calling (Function Calling)

Tool Calling heißt, dass ein Sprachmodell eine strukturierte Anfrage schreibt, um ein externes Werkzeug wie eine Suche, einen Rechner oder einen Kalender zu nutzen. Die Software drumherum führt das Tool aus und gibt das Ergebnis zurück.

Das Modell führt selbst nie etwas aus. Statt einer Antwort schreibt es eine Nachricht in einem festen Format, die das Tool und seine Eingaben nennt. Die App führt das Tool aus, fügt das Ergebnis ins Gespräch ein, und das Modell macht von dort weiter.

Tools füllen die Lücken eines Modells: ein Rechner für exakte Mathe, eine Suche für Neuigkeiten nach dem Trainingsstichtag, ein Kalender oder eine Mail-App für echte Aktionen. Wiederholt ein Modell diese Schleife aus Planen, Handeln und Beobachten, kann es als Agent mehrstufige Aufgaben abarbeiten.

Tools bringen auch Risiken. Text, den ein Tool zurückgibt, etwa eine Webseite, kann versteckte Anweisungen enthalten, die das Modell übernehmen wollen. Sorgfältige Apps begrenzen deshalb, was Tools dürfen, und fragen vor wichtigen Aktionen nach.