Zum Inhalt springen
DE

Lektion 5 von 8 · 6 Min. · +100 XP

Warum erfindet KI Dinge?

Eine KI-Halluzination ist eine selbstsichere Antwort, die falsch oder erfunden ist, etwa ein ausgedachter Fakt, ein Zitat oder eine Quelle. Sie entsteht, weil ein Chatbot wahrscheinlich klingende Wörter vorhersagt, statt Fakten zu prüfen. Fehlen ihm Informationen, schreibt er trotzdem etwas Flüssiges. Sei bei Namen, Zahlen, Zitaten, Quellen und aktuellen Ereignissen besonders vorsichtig und prüf sie woanders.

▶ Probier es aus

Warum das wichtig ist

Ein Sprachmodell erzeugt immer wahrscheinliche Wörter, auch wenn es keine echte Antwort hat. Heraus kommt dann ein glatter, selbstsicherer und völlig erfundener Fakt, ein Zitat oder eine Quelle.

In 6 Minuten kannst du

  • KI-Halluzinationen entstehen, weil Chatbots wahrscheinliche Wörter vorhersagen, keine geprüften Fakten.
  • Namen, Zahlen, Zitate, Quellenangaben und aktuelle Ereignisse sind die Brennpunkte.
  • Prüf wichtige Details in einer verlässlichen Quelle, nicht durch erneutes Fragen des Chatbots.

Das übst du

  1. Warum das passiert

    Eine Halluzination ist kein Absturz und keine Lüge. Sie kommt daher, wie Chatbots schreiben.

    🔮 Vorhersagen statt nachschlagen
    Ein Chatbot schreibt die wahrscheinlichsten nächsten Wörter. Es gibt keinen eingebauten Schritt, der sie mit den Fakten abgleicht.
    🕳️ Lücken werden gefüllt
    Steht in den Trainingstexten wenig zu einem Thema, erzeugt das Modell trotzdem etwas, das wie eine Antwort aussieht.
    😌 Klingt immer sicher
    Der Ton ist derselbe, ob die Antwort stimmt oder nicht. Selbstsicherheit verrät dir nichts.
    📌 Brennpunkte
    Fehler sind am häufigsten bei Namen, Daten, Zahlen, Zitaten, Quellenangaben, Nischenthemen und aktuellen Ereignissen.

  2. Finde die Erfindungen

    Noor kennt die echte Geschichte: Das Lumen Lab wurde 2019 von drei Studierenden als kleines Forschungslabor gegründet. Tipp auf jedes erfundene Detail in Lumis Antwort.

    Lumi
    Gute Frage! Das Lumen Lab ist ein Forschungslabor, das untersucht, wie Maschinen lernen. Gegründet wurde es 1987 von Dr. Elena Varga, die auch den ersten solarbetriebenen Taschenrechner erfand. Sie sagte einmal: „Licht ist der klügste Lehrer.“ Mehr dazu findest du in ihrem Buch „Helle Maschinen“ (2004), Seite 112

  3. Riskant oder eher sicher?

    Bei welcher Frage ist eine erfundene Antwort wahrscheinlicher?

    1. Was davon solltest du am gründlichsten nachprüfen?

      • „Nenn mir drei Studien mit Seitenzahlen zu meinem Thema“ (Antwort)
      • „Schlag einen Titel für mein Urlaubsfotoalbum vor“

    2. Lumi nennt dir die genaue Einwohnerzahl eines winzigen Dorfs. Was ist schlau?

      • Sie in einer offiziellen oder verlässlichen Quelle prüfen (Antwort)
      • Ihr glauben, die Zahl ist so genau
      • Lumi fragen „Bist du sicher?“ und die Antwort akzeptieren

  4. Gewohnheiten gegen Erfindungen

    Wähl alle Gewohnheiten, die helfen.

    • Namen, Daten und Zahlen in einer verlässlichen Quelle nachschlagen
    • Jede genannte Quelle öffnen und prüfen, ob es dort steht
    • Das genaue Zitat suchen, um zu sehen, ob es wirklich existiert
    • Bei aktuellen Ereignissen und Nischenthemen extra vorsichtig sein
    • Antworten vertrauen, die selbstsicher und detailliert klingen
    • Eine Quelle akzeptieren, weil sie eine Seitenzahl hat

Merk dir

Flüssig ist nicht wahr. Prüf Namen, Zahlen, Zitate und Quellen außerhalb des Chats.

Flüssig ist nicht wahr. Prüf Namen, Zahlen, Zitate und Quellen, bevor du dich darauf verlässt.

Die wichtigsten Fakten

  • Im Juni 2023 verhängte ein US-Bundesgericht 5.000 US-Dollar Strafe gegen zwei Anwälte und ihre Kanzlei, weil sie einen Schriftsatz mit Gerichtsurteilen eingereicht hatten, die ein KI-Chatbot erfunden hatte. · Quelle: US District Court, Southern District of New York, Mata v. Avianca, Inc., Urteil und Sanktionsbeschluss, 22. Juni 2023
  • Das US-amerikanische National Institute of Standards and Technology (NIST) zählt „Konfabulation“, also selbstsicher vorgetragene, aber falsche Inhalte, zu den Hauptrisiken generativer KI. · Quelle: NIST, AI 600-1, Artificial Intelligence Risk Management Framework: Generative AI Profile, 2024
  • Manche Forschende sagen lieber „Konfabulation“ als „Halluzination“, weil das Modell nichts sieht, was nicht da ist, sondern Lücken mit plausibel klingenden Inhalten füllt.
  • Einen Chatbot zu fragen, ob seine eigene Antwort stimmt, ist keine verlässliche Prüfung, denn die Rückmeldung entsteht genauso wie die ursprüngliche Antwort.

Aktualisiert:

Häufige Fragen

Was ist ein Beispiel für eine KI-Halluzination?

Ein Chatbot erfindet ein Buch, eine Studie oder ein Gerichtsurteil, das es nicht gibt, samt echt wirkendem Titel, Autor und Seitenzahl, oder nennt ein genaues, aber falsches Datum oder eine falsche Statistik.

Warum halluzinieren KI-Chatbots?

Sie sind darauf trainiert, wahrscheinlich klingenden Text zu erzeugen, nicht Fakten zu prüfen. Fehlen dem Modell Informationen, erzeugt es trotzdem eine flüssige Antwort, die ins Muster passt, auch wenn sie falsch ist.

Kann man KI-Halluzinationen beheben?

Man kann sie verringern, etwa indem man einen Chatbot mit einer Suche oder verlässlichen Dokumenten verbindet und besser trainiert. Ganz beseitigt sie aber keine heutige Methode. Wichtige Fakten zu prüfen bleibt deine Aufgabe.

Woran erkenne ich, dass eine KI halluziniert?

Am Text allein oft gar nicht, denn er klingt in beiden Fällen gleich selbstsicher. Prüf Namen, Zahlen, Zitate und Quellen an einer verlässlichen Stelle außerhalb des Chats.

Verwandte Begriffe