KI-Kompetenz / Glossar

KI-Halluzination

Eine KI-Halluzination ist eine Antwort eines KI-Tools, die selbstsicher und glaubwürdig klingt, aber falsch oder erfunden ist, etwa ein falscher Fakt, ein Zitat, das nie jemand gesagt hat, oder eine Quelle, die es nicht gibt.

Sprachmodelle schreiben, indem sie wahrscheinliche nächste Wörter vorhersagen, nicht indem sie geprüfte Fakten nachschlagen. Fehlen ihnen gute Informationen, liefern sie trotzdem eine flüssige Antwort, und die kann erfunden sein.

Typische Beispiele sind ausgedachte Buchtitel, falsche Jahreszahlen, Links ins Leere, erfundene Gerichtsurteile und Zitate, die einer echten Person in den Mund gelegt werden. Der selbstsichere Ton macht sie leicht glaubhaft.

So schützt du dich: Lass dir Quellen nennen und öffne sie, prüf wichtige Aussagen auf einer vertrauenswürdigen Seite, sei bei Gesundheit, Geld und Recht besonders vorsichtig und übernimm nie eine KI-Antwort ungeprüft in Hausaufgaben oder Arbeitsdokumente.