Kompetencje AI / Słowniczek

Halucynacje AI

Halucynacja AI to sytuacja, w której narzędzie AI podaje informację brzmiącą pewnie i wiarygodnie, ale fałszywą lub zmyśloną, np. nieprawdziwy fakt, cytat, którego nikt nie powiedział, albo nieistniejące źródło.

Modele językowe piszą, przewidując prawdopodobne kolejne słowa, a nie sprawdzając fakty. Gdy brakuje im dobrych informacji, i tak mogą dać płynną odpowiedź, a ta odpowiedź może być wymyślona.

Typowe przykłady to zmyślone tytuły książek, błędne daty, nieistniejące linki, wymyślone wyroki sądów i cytaty włożone w usta prawdziwych osób. Pewny ton sprawia, że łatwo w nie uwierzyć.

Żeby się chronić, proś o źródła i otwieraj je, sprawdzaj ważne twierdzenia na rzetelnych stronach, bądź szczególnie ostrożny(-a) przy zdrowiu, pieniądzach i prawie i nigdy nie kopiuj odpowiedzi AI do pracy szkolnej ani dokumentu w pracy bez sprawdzenia.