Przejdź do treści
PL

Lekcja 5 z 8 · 6 min · +100 XP

Dlaczego AI zmyśla?

Halucynacja AI to pewna siebie odpowiedź, która jest fałszywa lub zmyślona, np. wymyślony fakt, cytat albo źródło. Dzieje się tak, bo chatbot przewiduje słowa, które brzmią prawdopodobnie, zamiast sprawdzać fakty, więc gdy brakuje mu informacji, i tak tworzy coś płynnego. Najbardziej uważaj na nazwiska, liczby, cytaty, przypisy i najnowsze wydarzenia, i sprawdzaj je gdzie indziej.

▶ Wypróbuj

Dlaczego to ważne

Model językowy zawsze tworzy prawdopodobne słowa, nawet gdy nie ma prawdziwej odpowiedzi. Wynikiem może być dopracowany, pewny siebie i całkowicie zmyślony fakt, cytat albo źródło.

W 6 minut nauczysz się

  • Halucynacje AI biorą się stąd, że chatboty przewidują prawdopodobne słowa, a nie sprawdzone fakty.
  • Gorące punkty to nazwiska, liczby, cytaty, przypisy i najnowsze wydarzenia.
  • Ważne szczegóły weryfikuj w zaufanym źródle, a nie pytając chatbota jeszcze raz.

Co przećwiczysz

  1. Skąd się to bierze

    Halucynacja to nie usterka ani kłamstwo. Wynika z tego, jak piszą chatboty.

    🔮 Przewiduje, nie wyszukuje
    Chatbot pisze najbardziej prawdopodobne kolejne słowa. Nie ma wbudowanego kroku, który porównuje je z faktami.
    🕳️ Luki się wypełniają
    Gdy teksty treningowe mówią o temacie niewiele, model i tak tworzy coś, co pasuje do wzoru odpowiedzi.
    😌 Zawsze brzmi pewnie
    Ton jest ten sam, czy odpowiedź jest dobra, czy zła. Pewność siebie nic ci nie mówi.
    📌 Gorące punkty
    Błędy najczęściej dotyczą nazwisk, dat, liczb, cytatów, przypisów, niszowych tematów i najnowszych wydarzeń.

  2. Wskaż zmyślenia

    Noor zna prawdziwą historię: Lumen Lab założyło troje studentów w 2019 r. jako małe laboratorium badawcze. Dotknij każdego zmyślonego szczegółu w odpowiedzi Lumiego.

    Lumi
    Świetne pytanie! Lumen Lab to laboratorium, które bada, jak uczą się maszyny. Założyła je w 1987 r. dr Elena Varga, która wynalazła też pierwszy kalkulator na energię słoneczną. Powiedziała kiedyś: „Światło jest najmądrzejszym nauczycielem”. Więcej przeczytasz w jej książce „Jasne maszyny” (2004), s. 112

  3. Ryzykowne czy raczej bezpieczne?

    Które pytanie łatwiej dostanie zmyśloną odpowiedź?

    1. Co z tego sprawdzisz najdokładniej?

      • „Podaj trzy badania na mój temat, z numerami stron” (Odpowiedź)
      • „Zaproponuj tytuł mojego albumu ze zdjęciami z wakacji”

    2. Lumi podaje dokładną liczbę mieszkańców maleńkiej wsi. Co robisz?

      • Sprawdzam w oficjalnym lub zaufanym źródle (Odpowiedź)
      • Ufam, liczba jest taka dokładna
      • Pytam Lumiego „Na pewno?” i przyjmuję odpowiedź

  4. Nawyki, które łapią zmyślenia

    Wybierz wszystkie nawyki, które pomagają.

    • Sprawdzać nazwiska, daty i liczby w zaufanym źródle
    • Otwierać każde podane źródło i sprawdzać, czy to mówi
    • Wyszukać dokładny cytat, by zobaczyć, czy istnieje
    • Szczególnie uważać przy najnowszych wydarzeniach i niszowych tematach
    • Ufać odpowiedziom, które brzmią pewnie i szczegółowo
    • Przyjąć źródło, bo ma numer strony

Zapamiętaj

Płynnie nie znaczy prawdziwie. Sprawdzaj nazwiska, liczby, cytaty i źródła poza czatem.

Płynnie nie znaczy prawdziwie. Sprawdzaj nazwiska, liczby, cytaty i źródła, zanim na nich polegasz.

Najważniejsze fakty

  • W czerwcu 2023 r. amerykański sędzia federalny ukarał dwóch prawników i ich kancelarię grzywną 5000 dolarów za pismo procesowe, które powoływało się na wyroki wymyślone przez chatbota AI. · Źródło: US District Court, Southern District of New York, Mata v. Avianca, Inc., opinion and sanctions order, 22 czerwca 2023
  • Amerykański instytut normalizacyjny NIST wymienia „konfabulację”, czyli pewnie podane, ale fałszywe treści, jako jedno z głównych ryzyk generatywnej AI. · Źródło: NIST, AI 600-1, Artificial Intelligence Risk Management Framework: Generative AI Profile, 2024
  • Część badaczy woli słowo „konfabulacja” od „halucynacji”, bo model nie widzi rzeczy, których nie ma, tylko łata luki treścią, która brzmi wiarygodnie.
  • Pytanie chatbota, czy jego własna odpowiedź jest poprawna, to niepewny sposób sprawdzania, bo odpowiedź powstaje tak samo jak pierwotna.

Aktualizacja:

Częste pytania

Jaki jest przykład halucynacji AI?

Chatbot wymyśla książkę, badanie albo wyrok sądu, które nie istnieją, z realistycznym tytułem, autorem i numerem strony, albo podaje dokładną, ale błędną datę czy statystykę.

Dlaczego chatboty AI halucynują?

Są trenowane, by tworzyć tekst, który brzmi prawdopodobnie, a nie by sprawdzać fakty. Gdy modelowi brakuje informacji, i tak tworzy płynną odpowiedź pasującą do wzoru, nawet jeśli jest fałszywa.

Czy da się wyeliminować halucynacje AI?

Można je ograniczyć, np. łącząc chatbota z wyszukiwarką albo zaufanymi dokumentami i lepiej go trenując, ale żadna obecna metoda nie usuwa ich całkowicie. Sprawdzanie ważnych faktów to nadal twoje zadanie.

Jak poznać, że AI halucynuje?

Często nie da się tego poznać po samym tekście, bo brzmi tak samo pewnie w obu przypadkach. Sprawdzaj nazwiska, liczby, cytaty i źródła w zaufanym miejscu poza czatem.

Powiązane pojęcia