Jak chatbot AI pisze swoje odpowiedzi?
Chatbot AI działa na dużym modelu językowym, który pisze po jednym małym kawałku słowa, czyli tokenie. Na każdym kroku ocenia, jak prawdopodobny jest każdy możliwy kolejny token po dotychczasowym tekście, wybiera jeden, dopisuje go i powtarza. Ponieważ przewiduje prawdopodobne słowa, a nie sprawdza faktów, ważne odpowiedzi zawsze weryfikuj.
▶ WypróbujDlaczego to ważne
Chatbot nie wyszukuje odpowiedzi. Raz za razem przewiduje kolejny token. To tłumaczy, czemu brzmi płynnie, czemu odpowiedzi się różnią i czemu bywa w błędzie.
W 6 minut nauczysz się
- Chatboty piszą po jednym tokenie, wybierając prawdopodobny kolejny kawałek tekstu.
- Temperatura sprawia, że odpowiedzi są bezpieczniejsze albo bardziej zaskakujące, więc się różnią.
- Pewna siebie, dobrze napisana odpowiedź nadal może być błędna. Sprawdzaj to, co ważne.
Co przećwiczysz
W maszynowni
Dotknij każdej karty, by zobaczyć, co kryje.
- 🧩 Co to jest token?
- Mały kawałek tekstu: całe słowo, część słowa albo znak interpunkcyjny. „Niewiarygodny” można podzielić np. na „nie”, „wiary” i „godny”.
- 📚 Jak Lumi się uczył?
- Czytając ogromne ilości tekstu i ćwicząc jedną grę: zakryj kolejny token, zgadnij, porównaj, popraw się. Miliardy razy.
- 📊 Co właściwie przewiduje?
- Nie jedno słowo, ale wynik dla każdego możliwego kolejnego tokenu: jak prawdopodobny jest po dotychczasowym tekście.
- 🔁 Jak więc powstaje odpowiedź?
- Lumi wybiera prawdopodobny token, dopisuje go do tekstu i przewiduje znowu. Słowo po słowie, aż odpowiedź jest gotowa.
Zostań modelem językowym
Wybierz kolejne słowo i zobacz, jak prawdopodobna była każda opcja. Procenty są przykładowe, wymyślone dla zilustrowania idei, a nie wzięte z prawdziwego modelu.
Bardzo dziękuję za ___
- pomoc: 40% (najbardziej prawdopodobne)
- odpowiedź: 15%
- wiadomość: 8%
- traktor: 0,1%
- inne słowa: 37%
Stolicą Francji jest ___
- Paryż: 85% (najbardziej prawdopodobne)
- miasto: 5%
- Lyon: 1%
- inne słowa: 9%
Dawno, dawno temu był sobie ___
- król: 30% (najbardziej prawdopodobne)
- chłopiec: 15%
- smok: 5%
- toster: 0,2%
- inne słowa: 50%
- Temperatura: Niska. Dawno, dawno temu był sobie król, który mieszkał w wielkim zamku nad rzeką.
- Temperatura: Wysoka. Dawno, dawno temu był sobie toster, który marzył o podróży na Księżyc.
Dr Mira Okafor, zmyślona badaczka, dostała Nagrodę Nobla z ___
- fizyki: 30% (najbardziej prawdopodobne)
- chemii: 25%
- medycyny: 20%
- literatury: 2%
- inne słowa: 23%
Od pytania do odpowiedzi
Zadajesz Lumiemu pytanie. Ułóż kroki we właściwej kolejności.
- Wysyłasz wiadomość
- Tekst zostaje podzielony na tokeny
- Model ocenia każdy możliwy kolejny token
- Jeden prawdopodobny token zostaje wybrany i dopisany
- Model przewiduje znowu, aż odpowiedź jest gotowa
Co to znaczy dla ciebie?
Zadajesz Lumiemu to samo pytanie dwa razy i dostajesz dwie różne odpowiedzi. Dlaczego?
- Wybiera spośród prawdopodobnych słów z odrobiną losowości (Odpowiedź)
- Przemyślał sprawę i zmienił zdanie
Lumi odpowiada gładko i pewnie. Co z tego wynika?
- Odpowiedź jest dobrze napisana, co nic nie mówi o jej prawdziwości (Odpowiedź)
- Na pewno jest poprawna, skoro brzmi tak pewnie
Zapamiętaj
Chatbot raz za razem przewiduje kolejny token. Płynnie znaczy prawdopodobnie, a nie koniecznie prawdziwie.
Chatbot przewiduje kolejne słowo. Płynnie znaczy prawdopodobnie, a nie koniecznie prawdziwie.
Najważniejsze fakty
- W 1951 r. Claude Shannon zmierzył, jak przewidywalny jest angielski, prosząc ludzi o zgadywanie kolejnej litery tekstu. To wczesna wersja gry, w którą dziś grają modele językowe. · Źródło: C. E. Shannon, Prediction and Entropy of Printed English, Bell System Technical Journal, 1951
- Większość dzisiejszych dużych modeli językowych opiera się na Transformerze, projekcie sieci neuronowej przedstawionym w artykule naukowym z 2017 r. · Źródło: Vaswani et al., Attention Is All You Need, NeurIPS 2017
- Zgodnie z unijnym aktem w sprawie AI dostawcy systemów AI, które rozmawiają bezpośrednio z ludźmi, np. chatbotów, muszą zadbać, by ludzie wiedzieli, że rozmawiają z AI, chyba że to oczywiste. Obowiązuje to od 2 sierpnia 2026 r. · Źródło: Akt w sprawie AI, rozporządzenie (UE) 2024/1689, art. 50
- Model językowy nie przechowuje listy faktów do wyszukania. To, co „wie”, jest rozłożone na liczby w modelu, wyuczone z wzorców w tekstach treningowych.
Aktualizacja:
Częste pytania
Co to jest duży model językowy?
Duży model językowy (LLM) to model AI wytrenowany na ogromnych ilościach tekstu, by przewidywać kolejny token. Chatboty używają LLM, by pisać odpowiedzi kawałek po kawałku.
Co to jest token w AI?
Token to mały kawałek tekstu, na którym pracuje model językowy: całe słowo, część słowa albo znak interpunkcyjny. Modele czytają i piszą tekst jako ciągi tokenów.
Czy chatbot rozumie, co mówi?
Nie tak jak ludzie. Nauczył się bardzo szczegółowych wzorców języka, dzięki czemu daje przydatne odpowiedzi, ale nie ma bezpośredniego sposobu, by wiedzieć, czy zdanie jest prawdziwe.
Dlaczego chatbot AI daje różne odpowiedzi na to samo pytanie?
Chatboty zwykle losują spośród kilku prawdopodobnych kolejnych słów, zamiast zawsze brać najlepsze. Inny wybór na początku prowadzi do inaczej sformułowanej, a czasem innej odpowiedzi.
Powiązane pojęcia
