Czym jest model bazowy w AI?
Model bazowy to model językowy prosto po pretreningu. Nauczył się kontynuować tekst, a nie wykonywać polecenia, więc na pytanie często odpowiada kolejnymi pytaniami zamiast odpowiedzi. Dużo wie, ale odpowiedź dostaniesz tylko wtedy, gdy twój tekst wygląda jak dokument, w którym zaraz pada odpowiedź. Trening asystenta przychodzi później.
▶ Wypróbuj
Dlaczego to ważne
Po miesiącach pretreningu dostajesz model, który dużo wie, ale nie pomaga. Gdy zobaczysz dlaczego, zrozumiesz, po co jest cały późniejszy trening i czemu prompty działają tak, a nie inaczej.
W 6 minut nauczysz się
- Pretrening daje model bazowy: potężne autouzupełnianie, a nie asystenta.
- Żeby dostać od modelu bazowego coś przydatnego, napisz początek dokumentu, w którym dalej pada twoja odpowiedź.
- Polecenia typu „proszę” czy „jesteś pomocny” działają dopiero po treningu asystenta.
Co przećwiczysz
Poznaj model bazowy
Piszesz do surowego modelu bazowego Vireo. Wybierz, co robisz na każdym kroku.
Vireo (bazowy) · tylko pretrening
- Model bazowy wczytany. Kontynuuje każdy tekst, który mu dasz.
Chcesz się czegoś dowiedzieć. Co wpisujesz?
- Jak rosną rośliny? (Odpowiedź)
Tak działa model bazowy. Zobaczył coś, co wygląda jak lista pytań, więc najbardziej prawdopodobnym dalszym tekstem były… kolejne pytania.- Ty: Jak rosną rośliny?
- Vireo (bazowy): Jak latają ptaki?
Jak oddychają ryby?
Czemu morze jest słone?
- Napisz krótki wiersz o morzu. (Odpowiedź)
Wziął twoją prośbę za pierwszą linijkę karty pracy i dalej pisał tę kartę.- Ty: Napisz krótki wiersz o morzu.
- Vireo (bazowy): Napisz krótkie opowiadanie o smoku.
Napisz list do siebie w przyszłości.
Prace oddajemy w piątek.
- Jak rosną rośliny? (Odpowiedź)
Nie odpowiedział ci. Dlaczego?
- Kontynuuje dokumenty. Nikt go jeszcze nie nauczył wykonywać próśb (Odpowiedź)
Dokładnie. Pretrening nauczył go tylko przewidywać kolejny token tekstu w stylu sieci. Odpowiadanie to umiejętność, która przychodzi później. - Jest zepsuty i trzeba go zrestartować
Prawie. Działa idealnie: robi dokładnie to, do czego wytrenował go pretrening, czyli kontynuuje tekst. - Nigdy nic nie czytał na ten temat
Prawie. Czytał o tym mnóstwo. Po prostu nie wie, że ma ci odpowiedzieć.
- Kontynuuje dokumenty. Nikt go jeszcze nie nauczył wykonywać próśb (Odpowiedź)
Czy da się jeszcze wyciągnąć z niego odpowiedź? Spraw, by odpowiedź była najbardziej prawdopodobnym dalszym tekstem.
- PROSZĘ, odpowiedz na moje pytanie!!
Prawie. Błaganie to tylko kolejny tekst do kontynuowania, więc może odpowiedzieć kolejnym błaganiem. - Zacznij stronę z pytaniami: „P: Jak rosną rośliny? O:” (Odpowiedź)
Na stronie z pytaniami i odpowiedziami po „O:” przychodzi odpowiedź. Zauważ, że potem zaczyna kolejne pytanie: dalej tylko kontynuuje stronę.- Ty: P: Jak rosną rośliny?
O: - Vireo (bazowy): Rośliny wykorzystują światło słoneczne, wodę i powietrze, by wytworzyć sobie pokarm. To fotosynteza.
P: Czemu liście są zielone?
- Ty: P: Jak rosną rośliny?
- PROSZĘ, odpowiedz na moje pytanie!!
- Zamiana tego autouzupełniania w asystenta, który po prostu odpowiada, to kolejny etap treningu.
Zbuduj dokument, który dokończy
Dotykaj żetonów, by dodać je do dokumentu, i patrz, co model bazowy pisze dalej. Nie każdy żeton pomaga.
Chcesz, by model bazowy wyjaśnił, czemu niebo jest niebieskie.
Twój dokument:
czemu niebo jest niebieskie
Vireo (bazowy) kontynuuje:
- czemu niebo jest niebieskie w nocy
- czemu morze jest niebieskie
- czemu niebo w grze jest niebieskie
Przepisz jako „P: Czemu niebo jest niebieskie? O:”
( Wzorzec) → O: Światło słoneczne zawiera wszystkie kolory.
Lepiej. Wzorzec pytanie, potem odpowiedź sprawia, że odpowiedź jest najbardziej prawdopodobnym dalszym tekstem.Wstaw nad nim jedno pytanie z odpowiedzią
( Przykład) → Powietrze rozprasza światło niebieskie dużo mocniej niż czerwone,
Lepiej. Przykład pokazuje modelowi, jaki dokładnie tekst ma przyjść dalej: jasna odpowiedź.Zatytułuj stronę „Pytania z przyrody, odpowiadają nauczyciele”
( Ramka) → więc niebieskie dociera do oczu z całego nieba.
Lepiej. Ramka ustala rodzaj dokumentu. Odpowiedzi nauczycieli są jasne i poprawne, więc kontynuacja też.Dodaj „Proszę, odpowiedz, dziękuję!”
( Prośba) · usunięte
Prawie. Model bazowy nie wykonuje próśb. „Proszę” to tylko kolejny tekst do kontynuowania.Dodaj „Jesteś pomocnym asystentem.”
( Prośba) · usunięte
Prawie. To zdanie działa na wytrenowanych asystentów. Dla modelu bazowego to po prostu kolejne zdanie w dokumencie.
Teraz chcesz dwuwierszowy wiersz o morzu.
Twój dokument:
wiersz o morzu
Vireo (bazowy) kontynuuje:
- wiersz o księżycu
- wiersz o morzu dla dzieci za darmo
- generator wierszy online
Zacznij stronę tomiku: „Wiersze o morzu, strona 12”
( Ramka) → Przypływ
Lepiej. W tomiku poezji najbardziej prawdopodobny dalszy tekst to wiersz: najpierw jego tytuł.Wklej nad nim krótki wiersz o deszczu
( Przykład) → Fala przychodzi, fala odchodzi,
Lepiej. Przykład ustala długość i styl, więc model kopiuje wzorzec: dwa krótkie, rymowane wersy.Zakończ tytułem i nową linią, gotowe na wiersz
( Wzorzec) → szepcze, co morze w głębinach rodzi.
Lepiej. Zatrzymanie się dokładnie tam, gdzie zaczyna się wiersz, zostawia tylko jedną naturalną kontynuację: wiersz.Dodaj „Niech będzie niesamowity!!!”
( Prośba) · usunięte
Prawie. Słowa zachwytu nie zmieniają rodzaju dokumentu, więc kontynuacja zostaje taka sama.Dodaj „NIE pisz listy wyszukiwań”
( Prośba) · usunięte
Prawie. Polecenia nie sterują modelem bazowym. Może nawet dopisać kolejne zasady.
Model bazowy czy asystent?
Która odpowiedź pochodzi od modelu bazowego?
- Pytasz „Najlepszy dodatek do pizzy?”, a dostajesz „Najlepszy dodatek do burgera? Najlepszy smak lodów?” (Odpowiedź)
- Pytasz „Najlepszy dodatek do pizzy?”, a dostajesz „Gusta są różne, ale pieczarki to popularny wybór.”
Co więc model bazowy Vireo już ma, a czego mu brakuje?
- Ma mnóstwo wiedzy i umiejętności językowych, ale nie ma nawyku pomagania (Odpowiedź)
- Nie ma jeszcze nic przydatnego, cała wiedza przychodzi później
Zapamiętaj
Model bazowy kontynuuje dokumenty. Dużo wie, ale odpowiada tylko wtedy, gdy odpowiedź jest najbardziej prawdopodobnym dalszym tekstem. Trening asystenta przychodzi potem.
Model bazowy kontynuuje dokumenty. Żeby dostać odpowiedź, spraw, by była najbardziej prawdopodobnym dalszym tekstem.
Najważniejsze fakty
- GPT-3 pokazał, że pretrenowany model potrafi wykonać nowe zadania na podstawie kilku przykładów w prompcie, bez dodatkowego treningu; tę technikę nazywa się few-shot prompting. · Źródło: Brown et al., Language Models are Few-Shot Learners, OpenAI, 2020
- Oceniający woleli odpowiedzi modelu z 1,3 miliarda parametrów wytrenowanego do wykonywania poleceń od odpowiedzi bazowego GPT-3 ze 175 miliardami parametrów. · Źródło: Ouyang et al., Training language models to follow instructions with human feedback, OpenAI, 2022
- Wiele laboratoriów wydaje obie wersje modelu: model bazowy, na którym mogą budować badacze, i wersję dostrojoną do poleceń, do rozmowy.
- Większość wiedzy modelu pochodzi z pretreningu. Późniejszy trening asystenta używa dużo mniej danych i kształtuje głównie zachowanie modelu.
Aktualizacja:
Częste pytania
Czym różni się model bazowy od modelu czatu?
Model bazowy jest tylko pretrenowany, więc kontynuuje tekst. Model czatu to ten sam model bazowy po dodatkowym treningu na poleceniach i opiniach ludzi, więc odpowiada na pytania i wykonuje prośby.
Czemu model bazowy nie wykonuje poleceń?
Wytrenowano go tylko do przewidywania kolejnego tokenu zwykłego tekstu. W sieci po pytaniu często idą kolejne pytania, więc to właśnie pisze.
Czym jest few-shot prompting?
To wstawienie do promptu kilku rozwiązanych przykładów, żeby model kontynuował wzorzec. Działa dobrze na modelach bazowych, bo świetnie kopiują wzorce.
Po co laboratoria wydają modele bazowe?
Badacze i deweloperzy używają ich jako punktu wyjścia do dostrajania własnych, wyspecjalizowanych modeli albo by badać, co daje sam pretrening.
Powiązane pojęcia