Jak powstają modele językowe / Słowniczek

Wywoływanie narzędzi (function calling)

Wywoływanie narzędzi to sytuacja, gdy model językowy pisze ustrukturyzowane żądanie użycia zewnętrznego narzędzia, np. wyszukiwarki, kalkulatora albo kalendarza, a otaczające go oprogramowanie uruchamia narzędzie i zwraca wynik.

Model sam niczego nie uruchamia. Zamiast odpowiedzi pisze wiadomość w stałym formacie, która podaje nazwę narzędzia i dane wejściowe. Aplikacja uruchamia narzędzie i wkleja wynik z powrotem do rozmowy, a model kontynuuje od tego miejsca.

Narzędzia łatają luki modelu: kalkulator do dokładnych obliczeń, wyszukiwarka do wiadomości po dacie końca treningu, kalendarz albo poczta do prawdziwych działań. Powtarzanie pętli planuj, działaj, obserwuj pozwala modelowi przejść przez wieloetapowe zadania jako agent.

Narzędzia niosą też ryzyko. Tekst zwrócony przez narzędzie, np. strona internetowa, może ukrywać polecenia, które próbują przejąć model, więc rozsądne aplikacje ograniczają, co narzędzia mogą zrobić, i pytają użytkownika przed ważnymi działaniami.