Come nascono gli LLM / Glossario

Tool calling (chiamata di funzioni)

Il tool calling è quando un modello linguistico scrive una richiesta strutturata per usare uno strumento esterno, come una ricerca, una calcolatrice o un calendario, e il software intorno esegue lo strumento e restituisce il risultato.

Il modello non esegue mai niente da solo. Invece di una risposta scrive un messaggio in un formato fisso con il nome dello strumento e i suoi dati in ingresso. L’app esegue lo strumento e incolla il risultato nella conversazione, e il modello riparte da lì.

Gli strumenti colmano le lacune di un modello: una calcolatrice per la matematica esatta, la ricerca per le notizie successive al suo addestramento, un calendario o un’app di email per azioni vere. Ripetendo il ciclo pianifica, agisci e osserva, un modello può portare avanti compiti in più passaggi come agente.

Gli strumenti portano anche rischi. Il testo restituito da uno strumento, come una pagina web, può nascondere istruzioni che provano a prendere il controllo del modello, quindi le app ben fatte limitano ciò che gli strumenti possono fare e chiedono all’utente prima delle azioni importanti.