Comment sont créés les LLM / Glossaire

Modèle de base

Un modèle de base est un modèle de langage tout juste sorti du pré-entraînement. Il prolonge le texte au lieu de suivre des instructions, et doit donc être entraîné davantage avant de fonctionner comme un assistant.

Pose une question à un modèle de base et il risque de répondre par d'autres questions, parce que sur le web, une liste de questions est souvent suivie d'autres questions. Il a appris à prolonger des documents, pas à aider la personne qui tape.

Les modèles de base savent pourtant beaucoup de choses. GPT-3 a montré qu'un modèle de base peut faire de nouvelles tâches à partir de quelques exemples placés dans le prompt, ce qu'on appelle le few-shot prompting, tant que le texte ressemble à un document où la réponse vient ensuite.

Beaucoup de labos publient à la fois un modèle de base, sur lequel chercheurs et développeurs peuvent construire, et une version ajustée aux instructions pour discuter. L'entraînement d'assistant qui suit utilise bien moins de données et façonne surtout le comportement du modèle.