Comment sont créés les LLM / Glossaire

Glossaire Comment sont créés les LLM

Les termes du thème Comment sont créés les LLM expliqués simplement, chacun relié à une courte leçon en images.

Alignement de l'IA: L'alignement de l'IA, c'est le travail qui fait correspondre le comportement d'un système d'IA à ce que les gens veulent et valorisent : utile pour les demandes du quotidien, honnête sur ce qu'il sait et prudent pour éviter de nuire.
Appel d'outils (function calling): L'appel d'outils, c'est quand un modèle de langage écrit une demande structurée pour utiliser un outil externe, comme une recherche, une calculatrice ou un agenda, et que le logiciel autour exécute l'outil et renvoie le résultat.
Benchmark d'IA: Un benchmark d'IA est un ensemble fixe de tâches à réponse vérifiable, comme des questions d'examen, des problèmes de maths ou des exercices de code, qui sert à mesurer et comparer les performances des modèles.
Chaîne de pensée (chain of thought): La chaîne de pensée est le raisonnement étape par étape qu'un modèle de langage écrit avant sa réponse finale. Les modèles de raisonnement sont entraînés à produire de longues chaînes de pensée pour résoudre des problèmes plus difficiles.
Déduplication des données: La déduplication consiste à trouver et supprimer les copies répétées d'un même texte dans un jeu de données, pour qu'un modèle de langage ne voie pas le même passage encore et encore pendant l'entraînement.
Descente de gradient: La descente de gradient est la méthode qui entraîne la plupart des modèles d'IA : elle calcule pour chaque poids la direction qui fait baisser la perte, puis déplace tous les poids d'un petit pas dans ce sens, encore et encore.
Distillation de connaissances: La distillation de connaissances entraîne un petit modèle « élève » à copier les sorties d'un grand modèle « professeur », pour que l'élève garde une grande partie du savoir-faire du professeur pour une fraction de sa taille.
Embedding (plongement): Un embedding est une liste de nombres qui représente un mot, un token, une phrase ou une image comme un point dans un espace de sens, pour que les choses de sens proche se retrouvent côte à côte.
Fenêtre de contexte: La fenêtre de contexte est la quantité maximale de texte, comptée en tokens, qu'un modèle de langage peut prendre en compte d'un coup, y compris tes messages, ses réponses, les fichiers collés et les instructions cachées.
Fiche de modèle (model card): Une fiche de modèle est un court document public publié avec un modèle d'IA, comme une étiquette nutritionnelle. Elle dit à quoi sert le modèle, comment il a été entraîné et testé, et quels sont ses limites et risques connus.
Fine-tuning (réglage fin): Le fine-tuning consiste à entraîner un peu plus un modèle déjà pré-entraîné sur un ensemble plus petit et ciblé d'exemples, pour qu'il devienne meilleur à une tâche ou se comporte d'une certaine façon.
Fonction de perte (loss): Une fonction de perte est la formule qui mesure à quel point la prédiction d'un modèle était fausse. L'entraînement cherche à rendre ce nombre, la perte, aussi petit que possible.
Lois d'échelle (scaling laws): Les lois d'échelle sont des régularités qui montrent que la perte d'un modèle de langage baisse de façon régulière et prévisible quand on ajoute des paramètres, des données et du calcul. Les labos s'en servent pour décider quelle taille construire.
Mécanisme d'attention: Le mécanisme d'attention est la partie d'un Transformer qui permet à chaque token de peser l'importance de chaque autre token pour lui, puis d'absorber un mélange de leur information selon ces poids.
Modèle de base: Un modèle de base est un modèle de langage tout juste sorti du pré-entraînement. Il prolonge le texte au lieu de suivre des instructions, et doit donc être entraîné davantage avant de fonctionner comme un assistant.
Modèle de récompense: Un modèle de récompense est un modèle d'IA séparé qui note les réponses comme le feraient des évaluateurs humains. Il est entraîné sur des comparaisons humaines, puis sert à guider un modèle de langage vers de meilleures réponses.
Paramètres (poids du modèle): Les paramètres, aussi appelés poids, sont les nombres réglables à l'intérieur d'un modèle d'IA. L'entraînement les ajuste pour améliorer les prédictions, et ensemble ils stockent tout ce que le modèle a appris.
Pré-entraînement: Le pré-entraînement est la première et la plus grosse étape de la création d'un modèle de langage : il lit une quantité énorme de texte et apprend en prédisant le token suivant, encore et encore, sans aucune étiquette humaine.
Quantification (quantization): La quantification rend un modèle d'IA plus petit et plus rapide en stockant chacun de ses poids sur moins de bits, par exemple 4 au lieu de 16, en acceptant une petite erreur d'arrondi.
Red teaming: Le red teaming consiste à attaquer volontairement son propre système d'IA avant sa sortie, en essayant de le faire dérailler, pour trouver et corriger ses points faibles avant que de vrais utilisateurs ne tombent dessus.
RLHF (apprentissage par retours humains): Le RLHF, apprentissage par renforcement à partir de retours humains, est une méthode d'entraînement qui apprend à un modèle quelles réponses les gens préfèrent, grâce à de nombreuses comparaisons humaines entre paires de réponses.
Robot d'indexation (crawler): Un robot d'indexation, ou crawler, est un programme qui visite des pages web automatiquement, enregistre leur contenu et suit leurs liens pour trouver d'autres pages. Les crawlers collectent une grande partie du texte qui sert à entraîner les modèles de langage.
robots.txt: robots.txt est un petit fichier texte sur un site web qui indique aux crawlers les pages qu'ils peuvent visiter ou non. Les propriétaires de sites peuvent s'en servir pour demander aux crawlers d'IA de ne pas collecter leur contenu.
Température (IA): La température est un réglage qui contrôle à quel point la sortie d'un modèle de langage est prévisible ou variée. Basse, il s'en tient aux tokens les plus probables ; haute, les tokens moins probables deviennent plus fréquents.
Tokenizer (tokeniseur): Un tokenizer est l'outil qui découpe le texte en tokens, les morceaux que lit un modèle de langage, et transforme chaque morceau en nombre. Il retransforme aussi les nombres produits par le modèle en texte.
Transformer: Le Transformer est l'architecture de réseau de neurones derrière presque tous les modèles de langage modernes. Il traite tous les tokens d'un texte en parallèle et utilise l'attention pour leur permettre de partager de l'information.