Comment sont créés les LLM / Glossaire
Descente de gradient
La descente de gradient est la méthode qui entraîne la plupart des modèles d'IA : elle calcule pour chaque poids la direction qui fait baisser la perte, puis déplace tous les poids d'un petit pas dans ce sens, encore et encore.
Imagine-toi sur une colline dans le brouillard, à vouloir rejoindre la vallée. Tu sens dans quel sens le sol descend et tu fais un petit pas vers le bas. La descente de gradient fait pareil avec la perte, sur des milliards de poids à la fois.
La pente de chaque poids est calculée par la rétropropagation, une méthode popularisée par un article publié dans Nature en 1986. La taille de chaque pas s'appelle le taux d'apprentissage : trop grand, l'entraînement devient instable ; trop petit, il se traîne.
Les grands modèles de langage sont en général entraînés avec Adam ou une variante proche, une forme raffinée de descente de gradient qui adapte la taille du pas pour chaque poids. Les entraînements augmentent souvent le taux d'apprentissage progressivement au début, puis le baissent avec le temps.
Apprends-le en 6 minutesApprendre de ses erreursLa perte, de petits ajustements et des milliards de boutons