Comment sont créés les LLM / Glossaire

Température (IA)

La température est un réglage qui contrôle à quel point la sortie d'un modèle de langage est prévisible ou variée. Basse, il s'en tient aux tokens les plus probables ; haute, les tokens moins probables deviennent plus fréquents.

Pour chaque token suivant, le modèle note chaque option et transforme ces notes en chances, puis en tire une. La température divise les notes avant cette étape : en dessous de 1, le favori se renforce encore ; au-dessus de 1, les chances s'équilibrent.

Une température basse convient aux faits, au code et à l'extraction de données, où l'on veut la même réponse fiable. Une température plus haute convient au brainstorming et à l'écriture créative, mais poussée trop loin, le texte devient bizarre ou perd son sens.

La température est souvent combinée à d'autres règles d'échantillonnage, comme le top-k, qui ne tire que parmi les k tokens les plus probables, ou le top-p, qui ne tire que dans le plus petit ensemble de tokens couvrant l'essentiel des chances.