Aller au contenu

Leçon 3 sur 8 · 6 min · +100 XP

Comment un chatbot IA écrit-il ses réponses ?

Un chatbot IA repose sur un grand modèle de langage qui écrit un petit morceau de mot, appelé token, à la fois. À chaque étape, il note chaque token possible selon sa probabilité après le texte déjà écrit, en choisit un, l'ajoute et recommence. Comme il prédit des mots probables au lieu de chercher des faits, vérifie les réponses importantes.

▶ À toi de jouer

Pourquoi c'est important

Un chatbot ne cherche pas les réponses. Il prédit le token suivant encore et encore : c'est pour ça qu'il paraît fluide, que ses réponses varient et qu'il peut se tromper.

En 6 minutes, tu sauras

  • Les chatbots écrivent un token à la fois en choisissant un morceau de texte probable.
  • La température rend les réponses plus sages ou plus surprenantes : elles peuvent varier.
  • Une réponse sûre d'elle et bien écrite peut quand même être fausse. Vérifie ce qui compte.

Ce que tu vas pratiquer

  1. Dans la salle des machines

    Touche chaque carte pour voir ce qu'il y a derrière.

    🧩 C'est quoi, un token ?
    Un petit morceau de texte : un mot entier, un bout de mot ou un signe de ponctuation. « Incroyablement » peut être coupé en « in », « croy » et « ablement ».
    📚 Comment Lumi a-t-elle appris ?
    En lisant d'énormes quantités de texte et en jouant à un seul jeu : cacher le token suivant, le deviner, comparer, s'ajuster. Des milliards de fois.
    📊 Qu'est-ce qu'elle prédit ?
    Pas un seul mot, mais un score pour chaque token suivant possible : sa probabilité après le texte déjà écrit.
    🔁 Alors, comment naît une réponse ?
    Lumi choisit un token probable, l'ajoute au texte et prédit à nouveau. Mot après mot, jusqu'à la fin de la réponse.
  2. Mets-toi à la place du modèle

    Choisis le mot suivant. Puis vois la probabilité de chaque option. Les pourcentages sont illustratifs, inventés pour montrer l'idée, pas tirés d'un vrai modèle.

    1. Merci beaucoup pour ton ___

      • aide: 40 % (le plus probable)
      • temps: 15 %
      • message: 8 %
      • tracteur: 0,1 %
      • autres mots: 37 %
      Après « merci beaucoup pour ton », des mots comme « aide » reviennent très souvent dans les textes humains, d'où leur score élevé. « Tracteur » est possible, juste très rare.
    2. La capitale de la France est ___

      • Paris: 85 % (le plus probable)
      • une: 5 %
      • Lyon: 1 %
      • autres mots: 9 %
      Quand un fait apparaît dans d'innombrables textes, un mot écrase tous les autres. Ici, le mot le plus probable se trouve aussi être vrai.
    3. Il était une fois un ___

      • petit: 30 % (le plus probable)
      • jeune: 15 %
      • dragon: 5 %
      • grille-pain: 0,2 %
      • autres mots: 50 %
      Un chatbot ne prend pas toujours le premier mot. Un réglage appelé température décide à quel point le choix est audacieux. Essaie l'interrupteur.
      • Température: Basse. Il était une fois un petit garçon qui vivait dans un petit village.
      • Température: Haute. Il était une fois un grille-pain qui rêvait de visiter la Lune.
    4. La Dre Mira Okafor, une scientifique inventée, a reçu ___

      • le Nobel de physique: 30 % (le plus probable)
      • le Nobel de chimie: 25 %
      • le Nobel de médecine: 20 %
      • aucun prix: 2 %
      • autres mots: 23 %
      La Dre Okafor n'existe pas, pourtant chaque option semble plausible et l'une sera choisie. Voilà comment un chatbot peut produire une réponse fluide mais tout simplement fausse.
  3. De la question à la réponse

    Tu poses une question à Lumi. Remets les étapes dans l'ordre.

    1. Tu envoies ton message
    2. Le texte est découpé en tokens
    3. Le modèle note chaque token suivant possible
    4. Un token probable est choisi et ajouté au texte
    5. Le modèle prédit à nouveau, jusqu'à la fin de la réponse
  4. Qu'est-ce que ça change pour toi ?

    1. Tu poses deux fois la même question à Lumi et tu obtiens deux réponses différentes. Pourquoi ?

      • Elle choisit parmi des mots probables, avec un peu de hasard (Réponse)
      • Elle a changé d'avis après réflexion
    2. Lumi répond de façon fluide et sûre d'elle. Qu'en conclus-tu ?

      • C'est bien écrit, ce qui ne dit rien de sa vérité (Réponse)
      • Ça doit être juste, elle a l'air si sûre

Retiens bien

Un chatbot prédit le token suivant, encore et encore. Fluide veut dire probable, pas forcément vrai.

Un chatbot prédit le mot suivant. Fluide veut dire probable, pas forcément vrai.

Les chiffres clés

  • En 1951, Claude Shannon a mesuré à quel point l'anglais est prévisible en demandant à des gens de deviner la lettre suivante d'un texte, une version ancienne du jeu auquel jouent aujourd'hui les modèles de langage. · Source: C. E. Shannon, Prediction and Entropy of Printed English, Bell System Technical Journal, 1951
  • La plupart des grands modèles de langage actuels reposent sur le Transformer, une architecture de réseau de neurones présentée dans un article de recherche de 2017. · Source: Vaswani et al., Attention Is All You Need, NeurIPS 2017
  • Selon le règlement européen sur l'IA, les fournisseurs de systèmes d'IA qui dialoguent directement avec des personnes, comme les chatbots, doivent faire en sorte qu'elles sachent qu'elles parlent à une IA, sauf si c'est évident. C'est applicable depuis le 2 août 2026. · Source: Règlement (UE) 2024/1689 sur l'intelligence artificielle, article 50
  • Un modèle de langage ne stocke pas une liste de faits à consulter. Ce qu'il sait est réparti dans les nombres de son modèle, appris à partir des régularités de ses textes d'entraînement.

Mis à jour:

Les questions qu'on se pose

Qu'est-ce qu'un grand modèle de langage ?

Un grand modèle de langage (LLM) est un modèle d'IA entraîné sur d'énormes quantités de texte pour prédire le token suivant. Les chatbots s'en servent pour écrire leurs réponses morceau par morceau.

Qu'est-ce qu'un token en IA ?

Un token est le petit morceau de texte avec lequel travaille un modèle de langage : un mot entier, un bout de mot ou un signe de ponctuation. Les modèles lisent et écrivent le texte comme des suites de tokens.

Un chatbot comprend-il ce qu'il dit ?

Pas comme les humains. Il a appris des schémas de langage très détaillés, ce qui lui permet de donner des réponses utiles, mais il n'a aucun moyen direct de savoir si une phrase est vraie.

Pourquoi un chatbot donne-t-il des réponses différentes à la même question ?

Les chatbots tirent en général parmi plusieurs mots suivants probables au lieu de toujours prendre le premier. Un autre choix au début donne une réponse formulée autrement, ou parfois différente.

Termes associés