Aller au contenu
FR

Leçon 5 sur 8 · 6 min · +100 XP

Pourquoi l'IA invente-t-elle des choses ?

Une hallucination de l'IA est une réponse sûre d'elle mais fausse ou inventée, comme un fait, une citation ou une source imaginaires. Elle vient de ce qu'un chatbot prédit des mots vraisemblables au lieu de vérifier des faits : même sans information, il produit un texte fluide. Méfie-toi surtout des noms, chiffres, citations, références et actualités récentes, et vérifie-les ailleurs.

▶ À toi de jouer

Pourquoi c'est important

Un modèle de langage produit toujours des mots probables, même quand il n'a pas de vraie réponse. Résultat : un fait, une citation ou une source soignés, sûrs d'eux et entièrement inventés.

En 6 minutes, tu sauras

  • Les hallucinations viennent de ce que les chatbots prédisent des mots probables, pas des faits vérifiés.
  • Noms, chiffres, citations, références et actualités récentes sont les zones à risque.
  • Vérifie les détails importants dans une source fiable, pas en reposant la question au chatbot.

Ce que tu vas pratiquer

  1. Pourquoi ça arrive

    Une hallucination n'est ni un bug ni un mensonge. Elle vient de la façon dont les chatbots écrivent.

    🔮 Elle prédit, elle ne cherche pas
    Un chatbot écrit les mots suivants les plus probables. Aucune étape intégrée ne les compare aux faits.
    🕳️ Les trous sont comblés
    Quand les textes d'entraînement disent peu sur un sujet, le modèle produit quand même quelque chose qui a la forme d'une réponse.
    😌 Toujours l'air sûre
    Le ton est le même que la réponse soit juste ou fausse. L'assurance ne t'apprend rien.
    📌 Zones à risque
    Les erreurs sont plus fréquentes sur les noms, dates, chiffres, citations, références, sujets pointus et actualités récentes.

  2. Repère les inventions

    Noor connaît la vraie histoire : le Lumen Lab a été créé par trois étudiants en 2019, comme petit labo de recherche. Touche chaque détail inventé dans la réponse de Lumi.

    Lumi
    Excellente question ! Le Lumen Lab est un labo de recherche qui étudie comment les machines apprennent. Il a été fondé en 1987 par la Dre Elena Varga, qui a aussi inventé la première calculatrice solaire. Elle a dit un jour : « La lumière est le plus malin des professeurs. » Pour en savoir plus, lis son livre Machines lumineuses (2004), page 112

  3. Risqué ou plutôt sûr ?

    Quelle question a le plus de chances de recevoir une réponse inventée ?

    1. Laquelle de ces demandes faut-il vérifier le plus ?

      • « Donne-moi trois études, avec numéros de page, sur mon sujet » (Réponse)
      • « Propose un titre pour mon album photo de vacances »

    2. Lumi te donne la population exacte d'un tout petit village. Quel est le bon réflexe ?

      • Vérifier dans une source officielle ou fiable (Réponse)
      • Lui faire confiance, le chiffre est si précis
      • Demander à Lumi « Tu es sûre ? » et accepter sa réponse

  4. Les réflexes qui repèrent les inventions

    Choisis tous les réflexes qui aident.

    • Vérifier noms, dates et chiffres dans une source fiable
    • Ouvrir chaque source citée et vérifier qu'elle dit ça
    • Rechercher la citation exacte pour voir si elle existe
    • Être très prudent sur l'actualité récente et les sujets pointus
    • Croire les réponses qui ont l'air sûres et détaillées
    • Accepter une source parce qu'elle a un numéro de page

Retiens bien

Fluide n'est pas vrai. Vérifie noms, chiffres, citations et sources en dehors du chat.

Fluide n'est pas vrai. Vérifie noms, chiffres, citations et sources avant de t'y fier.

Les chiffres clés

  • En juin 2023, un juge fédéral américain a infligé 5 000 dollars d'amende à deux avocats et à leur cabinet pour avoir déposé un mémoire citant des décisions de justice inventées par un chatbot. · Source: US District Court, Southern District of New York, Mata v. Avianca, Inc., décision et sanctions du 22 juin 2023
  • L'institut américain de normalisation NIST classe la « confabulation », un contenu faux affirmé avec assurance, parmi les principaux risques de l'IA générative. · Source: NIST, AI 600-1, Artificial Intelligence Risk Management Framework: Generative AI Profile, 2024
  • Certains chercheurs préfèrent le mot « confabulation » à « hallucination », car le modèle ne voit pas des choses qui n'existent pas : il comble des trous avec un contenu vraisemblable.
  • Demander à un chatbot si sa propre réponse est juste n'est pas une vérification fiable, car sa réponse est produite de la même façon que la première.

Mis à jour:

Les questions qu'on se pose

Quel est un exemple d'hallucination de l'IA ?

Un chatbot qui invente un livre, une étude ou une décision de justice qui n'existe pas, avec titre, auteur et numéro de page réalistes, ou qui donne une date ou une statistique précise mais fausse.

Pourquoi les chatbots IA hallucinent-ils ?

Ils sont entraînés à produire un texte vraisemblable, pas à vérifier des faits. Quand le modèle manque d'informations, il génère quand même une réponse fluide qui colle au schéma, même si elle est fausse.

Peut-on empêcher les hallucinations de l'IA ?

On peut les réduire, par exemple en reliant un chatbot à un moteur de recherche ou à des documents fiables et en améliorant l'entraînement, mais aucune méthode actuelle ne les supprime totalement. Vérifier les faits importants reste ton travail.

Comment savoir si une IA hallucine ?

Souvent, le texte seul ne le dit pas, car il a l'air aussi sûr dans les deux cas. Vérifie noms, chiffres, citations et sources dans un endroit fiable, hors du chat.

Termes associés