Comment vérifier si une réponse de l'IA est vraie ?
Pour vérifier une réponse d'IA, demande ses sources, puis ouvre-les toi-même pour voir qu'elles existent et disent vraiment ce que l'IA affirme. Recoupe les faits, chiffres, dates et citations clés avec une source indépendante fiable. Sois très prudent avec les chiffres précis, les études citées et les citations : un chatbot peut les inventer de façon convaincante.
▶ À toi de jouer
Pourquoi c'est important
Les chatbots écrivent un texte fluide et sûr de lui, même quand un détail est faux ou inventé. Tu t'entraînes à repérer ce qui doit être vérifié et à le vérifier vite.
En 6 minutes, tu sauras
- Vérifie d'abord les chiffres exacts, les études citées, les citations et les liens.
- Ouvre chaque source et assure-toi qu'elle dit vraiment ça.
- L'assurance d'un chatbot n'est pas une preuve. Utilise une source indépendante.
Ce que tu vas pratiquer
Quatre vérifications rapides
Pas besoin de vérifier chaque mot. Concentre-toi sur ceci.
- 🔗 Ouvre la source
- Demande les sources, puis clique dessus. La page existe-t-elle ? Dit-elle vraiment ça ?
- 🔢 Chiffres et dates exacts
- Un chiffre très précis s'invente facilement. Retrouve le même chiffre dans une source indépendante.
- 💬 Citations et noms
- Cette personne l'a-t-elle vraiment dit ? Cherche la citation exacte. Les citations et études inventées ont l'air très réelles.
- 🧭 Recoupe
- Cherche l'affirmation ailleurs, sur une source fiable : un site officiel, une encyclopédie ou un manuel.
Qu'est-ce qui doit être vérifié ?
Voici la réponse de Lumi à Hugo. Touche chaque affirmation qu'Hugo doit vérifier avant de l'utiliser.
Lumi
Les abeilles sont des pollinisatrices essentielles. Une étude de 2019 du Global Bee Institute a montré que 87,4 % des cultures ont besoin des abeilles. Comme l'a dit un célèbre scientifique : “Sans abeilles, il nous reste quatre ans.” Les abeilles communiquent par une « danse frétillante ». Source : bee-research-journal.example/2019/crops Bon courage pour ton exposé ! 🐝Que ferais-tu ?
De courtes scènes. Choisis la meilleure suite.
Tu ouvres l'article cité par Lumi. Il existe, mais il ne parle pas du tout de la statistique.
- Supprimer la statistique ou lui trouver une vraie source (Réponse)
- L'utiliser, le lien marche après tout
Tu demandes à Lumi : « Tu es sûre ? » Elle répond : « Oui, j'en suis totalement sûre. »
- Parfait, c'est réglé
- Vérifier quand même dans une source indépendante (Réponse)
Lumi te propose une idée de titre pour un poème. Faut-il la vérifier ?
- Non, il n'y a aucun fait à vérifier (Réponse)
- Oui, chaque mot d'IA a besoin d'une source
La routine de vérification
Remets les étapes dans un ordre logique.
- Repérer les affirmations importantes : chiffres, noms, citations
- Demander ses sources à l'IA
- Ouvrir chaque source et voir si elle dit la même chose
- Recouper avec une source fiable et indépendante
- N'utiliser que ce que tu as pu confirmer
Retiens bien
Fluide ne veut pas dire vrai. Ouvre la source, recoupe, et laisse de côté ce que tu ne peux pas confirmer.
Ouvre la source. Si tu ne la trouves pas, ne l'utilise pas.
Les chiffres clés
- En 2023, un tribunal fédéral américain a infligé 5 000 dollars d'amende à deux avocats et à leur cabinet, qui avaient déposé des conclusions citant des décisions de justice inexistantes produites par un chatbot. · Source: US District Court, Southern District of New York, Mata v. Avianca, décision de sanction, juin 2023
- L'agence américaine de normalisation NIST classe la « confabulation », un contenu faux ou inventé affirmé avec assurance, parmi les 12 risques clés de l'IA générative. · Source: NIST, AI 600-1 Generative AI Profile, 2024
- Les chatbots peuvent produire des références, des liens et des citations qui ont l'air vrais mais n'existent pas : une source n'est utile qu'une fois ouverte et vérifiée.
- Chercher une affirmation dans un autre onglet, ce qu'on appelle la lecture latérale, est l'un des moyens les plus rapides de voir si des sources fiables sont d'accord.
Mis à jour:
Les questions qu'on se pose
L'IA peut-elle inventer des sources ?
Oui. Les chatbots peuvent produire des titres d'articles, des liens, des études et des citations qui ont l'air réels mais n'existent pas ou ne disent pas ce qui est affirmé. Ouvre toujours la source toi-même.
Pourquoi l'IA donne-t-elle de mauvaises réponses ?
Un modèle de langage prédit des mots probables d'après les schémas de ses données d'entraînement. Le texte est fluide, mais rien ne garantit que chaque détail soit vrai ou à jour.
Demander à l'IA « tu es sûr ? », est-ce une bonne vérification ?
Pas à elle seule. Un chatbot peut confirmer une mauvaise réponse ou changer une bonne. Utilise une source indépendante pour confirmer les faits.
Quelles réponses d'IA faut-il vérifier en priorité ?
Tout ce sur quoi tu vas t'appuyer ou que tu vas partager : chiffres, dates, citations, noms, et conseils de santé, juridiques ou financiers. Les idées créatives et les formulations demandent moins de vérification.
Termes associés