Que peut faire l'IA, et que ne peut-elle pas faire ?
L'IA est forte pour les tâches fondées sur des schémas : reconnaître images et voix, traduire, résumer, rédiger, repérer des tendances. Ses grandes limites : elle ne garantit pas la vérité, n'a ni valeurs ni sentiments, ne peut pas être responsable et peine dans le monde physique. Utilise-la comme aide et garde un humain aux commandes.
▶ À toi de jouer
Pourquoi c'est important
Savoir où l'IA est forte et où elle est faible, c'est le cœur d'un bon usage : laisse-la aider pour les schémas, et garde aux humains la vérité, les valeurs et les décisions.
En 6 minutes, tu sauras
- Utilise l'IA pour les schémas : résumés, traductions, idées, tendances.
- Vérifie les faits toi-même ; l'IA ne peut pas garantir que ses réponses sont vraies.
- Les décisions sur des personnes restent à des personnes qui peuvent en répondre.
Ce que tu vas pratiquer
Quatre limites à connaître
L'IA progresse sans cesse sur les schémas. Ces limites viennent de ce qu'elle est.
- ✅ La vérité
- L'IA produit des réponses probables, pas vérifiées. Elle ne peut pas garantir que ce qu'elle dit est vrai.
- 🧭 Les valeurs
- L'IA n'a ni valeurs, ni sentiments, ni sens de la justice à elle. Elle reflète les schémas de ses données et les choix de ceux qui l'ont construite.
- ⚖️ La responsabilité
- L'IA ne peut pas rendre de comptes. Quand une décision touche une personne, une personne doit l'assumer.
- 🌍 Le monde physique
- Plier du linge ou réparer un robinet qui fuit reste très dur pour les machines, alors que des tests difficiles pour nous leur semblent faciles.
L'IA brille ou l'humain décide ?
Où l'IA brille-t-elle comme aide, et où un humain doit-il rester aux commandes ?
- Transformer un long rapport en cinq points clés → L'IA brille
- Décider de licencier un salarié → L'humain décide
- Traduire un menu dans une autre langue → L'IA brille
- Consoler une amie dont l'animal vient de mourir → L'humain décide
- Repérer des paiements inhabituels parmi des millions d'opérations → L'IA brille
- Décider quelle info est vraie avant de la partager → L'humain décide
- Proposer dix noms pour un nouveau café → L'IA brille
- Valider un diagnostic médical → L'humain décide
Juge la scène
Lumi a écrit un résumé pour ta manager. Il se lit bien. Et maintenant ?
- Le comparer à l'original avant de l'envoyer (Réponse)
- L'envoyer, les résumés de Lumi sont en général bons
Une amie demande à Lumi s'il est acceptable de dire un petit mensonge pour protéger quelqu'un. Que peut offrir Lumi ?
- Différents points de vue pour réfléchir, pas la réponse (Réponse)
- La réponse morale objectivement juste
Un robot bat un champion d'échecs mais n'arrive pas à plier un tee-shirt de façon fiable. Comment ça se fait ?
- Les jeux à règles sont plus faciles pour les machines que le monde physique (Réponse)
- Le robot a juste besoin d'un processeur plus rapide
Retiens bien
Laisse l'IA aider pour les schémas. La vérité, les valeurs et la responsabilité restent aux humains.
Les chiffres clés
- La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle, adoptée par ses 193 États membres en novembre 2021, souligne que l'IA ne peut jamais remplacer la responsabilité finale des humains. · Source: UNESCO, Recommandation sur l'éthique de l'intelligence artificielle, 2021
- Le règlement européen sur l'IA impose que les systèmes d'IA à haut risque soient conçus pour que des personnes puissent les superviser efficacement pendant leur utilisation, y compris les corriger ou les arrêter. · Source: Règlement (UE) 2024/1689 sur l'intelligence artificielle, article 14
- Le roboticien Hans Moravec a observé en 1988 que des tâches difficiles pour les humains, comme jouer aux échecs, peuvent être faciles pour les ordinateurs, tandis que voir et bouger sont très durs. C'est le paradoxe de Moravec. · Source: H. Moravec, Mind Children, Harvard University Press, 1988
- Les performances d'une IA peuvent beaucoup changer avec une petite variation de formulation ou de situation : une IA qui réussit un test peut échouer sur une vraie tâche un peu différente.
Mis à jour:
Les questions qu'on se pose
Quelles sont les principales limites de l'IA ?
L'IA peut se tromper avec assurance, reproduire les biais de ses données, n'a ni vraie compréhension ni valeurs, ne peut pas assumer de décisions et peine souvent dans le monde physique et face à des situations éloignées de ses données d'entraînement.
Dans quoi l'IA est-elle douée ?
Le travail fondé sur des schémas : reconnaître des images et la voix, traduire, résumer, rédiger, trouver des idées et repérer des tendances ou des cas inhabituels dans de grandes quantités de données.
L'IA peut-elle remplacer le jugement humain ?
Pas pour les décisions qui touchent aux valeurs, à la responsabilité ou à la vie des gens. L'IA peut éclairer une décision, mais une personne doit la vérifier et en répondre.
L'IA pourra-t-elle un jour tout faire comme les humains ?
Personne ne le sait. L'IA progresse et les experts ne sont pas d'accord sur jusqu'où elle ira. Aujourd'hui, elle est forte pour des tâches précises de schémas et encore faible pour beaucoup de choses qui nous semblent faciles.
Termes associés