Comment les biais entrent-ils dans l'IA ?
Un biais de l'IA, c'est quand un système d'IA donne des résultats moins bons ou injustes pour certains groupes. Il vient surtout des données d'entraînement : groupes absents ou rares, décisions passées déjà injustes, étiquettes chargées de préjugés. Le modèle apprend ces schémas comme des règles. Des données variées, des tests par groupe et un contrôle humain les réduisent.
▶ À toi de jouer
Pourquoi c'est important
Un modèle n'a pas d'opinion, mais il copie ce que montrent ses données. Si certaines personnes manquent dans les exemples, l'IA marche moins bien pour elles, sans que personne ne l'ait voulu.
En 6 minutes, tu sauras
- Les biais de l'IA viennent surtout de données d'entraînement manquantes, déséquilibrées ou injustes.
- Un système peut être biaisé même s'il ne voit jamais une donnée sensible.
- Teste les résultats par groupe et garde un réexamen humain pour les décisions importantes.
Ce que tu vas pratiquer
Entraîne le capteur de mains
La plupart des photos montrent le même genre de main. Choisis jusqu'à 5 photos, appuie sur Entraîner et regarde qui le capteur reconnaît.
Main · Pas de main
Exemples d'entraînement
- Main d'adulte à peau claire, paume en haut → Main
- Main à peau claire, doigts écartés → Main
- Main à peau claire, vue de profil → Main
- Encore une main à peau claire, qui salue → Main
- Main d'adulte à peau foncée → Main
- La petite main d'un enfant → Main
- Main dans un gant de travail → Main
- Évier vide → Pas de main
- Une éponge sous le robinet → Pas de main
- Une tasse sous le robinet → Pas de main
Cas de test
- Une main à peau foncée → Main
Il n'y avait que des mains claires à l'entraînement : le capteur a appris que « main » veut dire peau claire. Personne ne l'a voulu, ce sont les données. - Une main d'enfant → Main
Aucun enfant dans les données, donc les petites mains ne sont pas reconnues. Un groupe absent devient un groupe que l'IA rate. - Une main gantée → Main
Une main gantée a un autre aspect. Parmi les vrais utilisateurs, il y a des agents d'entretien et des infirmières qui portent des gants toute la journée. - Une main à peau claire → Main
Sans aucun exemple de main claire, le capteur n'avait pas de repère pour cette main non plus. - Une assiette dans l'évier → Pas de main
Le modèle n'a jamais vu d'objet qui n'est pas une main : il n'a pas su faire la différence et a ouvert l'eau.
Comment les biais entrent
Touche chaque carte pour voir comment ça arrive.
- 🕳️ Des gens absents
- Certains groupes sont rares ou absents des données : le modèle marche moins bien pour eux. Comme le robinet qui ne voyait pas certaines mains.
- 📜 Un passé injuste
- Si les décisions passées étaient injustes, un modèle entraîné dessus apprend à les répéter, et peut leur donner l'air objectif.
- 🏷️ Des étiquettes biaisées
- Les étiquettes viennent de personnes. Si elles partagent un préjugé, le modèle l'apprend comme un fait.
- 📮 Des indices cachés
- Même sans demander l'appartenance à un groupe, un modèle peut repérer des indices qui vont avec, comme un code postal ou un loisir.
Remonte la piste du biais
Une entreprise entraîne une IA de tri de CV sur dix ans de ses propres recrutements, à une époque où elle embauchait surtout des hommes. Quel est le risque ?
- Elle apprend à préférer les CV qui ressemblent aux anciennes embauches (Réponse)
- Aucun risque, un ordinateur ne peut pas être sexiste
Un modèle ne voit jamais l'origine des gens, mais utilise leur code postal. Peut-il quand même être biaisé ?
- Oui, le code postal peut remplacer l'appartenance à un groupe (Réponse)
- Non, retirer la case retire le biais
Qu'est-ce qui réduit les biais ?
Choisis tout ce qui aide.
- Se demander qui manque dans les données d'entraînement
- Tester la précision séparément pour différents groupes
- Permettre aux personnes concernées de demander un réexamen humain
- Impliquer des personnes variées pour concevoir et tester
- Faire confiance au résultat parce qu'un ordinateur l'a produit
- Ajouter simplement plus des données qu'on a déjà
Retiens bien
L'IA copie ses données, trous compris. Demande qui manque et teste pour tout le monde.
Les chiffres clés
- Une étude de 2018 sur trois systèmes commerciaux de classification du genre a trouvé des taux d'erreur allant jusqu'à 34,7 % pour les femmes à peau foncée, contre 0,8 % au plus pour les hommes à peau claire. · Source: Buolamwini & Gebru, Gender Shades, Conference on Fairness, Accountability and Transparency, 2018
- En testant près de 200 algorithmes de reconnaissance faciale, l'agence américaine de normalisation NIST a constaté que les taux de faux positifs variaient souvent d'un facteur 10 à 100 selon les groupes démographiques, suivant l'algorithme. · Source: NIST, Face Recognition Vendor Test Part 3: Demographic Effects (NISTIR 8280), 2019
- Le règlement européen sur l'IA classe à haut risque l'IA utilisée pour recruter ou sélectionner des candidats, ce qui impose notamment un contrôle de la qualité des données et une supervision humaine. · Source: Règlement (UE) 2024/1689 sur l'intelligence artificielle, annexe III
- Un système d'IA peut sembler précis dans l'ensemble tout en échouant gravement pour un petit groupe : une bonne moyenne peut cacher de mauvais résultats pour les personnes rares dans les données.
Mis à jour:
Les questions qu'on se pose
Quel est un exemple de biais de l'IA ?
Des systèmes d'analyse faciale qui se trompent bien plus souvent pour les femmes à peau foncée que pour les hommes à peau claire, ou un outil de recrutement entraîné sur les embauches passées qui note moins bien les candidats qui ne ressemblent pas à l'ancien personnel.
L'IA peut-elle être biaisée si ce ne sont que des maths ?
Oui. Les calculs apprennent à partir de données, et les données reflètent le monde et les décisions humaines passées. Si les exemples sont déséquilibrés ou incomplets, les résultats le seront aussi.
Comment réduire les biais de l'IA ?
Utiliser des données variées et représentatives, tester les résultats séparément pour différents groupes, impliquer les personnes concernées, documenter les limites et garder un réexamen humain pour les décisions importantes.
Qu'est-ce qu'un biais algorithmique ?
Un biais algorithmique, c'est quand un système automatisé produit des résultats systématiquement injustes pour certaines personnes ou certains groupes. Les biais de l'IA en sont aujourd'hui la forme la plus courante.
Termes associés