Comprendre l'IA / Glossaire

Biais algorithmique

Un biais algorithmique, c'est quand un système d'IA ou un autre outil automatisé donne des résultats injustement meilleurs ou pires pour certains groupes de personnes, souvent à cause d'exemples déséquilibrés ou manquants dans ses données.

L'IA apprend à partir de données passées. Si ces données représentent mal certaines personnes, ou reflètent des décisions injustes du passé, le modèle peut apprendre et répéter ces schémas, par exemple en marchant moins bien pour certaines couleurs de peau, certains accents ou certains prénoms.

Le biais peut aussi venir de la façon dont le problème est posé : ce qu'on demande au système de prédire, les informations qu'il utilise et qui vérifie les résultats. Il est rarement voulu, c'est pour ça qu'il faut le tester.

Une IA équitable demande des données variées, des tests sur différents groupes et un examen humain des décisions importantes. Dans l'UE, le RGPD te permet aussi de demander qu'un humain réexamine une décision importante prise automatiquement à ton sujet.