KI-Kompetenz / Glossar

Algorithmische Verzerrung (Bias)

Algorithmische Verzerrung (Bias) liegt vor, wenn ein KI-System oder ein anderes automatisiertes Werkzeug für manche Gruppen von Menschen unfair bessere oder schlechtere Ergebnisse liefert, oft wegen einseitiger oder fehlender Beispiele in den Daten.

KI lernt aus alten Daten. Sind darin manche Menschen zu selten vertreten oder spiegeln die Daten unfaire Entscheidungen von früher, kann das Modell diese Muster lernen und wiederholen, zum Beispiel bei manchen Hauttönen, Akzenten oder Namen schlechter funktionieren.

Bias kann auch daher kommen, wie eine Aufgabe gestellt ist: was das System vorhersagen soll, welche Informationen es nutzt und wer die Ergebnisse prüft. Meist ist er nicht gewollt, darum muss man gezielt danach testen.

Faire KI braucht vielfältige Daten, Tests mit verschiedenen Gruppen und menschliche Prüfung wichtiger Entscheidungen. In der EU gibt dir die DSGVO außerdem das Recht, zu erfahren, wie eine automatisierte Entscheidung über dich zustande kam, und eine Prüfung durch einen Menschen zu verlangen.