Wie kommt Bias in die KI?
KI-Bias heißt: Ein KI-System liefert für manche Gruppen schlechtere oder unfaire Ergebnisse. Meist liegt es an den Trainingsdaten: Manche Gruppen fehlen oder sind selten, frühere Entscheidungen waren schon unfair, oder Labels spiegeln Annahmen von Menschen. Das Modell lernt diese Muster, als wären sie Regeln. Vielfältige Daten, Tests pro Gruppe und menschliche Prüfung verringern Bias.
▶ Probier es aus
Warum das wichtig ist
Ein Modell hat keine Meinung, aber es kopiert, was seine Daten zeigen. Fehlen manche Menschen in den Beispielen, funktioniert die KI für sie schlechter, ohne dass es jemand wollte.
In 6 Minuten kannst du
- KI-Bias kommt meist von fehlenden, einseitigen oder unfairen Trainingsdaten.
- Ein System kann verzerrt sein, auch wenn es nie ein sensibles Merkmal sieht.
- Teste Ergebnisse pro Gruppe und lass wichtige Entscheidungen von Menschen prüfen.
Das übst du
Trainier den Handsensor
Die meisten Fotos im Stapel zeigen dieselbe Art Hand. Wähl bis zu 5 Trainingsfotos, drück auf Trainieren und sieh, wen der Sensor erkennt.
Hand · Keine Hand
Trainingsbeispiele
- Hellhäutige Erwachsenenhand, Handfläche oben → Hand
- Hellhäutige Hand, Finger gespreizt → Hand
- Hellhäutige Hand, von der Seite → Hand
- Noch eine hellhäutige Hand, winkend → Hand
- Dunkelhäutige Erwachsenenhand → Hand
- Die kleine Hand eines Kindes → Hand
- Hand im Arbeitshandschuh → Hand
- Leeres Waschbecken → Keine Hand
- Ein Schwamm unter dem Hahn → Keine Hand
- Eine Tasse unter dem Hahn → Keine Hand
Testfälle
- Eine Hand mit dunkler Haut → Hand
Im Training waren nur hellhäutige Hände, also lernte der Sensor: „Hand“ heißt helle Haut. Niemand wollte das, die Daten haben es bewirkt. - Eine Kinderhand → Hand
Keine Kinder im Training, also wurden kleine Hände nicht erkannt. Fehlende Gruppen werden zu Gruppen, bei denen die KI versagt. - Eine Hand im Handschuh → Hand
Hände mit Handschuh sehen anders aus. Zu den echten Nutzern gehören Reinigungs- und Pflegekräfte, die den ganzen Tag Handschuhe tragen. - Eine Hand mit heller Haut → Hand
Ohne hellhäutige Beispiele hatte der Sensor auch für diese Hand keinen Vergleich. - Ein Teller im Waschbecken → Keine Hand
Das Modell hat nie einen Gegenstand gesehen, der keine Hand ist, konnte den Unterschied also nicht erkennen und schaltete das Wasser an.
Wie Bias hineinkommt
Tipp auf jede Karte, um zu sehen, wie es passiert.
- 🕳️ Fehlende Menschen
- Manche Gruppen sind in den Daten selten oder gar nicht da, also funktioniert das Modell für sie schlechter. Wie der Wasserhahn, der manche Hände nicht sah.
- 📜 Unfaire Vergangenheit
- Waren frühere Entscheidungen unfair, lernt ein damit trainiertes Modell, sie zu wiederholen, und lässt sie dabei auch noch objektiv aussehen.
- 🏷️ Verzerrte Labels
- Labels stammen von Menschen. Teilen die Beschriftenden eine Annahme, lernt das Modell sie als Tatsache.
- 📮 Versteckte Stellvertreter
- Auch ohne direkt nach einer Gruppe zu fragen, kann ein Modell Hinweise aufschnappen, die damit zusammenhängen, etwa Postleitzahl oder Hobby.
Verfolg den Bias
Eine Firma trainiert eine KI zur Vorauswahl von Lebensläufen mit zehn Jahren eigener Einstellungen, als sie vor allem Männer einstellte. Was ist das Risiko?
- Sie lernt, Lebensläufe wie die früheren Einstellungen zu bevorzugen (Antwort)
- Kein Risiko, Computer können nicht sexistisch sein
Ein Modell sieht nie die Herkunft von Menschen, nutzt aber Postleitzahlen. Kann es trotzdem verzerrt sein?
- Ja, Postleitzahlen können für Gruppen stehen (Antwort)
- Nein, ohne das Feld ist auch der Bias weg
Was verringert Bias?
Wähl alles, was hilft.
- Fragen, wer in den Trainingsdaten fehlt
- Die Genauigkeit für verschiedene Gruppen getrennt testen
- Betroffenen erlauben, eine Prüfung durch einen Menschen zu verlangen
- Vielfältige Menschen beim Bauen und Testen einbeziehen
- Dem Ergebnis trauen, weil ein Computer es berechnet hat
- Einfach mehr von den Daten hinzufügen, die man schon hat
Merk dir
KI kopiert ihre Daten, Lücken inklusive. Frag, wer fehlt, und teste für alle.
Die wichtigsten Fakten
- Eine Studie von 2018 zu drei kommerziellen Systemen zur Geschlechtserkennung fand Fehlerraten von bis zu 34,7 % bei dunkelhäutigen Frauen, gegenüber höchstens 0,8 % bei hellhäutigen Männern. · Quelle: Buolamwini & Gebru, Gender Shades, Conference on Fairness, Accountability and Transparency, 2018
- Bei Tests von fast 200 Gesichtserkennungsalgorithmen fand die US-Normungsbehörde NIST, dass die Rate falscher Treffer zwischen Bevölkerungsgruppen je nach Algorithmus oft um den Faktor 10 bis 100 schwankte. · Quelle: NIST, Face Recognition Vendor Test Part 3: Demographic Effects (NISTIR 8280), 2019
- Die KI-Verordnung der EU stuft KI, die Bewerberinnen und Bewerber auswählt oder vorsortiert, als Hochrisiko-KI ein. Das bringt Pflichten wie Prüfungen der Datenqualität und menschliche Aufsicht mit sich. · Quelle: KI-Verordnung der EU, Verordnung (EU) 2024/1689, Anhang III
- Ein KI-System kann insgesamt genau wirken und trotzdem bei einer kleinen Gruppe stark versagen, denn ein hoher Durchschnitt kann schlechte Ergebnisse für Menschen verdecken, die in den Daten selten sind.
Aktualisiert:
Häufige Fragen
Was ist ein Beispiel für KI-Bias?
Gesichtsanalyse-Systeme, die bei dunkelhäutigen Frauen viel mehr Fehler machen als bei hellhäutigen Männern, oder ein Bewerbungstool, das manche Bewerbende schlechter bewertet, weil sie früheren Beschäftigten nicht ähneln.
Kann KI voreingenommen sein, wenn sie doch nur Mathe ist?
Ja. Die Mathematik lernt aus Daten, und Daten spiegeln die Welt und frühere menschliche Entscheidungen. Sind die Beispiele einseitig oder lückenhaft, sind es die Ergebnisse auch.
Wie lässt sich KI-Bias verringern?
Mit vielfältigen, repräsentativen Daten, getrennten Tests für verschiedene Gruppen, der Beteiligung Betroffener, dokumentierten Grenzen und menschlicher Prüfung wichtiger Entscheidungen.
Was ist algorithmische Verzerrung?
Algorithmische Verzerrung heißt, dass ein automatisiertes System für bestimmte Menschen oder Gruppen systematisch unfaire Ergebnisse liefert. KI-Bias ist heute die häufigste Form davon.
Verwandte Begriffe