Zum Inhalt springen
DE

Lektion 2 von 8 · 6 Min. · +100 XP

Welche Rechte habe ich, wenn KI über mich entscheidet?

Eine automatisierte Entscheidung trifft ein Computer über dich, ohne dass ein Mensch wirklich mitentscheidet, etwa bei einem Kredit. Nach der DSGVO dürfen wichtige Entscheidungen in der Regel nicht allein ein Computer treffen: Du kannst Auskunft verlangen, deinen Standpunkt darlegen, eine Prüfung durch einen Menschen fordern und das Ergebnis anfechten. Frag schriftlich nach.

▶ Probier es aus

Warum das wichtig ist

Algorithmen entscheiden schon mit, wer einen Kredit, ein Vorstellungsgespräch oder eine Wohnung bekommt. Sie können schnell und fair sein, oder falsch und verzerrt. Wer seine Rechte kennt, macht aus einem stummen „abgelehnt“ eine Entscheidung, die man hinterfragen kann.

In 6 Minuten kannst du

  • Schnelle, wortlose Ablehnungen sind oft automatisiert, also frag nach.
  • Verlang die Gründe, eine Prüfung durch einen Menschen und einen Weg zum Widerspruch.
  • Prüf deine Daten, stell Anfragen schriftlich und heb Kopien auf.

Das übst du

  1. Wer hat wirklich entschieden?

    Tipp auf jede Karte, um zu sehen, was sie für dich bedeutet.

    🤖 Ausschließlich automatisiert
    Ein Computer trifft die Entscheidung, und kein Mensch prüft sie wirklich. Genau hier greifen besondere Rechte.
    🖱️ Der Abnick-Stempel
    Ein Mensch klickt bei allem, was das System sagt, auf „genehmigen“, ohne Befugnis oder Zeit, zu widersprechen. Das gilt trotzdem als automatisiert.
    ⚖️ Erhebliche Wirkung
    Am wichtigsten sind die Rechte bei Entscheidungen mit echten Folgen: Kredit, Job, Sozialleistungen, Wohnung, ein Schulplatz.
    🔎 Profiling
    Deine Daten werden genutzt, um etwas über dich vorherzusagen, etwa wie zuverlässig du einen Kredit zurückzahlst oder wie gut du arbeitest. Das fließt oft in automatisierte Entscheidungen ein.

  2. Lies die Ablehnung

    Aylins Ablehnungsmail. Tipp auf jeden Teil, der ihr hilft, ihre Rechte zu nutzen.

    Lindenbank Kredite
    Vielen Dank für deinen Antrag bei der Lindenbank.
    Wir können dir derzeit leider keinen Kredit anbieten. Diese Entscheidung wurde automatisiert getroffen.
    Hauptgründe: kurze Kredithistorie, hoher offener Betrag auf der Kreditkarte.
    Du kannst verlangen, dass eine Person aus unserem Team die Entscheidung prüft.
    Um weitere Angaben zu machen oder der Entscheidung zu widersprechen, antworte innerhalb von 30 Tagen.

  3. Was können sie tun?

    Drei Menschen, drei automatisierte Entscheidungen.

    1. Markus’ Bewerbung wird von einem automatischen Lebenslauf-Filter abgelehnt. Was kann er tun?

      • Fragen, wie entschieden wurde, und eine Prüfung durch einen Menschen verlangen (Antwort)
      • Nichts, eine Computerentscheidung ist endgültig

    2. Deniz bekommt wegen eines automatisch berechneten Bonitäts-Scores keinen Handyvertrag. Was kann er verlangen?

      • Verständliche Auskunft, wie die Entscheidung zustande kam (Antwort)
      • Eine vollständige Kopie des Algorithmus

    3. Eine Teamleiterin genehmigt jedes KI-Ergebnis, ohne es zu lesen. Ist ein Mensch beteiligt?

      • Nicht wirklich, also gilt es trotzdem als automatisiert (Antwort)
      • Ja, ein Mensch hat ja geklickt

  4. Abgelehnt? So gehst du vor

    Ein Computer hat Nein gesagt. Bring die Schritte in eine sinnvolle Reihenfolge.

    1. Die Entscheidung lesen und Gründe und Fristen notieren
    2. Prüfen, ob die Daten über dich stimmen
    3. Schriftlich eine Prüfung durch einen Menschen verlangen und deine Sicht ergänzen
    4. Kopien von allem und die Daten aufheben
    5. Keine faire Antwort? Erst bei der Organisation beschweren, dann bei der Aufsicht

Merk dir

Der Computer sagt Nein? Meist kannst du nach dem Warum fragen und einen Menschen nochmal draufschauen lassen.

Die wichtigsten Fakten

  • Artikel 22 der DSGVO gibt dir das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden, mit Ausnahmen etwa bei Vertrag, Gesetz oder Einwilligung. Auch dann muss ein Mensch eingreifen können. · Quelle: Datenschutz-Grundverordnung (EU) 2016/679, Art. 22
  • 2023 entschied der Europäische Gerichtshof, dass schon ein Bonitäts-Score als automatisierte Entscheidung gelten kann, wenn Kreditgeber sich maßgeblich darauf stützen, um einen Kredit zu gewähren oder abzulehnen. · Quelle: Gerichtshof der EU, Rechtssache C-634/21 (SCHUFA), 7. Dezember 2023
  • Im Februar 2025 stellte der Europäische Gerichtshof klar: Bei einer automatisierten Bonitätsprüfung muss die Erklärung so sein, dass die betroffene Person die Entscheidung nachvollziehen und anfechten kann. · Quelle: Gerichtshof der EU, Rechtssache C-203/22 (Dun & Bradstreet Austria), 27. Februar 2025
  • Bei einer automatisierten Entscheidung hast du nach der DSGVO ein Recht auf aussagekräftige Informationen über die beteiligte Logik sowie die Tragweite und die angestrebten Auswirkungen. · Quelle: Datenschutz-Grundverordnung (EU) 2016/679, Art. 15
  • Eine Prüfung durch einen Menschen zählt nur, wenn die prüfende Person die Befugnis und die Fähigkeit hat, die Entscheidung zu ändern. Ein bloßes Abnicken reicht nicht. · Quelle: Artikel-29-Datenschutzgruppe, Leitlinien zu automatisierten Entscheidungen und Profiling (WP251rev.01), vom Europäischen Datenschutzausschuss bestätigt

Aktualisiert:

Häufige Fragen

Kann ich verlangen, dass ein Mensch eine automatisierte Entscheidung prüft?

Meist ja, bei Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, etwa bei einem Kredit oder Job. Frag schriftlich bei der Organisation nach; sie sollte dir sagen, wie es geht.

Habe ich ein Recht auf eine Erklärung einer KI-Entscheidung?

Nach der DSGVO kannst du aussagekräftige Informationen darüber verlangen, wie eine wichtige automatisierte Entscheidung zustande kam. Laut Europäischem Gerichtshof muss die Erklärung so verständlich sein, dass du sie nachvollziehen und anfechten kannst.

Was ist der Schufa-Score, und ist er eine automatisierte Entscheidung?

Er ist ein Wert, der vorhersagen soll, wie zuverlässig du Rechnungen bezahlst. Stützt sich etwa eine Bank maßgeblich darauf, kann schon der Score laut Europäischem Gerichtshof als automatisierte Entscheidung zählen.

Wo kann ich mich über eine automatisierte Entscheidung beschweren?

Zuerst bei der Organisation selbst. Danach bei der Datenschutzaufsichtsbehörde, für Unternehmen meist die deines Bundeslandes. Für deinen konkreten Fall hilft unabhängige Beratung, etwa bei einer Verbraucherzentrale.

Verwandte Begriffe