Welche Regeln gelten für KI, und was sind die Risikoklassen der KI-Verordnung?
Die KI-Verordnung der EU teilt KI nach Risiko ein. Unannehmbare Anwendungen wie Social Scoring sind verboten. Hochrisiko-KI, etwa bei Bewerbungen oder Krediten, braucht Tests, Dokumentation und menschliche Aufsicht. Chatbots müssen sagen, dass sie KI sind, Deepfakes müssen gekennzeichnet werden. Die meiste Alltags-KI hat kaum Pflichten. In Deutschland überwacht die Bundesnetzagentur die Regeln.
▶ Probier es aus
Warum das wichtig ist
KI-Regeln entstehen gerade, und sie bestimmen, was Apps mit dir machen dürfen. Die KI-Verordnung gilt für alle, die KI in der EU anbieten oder einsetzen, auch für Firmen aus den USA. Wer die Risikoklassen kennt, stellt die richtigen Fragen.
In 6 Minuten kannst du
- Risikoklassen der KI-Verordnung: verboten, hohes Risiko, kennzeichnen, minimales Risiko.
- KI, die über Jobs, Kredite oder Prüfungen entscheidet, hat die strengsten Regeln.
- In Deutschland nimmt die Bundesnetzagentur Beschwerden zur KI-Verordnung entgegen.
Das übst du
Vier Risikoklassen
Die KI-Verordnung stellt jede KI-Anwendung auf eine Leiter. Je höher die Stufe, desto strenger die Regeln.
- 🚫 Unannehmbar: verboten
- KI, die soziales Verhalten von Menschen bewertet, Menschen gezielt manipuliert oder Gefühle am Arbeitsplatz oder in der Schule ausliest. In der EU verboten seit 2. Februar 2025.
- ⚠️ Hohes Risiko: strenge Regeln
- KI, die über Jobs, Kredite, Prüfungen oder den Zugang zu Leistungen mitentscheidet. Sie braucht Risikoprüfungen, gute Daten, Protokolle und menschliche Aufsicht.
- 💬 Transparenz: Bescheid sagen
- Chatbots müssen sagen, dass sie KI sind, und Deepfakes müssen als KI-erzeugt oder -verändert gekennzeichnet werden.
- ✅ Minimales Risiko: keine neuen Regeln
- Spamfilter, Computergegner in Spielen, Fotofilter. Die meiste KI, die heute genutzt wird, gehört hierher.
- 🌍 Wer sich daran halten muss
- Alle, die KI in der EU anbieten oder einsetzen, auch Firmen mit Sitz in den USA oder Großbritannien.
Welche Risikoklasse?
Sortier jede KI-Anwendung in ihre Risikoklasse nach der KI-Verordnung.
- Eine Stadt vergibt einen „Guter-Bürger“-Punktestand, der über Sozialleistungen mitbestimmt → Verboten
- Software, die über die Webcam Gefühle von Beschäftigten ausliest → Verboten
- Ein Tool, das Lebensläufe von Bewerbenden in eine Rangfolge bringt → Hohes Risiko
- Ein Modell, das entscheidet, wer einen Kredit bekommt → Hohes Risiko
- KI, die Klassenarbeiten benotet → Hohes Risiko
- Lumi als Kundenservice-Chatbot → Kennzeichnen
- Ein KI-gemachtes Video eines echten Politikers → Kennzeichnen
- Ein Spamfilter in deinem Mail-Postfach → Minimales Risiko
Der EU-Zeitplan
Das Gesetz greift in Stufen. Bring die Meilensteine in Reihenfolge, den frühesten zuerst.
- Die KI-Verordnung tritt in Kraft
- Die Verbote unannehmbarer KI gelten
- Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten
- Transparenzpflichten für Chatbots und Deepfakes gelten, die Durchsetzung beginnt
- Hochrisiko-Regeln etwa für Personalwesen, Kredit und Bildung gelten
- Hochrisiko-Regeln für KI in Produkten wie Spielzeug und Aufzügen gelten
Wer, wo, wie?
Was gilt hier, und wer passt in Deutschland auf?
Ein US-Start-up verkauft seine KI zur Vorauswahl von Lebensläufen an eine Firma in Köln. Gilt die KI-Verordnung?
- Ja, weil die KI in der EU eingesetzt wird (Antwort)
- Nein, die Firma ist amerikanisch
Wer überwacht die KI-Verordnung in Deutschland?
- Die Bundesnetzagentur, in manchen Bereichen wie Finanzen die Fachaufsicht (Antwort)
- Jede Firma kontrolliert sich nur selbst
- Niemand, es gibt keine Aufsicht
Ein Chatbot einer Firma verschweigt dir, dass er eine KI ist. Was kannst du tun?
- Mich bei der Beschwerdestelle der Bundesnetzagentur beschweren (Antwort)
- Nichts, das ist erlaubt
Merk dir
Regeln folgen dem Risiko: Je mehr eine KI dein Leben beeinflussen kann, desto mehr muss sie beweisen.
Die wichtigsten Fakten
- Die KI-Verordnung der EU ist am 1. August 2024 in Kraft getreten, ihre Verbote unannehmbarer KI gelten seit 2. Februar 2025. Seit einer Änderung 2026 müssen Organisationen Maßnahmen ergreifen, die die KI-Kompetenz ihrer Beschäftigten fördern. · Quelle: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4, geändert durch Verordnung (EU) 2026/1744
- Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten seit 2. August 2025, Transparenzpflichten wie Chatbot-Hinweis und Deepfake-Kennzeichnung seit 2. August 2026. Für maschinenlesbare KI-Kennzeichnung bei Systemen, die schon auf dem Markt waren, gilt eine Frist bis 2. Dezember 2026. · Quelle: Europäische Kommission, Zeitplan zur Anwendung der KI-Verordnung
- Eine Änderung von 2026, der „digitale Omnibus“, verschob Hochrisiko-Regeln etwa für Personalwesen, Kredit und Bildung auf 2. Dezember 2027 und für KI in Produkten auf 2. August 2028. · Quelle: Europäische Kommission, Inkrafttreten des KI-Omnibus, Juli 2026
- Für die schwersten Verstöße gegen die KI-Verordnung drohen Bußgelder bis 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens, je nachdem, was höher ist. · Quelle: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 99
- In Deutschland überwacht die Bundesnetzagentur die KI-Verordnung und nimmt Beschwerden entgegen; in bestimmten Bereichen wie Finanzen bleiben die Fachaufsichten zuständig. · Quelle: KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit 29. Juli 2026
Aktualisiert:
Häufige Fragen
Gilt die KI-Verordnung auch für Firmen aus den USA?
Ja, wenn sie KI-Systeme in der EU anbieten oder die Ergebnisse ihrer KI hier genutzt werden. Wo die Firma ihren Sitz hat, spielt keine Rolle.
Wer überwacht die KI-Verordnung in Deutschland?
Die Bundesnetzagentur ist seit Juli 2026 die zentrale Aufsichts- und Beschwerdestelle. In bestimmten Bereichen wie Finanzen bleiben die Fachaufsichten zuständig.
Wo kann ich mich über eine KI beschweren?
Bei der Beschwerdestelle KI-Verordnung der Bundesnetzagentur, online und kostenlos, zum Beispiel wenn ein Chatbot nicht sagt, dass er eine KI ist. Geht es um deine Daten, sind die Datenschutzaufsichtsbehörden zuständig.
Ab wann gilt die KI-Verordnung?
In Stufen: Verbote ab Februar 2025, Regeln für KI mit allgemeinem Verwendungszweck ab August 2025, Transparenzpflichten und Durchsetzung ab August 2026 und Hochrisiko-Regeln ab Dezember 2027 bzw. August 2028.
Verwandte Begriffe