DAILY

Risikoklassifizierung

Verfügbar Künstliche Intelligenz

Die KI-Verordnung (Verordnung (EU) 2024/1689) stuft KI-Systeme nach ihrem Risiko ein: verbotene Praktiken (Art. 5), Hochrisiko-Systeme (Art. 6 mit Anhang I und III), Systeme mit Transparenzpflichten (Art. 50) und alle übrigen. Diese Prüfung führt in dieser Reihenfolge durch die Einstufung und nennt die Pflichten und das Geltungsdatum, das die Omnibus-Verordnung (EU) 2026/1744 festgelegt hat. Sie bezieht sich auf ein konkretes KI-System, nicht auf ein KI-Modell mit allgemeinem Verwendungszweck.

Anwendungsbereich

1. Handelt es sich um ein KI-System im Sinne von Art. 3 Nr. 1: ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie betrieben wird und aus Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können?

Regelbasierte Software ohne Ableitungsfähigkeit (einfache Berechnungen, feste Entscheidungstabellen) ist nach den Leitlinien der Kommission zur Definition in der Regel kein KI-System.

Art. 3 Nr. 1 KI-VO In den Normen öffnen
2. Wird das System ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke, ausschließlich für wissenschaftliche Forschung und Entwicklung oder von einer natürlichen Person im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit genutzt?
Art. 2 Abs. 3, 6 und 10 KI-VO In den Normen öffnen

Verbotene Praktiken (Art. 5)

Diese Praktiken sind seit dem 2. Februar 2025 verboten. Ein einziges „Ja“ genügt.

3. Setzt das System unterschwellige, manipulative oder täuschende Techniken ein, um das Verhalten von Personen wesentlich zu verändern und ihre Fähigkeit zu einer informierten Entscheidung zu beeinträchtigen, sodass erheblicher Schaden droht?
Art. 5 Abs. 1 lit. a KI-VO In den Normen öffnen
4. Nutzt das System Schwächen von Personen aufgrund ihres Alters, einer Behinderung oder ihrer sozialen oder wirtschaftlichen Lage aus, um ihr Verhalten in schädigender Weise wesentlich zu verändern?
Art. 5 Abs. 1 lit. b KI-VO In den Normen öffnen
5. Bewertet oder klassifiziert das System Personen über einen Zeitraum anhand ihres sozialen Verhaltens oder persönlicher Eigenschaften (Social Scoring) mit nachteiliger Behandlung in sachfremden Zusammenhängen oder in unverhältnismäßiger Weise?
Art. 5 Abs. 1 lit. c KI-VO In den Normen öffnen
6. Bewertet oder prognostiziert das System das Risiko, dass eine Person eine Straftat begeht, allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen?
Art. 5 Abs. 1 lit. d KI-VO In den Normen öffnen
7. Erstellt oder erweitert das System Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen?
Art. 5 Abs. 1 lit. e KI-VO In den Normen öffnen
8. Leitet das System Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen ab (außer aus medizinischen oder Sicherheitsgründen)?
Art. 5 Abs. 1 lit. f KI-VO In den Normen öffnen
9. Kategorisiert das System Personen anhand biometrischer Daten, um Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse Überzeugungen, Sexualleben oder sexuelle Ausrichtung abzuleiten?
Art. 5 Abs. 1 lit. g KI-VO In den Normen öffnen
10. Wird das System zur biometrischen Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken eingesetzt (außerhalb der eng begrenzten Ausnahmen)?
Art. 5 Abs. 1 lit. h KI-VO In den Normen öffnen
11. Wird das System eingesetzt, um ohne Einwilligung intime Bildaufnahmen (Deepfake-Nacktbilder) oder Darstellungen sexuellen Kindesmissbrauchs zu erzeugen oder zu verbreiten?

Verbot eingefügt durch die Omnibus-Verordnung (EU) 2026/1744; gilt ab dem 2. Dezember 2026.

Art. 5 Abs. 1 lit. i (Omnibus 2026/1744) KI-VO In den Normen öffnen

Hochrisiko-Bereiche (Art. 6, Anhang I und III)

12. Ist das System ein Sicherheitsbauteil eines Produkts – oder selbst ein Produkt –, das unter die Harmonisierungsvorschriften in Anhang I fällt und einer Konformitätsbewertung durch Dritte unterliegt (z. B. Medizinprodukte, Maschinen, Aufzüge, Fahrzeuge, Luftfahrt)?
Art. 6 Abs. 1, Anhang I KI-VO In den Normen öffnen
13. Biometrie: biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen oder Emotionserkennung (soweit nicht verboten)?
Anhang III Nr. 1 KI-VO In den Normen öffnen
14. Kritische Infrastruktur: Sicherheitsbauteil in der Verwaltung oder dem Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung?
Anhang III Nr. 2 KI-VO In den Normen öffnen
15. Bildung: Zugang oder Zulassung zu Bildungseinrichtungen, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus oder Überwachung bei Prüfungen?
Anhang III Nr. 3 KI-VO In den Normen öffnen
16. Beschäftigung: Einstellung oder Auswahl (Stellenanzeigen, Bewerberfilterung, Bewertung), Entscheidungen über Arbeitsbedingungen, Beförderung oder Kündigung, Aufgabenzuweisung oder Leistungs- und Verhaltensüberwachung?
Anhang III Nr. 4 KI-VO In den Normen öffnen
17. Wesentliche Leistungen: Anspruch auf öffentliche Leistungen, Kreditwürdigkeitsprüfung oder Bonitätsbewertung, Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen oder Priorisierung von Notrufen und Rettungsdiensten?
Anhang III Nr. 5 KI-VO In den Normen öffnen
18. Strafverfolgung: Einsatz durch oder für Strafverfolgungsbehörden zur Risikobewertung, als Lügendetektor, zur Beweiswürdigung, zur Vorhersage von Straftaten oder zum Profiling?
Anhang III Nr. 6 KI-VO In den Normen öffnen
19. Migration, Asyl und Grenzkontrolle: Risikobewertung, Prüfung von Anträgen, Identifizierung von Personen?
Anhang III Nr. 7 KI-VO In den Normen öffnen
20. Rechtspflege und demokratische Prozesse: Unterstützung von Gerichten bei der Auslegung und Anwendung des Rechts oder Beeinflussung von Wahlen und Abstimmungen?
Anhang III Nr. 8 KI-VO In den Normen öffnen

Ausnahme nach Art. 6 Abs. 3

Ein System aus einem Anhang-III-Bereich gilt nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, weil es nur eine der folgenden Aufgaben erfüllt. Die Ausnahme gilt nie, wenn das System Profiling natürlicher Personen vornimmt.

21. Erfüllt das System nur eine eng begrenzte Verfahrensaufgabe?
Art. 6 Abs. 3 lit. a KI-VO In den Normen öffnen
22. Verbessert das System nur das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit?
Art. 6 Abs. 3 lit. b KI-VO In den Normen öffnen
23. Erkennt das System nur Entscheidungsmuster oder Abweichungen davon, ohne die menschliche Bewertung zu ersetzen oder zu beeinflussen?
Art. 6 Abs. 3 lit. c KI-VO In den Normen öffnen
24. Erfüllt das System nur eine vorbereitende Aufgabe für eine Bewertung, die für die Anhang-III-Anwendungsfälle relevant ist?
Art. 6 Abs. 3 lit. d KI-VO In den Normen öffnen
25. Nimmt das System ein Profiling natürlicher Personen vor?

Profiling im Sinne von Art. 4 Nr. 4 DSGVO. Bei „Ja“ ist die Ausnahme ausgeschlossen.

Art. 6 Abs. 3 UAbs. 3 KI-VO In den Normen öffnen

Transparenzpflichten (Art. 50)

26. Interagiert das System unmittelbar mit natürlichen Personen (z. B. Chatbot, Sprachassistent)?
Art. 50 Abs. 1 KI-VO In den Normen öffnen
27. Erzeugt das System synthetische Audio-, Bild-, Video- oder Textinhalte?
Art. 50 Abs. 2 KI-VO In den Normen öffnen
28. Wird ein Emotionserkennungs- oder biometrisches Kategorisierungssystem betrieben (soweit nicht verboten)?
Art. 50 Abs. 3 KI-VO In den Normen öffnen
29. Erzeugt oder verbreitet das System Deepfakes oder KI-generierte Texte zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse?
Art. 50 Abs. 4 KI-VO In den Normen öffnen
Dieses Ergebnis wird nicht gespeichert. Mit einem Konto werden Prüfungen mit Datum und Katalogversion abgelegt.
Menü
Vorschau · Was das bedeutet
Dunkles Papier