Betreiberpflichten

Wer ein Hochrisiko-KI-System in eigener Verantwortung einsetzt, ist Betreiber und trägt die Pflichten aus Art. 26 KI-VO, ergänzt um KI-Kompetenz (Art. 4), Grundrechte-Folgenabschätzung (Art. 27) und das Recht auf Erläuterung (Art. 86). Diese Prüfliste zeigt, welche Pflichten erfüllt sind und wo Lücken bestehen. Für Hochrisiko-Systeme nach Anhang III gelten die Pflichten ab dem 2. Dezember 2027, für Systeme nach Anhang I ab dem 2. August 2028.

Anwendbarkeit

1. Ist das System ein Hochrisiko-KI-System nach Art. 6 (Anhang I oder Anhang III)?

Im Zweifel zuerst die Risikoklassifizierung durchführen.

Ja Nein Unklar

Art. 6 KI-VO In den Normen öffnen

2. Setzen Sie das System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit ein (Betreiber)?

Ja Nein Unklar

Art. 3 Nr. 4 KI-VO In den Normen öffnen

Betrieb

3. Haben Sie technische und organisatorische Maßnahmen getroffen, damit das System entsprechend der Betriebsanleitung des Anbieters verwendet wird?

Ja Nein Unklar

Art. 26 Abs. 1 KI-VO In den Normen öffnen

4. Ist die menschliche Aufsicht natürlichen Personen übertragen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen und die nötige Unterstützung erhalten?

Ja Nein Unklar

Art. 26 Abs. 2 KI-VO In den Normen öffnen

5. Verfügt das mit dem Betrieb und der Nutzung befasste Personal über ausreichende KI-Kompetenz?

Ja Nein Unklar

Art. 4 KI-VO In den Normen öffnen

6. Soweit Sie die Eingabedaten kontrollieren: Sind sie im Hinblick auf die Zweckbestimmung des Systems relevant und ausreichend repräsentativ?

Ja Nein Unklar Entfällt

Art. 26 Abs. 4 KI-VO In den Normen öffnen

7. Überwachen Sie den Betrieb anhand der Betriebsanleitung und informieren Sie den Anbieter, wo nötig?

Ja Nein Unklar

Art. 26 Abs. 5 UAbs. 1 KI-VO In den Normen öffnen

8. Ist geregelt, dass die Verwendung ausgesetzt und Anbieter oder Händler sowie die Marktüberwachungsbehörde unverzüglich informiert werden, wenn das System ein Risiko im Sinne von Art. 79 Abs. 1 darstellt?

Ja Nein Unklar

Art. 26 Abs. 5 UAbs. 1 KI-VO In den Normen öffnen

9. Gibt es ein Verfahren, schwerwiegende Vorfälle unverzüglich zuerst dem Anbieter und dann Einführer oder Händler und den Behörden zu melden?

Ja Nein Unklar

Art. 26 Abs. 5, Art. 73 KI-VO In den Normen öffnen

10. Werden die automatisch erzeugten Protokolle, soweit sie Ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahrt?

Längere Fristen aus anderem Recht gehen vor; kürzere Löschfristen aus dem Datenschutzrecht sind abzuwägen.

Ja Nein Unklar Entfällt

Art. 26 Abs. 6 KI-VO In den Normen öffnen

Betroffene Personen

11. Bei Einsatz am Arbeitsplatz: Wurden Arbeitnehmervertretungen und betroffene Beschäftigte vor der Inbetriebnahme informiert?

In Deutschland ist bei technischen Einrichtungen zur Leistungs- oder Verhaltenskontrolle zusätzlich die Mitbestimmung des Betriebsrats zu beachten.

Ja Nein Unklar Entfällt

Art. 26 Abs. 7 KI-VO In den Normen öffnen

12. Trifft oder unterstützt das System Entscheidungen über natürliche Personen (Anhang III) – und werden diese Personen über den Einsatz informiert?

Ja Nein Unklar Entfällt

Art. 26 Abs. 11 KI-VO In den Normen öffnen

13. Können Sie Betroffenen auf Antrag eine klare und aussagekräftige Erläuterung der Rolle des Systems im Entscheidungsverfahren und der wichtigsten Elemente der Entscheidung geben?

Ja Nein Unklar Entfällt

Art. 86 KI-VO In den Normen öffnen

Dokumentation und Behörden

14. Verarbeitet das System personenbezogene Daten – und haben Sie die Informationen des Anbieters nach Art. 13 für eine Datenschutz-Folgenabschätzung genutzt?

Ja Nein Unklar Entfällt

Art. 26 Abs. 9 KI-VO In den Normen öffnen

15. Falls eine Grundrechte-Folgenabschätzung erforderlich ist (öffentliche Stellen, private Erbringer öffentlicher Dienste, Kreditwürdigkeit, Lebens- und Krankenversicherung): Wurde sie vor der ersten Verwendung durchgeführt und der Behörde mitgeteilt?

Ja Nein Unklar Entfällt

Art. 27 KI-VO In den Normen öffnen

16. Als Behörde, Einrichtung oder Organ der Union oder als in deren Auftrag handelnde Stelle: Ist die Verwendung in der EU-Datenbank registriert?

Ja Nein Unklar Entfällt

Art. 26 Abs. 8, Art. 49 KI-VO In den Normen öffnen

17. Ist geregelt, wer mit den zuständigen Behörden zusammenarbeitet und Auskünfte erteilt?

Ja Nein Unklar

Art. 26 Abs. 12 KI-VO In den Normen öffnen

Dieses Ergebnis wird nicht gespeichert. Mit einem Konto werden Prüfungen mit Datum und Katalogversion abgelegt.