Konsultation bis 23. Juni: EU-Leitlinien zu Hochrisiko-KI

von Matthias Carl |

Mitte Mai 2026 hat die EU-Kommission einen Entwurf der Leitlinien zur Klassifizierung von "Hochrisiko"-KI-Systemen vorgelegt und hierzu eine öffentliche Konsultation eingeleitet. Ziel ist es, die Anwendung der Vorgaben des AI-Acts zu konkretisieren und insbesondere die Abgrenzung von Hochrisiko-KI durch Beispiele praxistauglicher zu gestalten. Der Entwurf gliedert sich in drei Teile. Unternehmen können sich bis zum 23. Juni 2026 in einer öffentlichen Konsultation einbringen.
  1. Leitlinie Generelle Prinzipien der Klassifizierung
    Der erste Teil befasst sich mit den allgemeinen Prinzipien der Klassifizierung, wie der Definition von KI-Systemen und dem Konzept der Zweckbestimmung. So soll unter anderem die Zweckbestimmung bei KI-Systemen mit Allgemeinen Verwendungszweck auch Hochrisikoanwendungsfälle umfassen, die laut Gebrauchsanleitung, vertraglichen Vereinbarungen, AGB oder Werbemaßnahmen solche Anwendungsfälle nicht ausschließen (Rn. 12).
  2. Leitlinie KI-Systeme in physischen Produkten
    Der zweite Teil beschäftigt sich mit der Klassifizierung von KI-Systemen innerhalb von physischen Produkten (Art. 6 Abs. 1 KI-VO in Verbindung mit Anhang I). Hierin wird anhand von Beispielen definiert, unter welchen Voraussetzungen ein KI‑System als Sicherheitsbauteil eines Produkts oder selbst als ein solches Produkt zu qualifizieren ist und wie die Voraussetzung einer Konformitätsbewertung durch Dritte zu verstehen sein soll.
  3. Leitlinie Eigenständige KI-Systeme
    Der Hauptfokus der Leitlinien liegt jedoch auf den sogenannten „eigenständigen“ KI-Systemen in zentralen Bereichen wie Beschäftigung, Bildung, kritische Infrastruktur oder Biometrie (Art. 6 Abs. 2 u. 3 in Verbindung mit Anhang III). Gleichzeitig werden auch die Rückausnahmen von dieser Grundsatzregel für eng gefasste Verfahrensaufgaben, die Verbesserung von Ergebnissen menschlicher Tätigkeiten, die Erkennung von Entscheidungsmustern oder vorbereitenden Aufgaben näher erläutert. Im Rahmen dieser Einstufungen soll bei komplexen KI-Systemen, wie „agentic AI-systems“, der Gesamtverwendungszweck maßgeblich sein, sodass auch in den Fällen, in dem ein KI-System für sich genommen nicht als Hochrisiko-KI-System zu qualifizieren wäre, eine Einstufung als Hochrisiko-KI-System erforderlich werden kann (Rn. 75).
Folgende Fragen könnten bei der Beteiligung wichtig sein:
  1. Wo bestehen aktuell Unklarheiten oder praktische Abgrenzungsprobleme bei der Einstufung, wann ein KI‑System als „Hochrisiko“ gilt (z. B. Definition, Zweckbestimmung, Kriterien)?
  2. Welche konkreten KI‑Anwendungen aus der Praxis würden Sie als Hochrisiko einordnen – und welche nicht?
  3. Gibt es Beispiele, die in den aktuellen Leitlinien falsch eingeordnet oder noch nicht erfasst sind?
  4. Gibt es Beispiele, bei denen unklar ist, ob ein KI‑System selbst ein Produkt ist oder Bestandteil eines Produkts (z. B. Software in Maschinen)? Wo entstehen hier praktische Probleme?
  5. Welche Anforderungen (z. B. Konformitätsbewertung, Dokumentation) sind in der Praxis schwer umsetzbar oder unverhältnismäßig?
  6. Gibt es branchentypische Besonderheiten oder Anwendungen, die bei der Einstufung als Hochrisiko-KI berücksichtigt werden sollten?
  7. Besteht Bedarf, die Liste von Hochrisiko‑Anwendungen oder verbotenen Praktiken zu erweitern, anzupassen oder zu reduzieren? Falls ja: welche konkret und warum?
Die EU-Kommission deuten mit ihrem Leitlinienentwurf darauf hin, dass nicht nur Verstöße gegen die rechtlichen Vorgaben, sondern auch eine Umgehung derselben mit einem Bußgeld geahndet werden können (Rn. 117).
Die Anforderungen des AI-Acts für Hochrisiko-KI-Systeme werden schrittweise ab Ende 2027 bzw. 2028 anwendbar. Vor diesem Hintergrund ist es besonders wichtig, dass die Auslegung der Regeln praxisnah und umsetzbar ausgestaltet wird. Daher sollten sich Anwender und Anbieter aktiv in den Konsultationsprozess einbringen und ihre Erfahrungen aus der Praxis einfließen lassen. Die Konsultation läuft bis zum 23. Juni 2026.
(Quelle DIHK)