Referentenentwurf: Umsetzung AI Act in Deutschland

Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) hat den Referentenentwurf (nicht barrierefrei, PDF-Datei · 717 KB) für ein Gesetz zur Umsetzung der Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung) vorgelegt. Der Gesetzesentwurf soll Anfang September in die Verbändeanhörung gebracht werden.

Marktüberwachungsbehörde:

Wie von der DIHK gefordert, soll die Bundesnetzagentur (BNetzA) die Marktüberwachung übernehmen. Hierzu gehören konkret die Aufsicht über verbotene Praktiken, hochriskante KI-Systeme und Transparenzpflichten. Dies betrifft KI in den Bereichen Biometrie, kritische Infrastruktur, KI am Arbeitsplatz und in Bildungseinrichtungen, Gewährung grundlegender öffentlicher Leistungen, Strafverfolgung, Migration, Asyl, Grenzkontrolle und Justiz. Für bestimmte Hochrisiko-Anwendungen wird bei der BNetzA eine neue KI-Marktüberwachungskammer eingerichtet.

Sektorspezifische Anwendungen:

Behörden, die bereits in vollharmonisierten Bereichen der Produktregulierung als Marktüberwachungsbehörden und notifizierende Behörden zuständig sind, sollen auch beim AI Act die für Marktüberwachung und Notifizierung zuständigen Behörden werden. Hierzu könnten z.B. Finanz- oder Medizinprodukte gehören.

Anwendungsorientierte Umsetzung:

Bei der Bundesnetzagentur wird ein zentrales Koordinierungs- und Kompetenzzentrum eingerichtet, das für eine einheitliche Umsetzung der KI-Verordnung sorgen soll. Das Zentrum wird Behörden mit KI-Expertise unterstützen, die Marktüberwachungsbehörden zusammenbringen und koordinieren sowie eine wichtige Rolle bei Verhaltenskodizes und dem Austausch mit Gesellschaft, Wirtschaft und Wissenschaft einnehmen.

Innovationsförderung:

Die BNetzA soll “innovationsfördernde Maßnahmen” gemäß der Verordnung (EU) 2024/1689 durchführen. Dazu zählen
  • Informationen und Anleitungen zur Anwendung der KI-Verordnung,
  • Sensibilisierungs- und Schulungsmaßnahmen,
  • die Förderung des Wissensaufbau und -austausch zu KI,
  • Vernetzung und Kooperation der relevanten Akteure sowie
  • die Mitarbeit im Bereich der technischen Normung von künstlicher Intelligenz in nationalen und internationalen Normungsgremien

Reallabore:

Die Bundesnetzagentur soll mindestens ein KI-Reallabor errichten und betreiben. Im Referentenentwurf fehlen aber noch Details zur konkreten Ausgestaltung, auch mit Verweis auf ausstehende Durchführungsrechtsakte der EU. Jedenfalls soll die Bundesnetzagentur KMU und Startups vorrangigen Zugang zum KI-Reallabor erhalten.

Tests von Hochrisiko-KI-Systemen:

Die Marktüberwachungsbehörden überwachen im Rahmen ihrer jeweiligen Zuständigkeit die Durchführung von Tests unter Realbedingungen. Bevor Anbieter oder zukünftige Anbieter Hochrisiko-KI-Systeme selbst oder in Zusammenarbeit mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen, müssen sie den Plan für den Test bei der zuständigen Marktüberwachungsbehörde vorlegen. Die Bundesnetzagentur muss den Test genehmigen.
(Quelle DIHK)