Verpflichtungen im AI-Act: KI-Kompetenzen im Unternehmen sichern

Der AI-Act der EU verpflichtet Unternehmen dazu, Mitarbeitende, die mit KI-Systemen arbeiten, grundlegende KI-Kenntnisse in Schulungen zu vermitteln. Dies regelt Artikel 4 der KI-Verordnung der EU, die seit Anfang Februar gilt.

Was fordert Artikel 4?

Artikel 4 des EU-AI-Acts legt fest, dass Unternehmen, die Künstliche Intelligenz (KI) entwickeln und einsetzen, sicherstellen müssen, dass ihre Mitarbeiter und alle anderen Personen, die diese Systeme bedienen oder nutzen, über ausreichende KI-Kompetenzen verfügen. Dies umfasst eine fundierte Schulung und Ausbildung, die das technische Wissen, die Erfahrung und die spezifischen Anforderungen des Einsatzkontexts berücksichtigt.

Die Umsetzung der KI-Verordnung soll durch nationale Aufsichtsbehörden erfolgen, die bis August 2025 etabliert werden müssen – im Falle Deutschlands wird dies voraussichtlich die Bundesnetzagentur (BNetzA) sein. Bis dahin liegt die Sicherstellung der KI-Kompetenz bisher in der Eigenverantwortung der Unternehmen.

Definition der KI-Kompetenz

Der AI-Act beschreibt KI-Kompetenz als…
  • Fähigkeiten, Kenntnisse und Verständnis für den sachkundigen Einsatz von KI-Systemen sowie Bewusstsein für Chancen, Risiken und mögliche Schäden
  • Es umfasst ebenfalls technische, rechtliche und ethische Kenntnisse, ebenso wie Risikobewussten und praktische Anwendungsfähigkeit (Artikel 3, Nr. 56, EU-AI-Act)
Ziel ist die Sicherstellung einer angemessenen Einhaltung und ordnungsgemäßen Durchsetzung der Verordnung sowie die Ermöglichung fundierter Entscheidungen über KI-Systeme zu treffen.

Welche Unternehmen müssen KI-Kompetenzen vermitteln?

Alle Akteure oder Mitarbeitende, die mit der Entwicklung, der Implementierung und Nutzung von KI in einem Unternehmen befasst sind, müssen mit entsprechenden KI-Kompetenzen ausgestattet werden.
Somit sind sowohl Anbieter und Betreiber, als auch Händler oder Importeure von KI-Systemen betroffen.
Die Verpflichtung gilt unabhängig von Ihrer Unternehmensgröße. Die Anforderungen können sich jedoch je nach Einsatzbereich und Risikoklasse des KI-Systems unterscheiden.

Wie sollten Unternehmen bei der Vermittlung von KI-Kompetenzen jetzt vorgehen?

Der Branchenverband bitkom empfiehlt folgende Herangehensweise:

Analyse des Kompetenzbedarfs

Ermitteln Sie die spezifischen Anforderungen für Ihre Mitarbeitenden und Ihr Unternehmen:
  • Analyse und Bewertung der eingesetzten KI-Systeme und deren Risiken
  • Die Identifikation von Mitarbeitenden, die direkt mit den Systemen arbeiten
  • Eine Bestandsaufnahme des vorhandenen Wissens und der erforderlichen individuellen Kompetenzen im Team

Entwicklung und Identifizierung zielgerichteter Trainings- oder Schulungskonzepte

Basierend auf den Ergebnissen der Bedarfsanalyse sollten Schulungsmaßnahmen entwickelt oder passende Schulungsangebote am Markt identifiziert werden. Dies können z. B. sein:
  • Grundlagen-Workshops: Einführung in KI, Funktionsweise, Chancen und Risiken
  • Fachspezifische Trainings: Vertiefende Inhalte für spezifische Anwendungsfälle, z. B. in sicherheitskritischen Bereichen oder branchenspezifischen Kontexten
  • Regelmäßige Auffrischungskurse

Empfehlung: Einführung klarer Leitlinien

Neben Schulungen sollten Unternehmen interne Richtlinien oder Guidelines für den Umgang mit KI-Systemen erstellen. Diese definieren beispielsweise Standards, Vorgehensweisen und Verhaltensregeln, den Umgang mit Daten für die Nutzung von KI-Systemen.
  • Bereitstellung einer KI-Richtlinie für das Unternehmen
    • Welche KI-Systeme dürfen verwendet werden?
    • Wie und für welche Anwendungsfälle dürfen die KI-Systeme genutzt werden?
    • Hinweispflichten/Datenschutz - Welche Daten dürfen in den KI-Systemen eingegeben und verarbeitet werden?

Empfehlung: Einrichtung einer zentralen Ansprechstelle

Die Ernennung eines KI-Beauftragten oder eines internen Kompetenzteams können helfen, die Umsetzung der Schulungsmaßnahmen zu koordinieren und offene Fragen im Umgang mit KI zu klären. Diese Stelle sollte auch für die Überwachung der Einhaltung von KI-Standards zuständig sein.

Dabei sei erwähnt, dass es sich bei Artikel 4 der KI-Verordnung nicht um eine externe Schulungsverpflichtung handelt. Sie können die KI-Kompetenz auch auf andere Weise sicherstellen.

Wie kann ich die Vermittlung von KI-Kompetenzen nachweisen?

In der aktuellen Verordnung finden sich keine Anforderungen an eine Dokumentation oder Nachweispflicht der KI-Kompetenzvermittlung. Unternehmen sollten dennoch jegliche Evaluationen, Schulungsmaßnahmen, Inhalte und Umsetzung dokumentierten, um mögliche Risiken und Haftung im Schadensfall zu minimieren.
Ein Verstoß gegen die Sicherstellung der KI-Kompetenz ist aktuell nicht bußgeldbehaftet.
Auf EU-Ebene wird derzeit noch an Leitlinien für die Unternehmen gearbeitet, an denen sich die Betriebe orientieren können. Zudem muss der AI Act noch in nationales Recht umgesetzt werden. Die Ergebnisse dieser Arbeiten sowie die Umsetzung sollen dann durch die nationale Aufsicht in verständlicher Art und Weise zur Verfügung gestellt werden.

Digi-Breakfast: “AI-Act: Wie müssen Unternehmen ihre Mitarbeitenden KI-fit machen?”

Am Freitag, den 14. März, fand unser erstes Digi-Breakfast zum Thema „AI-Act: Wie müssen Unternehmen ihre Mitarbeitenden KI-fit machen?“ statt.
Die Aufzeichnung der Veranstaltung steht Ihnen nun zur Verfügung – klicken Sie einfach auf das folgende Bild, um direkt dorthin zu gelangen.
Zusätzlich können Sie hier die Präsentation der Veranstaltung (nicht barrierefrei, PDF-Datei · 1968 KB) abrufen.
Bild mit Link zur Aufzeichnung des Digi-Breakfast
Während unseres Digi-Breakfasts wurden folgende Fragen beleuchtet:
  • Welche Anforderungen an die KI-Kompetenz gibt es nach der KI-Verordnung?
  • Welche Unternehmen müssen KI-Kompetenzen vermitteln?
  • Wie sollten Unternehmen bei der Vermittlung von KI-Kompetenzen jetzt vorgehen?
  • Wie kann ich die Vermittlung von KI-Kompetenzen nachweisen?
  • KI-Schulungsangebote der IHK
Wir danken unseren Experten Jonathan Stoklas (Institut für Rechtsinformatik an der Leibniz Universität und Co-Geschäftsführer der Datenschutzberatungsfirma lexlCT) sowie Florian Höltje (Lotse bei Digital Mindset GmbH).
Moderiert wurde die Veranstaltung von Laura Höper (Digital Mindset GmbH) und von Christian Grascha (IHK Hannover).

Weitere Hilfestellungen und Informationen

Was Unternehmen beim Umgang mit generativen KI-Anwendungen beachten sollten

Umsetzungsleitfaden zur KI-Verordnung | Bitkom e. V.

EU-Gesetz zur künstlichen Intelligenz | Aktuelle Entwicklungen und Analysen zum EU-KI-Gesetz

EU AI Act Compliance Checker | EU Artificial Intelligence Act

KI-Schulungsangebote

Online-Zertifikatslehrgang: KI-Manager/-in (IHK) - IHK Hannover

Weitere Schulungsangebote im Bereich KI finden Sie hier

Stand: 25.03.2025