AI Act verpflichtet zur KI-Kompetenz im Unternehmen

Seit Februar 2025: Unternehmen, die von dem AI-Act betroffen sind, müssen sicherstellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über grundlegende KI-Kenntnisse verfügen. Was versteht das Gesetz unter den grundlegenden KI-Kenntnissen und wie können Unternehmen dieser Verpflichtung nachkommen?

Was sind grundlegende KI-Kenntnisse?

Der AI-Act beschreibt KI-Kompetenz als

  • die Fähigkeit, fundiert mit KI-Systemen umzugehen (zum Beispiel Umgang mit Systemen, Erkennen von KI-Systemen, Risikoklassen)
  • das Erkennen von Chancen und Risiken (zum Beispiel Halluzination von KI, Ethik, Datenschutz)
  • Grundlage auf dieser Basis verantwortungsvolle Entscheidungen zu treffen
Ziel ist es, dass Mitarbeitende KI-Systeme sicher und effizient nutzen und Schäden vermeiden. Die Anforderungen an die KI-Kompetenz kann sich nach Risikoklasse der KI unterscheiden. Beispielhaft hat die KI-Nutzung im Bereich Marketing andere und gegebenenfalls nicht so folgenschwere Risiken wie eine KI-Nutzung in der Medizin. Mehr zur Einstufung nach Risikoklassen finden Sie in unserem Artikel zum AI-Act.

Welche Unternehmen müssen KI-Kompetenzen vermitteln und wer muss geschult werden?

Im ersten Schritt ist zu prüfen, ob man von dem AI-Act betroffen ist.
Sind Sie
  • Anbieter/Hersteller (Ihr Produkt oder Ihre Dienstleistung enthält KI-Komponenten),
  • Betreiber (Sie nutzen KI für unternehmerische Zwecke, zum Beispiel auch ChatGPT, perplexity oder ähnliches am Arbeitsplatz),
  • Händler oder
  • Importeur von KI Systemen,
so müssen Sie alle Akteure oder Mitarbeitende, die mit der Entwicklung, der Implementierung und Nutzung von KI in einem Unternehmen befasst sind, mit den entsprechenden KI-Kompetenzen ausstatten.
Es gibt keine Ausnahmeregelungen nach der Unternehmensgröße oder nach der Risikoklasse der KI. Es müssen auch Mitarbeiter sensibilisiert werden, die KI-Systeme mit nur minimalen Risiko einsetzen.

Wie gehe ich bei der Vermittlung von KI-Kompetenzen vor?

Der Branchenverband bitkom empfiehlt folgende Herangehensweise:
  1. Analyse des Kompetenzbedarfs
    Ermitteln Sie die spezifischen Anforderungen für Ihre Mitarbeitenden und Ihr Unternehmen:
    • Analyse und Bewertung der eingesetzten KI-Systeme und deren Risiken
    • Identifikation von Mitarbeitenden, die direkt mit den Systemen arbeiten
    • Bestandsaufnahme des vorhandenen Wissens und der erforderlichen individuellen Kompetenzen im Team
  2. Entwicklung und Identifizierung zielgerichteter Trainings- oder Schulungskonzepte
    Basierend auf den Ergebnissen der Bedarfsanalyse sollten Schulungsmaßnahmen entwickelt oder passende Schulungsangebote am Markt identifiziert werden. Dies können sein:
    • Grundlagen-Workshops: Einführung in KI, Funktionsweise, Chancen und Risiken
    • Fachspezifische Trainings: Vertiefende Inhalte für spezifische Anwendungsfälle, in sicherheitskritischen Bereichen oder branchenspezifischen Kontexten
    • Regelmäßige Auffrischungskurse
  3. Empfehlung: Einführung klarer Leitlinien
    • Neben Schulungen sollten Unternehmen interne Richtlinien oder Guidelines für den Umgang mit KI-Systemen erstellen. Diese definieren beispielsweise Standards, Vorgehensweisen und Verhaltensregeln, den Umgang mit Daten für die Nutzung von KI-Systemen.
  4. Empfehlung: Einrichtung einer zentralen Ansprechstelle
    • Die Ernennung eines KI-Beauftragten oder eines internen Kompetenzteams kann helfen, die Umsetzung der Schulungsmaßnahmen zu koordinieren und offene Fragen im Umgang mit KI zu klären. Diese Stelle sollte auch für die Überwachung der Einhaltung von KI-Standards zuständig sein.
Dabei sei erwähnt, dass es sich bei Artikel 2 der KI-Verordnung nicht um eine externe Schulungsverpflichtung handelt. Sie können die KI-Kompetenz auch auf andere Weise sicherstellen.
Auch die Bundesnetzagentur hat hier ein Hinweispapier veröffentlicht, wie Unternehmen mit dem Thema “KI-Kompetenz” umgehen können. Die EU-Kommission hat speziell zu Artikel 4 des AI Act auch ein Q&A zur Verfügung gestellt.

Wie kann ich die Vermittlung von KI-Kompetenzen nachweisen?

In der aktuellen Verordnung finden sich keine Anforderungen an eine Dokumentation oder Nachweispflicht der KI-Kompetenzvermittlung.
Unternehmen sollten dennoch jegliche Evaluationen, Schulungsmaßnahmen, Inhalte und Umsetzung dokumentierten, um mögliche Risiken und Haftung im Schadensfall zu minimieren.
Ein Verstoß gehen die Sicherstellung der KI-Kompetenz ist aktuell nicht bußgeldbehaftet. Eine nationale Aussichtsbehörde ist momentan noch nicht bekannt.

KI-Kompetenz als Chance für Ihr Unternehmen

Die Einführung von Artikel 4 der KI-VO macht die Sicherstellung der KI-Kompetenz zur Pflicht. Durch gezielte Schulungsmaßnahmen können Unternehmen nicht nur regulatorische Anforderungen erfüllen, sondern auch die Effizienz und Sicherheit im Umgang mit KI-Systemen steigern. Gut geschulte Mitarbeitende sind ein klarer Wettbewerbsvorteil in einer zunehmend digitalisierten Welt.