KI-Kompetenzen im Unternehmen

Mit dem Inkrafttreten der Verordnung zur Künstlichen Intelligenz (AI Act = Artificial Intelligence Act) im Sommer 2024 wurde ein entscheidender Schritt für die Regulierung von KI-Systemen unternommen. Ab Februar 2025 müssen vom AI-Act betroffene Unternehmen sicherstellen, dass Mitarbeitende über grundlegende KI-Kenntnisse verfügen.

Was ist ab dem 2. Februar 2025 umzusetzen?

Die europäische KI-Verordnung ist am 1. August 2024 in Kraft getreten. Sie wird schrittweise in den nächsten Jahren wirksam, um den Unternehmen ausreichend Zeit zur Anpassung zu geben.
Der erste Meilenstein ist der 2. Februar 2025. Ab diesem Termin gilt:
  • Verbotene KI-Systeme, die ein unannehmbares Risiko darstellen, dürfen nicht mehr verwendet werden
  • Anbieter und Betreiber müssen bei Mitarbeitern, die mit dem Betrieb und der Nutzung von KI- Systemen befasst sind, ausreichende KI-Kompetenzen sicherstellen
In Bezug auf die Sicherstellung von KI-Kompetenzen gilt Artikel 4 der EU-Verordnung zum AI Act 2024/1689:
“Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.”

Was sind grundlegende KI-Kenntnisse?

Die erwartete KI-Kompetenz wird im AI Act mit dem sachkundigen Einsatz von KI-Systemen und einem Bewusstsein für Chancen, Risiken und möglichen Schäden beschrieben.
Seitens der EU wird aktuell an Leitlinien zur Umsetzung des AI Acts gearbeitet, welche eine Orientierung für Unternehmen geben sollen. Es ist davon auszugehen, dass der Umgang und das Erkennen von KI-Systemen, die Einstufung in Risikoklassen, die Chancen und Risiken, Regelungen zum Datenschutz sowie ethische Grundsätze zu den grundlegenden KI-Kenntnissen gehören.
Zusätzlich stehen KI-Richtlinien und Standards, die Ernennung eines KI-Beauftragten sowie KI-Arbeitsgruppen in der Diskussion.

Welche Unternehmen müssen KI-Kompetenzen vermitteln?

Unternehmen, die als
  • Anbieter (Produkt oder Dienstleistung enthält KI-Komponenten)
  • Betreiber (Nutzung von KI für unternehmerische Zwecke)
  • Händler oder Importeur von KI Systemen agieren
müssen Mitarbeitenden, die mit der Entwicklung, der Implementierung und der Nutzung von KI im Unternehmen befasst sind, mit den entsprechenden KI-Kompetenzen ausstatten.
Ab dem 2. Februar 2025 muss sichergestellt werden, dass alle mit KI arbeitende Personen über eine ausreichende Kompetenz verfügen.
Es gibt keine Ausnahmen nach Unternehmensgröße oder nach den Risikoklassen.
Die Bundesnetzagentur wird die nationale Marktüberwachungsbehörde bei der KI-Aufsicht. Derzeit erarbeitet man dort Informationsangebote rund um KI. Im Zusammenhang mit KI-Kompetenzen weist die Bundesnetzagentur darauf hin, dass diese rechtliche Verpflichtung im Eigeninteresse der Unternehmen liegt und zu den Sorgfaltspflichten im Unternehmen gehört. In Bezug auf Unterstützung und Auskunft verweist die Bundesnetzagentur derzeit auf öffentlich geförderte Einrichtungen und Kontaktstellen sowie Verbände.

Wie sollte bei der Vermittlung von KI-Kompetenzen vorgegangen werden?

Der Branchenverband bitkom hat einen Umsetzungsleitfaden zur KI-Verordnung veröffentlicht, der wichtige Hinweise zur Kompetenzvermittlung (ab Seite 157) enthält.
Analyse des Kompetenzbedarfs
Ermittelung der spezifischen Anforderungen für Mitarbeitende und das Unternehmen
  • Analyse und Bewertung der eingesetzten KI-Systeme und deren Risiken
  • Identifikation von Mitarbeitenden, die direkt mit den Systemen arbeiten
  • Bestandsaufnahme des vorhandenen Wissens und der erforderlichen individuellen Kompetenzen
Entwicklung und Identifizierung zielgerichteter Trainings- oder Schulungskonzepte
  • Entwicklung von Schulungsmaßnahmen basierend auf den Ergebnissen der Bedarfsanalyse oder Identifizierung von passende Schulungsangebote am Markt
    • Grundlagen-Workshops: Einführung in KI
    • Funktionsweise, Chancen und Risiken
    • fachspezifische Trainings: Vertiefende Inhalte für spezifische Anwendungsfälle im branchenspezifischen Kontexten
  • Regelmäßige Auffrischungskurse
Einführung klarer Leitlinien (Empfehlung)
  • Neben Schulungen sollten Unternehmen interne Richtlinien oder Guidelines für den Umgang mit KI-Systemen erstellen. Diese definieren beispielsweise Standards, Vorgehensweisen und Verhaltensregeln, den Umgang mit Daten für die Nutzung von KI-Systemen.
Einrichtung einer zentralen Ansprechstelle (Empfehlung)
  • Die Ernennung eines KI-Beauftragten oder eines internen Kompetenzteams kann helfen, die Umsetzung der Schulungsmaßnahmen zu koordinieren und offene Fragen im Umgang mit KI zu klären. Diese Stelle sollte auch für die Überwachung der Einhaltung von KI-Standards zuständig sein.
Die KI-Verordnung erfordert für den Erwerb von KI-Kompetenzen keine externe Schulungsverpflichtung oder Nachweise. Die Aneignung von KI-Wissen kann auf unterschiedliche Art und Weise sichergestellt werden.

KI-Kompetenzen weiter entwickeln? Informieren Sie sich zu den Angeboten der IHK Magdeburg oder IHK Bildungsakademie Magdeburg GmbH
Ab dem 2. August 2025 tritt der zweite Meilenstein europäische KI-Verordnung in Kraft. Dann finden die Bestimmungen der KI-Verordnung auf Systeme mit allgemeinen Verwendungszweck (zum Beispiel Chat GPT) Anwendung.