Künstliche Intelligenz

KI: Unternehmenspflichten, Risiken und notwendige Maßnahmen

KI‑Kompetenz: Unternehmenspflichten, Risiken und notwendige Maßnahmen

Unternehmen, die Künstliche Intelligenz einsetzen, müssen gewährleisten, dass alle Personen, die KI‑Systeme in ihrem Auftrag nutzen oder betreiben, über ein ausreichendes Maß an KI‑Kompetenz verfügen. Diese Vorgabe ergibt sich unmittelbar aus Art. 4 KI‑VO und gilt unabhängig von der Unternehmensgröße oder der Risikoklasse des eingesetzten KI‑Systems. Die Fähigkeit, KI zu verstehen, kritisch zu hinterfragen und verantwortungsvoll einzusetzen, wird damit zu einem zentralen Bestandteil der betrieblichen Compliance. KI‑Kompetenz ist nicht nur eine regulatorische Anforderung, sondern auch eine Voraussetzung dafür, fundierte Entscheidungen zu treffen, Risiken zu minimieren und das Potenzial von KI für Innovation und Effizienzsteigerung auszuschöpfen.

Was unter KI‑Kompetenz zu verstehen ist

Die KI‑Verordnung definiert KI‑Kompetenz in Art. 3 Nr. 56 KI‑VO bewusst offen. Sie umfasst das Verständnis der Funktionsweise von KI‑Systemen, die Fähigkeit, diese Systeme sachgerecht und sicher zu bedienen, sowie das Bewusstsein für die damit verbundenen Chancen und Risiken. Beschäftigte müssen in der Lage sein, die für sie relevanten Pflichten der KI‑VO einzuhalten und Risiken zu erkennen, die sich aus dem Einsatz von KI ergeben können. Die Bundesnetzagentur betont, dass KI‑Kompetenz auch die Fähigkeit einschließt, KI‑Ergebnisse kritisch zu reflektieren und verantwortungsvolle Entscheidungen zu treffen.
Der Umfang der erforderlichen Kenntnisse richtet sich nach dem Nutzungskontext, der Risikoklasse des eingesetzten KI‑Systems und dem Vorwissen der Beschäftigten.

Wie Unternehmen die Anforderungen praktisch umsetzen können

Ein erster notwendiger Schritt besteht darin, einen vollständigen Überblick über alle im Unternehmen eingesetzten KI‑Systeme zu erstellen. Diese Dokumentation sollte nachvollziehbar festhalten, welche Systeme genutzt werden, zu welchem Zweck sie eingesetzt werden und welche Beschäftigtengruppen damit arbeiten. Auf dieser Grundlage lässt sich der konkrete Schulungsbedarf bestimmen. Da die KI‑VO keine standardisierten Trainingsmaßnahmen vorgibt, können Unternehmen selbst entscheiden, wie sie KI‑Kompetenz sicherstellen. Die Bundesnetzagentur weist ausdrücklich darauf hin, dass die Verordnung bewusst offen formuliert ist und Organisationen nach bestem Wissen und Gewissen geeignete Maßnahmen wählen können.
Soweit Schulungen für die Mitarbeitenden genutzt werden, gelten diese als Pflichtschulungen gemäß § 111 GewO. Dementsprechend gelten sie als Arbeitszeit und müssen entsprechend vergütet werden, auch wenn sie außerhalb der regulären Arbeitszeit stattfinden. Unternehmen sollten daher frühzeitig klären, wie Schulungen organisatorisch eingebettet werden können.
Ergänzend empfiehlt sich die Einführung einer internen Richtlinie zur Nutzung von KI‑Systemen. Eine solche Richtlinie sollte definieren, welche Systeme im Unternehmen als KI‑System gelten, welche Systeme zugelassen sind und wie mit sensiblen Daten wie personenbezogenen Informationen oder Geschäftsgeheimnissen umzugehen ist. Sie sollte außerdem typische Risiken wie fehlerhafte Ausgaben, Verzerrungen oder mangelnde Nachvollziehbarkeit adressieren und klare Vorgaben enthalten, wie Beschäftigte bei Unsicherheiten oder Verdachtsmomenten vorgehen sollen. Eine verbindliche interne Regelung schafft Transparenz und unterstützt die praktische Umsetzung der KI‑Kompetenz.

Rechtliche Folgen bei Verstößen

Die KI‑Verordnung sieht in Art. 99 KI‑VO ein gestuftes Sanktionssystem für Verstöße vor. Je nach Verstoß können Bußgelder in beträchtlicher Höhe ausgesprochen werden. Neben Bußgeldern können Aufsichtsbehörden, insbesondere die Bundesnetzagentur, weitere Maßnahmen anordnen, etwa die Einschränkung oder Untersagung des Einsatzes bestimmter KI‑Systeme. Unternehmen riskieren zudem Reputationsschäden und mögliche zivilrechtliche Haftung, wenn mangelnde Schulung oder fehlende interne Kontrollen zu Fehlentscheidungen oder Schäden führen.

Unterstützung durch den KI‑Service Desk der Bundesnetzagentur

Die Bundesnetzagentur stellt mit dem KI‑Service Desk eine zentrale Informationsplattform bereit, die Unternehmen, Behörden und Organisationen beim Umgang mit der KI‑Verordnung unterstützt. Die Seite bietet verständlich aufbereitete Informationen zur KI‑VO und hilft bei der Einordnung, ob ein System als KI‑System im Sinne der Verordnung gilt. Ein zentrales Werkzeug ist der KI‑Compliance‑Kompass, der anhand eines strukturierten Fragenkatalogs eine erste Einschätzung zur Risikoklasse eines Systems ermöglicht. Die Ergebnisse sind nicht rechtsverbindlich, bieten aber eine wertvolle Orientierung für die weitere Compliance‑Planung. Die Bundesnetzagentur betont, dass KI‑Kompetenz eine wesentliche Voraussetzung dafür ist, das Potenzial von KI bestmöglich zu nutzen und Innovationen zu ermöglichen.
Hier gelangen Sie direkt auf die Webseite der Bundesnetzagentur.
Lesen Sie für allgemeine Informationen auch unseren Beitrag „KI-Verordnung: Das weltweit erste Regelwerk für KI“

Stand: 03/2026