KI am Arbeitsplatz

Der AI Act (Artificial Intelligence Act) ist eine Verordnung für den Einsatz künstlicher Intelligenz (KI) in der Europäischen Union (EU). Es ist das erste Gesetz für die Anwendung von KI. Der Rat der 27 EU-Mitgliedsstaaten verabschiedete den AI-Act am 21. Mai 2024, seit dem 1. August 2024 tritt er schrittweise in Kraft. Achtung: Seit dem 2. Februar müssen Unternehmen tätig werden. Sie sind verpflichtet, die KI-Kompetenz derjenigen sicherzustellen, die KI an ihrem Arbeitsplatz nutzen.
Wer ist betroffen?
Alle Unternehmen, die KI einsetzen und/oder selbst KI-Systeme entwickeln. Das gilt unabhängig von der Unternehmensgröße.
Was sieht die Verordnung vor?
Der AI Act regelt die Nutzung von KI-Systemen. Ziel ist, KI sicher und vertrauenswürdig zu machen. KI-Anwendungen dürfen nicht missbraucht werden, außerdem muss bei ihrem Einsatz der Schutz der Grundrechte gewährleistet sein.
Die Verordnung unterscheidet in vier verschiedene Risikoklassen. Je höher das Risiko eingeschätzt wird, desto strenger werden die Vorgaben sein. Zu den Hochrisikosystem zählen unter anderem Anwendungen im Personalmanagement, in der Aus- und Weiterbildung, in der kritischen Infrastruktur oder in der Industrie als Sicherheitskomponenten. Die nationale Umsetzung des europäischen Gesetzes steht allerdings noch aus.
Was müssen Unternehmen schon jetzt tun?
Laut Artikel 4 des AI Acts müssen Unternehmen bereits jetzt Mitarbeitende schulen, die mit KI-Systemen arbeiten. Sie müssen sicherstellen, dass diese Personen über ausreichende Kenntnisse und Kompetenzen im Bereich KI verfügen. Unter Kompetenzen versteht die EU die Fähigkeit, die Kenntnisse und das Verständnis, KI-Systeme sachkundig und fundiert einzusetzen. Wer KI am Arbeitsplatz nutzt, soll sich der Chancen und Risiken sowie möglicher Schäden, die KI verursachen kann, bewusst werden. Auf dieser Basis sollen die Mitarbeitenden verantwortungsvolle Entscheidungen bei der Anwendung von KI treffen können.
Was sollten Unternehmen schon jetzt tun?
Unternehmen sollten sich frühzeitig mit folgenden Fragen auseinandersetzen: Welche KI-Systeme sind in meinem Betrieb im Einsatz? Welche Mitarbeitenden wenden die Systeme direkt an? Welche KI-Kompetenzen haben diese Mitarbeitenden? Zu welcher Risikoklasse gehören die Systeme? Welche Vorschriften werden für ihren Einsatz gelten? Hilfreich kann dabei der sogenannte Compliance Checker sein.
Welche Empfehlungen für die Umsetzung gibt es?
Der Branchenverband Bitkom bietet KI-Schulungen von Grundlagen-Workshops bis zu fachspezifischen Trainings an und gibt Unternehmen außerdem folgende Tipps: Unternehmen sollten interne Richtlinien für den Umgang mit KI-Systemen geben. Diese Leitlinien sollten Standards, Vorgehensweisen und Verhaltensregeln für die Nutzung von KI im Betrieb definieren. Welche KI-Systeme dürfen für welchen Zweck verwendet werden? Welche Daten dürfen mit welchem System verarbeitet werden? Helfen kann dabei die Ernennung einer für den Einsatz von KI beauftragten Person. Wer die Mitarbeitenden dafür gut schult, erfüllt nicht nur die EU-Verordnung, sondern erhöht die eigene Effizienz und Sicherheit im Umgang mit KI.
Um welche Anwendungen geht es?
Betroffen sind zum Beispiel KI-basierte Anwendungen im Personalmanagement: Wer etwa bei der Analyse von Lebensläufen im Bewerbungsprozess eine Software verwendet, muss ab August 2026 die Vorgänge protokollieren, um die Rückverfolgbarkeit der Personalauswahl zu ermöglichen.
Wichtig ist der EU auch die Transparenz. So soll es für Systeme wie Chatbots Transparenzpflichten geben. Außerdem müssen zum Beispiel künstlich erzeugte oder bearbeitete Bilder und Videos eindeutig als solche gekennzeichnet werden. Gar keine zusätzlichen rechtlichen Verpflichtungen entstehen dagegen für Systeme wie Spamfilter.
Welche Verbote wird es geben?
KI-Systeme, die den ethischen Grundsätzen in der Europäischen Union (EU) widersprechen, sind im AI Act grundsätzlich verboten. Das sind zum Beispiel sogenannte Social-Scoring-Systeme, die für das soziale Verhalten von Personen Punkte vergeben. Ebenfalls verboten werden KI-Systeme, die das Verhalten von Personen gezielt beeinflussen und sie manipulieren sollen.
Wie wird die Umsetzung kontrolliert?
Bisher gar nicht. Die Sicherstellung der KI-Kompetenzen bei ihren Mitarbeitenden liegt in der Eigenverantwortung der Unternehmen. Bis August 2025 sollen jedoch nationale Aufsichtsbehörden feststehen. In Deutschland wird das aller Voraussicht nach die Bundesnetzagentur sein.
Auf EU-Ebene wird derzeit noch an Leitlinien für die Unternehmen gearbeitet, an denen sich die Betriebe orientieren können. Carolin George