Künstliche Intelligenz in Unternehmen – was Arbeitgeber beachten müssen

Als eine echte Revolution bezeichnete der Fachanwalt für Arbeitsrecht bei der BLUEDEX PartG mbB die mit Künstlicher Intelligenz verbundenen Möglichkeiten. Vieles sei derzeit in Bewegung, nächste KI-Generationen würden immer besser. Die Technologie biete Chancen und Risiken: „Ich bin eher auf der Seite, dass es eine riesige Chance ist“, sagte Loeke.

KI werde bereits im Gesundheits- und Finanzwesen, in der Bildung sowie in Industrie und Fertigung genutzt, unter anderem in der Bewerberauswahl, aber auch im Arbeitsverhältnis, etwa bei Kunden-Anschreiben. „Sie wird eingesetzt, manchmal ohne Kenntnis des Arbeitgebers“, mahnte Loeke. Einer Umfrage zufolge nutzten bereits 50 Prozent der Arbeitnehmer KI am Arbeitsplatz.

Für Arbeitgeber sei die EU-KI-Verordnung bedeutend, die seit dem 2. Februar Schritt für Schritt in Kraft tritt. Zu ihren wesentlichen Regelungen gehöre die Transparenzpflicht: die Pflicht, offenzulegen, was KI-generiert ist. Der AI Act verfolge einen risikobasierten Ansatz: Auch Arbeitgeber müssten verschiedene Risikostufen beachten. So seien beispielsweise Social-Scoring-Systeme, mit denen ein soziales Verhalten von Menschen bewertet wird, laut AI Act ein „unannehmbares Risiko“.

KI-Systeme mit einem minimalen Risiko seien hingegen zum Beispiel Spamfilter. Für Arbeitgeber sei es dabei wichtig, ob sie als Betreiber oder als Anbieter auftreten. Wenn sie eine eigene KI entwickeln lassen – Loeke zufolge wird es in Zukunft für die meisten Unternehmen eine maßgeschneiderte KI geben –, gelte man als Anbieter im Sinne der Verordnung. „Je mehr man selber macht, umso eher ist man Anbieter mit entsprechend höheren Pflichten.“ Bei Verstößen gegen Betreiber- oder Anbieterpflichten drohten hohe Geldstrafen.

Das Weisungsrecht ermögliche den Arbeitgebern vorzugeben, welche Arbeitsmittel benutzt werden dürfen – ChatGPT sei ein Arbeitsmittel. Loeke riet den Arbeitgebern, sich Gedanken darüber zu machen, was für ihr Unternehmen riskant sein könnte. Arbeitsrechtlich relevant sei der Einsatz von KI bereits beispielsweise bei der Formulierung von Stellenanzeigen, die nicht dem Allgemeinen Gleichbehandlungsgesetz entspricht. „Wenn Sie dabei KI einsetzen, können Klassikerfehler auftreten“ – etwa, dass beim Zusatz „m/w“ das „d“ für divers fehlt, oder für ein junges dynamisches Team neue Mitarbeiter gesucht werden. Man müsse sich die Ergebnisse der KI unbedingt „als Mensch“ noch einmal anschauen.

Bleibe im Unternehmen der Umgang mit KI komplett unreguliert, könnten vor allem Probleme bei Daten- und Geheimnisschutz auftreten, warnte der Anwalt. Personenbezogene Daten dürften nicht in ChatGPT eingegeben werden – „Das sind alle Daten, die auf eine Person zurückzuführen sind.“ Das Gefährliche daran sei ferner: „Das System lernt immer wieder dazu – auch mit von Arbeitnehmern gegebenenfalls eingegebenen Geschäftsgeheimnissen.“ Teuer könnten des Weiteren auch unzureichend programmierte Chatbots sein, zum Beispiel im Fall „Air Canada“, wo ein Kunde nach einem Preisnachlass fragte, den ein Chatbot zusagte – die Airline musste zahlen.

Er riet den Arbeitgebern zu überlegen, welche Arbeitnehmer welche KI nutzen: „Abgesehen von einer allgemeinen Schulungspflicht nach der Verordnung könnte man Mitarbeiter in sensiblen Bereichen speziell schulen.“ Auch in Behörden werde KI bereits eingesetzt. KIRA heißt das KI-System der Deutschen Rentenversicherung. Das System scanne Daten vor und könne Auffälligkeiten entdecken. Die Chance, dass fehlerhafte Angaben entdeckt werden, wachse somit.