EU AI Act: Antworten auf die wichtigsten Fragen zur KI-Kompetenz ab 2025

Seit dem 2. Februar 2025 gelten in der EU neue Regeln für den Umgang mit Künstlicher Intelligenz (KI). Doch was bedeutet das für Unternehmen? Und wie können Sie sich rechtzeitig vorbereiten?

Was ist der EU AI Act?

Der EU AI Act ist die erste umfassende Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz. Er legt klare Regeln für die Entwicklung, Nutzung und den Betrieb von KI-Systemen fest, um Sicherheit, Transparenz und Innovation zu fördern. Ziel ist es, Risiken zu minimieren und gleichzeitig das Vertrauen in KI zu stärken.

Anwendungsbereich

Der Anwendungsbereich der Verordnung umfast alle Anbieter, Betreiber und Importeure von KI-Systemen unabhängig davon ob sie in der EU oder einem Drittland ansässig sind. Solange das KI-System in der Union auf dem Markt ist, die Nutzer oder Betreiber in der EU sitzen gelten die Regelungen der EU AI Act. Private Anwender sind von den Regelungen ausgenommen.

Risikoeinstufung

Grundgerüst der EU AI Act ist die Risikoeinstufung von KI-System und die damit verbunden Bestimmungen:

Verbotene KI-Praktiken:

KI-Systeme mit inakzeptablem Risiko sind Systeme, die als Bedrohung für Menschen gelten und verboten werden. Sie umfassen:
  • Kognitive Verhaltensmanipulation von Menschen oder bestimmten gefährdeten Gruppen: z. B. sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert
  • Soziales Scoring: Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status oder persönlichen Merkmalen
  • Biometrische Identifizierung und Kategorisierung von Personen
  • Biometrische Identifikationssysteme in Echtzeit und aus der Ferne, z. B. Gesichtserkennung

Hochrisiko-KI:

KI-Systeme, die sich negativ auf die Sicherheit oder die Grundrechte auswirken, werden als hohes Risiko eingestuft und in zwei Kategorien unterteilt:
  1. KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, Luftfahrt, Autos, medizinische Geräte und Aufzüge.
  2. KI-Systeme, die in bestimmte Bereiche fallen, die in einer EU-Datenbank registriert werden müssen:
  • Verwaltung und Betrieb von kritischen Infrastrukturen
  • Bildung und Berufsausbildung
  • Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit
  • Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen
  • Rechtsdurchsetzung
  • Verwaltung von Migration, Asyl und Grenzkontrollen
  • Unterstützung bei der Auslegung und Anwendung von Gesetzen.
Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus geprüft. Die Bürger werden das Recht haben, bei den zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen.
Die Anforderungen an Hochrisiko KI-Systeme finden sich in Artikel 8 der Verordnung wieder. Sie umfassen unter anderem Risikomanagementsysteme, Technische Dokumentationen und Transparenzpflichten.

Transparenzanforderungen

Generative KI, wie ChatGPT, wird nicht als risikoreich eingestuft, muss aber die Transparenzanforderungen und das EU-Urheberrecht erfüllen:
  • Offenlegung, dass der Inhalt durch KI generiert wurde
  • Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt
  • Veröffentlichung von Zusammenfassungen der für das Training verwendeten urheberrechtlich geschützten Daten
Allzweck-KI-Modelle mit großer Wirkung, die ein systemisches Risiko darstellen könnten, wie das fortgeschrittene KI-Modell GPT-4, müssten gründlichen Bewertungen unterzogen werden, und alle schwerwiegenden Vorfälle müssten der Europäischen Kommission gemeldet werden.
Inhalte, die mit Hilfe von KI erzeugt oder verändert wurden - Bilder, Audio- oder Videodateien (z. B. Deepfakes) - müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wenn sie auf solche Inhalte stoßen.

Sicherstellung der Kompetenz

Artikel 4 der KI-Verordnung stellt die Anforderungen an die Fachkenntnisse in den Mittelpunkt. Unternehmen, die KI-Systeme nutzen oder entwickeln, müssen sicherstellen, dass Mitarbeiter über die notwendigen Kompetenzen verfügen. Dies ist entscheidend, um Risiken zu minimieren und eine effektive Nutzung von KI zu gewährleisten. In welchem Rahmen oder Umfang Mitarbeiter geschult werden müssen, gibt die Verordnung nicht explizit vor.
Aus Artikel 4 lassen sich drei zentrale Bereiche interpretieren, in denen Fachkenntnisse aufgebaut werden müssen:
  1. Technisches Know-how: Verständnis für die Funktionsweise von KI-Algorithmen, Maschinellem Lernen und generativen Modellen.
  2. Regulatorisches Wissen: Kenntnisse über die gesetzlichen Vorgaben und ethischen Prinzipien im Umgang mit KI.
  3. Anwendungsspezifische Kenntnisse: Fähigkeit, KI sicher und effektiv in spezifischen Branchen einzusetzen.
Sie möchten Ihre Mitarbeiter im Bereich KI weiterbilden? Erkundigen Sie sich bei uns über passende Weiterbildungsmöglichkeiten.
Weiterbildung KI Manger/-in

Welche Vorteile bietet der EU AI Act?

Neben der Einhaltung der Vorschriften bringt der AI Act auch Chancen:
  • Einheitliche Standards: Der EU-weite Rahmen schafft gleiche Bedingungen und stärkt den Binnenmarkt.
  • Wettbewerbsvorteil: Unternehmen, die in KI-Kompetenz investieren, können effizienter und innovativer arbeiten.
  • Vertrauen aufbauen: Durch den verantwortungsvollen Umgang mit KI stärken Sie das Vertrauen von Kunden und Partnern.