KI-Einsatz: Kennzeichnungspflichten

Seit dem 2. August 2026 ist das EU-KI-Gesetz (AI Act) in einem seiner wichtigsten Punkte voll wirksam: der Transparenz- und Kennzeichnungspflicht gemäß Artikel 50. Diese Regeln sollen sicherstellen, dass Menschen wissen, wann sie mit einer KI interagieren oder von ihr erzeugte Inhalte konsumieren, um Täuschung und Desinformation vorzubeugen

Wer muss was kennzeichnen?

Die Pflichten richten sich an zwei Hauptakteure, je nach Art des KI-Systems:
  • Anbieter (Providers): Sie entwickeln die KI und müssen technische Lösungen (wie maschinenlesbare Wasserzeichen oder Metadaten) direkt in das System integrieren.
  • Betreiber (Deployers): Sie setzen die KI professionell ein und sind dafür verantwortlich, die Nutzer aktiv und für den Menschen erkennbar über den KI-Einsatz zu informieren.
Wichtig: Die Pflicht gilt nur für die berufliche Nutzung. Rein private, nicht-kommerzielle Tätigkeiten (z. B. eine KI-generierte Weihnachtskarte für die Familie) sind von der Kennzeichnungspflicht ausgenommen.

Was muss gekennzeichnet werden?

Die Kennzeichnungspflicht betrifft zwei Ebenen:
  • Die KI-Interaktion selbst – Wenn Menschen direkt mit einer KI kommunizieren (z. B. Chatbots), muss diese Interaktion als solche erkennbar sein.
  • KI-generierte Inhalte – Bilder, Audioaufnahmen, Videos und Texte, die von KI-Systemen erzeugt wurden, müssen als künstlich erschaffen gekennzeichnet werden, entweder durch technische Markierungen (Anbieter) oder durch sichtbare Hinweise für Nutzer (Betreiber).

Wann muss gekennzeichnet werden und was ist zu beachten?

Es werden mehrere Anwendungsfälle unterschieden:
  • Interaktive KI (z. B. Chatbots): Anbieter müssen Systeme so gestalten, dass Nutzer sofort erkennen, dass sie mit einer Maschine kommunizieren. Eine Ausnahme besteht nur, wenn die KI-Interaktion völlig offensichtlich ist (z. B. bei Charakteren in Videospielen).
  • Kennzeichnung synthetischer Inhalte: Anbieter von Systemen, die Bilder, Audio oder Videos erzeugen, müssen diese mit maschinenlesbaren Markierungen versehen. Ziel ist es, dass auch andere Software erkennt, dass ein Inhalt künstlich erschaffen wurde.
  • Emotionserkennung und Biometrie: Betreiber müssen Personen informieren, wenn sie Systemen zur Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind.
  • Deepfakes und Texte von öffentlichem Interesse: Betreiber müssen Deepfakes (realistisch wirkende, aber manipulierte Medien) klar als solche kennzeichnen. Auch KI-Texte, die über Themen von öffentlichem Interesse (Politik, Gesundheit, Wirtschaft) informieren, brauchen ein Label – außer sie wurden einer substanziellen menschlichen Prüfung oder redaktionellen Kontrolle unterzogen.

Wie muss die Kennzeichnung aussehen?

Die Kennzeichnung darf nicht versteckt sein. Sie muss klar und deutlich erfolgen, barrierefrei zugänglich sein und spätestens zum Zeitpunkt der ersten Wahrnehmung oder Interaktion sichtbar sein. Ein Hinweis, der erst am Ende eines langen KI-Dialogs oder im Abspann eines Videos erscheint, ist nicht zulässig. Bei Bildern sollte die Kennzeichnung direkt am Inhalt erfolgen, bei Audio hörbar sein und bei Texten nahe der Überschrift stehen.

Was passiert bei Verstößen?

Die EU macht ernst: Wer die Transparenzregeln ignoriert, riskiert empfindliche Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes.
Unternehmen sollten deshalb ihre eingesetzten KI-Anwendungen zeitnah überprüfen. Besonders wichtig sind klare Kennzeichnungen, verständliche Informationen und barrierefreie Nutzerhinweise.
Einen Überblick zum AI-Act bekommen Sie hier: EU-AI-Act: Was Unternehmen wissen müssen
IHK-Newsletter
Bleiben Sie up to date zum Thema Recht und Steuern! Mit unserem kostenfreien Newsletter informieren wir Sie über aktuelle Themen und Veranstaltungen. Jetzt Rubrik ”Recht und Steuern” auswählen und Newsletter abonnieren!