Neue Transparenzpflichten

KI-generierte Inhalte kennzeichnen

Künstlich erzeugte Bilder, Videos oder Texte können Unternehmen bei Kommunikation und Marketing unterstützen. Je nach Einsatz gelten dafür Transparenzpflichten. Unternehmen sollten deshalb prüfen, wann sie auf den Einsatz künstlicher Intelligenz hinweisen müssen.
Ein Beispiel: Ein Unternehmen erstellt mit einem KI-Tool ein Bild für seine Internetseite. Es zeigt eine scheinbar echte Mitarbeiterin, die ein neues Produkt präsentiert. Die Person existiert jedoch nicht. Muss das Unternehmen dieses Bild kennzeichnen? Nicht in jedem Fall. Entscheidend sind der Inhalt, der Einsatzzweck und die Frage, ob das Bild täuschen kann.

Was regelt die EU-KI-Verordnung?

Die EU-KI-Verordnung, auch EU AI Act genannt, verpflichtet Anbieter und Betreiber bestimmter Systeme mit künstlicher Intelligenz zu mehr Transparenz. Menschen sollen erkennen können, ob sie mit einem solchen System kommunizieren oder künstlich erzeugte beziehungsweise veränderte Inhalte sehen.
Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich seit dem 2. August 2026. Sie betreffen nicht jede Anwendung künstlicher Intelligenz. Maßgeblich sind bestimmte Systeme und Einsatzsituationen.
Bei Verstößen können Bußgelder von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres drohen.

Welche Kennzeichnungspflichten gibt es?

Hinweis bei direkter Kommunikation mit einem KI-System

Kommunizieren Menschen direkt mit einem System künstlicher Intelligenz, sollen sie grundsätzlich darüber informiert werden. Das betrifft zum Beispiel Chatbots, digitale Assistenten oder digitale Avatare.
Die Information sollte:
  • von Beginn der Kommunikation an sichtbar sein,
  • klar und verständlich formuliert sein,
  • deutlich erkennbar und leicht zugänglich sein.
Eine Ausnahme kann gelten, wenn für eine durchschnittlich informierte Person offensichtlich ist, dass sie mit einem System künstlicher Intelligenz kommuniziert. Unternehmen sollten diese Ausnahme zurückhaltend anwenden.

Technische Kennzeichnung durch Anbieter

Anbieter bestimmter Systeme, die künstlich erzeugte oder veränderte Bild-, Ton-, Video- oder Textinhalte erstellen, müssen diese Ausgaben grundsätzlich technisch kennzeichnen. Die Kennzeichnung muss maschinenlesbar sein. Das bedeutet: Andere technische Systeme können erkennen, dass der Inhalt künstlich erzeugt oder verändert wurde.
Die Kennzeichnung muss nicht zwingend als sichtbarer Hinweis im veröffentlichten Inhalt stehen. Möglich sind zum Beispiel:
  • technische Metadaten,
  • digitale Wasserzeichen,
  • Angaben zur Herkunft des Inhalts,
  • andere maschinenlesbare Verfahren.
Die technische Kennzeichnung soll wirksam, zwischen unterschiedlichen Systemen nutzbar, belastbar und zuverlässig sein.
Für Unternehmen bedeutet das: Prüfen Sie bei der Auswahl eines KI-Tools, ob der Anbieter geeignete Kennzeichnungs- und Nachweisverfahren unterstützt. Diese Pflicht trifft grundsätzlich den Anbieter des Systems. Ein Unternehmen, das ein bestehendes KI-Tool nutzt, wird dadurch nicht automatisch selbst zum Anbieter.

Sichtbare Kennzeichnung von Deepfakes

Veröffentlichen Betreiber künstlich erzeugte oder veränderte Bild-, Ton- oder Videoinhalte, müssen sie offenlegen, dass diese Inhalte künstlich erzeugt oder verändert wurden, wenn es sich um einen Deepfake handelt.
Ein Deepfake kann vorliegen, wenn ein Inhalt einer realen Person, einem realen Gegenstand, Ort, Ereignis oder einer Einrichtung täuschend ähnlich ist. Der Inhalt kann dadurch fälschlich als echt oder wahrheitsgemäß erscheinen.
Eine vollständig künstlich erzeugte Person, die nicht existiert, ist nicht automatisch ein Deepfake. Trotzdem darf die Darstellung nicht irreführend sein. Entsteht der Eindruck, eine reale Mitarbeiterin oder ein realer Mitarbeiter habe ein Produkt präsentiert, können zusätzlich Fragen des Wettbewerbs-, Verbraucher- oder Werberechts entstehen.
Mögliche Hinweise sind:
  • "Dieser Inhalt wurde künstlich erzeugt."
  • "Dieses Bild wurde mit Unterstützung künstlicher Intelligenz erstellt."
Der Hinweis sollte beim ersten Kontakt mit dem Inhalt gut wahrnehmbar sein. Ein Hinweis an einer schwer auffindbaren Stelle der Internetseite reicht nicht aus.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Inhalte können erleichterte Anforderungen gelten. Auch dann muss in geeigneter Weise offengelegt werden, dass künstlich erzeugte oder veränderte Inhalte vorhanden sind.

Künstlich erzeugte Texte zu Angelegenheiten von öffentlichem Interesse

Veröffentlichen Betreiber künstlich erzeugte oder veränderte Texte zu Angelegenheiten von öffentlichem Interesse, müssen sie grundsätzlich auf den Einsatz künstlicher Intelligenz hinweisen. Das kann zum Beispiel Texte zu folgenden Themen betreffen:
  • politische Entscheidungen,
  • Wahlen,
  • öffentliche Krisen,
  • gesellschaftlich bedeutsame Ereignisse,
  • andere Themen von erheblichem öffentlichem Interesse.
Die Kennzeichnungspflicht kann entfallen, wenn ein Mensch den Text vor der Veröffentlichung geprüft oder redaktionell bearbeitet hat. Außerdem muss eine natürliche oder juristische Person die redaktionelle Verantwortung übernehmen. Ein ungeprüftes Weiterleiten oder Veröffentlichen eines KI-Ergebnisses reicht nicht aus.

IHK-Orientierungshilfe

Finden Sie mit wenigen Klicks heraus, ob Ihr KI-Text gekennzeichnet werden muss:

Emotionserkennung und biometrische Kategorisierung

Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen betroffene Personen über den Einsatz informieren. Das kann zum Beispiel relevant sein, wenn ein System:
  • Gesichtsausdrücke auswertet, um emotionale Zustände zu erkennen,
  • Personen anhand körperlicher Merkmale in Gruppen einordnet,
  • solche Verfahren bei Zugangskontrollen, Kundenanalysen oder Überwachung einsetzt.
Nicht jede Verarbeitung biometrischer Daten ist automatisch eine biometrische Kategorisierung im Sinne dieser Vorschrift. Unternehmen müssen die konkrete Funktionsweise des Systems prüfen. Zusätzlich können datenschutzrechtliche Vorgaben gelten.

Was ist für Unternehmen besonders wichtig?

Die Pflichten richten sich an unterschiedliche Akteure.
Anbieter entwickeln ein System künstlicher Intelligenz oder bringen es unter ihrem eigenen Namen oder ihrer eigenen Marke auf den Markt.
Betreiber setzen ein System unter eigener Verantwortung ein. Das kann zum Beispiel im Kundenservice, Marketing, in der Kommunikation, Personalverwaltung oder bei der Analyse von Kunden- und Zugangsdaten geschehen.
Ein Unternehmen, das ein bestehendes KI-Tool nutzt, ist in der Regel nicht automatisch dessen Anbieter. Als Betreiber kann es dennoch eigene Informations- und Kennzeichnungspflichten haben. Das gilt besonders bei:
  • der Veröffentlichung von Deepfakes,
  • bestimmten Texten zu Angelegenheiten von öffentlichem Interesse,
  • dem Einsatz von Emotionserkennung,
  • biometrischer Kategorisierung.

Handlungsempfehlungen für die Praxis

KI-Anwendungen und Einsatzbereiche erfassen

Erstellen Sie eine Übersicht über alle eingesetzten Systeme künstlicher Intelligenz. Halten Sie fest, wofür die Systeme genutzt werden, welche Inhalte sie erzeugen und wer diese Inhalte veröffentlicht oder verantwortet.
  • Welche KI-Tools werden im Unternehmen verwendet?
  • Wer nutzt sie?
  • Werden Inhalte veröffentlicht oder nur intern verarbeitet?
  • Werden Chatbots, Bildgeneratoren, Sprachgeneratoren oder Video-Tools eingesetzt?
  • Werden personenbezogene oder biometrische Daten verarbeitet?
  • Werden Inhalte für die Öffentlichkeit oder nur für interne Zwecke erzeugt?

Anbieterinformationen prüfen

Prüfen Sie bei eingesetzten KI-Tools insbesondere:
  • Unterstützt der Anbieter maschinenlesbare Kennzeichnungen?
  • Verwendet das Tool Metadaten oder digitale Wasserzeichen?
  • Welche Angaben enthält die technische Dokumentation?
  • Gibt es Funktionen, die Herkunft oder Erzeugung von KI-Inhalten kenntlich machen?
  • Welche Ausnahmen und Einschränkungen nennt der Anbieter?
  • Gelten Übergangs- oder Anpassungsregeln für ältere Systemversionen?
Anbieter von Systemen künstlicher Intelligenz sollten technische Informationen und Nachweise bereitstellen.

Mitarbeitende sensibilisieren

Mitarbeitende sollten wissen:
  • wann ein KI-Inhalt nach Artikel 50 gekennzeichnet werden muss,
  • wann ein Inhalt ein Deepfake sein kann,
  • wie sie künstlich erzeugte Inhalte prüfen,
  • welche Inhalte sie nicht ungeprüft veröffentlichen dürfen,
  • wann eine redaktionelle Kontrolle erforderlich ist,
  • dass zusätzlich interne Vorgaben und Datenschutzbestimmungen gelten können.

Übergangsregelungen und aktuelle Änderungen

Die EU hat die KI-Verordnung durch die Verordnung (EU) 2026/1744, den "Digital Omnibus on AI", geändert. Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich weiterhin ab dem 2. August 2026.
Für bestimmte Systeme künstlicher Intelligenz, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, kann es eine begrenzte Übergangsfrist für technische Anpassungen geben. Unternehmen sollten deshalb prüfen, ob eine Übergangsregelung für das konkret eingesetzte System gilt.
Eine Übergangsregelung ersetzt nicht die Prüfung der Pflichten für Betreiber bei bereits veröffentlichten Inhalten.

Weiterführende Informationen

Für die fachliche Prüfung und weiterführende Informationen eignen sich insbesondere: