KI-Inhalte: Wann Transparenz Pflicht wird
Ab dem 2. August 2026 gelten neue Transparenzpflichten nach Artikel 50 der europäischen KI-Verordnung (AI Act). Sie betreffen bestimmte KI-generierte oder KI-manipulierte Inhalte und sollen dafür sorgen, dass Nutzerinnen und Nutzer erkennen können, wann sie mit künstlicher Intelligenz interagieren oder künstlich erzeugte Inhalte konsumieren.
Gerade Unternehmen der Kultur- und Kreativwirtschaft setzen KI heute selbstverständlich ein – etwa bei der Bildbearbeitung, der Gestaltung von Illustrationen, der Erstellung von Videos, der Textentwicklung oder bei digitalen Sprach- und Audioanwendungen. Entsprechend groß ist die Unsicherheit: Muss künftig jedes KI-generierte Bild gekennzeichnet werden? Reicht ein Hinweis im Impressum? Und was gilt für eine Bildretusche oder den Einsatz von Funktionen wie »Generative Fill«?
Die gute Nachricht vorweg: Eine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Inhalte gibt es nicht. Die Transparenzpflichten greifen nur in bestimmten, gesetzlich geregelten Fällen. Wann dies der Fall ist und welche Besonderheiten für einzelne Bereiche der Kreativwirtschaft gelten, erläutert dieser Beitrag.
Was regelt Artikel 50 des AI Acts?
Mit dem AI Act hat die Europäische Union erstmals einen einheitlichen Rechtsrahmen für Künstliche Intelligenz geschaffen. Artikel 50 enthält dabei besondere Transparenzpflichten für bestimmte KI-Anwendungen. Ziel ist es, Täuschungen zu vermeiden und gleichzeitig den verantwortungsvollen Einsatz von KI zu fördern.
Die Vorschriften verpflichten jedoch nicht dazu, sämtliche KI-generierten Inhalte sichtbar zu kennzeichnen. Vielmehr sollen Menschen in bestimmten Situationen erkennen können, wenn sie mit einem KI-System interagieren oder wenn Bild-, Audio- oder Videoinhalte künstlich erzeugt oder wesentlich verändert wurden. Auch für bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse gelten Transparenzanforderungen.
Die Europäische Kommission hat hierzu ergänzende Leitlinien veröffentlicht, die die Anwendung der Regelungen anhand zahlreicher Beispiele erläutern und Unternehmen bei der praktischen Umsetzung unterstützen.
Wer ist betroffen?
Die KI-Verordnung unterscheidet zwischen Anbietern (Provider) und Nutzern (Deployer) von KI-Systemen.
Anbieter entwickeln oder vertreiben KI-Systeme und müssen unter anderem sicherstellen, dass bestimmte KI-generierte Inhalte technisch erkennbar bleiben. Unternehmen der Kultur- und Kreativwirtschaft treten dagegen überwiegend als Nutzer auf. Für sie gelten Transparenzpflichten jedoch nicht aufgrund der verwendeten Software, sondern abhängig davon, welche Inhalte veröffentlicht werden und welche Wirkung diese entfalten können.
Für die Praxis bedeutet das: Wer KI als Werkzeug zur Ideenfindung, Bildbearbeitung oder Texterstellung einsetzt, ist nicht automatisch von Transparenzpflichten betroffen. Entscheidend ist stets der konkrete Anwendungsfall.
Wann müssen KI-Inhalte offengelegt werden?
Transparenzpflichten greifen insbesondere dann, wenn KI-generierte oder KI-manipulierte Inhalte geeignet sind, den Eindruck eines authentischen Geschehens oder einer realen Person zu vermitteln.
Besondere Bedeutung kommt dabei sogenannten Deepfakes zu – also Bild-, Audio- oder Videoinhalten, die mithilfe Künstlicher Intelligenz erzeugt oder wesentlich verändert wurden und täuschend echt wirken können. Die Offenlegungspflichten sollen verhindern, dass solche Inhalte zur Irreführung oder Desinformation eingesetzt werden.
Darüber hinaus müssen Nutzerinnen und Nutzer in bestimmten Fällen erkennen können, wenn sie mit einem KI-System kommunizieren, etwa über einen Chatbot oder einen virtuellen Assistenten. Auch für bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse sieht die Verordnung Transparenzanforderungen vor.
Nicht jede KI-gestützte Bearbeitung fällt jedoch unter diese Regelungen. Unterstützende Anwendungen, die den Aussagegehalt eines Inhalts nicht wesentlich verändern, sind anders zu bewerten als vollständig synthetisch erzeugte Inhalte oder Deepfakes.
Praxisbeispiele aus der Kreativwirtschaft
Die folgenden Beispiele zeigen typische Anwendungsfälle aus der Praxis. Sie ersetzen keine rechtliche Prüfung des Einzelfalls.
Bild und Gestaltung
Fotografie: Eine Fotografin entfernt mithilfe einer KI-Funktion eine störende Person aus dem Hintergrund oder ergänzt einen fehlenden Bildbereich. Eine solche unterstützende Bearbeitung führt nicht automatisch zu einer Transparenzpflicht. Anders kann es zu beurteilen sein, wenn ein Foto so wesentlich verändert wird, dass es eine Person oder ein Ereignis täuschend echt, aber nicht mehr wirklichkeitsgetreu darstellt.
Grafikdesign und Illustration: Für eine Publikation oder Kampagne wird eine Illustration vollständig mit einer Bild-KI erstellt. Allein die KI-Erzeugung löst nicht in jedem Fall eine sichtbare Kennzeichnungspflicht aus. Entscheidend sind insbesondere die Art des Inhalts, seine konkrete Verwendung und die Frage, ob er als authentische Darstellung realer Personen oder Ereignisse wahrgenommen werden kann.
Film, Audio und digitale Kommunikation
Film und Video: Ein KI-generierter Avatar oder eine synthetische Stimme übernimmt die Moderation eines Videos. Wird dabei eine reale Person nachgebildet oder entsteht der Eindruck einer echten Aufnahme oder Äußerung, können Transparenzpflichten bestehen. Bei erkennbar fiktionalen oder künstlerischen Produktionen gelten Besonderheiten für die Art der Offenlegung.
Chatbots und Kundenservice: Ein KI-gestützter Chatbot beantwortet Anfragen auf einer Internetseite. Ist für die Nutzerinnen und Nutzer nicht offensichtlich, dass sie mit einem KI-System kommunizieren, müssen sie darüber informiert werden. Ein klarer Hinweis zu Beginn der Interaktion kann hierfür ausreichen.
Medien, Öffentlichkeit und Werbung
Journalismus und redaktionelle Inhalte: Ein KI-System erstellt oder bearbeitet einen Text zu einer Angelegenheit von öffentlichem Interesse. Bei der Veröffentlichung kann eine Offenlegung erforderlich sein. Eine Ausnahme kann greifen, wenn der Inhalt einer menschlichen redaktionellen Prüfung oder Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Marketing und Werbung: KI wird häufig für Produktvisualisierungen, Werbekampagnen oder Social-Media-Inhalte eingesetzt. Transparenzpflichten können insbesondere dann relevant werden, wenn KI-generierte oder wesentlich veränderte Inhalte den Eindruck realer Personen, Produkte oder Ereignisse vermitteln.
Die folgenden Beispiele zeigen typische Anwendungsfälle aus der Praxis. Sie ersetzen keine rechtliche Prüfung des Einzelfalls.
Bild und Gestaltung
Fotografie: Eine Fotografin entfernt mithilfe einer KI-Funktion eine störende Person aus dem Hintergrund oder ergänzt einen fehlenden Bildbereich. Eine solche unterstützende Bearbeitung führt nicht automatisch zu einer Transparenzpflicht. Anders kann es zu beurteilen sein, wenn ein Foto so wesentlich verändert wird, dass es eine Person oder ein Ereignis täuschend echt, aber nicht mehr wirklichkeitsgetreu darstellt.
Grafikdesign und Illustration: Für eine Publikation oder Kampagne wird eine Illustration vollständig mit einer Bild-KI erstellt. Allein die KI-Erzeugung löst nicht in jedem Fall eine sichtbare Kennzeichnungspflicht aus. Entscheidend sind insbesondere die Art des Inhalts, seine konkrete Verwendung und die Frage, ob er als authentische Darstellung realer Personen oder Ereignisse wahrgenommen werden kann.
Film, Audio und digitale Kommunikation
Film und Video: Ein KI-generierter Avatar oder eine synthetische Stimme übernimmt die Moderation eines Videos. Wird dabei eine reale Person nachgebildet oder entsteht der Eindruck einer echten Aufnahme oder Äußerung, können Transparenzpflichten bestehen. Bei erkennbar fiktionalen oder künstlerischen Produktionen gelten Besonderheiten für die Art der Offenlegung.
Chatbots und Kundenservice: Ein KI-gestützter Chatbot beantwortet Anfragen auf einer Internetseite. Ist für die Nutzerinnen und Nutzer nicht offensichtlich, dass sie mit einem KI-System kommunizieren, müssen sie darüber informiert werden. Ein klarer Hinweis zu Beginn der Interaktion kann hierfür ausreichen.
Medien, Öffentlichkeit und Werbung
Journalismus und redaktionelle Inhalte: Ein KI-System erstellt oder bearbeitet einen Text zu einer Angelegenheit von öffentlichem Interesse. Bei der Veröffentlichung kann eine Offenlegung erforderlich sein. Eine Ausnahme kann greifen, wenn der Inhalt einer menschlichen redaktionellen Prüfung oder Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Marketing und Werbung: KI wird häufig für Produktvisualisierungen, Werbekampagnen oder Social-Media-Inhalte eingesetzt. Transparenzpflichten können insbesondere dann relevant werden, wenn KI-generierte oder wesentlich veränderte Inhalte den Eindruck realer Personen, Produkte oder Ereignisse vermitteln.
Was bedeuten die Transparenzpflichten für die Kreativwirtschaft?
Für Unternehmen der Kultur- und Kreativwirtschaft kommt es künftig vor allem darauf an, den Einsatz Künstlicher Intelligenz bewusst einzuordnen. Die Anforderungen unterscheiden sich je nach Tätigkeitsbereich und Art der veröffentlichten Inhalte.
Während KI in der Fotografie oder Bildbearbeitung häufig unterstützend eingesetzt wird, entstehen bei KI-generierten Avataren, synthetischen Stimmen oder realitätsnahen Bild- und Videoinhalten andere Fragestellungen. Auch in Redaktionen oder Verlagen können Transparenzpflichten relevant werden, wenn KI-generierte Inhalte veröffentlicht werden.
Gleichzeitig berücksichtigt der AI Act ausdrücklich die Kunst- und Meinungsfreiheit. Für offensichtlich künstlerische, satirische oder fiktionale Werke gelten besondere Regelungen. Ziel ist es, Transparenz zu schaffen, ohne kreative Ausdrucksformen oder den Werkcharakter unnötig einzuschränken.
Für Kreativunternehmen bedeutet dies vor allem, Veröffentlichungen künftig bewusster zu prüfen und interne Arbeitsabläufe entsprechend anzupassen. Ebenso wichtig ist es, die Anforderungen von Auftraggebern, Plattformen oder Bildagenturen im Blick zu behalten, die über die gesetzlichen Vorgaben hinaus eigene Regeln für den Umgang mit KI-generierten Inhalten festlegen können.
C2PA, Content Credentials und Metadaten – was steckt dahinter?
Im Zusammenhang mit den neuen Transparenzpflichten wird häufig der Standard C2PA (Coalition for Content Provenance and Authenticity) genannt. Dabei handelt es sich um einen offenen technischen Standard, mit dem Informationen zur Entstehung und Bearbeitung digitaler Inhalte dokumentiert werden können.
Softwarehersteller können diese Informationen in Form sogenannter Content Credentials in einer Datei hinterlegen. Dort lässt sich beispielsweise dokumentieren, mit welcher Software ein Bild erstellt oder bearbeitet wurde und ob dabei KI-Funktionen zum Einsatz gekommen sind. Die Informationen werden in den Metadaten der Datei gespeichert und können – sofern sie erhalten bleiben – von unterstützenden Anwendungen ausgelesen werden.
Ziel dieser technischen Nachweise ist es, die Herkunft digitaler Inhalte nachvollziehbarer zu machen und Manipulationen leichter erkennen zu können. Sie ergänzen damit die Transparenzziele des AI Acts, sind jedoch nicht mit den gesetzlichen Transparenzpflichten gleichzusetzen. Ob eine Offenlegung nach Artikel 50 erforderlich ist, richtet sich weiterhin nach dem jeweiligen Anwendungsfall und nicht allein danach, ob Content Credentials oder andere Metadaten vorhanden sind.
Content Credentials in der Praxis
Content Credentials schaffen Transparenz über die Entstehung und Bearbeitung digitaler Inhalte. Moderne Kreativsoftware kann beispielsweise dokumentieren, ob generative KI-Funktionen verwendet wurden und diese Informationen als Metadaten in einer Datei speichern.
Für Kreativunternehmen wirft dies jedoch neue Fragen auf:
KI-Unterstützung ist nicht gleich KI-generierter Inhalt. Bereits kleinere Bearbeitungen – etwa das Entfernen störender Objekte oder das Erweitern eines Bildhintergrunds mit einer generativen KI-Funktion – können Content Credentials erzeugen. Ein vollständig synthetisch erzeugtes Bild unterscheidet sich davon jedoch erheblich.
Metadaten sind keine Kennzeichnungspflicht. Dass eine Datei Content Credentials enthält, bedeutet nicht automatisch, dass nach Artikel 50 des AI Acts eine Offenlegung erforderlich ist. Die rechtliche Bewertung richtet sich weiterhin nach dem jeweiligen Anwendungsfall.
Branchenstandards entwickeln sich weiter. Bildagenturen, Plattformen und Auftraggeber gehen unterschiedlich mit KI-generierten Inhalten um. Manche unterscheiden zwischen KI-generierten und KI-unterstützt bearbeiteten Werken, andere stellen weitergehende Anforderungen an die Offenlegung oder schließen bestimmte Inhalte aus.
Für Unternehmen der Kultur- und Kreativwirtschaft lohnt es sich daher, neben den gesetzlichen Transparenzpflichten auch die Vorgaben von Kunden, Plattformen und Vertriebspartnern im Blick zu behalten.
Content Credentials schaffen Transparenz über die Entstehung und Bearbeitung digitaler Inhalte. Moderne Kreativsoftware kann beispielsweise dokumentieren, ob generative KI-Funktionen verwendet wurden und diese Informationen als Metadaten in einer Datei speichern.
Für Kreativunternehmen wirft dies jedoch neue Fragen auf:
KI-Unterstützung ist nicht gleich KI-generierter Inhalt. Bereits kleinere Bearbeitungen – etwa das Entfernen störender Objekte oder das Erweitern eines Bildhintergrunds mit einer generativen KI-Funktion – können Content Credentials erzeugen. Ein vollständig synthetisch erzeugtes Bild unterscheidet sich davon jedoch erheblich.
Metadaten sind keine Kennzeichnungspflicht. Dass eine Datei Content Credentials enthält, bedeutet nicht automatisch, dass nach Artikel 50 des AI Acts eine Offenlegung erforderlich ist. Die rechtliche Bewertung richtet sich weiterhin nach dem jeweiligen Anwendungsfall.
Branchenstandards entwickeln sich weiter. Bildagenturen, Plattformen und Auftraggeber gehen unterschiedlich mit KI-generierten Inhalten um. Manche unterscheiden zwischen KI-generierten und KI-unterstützt bearbeiteten Werken, andere stellen weitergehende Anforderungen an die Offenlegung oder schließen bestimmte Inhalte aus.
Für Unternehmen der Kultur- und Kreativwirtschaft lohnt es sich daher, neben den gesetzlichen Transparenzpflichten auch die Vorgaben von Kunden, Plattformen und Vertriebspartnern im Blick zu behalten.
Ausführliche Informationen zu den Transparenzpflichten nach Artikel 50 des AI Acts bietet die Europäische Kommission in ihren Leitlinien sowie im begleitenden Fragen-und-Antworten-Katalog. Ergänzende Erläuterungen stellt der AI Act Service Desk bereit. Die Deutsche Industrie- und Handelskammer (DIHK) setzt sich zudem für eine praxistaugliche und anwendungsfreundliche Ausgestaltung der Transparenzpflichten ein.