Transparenzpflichten und KI-Kennzeichnung

Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der europäischen KI-Verordnung (VO EU 2024/1689). Eine allgemeine Pflicht, jedes KI-unterstützte Dokument, jede mit KI formulierte E-Mail oder jedes mit KI generierte Bild zu kennzeichnen, besteht jedoch nicht. Für Unternehmen dürften in der Praxis vor allem Chatbots auf der Homepage, KI-generierte Bilder und Medien oder Beiträge zu öffentlichen Themen bei der Frage der Kennzeichnungspflicht relevant sein. Welche Pflichten greifen, hängt von der Rolle des Unternehmens ab.

Warum die Rollenverteilung wichtig ist

Die Abgrenzung entscheidet darüber, wer für welche Form der Transparenz verantwortlich ist. Anbieter müssen das KI-System technisch so gestalten, dass erforderliche Informationen und maschinenlesbare Markierungen bereitgestellt werden. Betreiber müssen beim konkreten Einsatz insbesondere Deepfakes, bestimmte KI-Texte sowie Emotionserkennung oder biometrische Kategorisierung offenlegen. Ein Unternehmen, das eine übliche KI-Anwendung einkauft und beruflich nutzt, wird dabei regelmäßig Betreiber einer KI-Anwendung und fällt damit in den Anwendungsbereich der KI-Verordnung. Der Hersteller oder vertreibende Technologieanbieter bleibt Anbieter einer KI-Anwendung. Vertreibt ein Unternehmen ein System dagegen unter eigenem Namen oder verändert es wesentlich kann es selbst zum Anbieter werden.
Nutzen Beschäftigte ein KI-System im betrieblichen Auftrag, ist das Unternehmen Betreiber, d. h. im Sinne der Verordnung die natürliche oder juristische Person, die ein KI-System in eigener Verantwortung verwendet. Entscheidend für die Einordnung ist also, dass das Unternehmen Zweck und Rahmen des Einsatzes bestimmt, die KI generell bereitstellt oder freigibt, Vorgaben für seine Nutzung macht. Beschäftigte handeln dann für das Unternehmen und werden nicht selbst zu Betreibern. Entsprechendes wird wohl für Dienstleister gelten, die im Auftrag und unter der Verantwortung des Unternehmens tätig werden.

Menschen müssen erkennen, wenn sie mit KI kommunizieren

Anbieter von Chatbots, Sprachassistenten und vergleichbaren Systemen müssen technisch sicherstellen, dass Nutzer zu Beginn der ersten Interaktion eindeutig über die KI-Kommunikation informiert werden. Unternehmen, die solche Systeme einsetzen, sollten prüfen, ob der Hinweis in der konkreten Anwendung tatsächlich erscheint. Ein Vermerk im Impressum, in den AGB oder in der Datenschutzerklärung genügt regelmäßig nicht. Nur wenn die KI-Interaktion offensichtlich ist, kann die Information entfallen. Eine mögliche Formulierung hierzu könnte lauten: „Sie kommunizieren mit einem KI-gestützten Assistenten.“

Technische Markierung generierter Inhalte

Anbieter generativer KI-Systeme müssen zudem KI-erstellte Texte, Bilder, Audio- und Videoinhalte grundsätzlich maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar machen. Dafür kommen etwa Metadaten, Wasserzeichen oder kryptografische Herkunftsnachweise in Betracht. Die Markierung soll auch bei einer Weiterverwendung technisch auslesbar bleiben. Ausgenommen sein können reine Standardbearbeitungen, die Eingaben oder deren Bedeutung nicht wesentlich verändern, beispielsweise Rechtschreibkorrekturen oder einfache technische Bild- und Tonoptimierungen.
Für Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, gilt hinsichtlich dieser technischen Anbieterpflicht eine Übergangsfrist bis zum 2. Dezember 2026. Die übrigen Transparenzpflichten werden dadurch allerdings nicht verschoben.

Deepfakes müssen vom Betreiber sichtbar offengelegt werden

Verwendet oder veröffentlicht ein Unternehmen als Betreiber der KI-Anwendung realistisch wirkende, KI-generierte oder manipulierte Bilder, Videos oder Tonaufnahmen, muss deren künstlicher Ursprung klar offengelegt werden. Für die Frage, ob ein KI-generierter Inhalt realistisch wirkt, ist nach der Verordnung ein durchschnittlicher Betrachter heranzuziehen, der den Inhalt bei sogenannter flüchtiger Wahrnehmung für echt oder wahr halten könnte. Insoweit geht der europäische Gesetzgeber davon aus, dass sich Nutzer für eine Bewertung nicht zuvor tiefer mit dem Inhalt beschäftigen müssen.
Die Offenlegung muss spätestens beim ersten Kontakt sichtbar oder hörbar und unmittelbar mit dem Inhalt verbunden sein. Ein versteckter Hinweis in Begleitinformationen, Impressum, eine Kennzeichnung erst im Abspann oder eine ausschließlich maschinenlesbare Markierung genügt nicht. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken darf der Hinweis zurückhaltender gestaltet werden. Er entfällt jedoch nicht vollständig. Die Kennzeichnung ersetzt außerdem keine erforderliche Einwilligung oder Lizenz, insbesondere bei der Nachbildung realer Personen.

Texte zu öffentlichen Themen und sensible Systeme

KI-generierte oder wesentlich manipulierte Texte müssen gekennzeichnet werden, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Der Hinweis kann entfallen, wenn eine fachkundige Person den Inhalt substanziell prüft und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Eine reine Rechtschreibkontrolle oder formale Freigabe genügt nicht.
Beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung müssen Betroffene ebenfalls informiert werden. Emotionserkennung am Arbeitsplatz ist grundsätzlich verboten, soweit sie nicht medizinischen oder sicherheitsbezogenen Zwecken dient.

Was für Unternehmen entscheidend ist

Technische Markierung und sichtbare Offenlegung erfüllen unterschiedliche Zwecke. Für die technische Kennzeichnung ist regelmäßig der Anbieter verantwortlich, für die Beschreibung und Kennzeichnung von Deepfakes und bestimmten KI-Texten das Unternehmen, das das System einsetzt und die Inhalte als Betreiber verwendet. Wie die Pflichten aus der KI-Verordnung umgesetzt werden können wird im Beitrag KI im Unternehmen umsetzen näher beleuchtet
Wichtig ist, dass der Begriff des Betreibers in der Praxis von viele Unternehmen erfüllt sein wird und damit die bestehenden Kennzeichnungspflichten aus Artikel 50 der KI-Verordnung im Blick behalten werden sollten. Verstöße gegen die Transparenzpflichten können mit Geldbußen geahndet werden, die bis zu 15 Millionen Euro bzw. bis zu drei Prozent des weltweiten unternehmerischen Jahresumsatzes betragen können.

Stand: 5. August 2026