KI-Transparenzpflicht

Seit August 2026 ist in der Europäischen Union eine Transparenzpflicht für den Einsatz von KI in Kraft. In bestimmten Fällen müssen KI-generierte Inhalte oder der Einsatz von KI-Systemen nun gekennzeichnet werden. Für viele Unternehmen besteht deshalb jetzt Handlungsbedarf, damit sie die Vorgaben der EU einhalten.
Innerhalb der Europäischen Union regelt der EU AI Act den Einsatz von künstlicher Intelligenz. Ziel dieses weltweit ersten umfassenden Gesetzes seiner Art ist es, KI im Einklang mit den Grundrechten der Bürger der EU einzusetzen.
Die Kennzeichnungspflicht von KI nach Artikel 50 ist im August 2026 die nächste der schrittweise inkrafttretenden Vorgaben des EU AI Acts. Sie gibt zwei Bereiche vor, in denen Unternehmen gegenüber Bürger*innen den Einsatz von KI kenntlich machen müssen: KI-generierte Inhalte und die Interaktion von Menschen mit künstlicher Intelligenz.

Die Vorgaben für KI-generierte Inhalte

Die Regelung sieht zunächst keine generelle Kennzeichnungspflicht für KI-generierte Inhalte, beispielsweise auf Websites, vor. Sie fordert jedoch eine deutlich sichtbare Offenlegung des KI-Einsatzes bei Deep Fakes und KI-generiertem oder -manipuliertem Text.
  • Deep Fakes
    Unter die Kennzeichnungspflicht für Deep Fakes fallen KI-generierte Inhalte, die echte Personen, Orte, Objekte etc. darstellen oder manipulieren. Anders gesagt: sie geben eine Realität vor, die in der dargestellten Form nicht existiert.
  • KI-Text
    Mithilfe von künstlicher Intelligenz erstellter Text ist nicht grundsätzlich kennzeichnungspflichtig. Die Pflicht tritt nur dann ein, wenn ein Text Angelegenheiten von öffentlichem Interesse betrifft und zudem nicht zusätzlich menschlich überprüft wurde. In diesen Bereich fallen neben weiteren insbesondere die nachrichtliche Berichterstattung und politische Informationen. Das schließt auch KI-generierte Zusammenfassungen derartiger Inhalte mit ein.
Die Europäische Kommission bietet für die Kennzeichnung der betreffenden Inhalte spezielle EU-Icons an, die beispielsweise ein Deep-Fake-Bild als solches erkennbar machen. Die Verwendung ist lizenzfrei möglich, aber grundsätzlich an einen Verhaltenskodex für die Kennzeichnung von KI-generierten Inhalten geknüpft. Diese Icons sind in Artikel 50 jedoch nicht vorgeschrieben, sodass Unternehmen auch andere Formen der Kennzeichnung verwenden können.

So muss die Interaktion von Menschen mit KI-Systemen transparent gemacht werden

An vielen Stellen interagieren Menschen in ihrem Alltag mit unterschiedlichen KI-Systemen, beispielsweise mit Chatbots auf Websites oder künstlich generierten Zusammenfassungen in Suchmaschinen. Nicht immer ist für Nutzende erkennbar, dass es sich bei ihrem Gegenüber nicht um einen echten Menschen handelt. Artikel 50 des EU AI Acts schreibt eine deutliche Erkennbarkeit einer solchen Interaktion mit KI vor. Gleiches trifft beim Betrieb von Systemen zu, die Emotionen von Menschen erkennen können oder biometrische Daten wie beispielsweise Gesichtszüge erfassen.

Handlungsbedarf für Unternehmen

Damit Unternehmen KI in den genannten Anwendungsfällen weiterhin rechtskonform verwenden, müssen sie seit August 2026 entsprechende Kennzeichnungen vornehmen. Weiterführende Informationen zu den rechtlichen Vorgaben und ihrer Umsetzung erhalten Sie unter anderem auf den nachfolgenden Seiten: