Digitalisisierung

KI-Verordnung: Neue Transparenzpflichten ab August 2026

Die europäische KI-Verordnung (AI Act) verpflichtet Unternehmen ab August 2026 in bestimmten Fällen dazu, offenzulegen, wenn Inhalte durch eine KI erstellt oder verändert wurden oder wenn Nutzer mit einer KI interagieren. Dies betrifft auch Unternehmen, die KI mit geringem Risiko einsetzen, wie zum Beispiel das Basismodell ChatGPT oder Bildgenerierungsprogramme. Für die meisten kleinen und mittelständischen Unternehmen reicht eine einfache, verständliche Kennzeichnung aus. Von der EU gibt es hier Leitlinien, die wir hier in praxisnahe Fälle übersetzen.

KI-generierte Texte kennzeichnen

Welche Texte müssen gekennzeichnet werden?
Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen und die von KI generiert oder wesentlich bearbeitet wurden, müssen gekennzeichnet werden, d.h. nicht jeder Marketing- oder Websitetext fällt darunter.
Beispiele Kennzeichnungspflicht:
  • Nachrichten
  • politische Informationen
  • gesellschaftlich relevante Themen
  • Manipulative, meinungslenkende Texte
Beispiele keine Kennzeichnungspflicht:
  • Produktbeschreibungen
  • Texte, die durch Rechtschreibkorrektur der KI verbessert wurden
  • Übersetzungen durch KI
  • Wenn eine wesentliche Erstellung durch einen Menschen erfolgte
Mögliche Textbausteine der Kennzeichnung:
  • „Dieser Text wurde mit Unterstützung einer KI erstellt.”
  • „Text KI-unterstützt erstellt.“
  • „Dieser Inhalt wurde mithilfe künstlicher Intelligenz erstellt.“
Wie Sie kennzeichnen:
  • Hinweis am Ende des Artikels
  • Hinweis im Impressum oder auf einer allgemeinen Transparenzseite auf den jeweiligen Artikel
  • keine besondere Formatierung erforderlich
Die Leitlinien der EU betonen ausdrücklich, dass die Transparenzpflichten verhältnismäßig angewendet werden sollen und nicht jede geringfügige KI-Unterstützung eine Offenlegung erfordert.

Kennzeichnung von Deepfakes (wesentlich bearbeitete Bilder, Audio und Videos)

Wann müssen Bilder, Audio oder Videos gekennzeichnet werden?
Wenn KI Inhalte erzeugt oder manipuliert, sodass sie echt oder irreführend wirken könnten (Deepfakes), müssen diese eindeutig gekennzeichnet werden.
Beispiele Kennzeichungspflicht:
  • KI-generierte Politikerrede
  • künstlich erzeugtes Interview
  • manipuliertes Unternehmensvideo
  • Synthetische Produktpräsentationen (Produktabbildungen, die nicht auf echten Fotos, Videos oder physischen Prototypen basieren)
  • KI-generiertes Foto eines Firmengebäudes, das echt wirkt
  • KI-generiertes Bild, das suggeriert, ein Ereignis habe tatsächlich stattgefunden
Beispiele keine Kennzeichungspflicht:
  • Rein grafische Illustrationen (Karrikaturen, Comic, Icons, abstrakte Grafiken)
  • Werbeillustratioinen
  • Bild nicht wesentlich verändert (Schärfen, Farbkorrektur, Belichtung)
  • Keine Irreführung
  • Wenn Sie unwesentliche Elemente entfernen (z. B. Menschen im Hintergrund entfernen)
Mögliche Textbausteine der Kennzeichnung:
  • „KI-generiertes Bild“
  • „Bild mit KI erstellt“
  • „Dieses Bild wurde mithilfe künstlicher Intelligenz erstellt.“
  • “Bild mit Unterstützung einer KI bearbeitet.”
  • „Diese Audioaufnahme wurde mithilfe künstlicher Intelligenz erstellt.“
  • „Dieses Video wurde ganz oder teilweise mit künstlicher Intelligenz erstellt.“
  • „Video enthält KI-generierte Inhalte.“
Wie Sie kennzeichnen:
  • Eine kleine Bildunterschrift oder ein Hinweis in der Bildbeschreibung genügt
  • Den Hinweis in die Videobeschreibung oder als kurze Texteinblendung am Anfang oder Ende des Videos aufnehmen
  • Alternativ: Einfügen der vorgegebener EU-Symbole

Interaktion mit einer KI kennzeichnen

Wann muss eine Interaktion mit der KI gekennzeichnet werden?
Der AI Act verlangt, dass Nutzer erkennen können, wenn sie mit einer KI und nicht mit einem Menschen kommunizieren.
Beispiele Kennzeichnungspflicht:
  • KI-Chatbot auf der Website
  • KI beantwortet Fragen per Sprachsystem am Telefon
  • Eine automatisch KI-generierte E-Mailantwort
  • Digitaler Avatar berät Kunden
Beispiele keine Kennzeichnungspflicht:
  • Wenn es offensichtlich ist, dass Sie mit einer KI kommunizieren (z. B. integriertes ChatGPT).
  • Wenn ein Kundenberater im Gespräch eine KI-Anwendung zur Unterstützung nutzt.
  • Wenn ein Mitarbeiter E-Mails mithilfe der KI erstellt.
  • Wenn die KI im Hintergrund Prozesse anstößt (z. B. Preisaktualisierungen im Kundengespräch).
  • KI generiert zusätzliche Produktempfehlungen.
Geeignete Formulierungen:
  • „Sie chatten mit einem KI-Assistenten.“
  • „Dieser Chat wird von einer Künstlichen Intelligenz betrieben.“
  • „Sie sprechen mit einem KI-gestützten Assistenten.“
Wie Sie kennzeichnen:
  • Der Hinweis sollte direkt beim Start der Unterhaltung ersichtlich sein.
  • Eine einmalige Anzeige genügt in der Regel.

Hinweise und praktische Empfehlungen

Diese Empfehlungen beziehen sich auf die allgemeinen Transparenzpflichten nach Art. 50 der europäischen KI-Verordnung (AI Act) sowie den Leitlinien der EU. Je nach Anwendungsfall – etwa bei Deepfakes oder Hochrisiko-KI-Systemen – und Rolle des Unternehmens – Anbieter oder Betreiber– können zusätzliche Anforderungen oder andere Interpretationen gelten.
Möchen Sie nicht bei jedem KI-generierten Content eine Einzelfallbewertung durchführen, empfiehlt sich eine interne Transparenzstrategie. Beispielhaft:
  • KI-generierte Texte erhalten am Ende einen kurzen Hinweis.
  • KI-generierte Bilder erhalten eine Bildunterschrift.
  • KI-Videos erhalten einen Hinweis in der Beschreibung.
  • KI-Audios erhalten einen Hinweis in der Beschreibung oder zu Beginn.
  • Chatbots weisen beim ersten Kontakt darauf hin, dass es sich um eine KI handelt.
So erfüllen Unternehmen die Transparenzpflichten mit geringem Aufwand und schaffen gleichzeitig Vertrauen bei Kunden und Geschäftspartnern.

DIHK: Stellungnahme zur Transparenzverpflichtung

Grundsätzlich ist das Ziel der Europäischen Kommission, mittels der Leitlinien die Transparenzpflichten europäischen Verordnung über künstliche Intelligenz (KI-Verordnung) näher zu konkretisieren und dadurch einen Beitrag zum Schutz des Informationsökosystems zu leisten. In der Umsetzung lassen die Leitlinien jedoch noch einige Fragen offen. Es braucht es vor allem verständliche, eindeutig abgrenzbare und umsetzbare Vorgaben, damit Unternehmen die Anforderungen sicher und mit vertretbarem Aufwand erfüllen können. Alle Forderungen zu den Leitlinien finden sich in der Stellungnahme der DIHK.