Leitlinien zu Transparenzpflichten nach Art. 50 KI-Verordnung veröffentlicht

Die EU-Kommission hat die Leitlinien zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen nach Art. 50 europäischen Verordnung über künstliche Intelligenz (KI-Verordnung) veröffentlicht. Die Leitlinien berücksichtigen gegenüber der Entwurfsfassung sieben Kernforderungen, die die DIHK im Rahmen der Konsultation aufgestellt hatte.
Zusammenfassung der DIHK-Forderungen und Änderungen im Text der Leitlinien:
  1. Nachdem die EU-Kommission angedeutet hatte, dass neben Anbietern und Betreibern von KI-Systemen weitere Akteure, die nicht in Art. 50 KI-VO genannt werden, den Transparenzpflichten der KI-VO unterliegen könnten, hatte die DIHK gefordert, dass die Leitlinien die Transparenzpflichten der KI-Verordnung nicht ohne rechtlich verbindliche Grundlage auf weitere Akteure ausweiten.

    Dieser Forderung ist die EU-Kommission nun durch die Einfügung einer Randnummer 17 nachgekommen, die klarstellt, dass nur Anbieter und Vertreiber den Transparenzpflichten der KI-VO unterliegen: „The AI Act does not extend or affect the legal responsibility of those actors under the applicable legal frameworks, if they do not qualify at the same time as providers or deployers of AI systems.”
  2. Die DIHK hatte gefordert, dass doppelte oder widersprüchliche Transparenzpflichten in Bezug auf die vergleichbaren Vorgaben der europäischen Medical-Device-Verordnung und der In-vitro-Diagnostik-Verordnung, insbesondere bei medizinischen Bildinhalten, zu vermeiden seien.

    Die Leitlinien nehmen nunmehr in Rn. 92 “Medical image technical processing or reconstruction within medical devices” von den Transparenzpflichten von KI-Anbietern für synthetische Inhalte aus.
  3. Die DIHK hatte gefordert, dass regelmäßige Erinnerungen und der vorgeschlagene multimodale Ansatz auf Hochrisikofälle beschränkt werden, um "Bannerblindness" zu vermeiden.

    Die Leitlinien stellen nunmehr in Rn. 40 klar, dass eine einzige hervorgehobene Benachrichtigung vor der ersten Interaktion mit dem KI-System in den meisten Fällen ausreicht, in denen keine der vier Fallgruppen für eine besondere Risikolage vorliegt: „A single, prominent notification before the first interaction of the AI system with a particular natural person is likely to suffice in most instances to meet the obligation in Article 50(1) AI Act. However, in certain riskier contexts, periodic reminders and context-aware disclosures are likely to be necessary to ensure continued user awareness.”
  4. Die DIHK hatte gefordert, dass die Pflicht zur Kennzeichnung und Erkennung KI-generierter oder -manipulierter Inhalte eine klare Bagatellgrenze erfordere. Industrielle KI-Anwendungen mit rein internem oder maschinenzentriertem Zweck sollten von den Transparenzpflichten nach Art. 50 Abs. 2 KI-Verordnung ganz ausgenommen werden.

    Die EU-Kommission erkennt nun in Rn. 87 an, dass bei einigen industriellen KI-Anwendungen keine Transparenzpflichten Anwendung finden: „There may also be limited cases of “industrial AI applications” or “business to business applications” (excluding public and consumer-facing AI systems) where the proportionality principle and the limited benefits for the transparency objectives means that no marking and detection of AI-generated or manipulated outputs is required.”

  5. Die DIHK hatte gefordert, dass die Leitlinien praktikable Kennzeichnungsmethoden enthalten, die eine Überfrachtung des Anzeigebereichs verhindern und den gängigen Geschäftsstandards entsprechen.

    Die EU-Kommission verlangt nun in Rn. 76 der Leitlinien von Anbietern von KI-Systemen, dass sie bei KI-Kennzeichnungen auf die Industriestandards zurückgreifen und auf die Kompatibilität mit bestehenden Standards achten: „To ensure full interoperability, providers must rely on publicly-available industry standard detection solutions that allow any third party to implement detection that is ideally locally executable on the digital device and allow seamless integration into self-contained, isolated networks. Where such standards are not available, in particular at the initial stage of the implementation of Article 50(2) AI Act for watermarking technologies, the provider may rely on its own detection solution or on a third party or shared detection solution, so long as those solutions ensure interoperability with the detection solutions used by other providers.”
  6. Die DIHK hatte bemängelt, dass die Definition von Deepfakes in dem Leitlinienentwurf für die meisten kommerziellen Aktivitäten ungeeignet sei, da keine Unterscheidung zwischen produktbezogenen und produktfremden Manipulationen vorgenommen würde.

    Die EU-Kommission gibt in Rn. 115 nunmehr zu erkennen, dass rein ästhetische Bildänderungen zu Werbezwecken den Bildinhalt in der Regel nicht zu einem Deepfake machen: „For example, AI-powered colour correction, background extensions of existing content, adjustments or replacements of backgrounds for clearly aesthetic purposes, compositions and arrangements of existing products, or re-scaling of images applied in product advertisements or packaging is likely to have only a minor impact on a person’s perception of the authenticity and truthfulness of the advertisement and the product.”
  7. Um die durch Bußgelder entstehenden Hindernisse für kleine und mittlere Unternehmen zu verringern, sollten die Leitlinien klarstellen, dass die zuständigen Behörden bei der Verhängung einer Strafe die Gewinnmargen des Unternehmens, den Einfluss des Unternehmens auf die Entwicklung des jeweiligen KI-Systems sowie die Transparenz des KI-Systems selbst berücksichtigen müssen.

    Dieser Forderung ist die EU-Kommission nun durch die Einfügung einer Randnummer 152 nachgekommen, in der festgelegt wird, dass bei Geldbußen gegen KMU die jeweils günstigere Berechnungsmethode zu wählen und dabei die Wirtschaftlichkeit des Unternehmens zu berücksichtigen ist: „In the case of small and medium-sized enterprises (SMEs), including start-ups, each fine shall be up to the above percentages or amount, whichever is lower. The fines shall be effective, proportionate and dissuasive and take into account the interests of SMEs and small mid-cap enterprises (SMCs), including start-ups, and their economic viability. When deciding whether to impose an administrative fine and when deciding on the amount of the administrative fine in each individual case, the competent authorities should assess all relevant circumstances of the specific situation and, as appropriate, a range of factors that affect the seriousness of the infringement (e.g. nature, gravity and duration of the infringement and of its consequences, negligent or intentional character, other aggravating or mitigating circumstances, the degree of cooperation with market surveillance authorities etc.)”.
(Quelle DIHK)