AI-Act: Die KI-Verordnung
Am 1. August 2024 ist die europäische Verordnung über künstliche Intelligenz (KI-Verordnung, AI Act) in Kraft getreten. Sie zielt darauf ab, die verantwortungsvolle Entwicklung und Verwendung künstlicher Intelligenz in der EU zu fördern.
Die Verordnung (EU) 2024/1689 für künstliche Intelligenz soll das Vertrauen in KI (Künstliche Intelligenz) stärken, Sicherheit von KI-Systemen gewährleisten und Innovation fördern.
Wer ist betroffen?
Grundsätzlich betrifft die KI-Verordnung alle Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen, sofern diese Systeme in der EU eingesetzt werden oder deren Ergebnisse Personen in der EU beeinflussen. Das schließt sowohl große Konzerne als auch kleine und mittlere Unternehmen (KMUs) ein, die KI-Technologien in ihren Produkten oder Dienstleistungen integrieren.
Nicht in den Anwendungsbereich der KI-Verordnung fällt die KI-Nutzung zu privaten Zwecken.
Nicht in den Anwendungsbereich der KI-Verordnung fällt die KI-Nutzung zu privaten Zwecken.
Gesetzliche Definition des „KI-Systems“
KI-System: „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können“
Verbotene Praktiken im KI-Bereich
Die KI-Verordnung verbietet KI-Systeme, die Menschen manipulieren, ausnutzen oder diskriminieren können, wie Sozialkredit-Systeme, invasive Verhaltensanalysen und biometrische Überwachungstechnologien. Besonders kritisch sind Anwendungen, die Grundrechte verletzen, Menschen ohne Einwilligung kategorisieren oder emotional und kognitiv beeinflussen wollen. Die Regelungen zielen darauf ab, Menschen vor potenziell schädlichen KI-Technologien zu schützen und ethische Grenzen zu definieren.
Risikoklassen
Die KI-Verordnung (EU) 2024/1689(AI Act) der EU definiert vier Risikoklassen für KI-Systeme, basierend auf ihrem potenziellen Risiko für Gesundheit, Sicherheit und Grundrechte:
1. Unannehmbares Risiko:
KI-Systeme, die als Bedrohung für die Grundrechte gelten und verboten sind
Beispiele: Social Scoring, manipulative KI-Systeme, Ausnutzung von Schwachstellen bestimmter Personengruppe
KI-Systeme, die als Bedrohung für die Grundrechte gelten und verboten sind
Beispiele: Social Scoring, manipulative KI-Systeme, Ausnutzung von Schwachstellen bestimmter Personengruppe
2. Hohes Risiko:
KI-Systeme, die ein bedeutendes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen. Dies umfasst Anwendungen in kritischer Infrastruktur, Bildung, Beschäftigung, Strafverfolgung und mehr. KI-Systeme mit hohem Risiko unterliegen strengen Anforderungen und Konformitätsbewertungen.
KI-Systeme, die ein bedeutendes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen. Dies umfasst Anwendungen in kritischer Infrastruktur, Bildung, Beschäftigung, Strafverfolgung und mehr. KI-Systeme mit hohem Risiko unterliegen strengen Anforderungen und Konformitätsbewertungen.
3. Begrenztes Risiko:
KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind. Sie unterliegen Transparenzpflichten, wie zum Beispiel das Informieren der Nutzer, dass sie mit einer KI interagieren.
KI-Systeme, die für die Interaktion mit natürlichen Personen bestimmt sind. Sie unterliegen Transparenzpflichten, wie zum Beispiel das Informieren der Nutzer, dass sie mit einer KI interagieren.
4. Minimales oder kein Risiko:
Alle anderen KI-Systeme, die nicht in die obigen Kategorien fallen. Es bestehen keine zusätzlichen rechtlichen Verpflichtungen, aber freiwillige Verhaltenskodizes sind möglich.
Alle anderen KI-Systeme, die nicht in die obigen Kategorien fallen. Es bestehen keine zusätzlichen rechtlichen Verpflichtungen, aber freiwillige Verhaltenskodizes sind möglich.
Diese Risikoklassifizierung bestimmt die rechtlichen Auflagen und Anforderungen an die Entwickler, Anbieter und Nutzer von KI-Systeme.
Zeitplan und Fristen
- 1. August 2024: Inkrafttreten der Verordnung
- 2. Februar 2025: Verbot von KI-Systemen mit unannehmbarem Risiko
- 2. August 2026: Allgemeine Anwendbarkeit der Verordnung
- 2. August 2027: Anwendbarkeit für bestimmte Hochrisikosysteme
Anforderungen an Hochrisiko-Systeme
- Einrichtung eines Qualitäts- und Risikomanagementsystems
- Erstellung detaillierter technischer Dokumentation
- Gewährleistung von Transparenz und menschlicher Aufsicht
- Protokollierung von Vorgängen zur Rückverfolgbarkeit
Handlungsempfehlungen
- Identifizierung der KI-Systeme und Einstufung des ausgehenden Risikos für die Anwender
- Für Hochrisiko-KI-Systeme: Erfüllung der Auflagen durch die KI-Verordnung, einschließlich der Risikoanalyse und der Implementierung von Überwachungsmechanismen
- Transparenz und Dokumentation der KI-Systeme zum Nachweis der Vorschriften
- Schulung und Sensibilisierung der Mitarbeiter, die mit KI-Systemen arbeiten
Die KI-Verordnung stellt sicher, dass KI-Technologien verantwortungsvoll und sicher eingesetzt werden. Für Unternehmen bedeutet dies, dass sie sich mit den Vorschriften auseinandersetzen und entsprechend Maßnahmen umsetzen müssen.
Urheberrecht und Markenrecht
Bei der Nutzung von KI-Tools sollten verschiedene rechtliche Aspekte beachtet werden. Insbesondere das Urheberrecht spielt eine wichtige Rolle, da es individuelle geistige Schöpfungen schützt. Aktuell kann ein durch KI erzeugter Inhalt (Text, Bild) nicht urheberrechtlich geschützt sein, da diesem, wie es das Urheberrecht fordert, keine persönliche Schöpfung zukommt.
Es gibt jedoch Ausnahmen, wenn das KI-Tool nicht ausschließlich zur Erstellung von Inhalten dient, sondern als Unterstützung für den kreativen Prozess verwendet wird. In solchen Fällen könnte das Resultat als „Mischwerk“ betrachtet werden, das urheberrechtlich geschützt ist. Dies tritt beispielsweise ein, wenn das KI-Tool in die Erarbeitung von Bild-, Audio- oder Videoinhalten integriert wird.
Des Weiteren ist es wichtig, die Nutzungsbedingungen des jeweiligen KI-Tools zu beachten. Diese regeln, in welchem Umfang und für welche Zwecke die generierten Inhalte verwendet werden dürfen. Wenn der KI-generierte Inhalt auf einem bestehenden urheberrechtlich geschützten Werk basiert, kann eine exakte Kopie eine Urheberrechtsverletzung darstellen. Dasselbe gilt für Bilder, wenn diese auf geschützten Werken beruhen.
Neben dem Urheberrecht kann auch das Markenrecht relevant sein. KI-generierte Inhalte, die Marken oder markenähnliche Elemente enthalten, könnten eine Markenrechtsverletzung darstellen, insbesondere wenn eine Verwechslungsgefahr mit eingetragenen Marken besteht. Daher sollte vor der Verwendung KI-generierter Inhalte eine gründliche Markenrecherche durchgeführt werden.
Es gibt jedoch Ausnahmen, wenn das KI-Tool nicht ausschließlich zur Erstellung von Inhalten dient, sondern als Unterstützung für den kreativen Prozess verwendet wird. In solchen Fällen könnte das Resultat als „Mischwerk“ betrachtet werden, das urheberrechtlich geschützt ist. Dies tritt beispielsweise ein, wenn das KI-Tool in die Erarbeitung von Bild-, Audio- oder Videoinhalten integriert wird.
Des Weiteren ist es wichtig, die Nutzungsbedingungen des jeweiligen KI-Tools zu beachten. Diese regeln, in welchem Umfang und für welche Zwecke die generierten Inhalte verwendet werden dürfen. Wenn der KI-generierte Inhalt auf einem bestehenden urheberrechtlich geschützten Werk basiert, kann eine exakte Kopie eine Urheberrechtsverletzung darstellen. Dasselbe gilt für Bilder, wenn diese auf geschützten Werken beruhen.
Neben dem Urheberrecht kann auch das Markenrecht relevant sein. KI-generierte Inhalte, die Marken oder markenähnliche Elemente enthalten, könnten eine Markenrechtsverletzung darstellen, insbesondere wenn eine Verwechslungsgefahr mit eingetragenen Marken besteht. Daher sollte vor der Verwendung KI-generierter Inhalte eine gründliche Markenrecherche durchgeführt werden.
Hilfreiche Links und Unterstützung
Auf der Seite “EU Artificial Intelligence Act” finden Sie Unterstützung bei der Umsetzung des AI-Acts durch Leitfäden und digitale Tools. Sollten Sie darüber hinaus Fragen haben, melden Sie sich gerne bei Ihrem zuständigen Ansprechpartner der IHK Bodensee-Oberschwaben.