Industrie

EU AI Act

Künstliche Intelligenz ist vielfältig und überall dort einsetzbar, wo große Mengen an Daten zu verwerten sind. Nach langen Verhandlungen zwischen der Europäischen Kommission, dem Europäischen Parlament und dem Rat der Mitgliedsstaaten ist das Europäische Gesetz über Künstliche Intelligenz im Amtsblatt der Europäischen Union veröffentlicht worden. Es folgt einem risikobasierten Ansatz. Das bedeutet: Je höher die Risiken, die von einem KI-System ausgehen, umso schärfer soll das System künftig reguliert werden. Die EU-Staaten haben die Verordnung am 13. Juni 2024 verabschiedet und seit dem 1. August 2024 in Kraft gesetzt. Grundsätzlich findet sie erst nach einer Übergangszeit von 24 Monaten, voraussichtlich August 2026, Anwendung. Es gilt nicht nur für bestimmte Anwendungen sondern für alle Branchen.
Vier Risikoklassen wurden definiert:
  • KI-Systeme mit unannehmbarem Risiko fallen in die höchste Risikoklasse und werden in der EU verboten. Hierunter fallen z. B. soziale Bewertungssysteme und manipulative KI.
  • KI-Systeme mit hohem Risiko werden als Anwendungen künstlicher Intelligenz definiert, die „als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Wärme- oder Stromversorgung verwendet werden sollen.“
  • Unter die Kategorien begrenztes Risiko fallen alle KI-Systeme, die mit Menschen interagieren. Beispiele hierfür sind Chatbots oder Programme zur Emotionserkennung.
  • Mit niedrigem Risiko werden KI-Systeme bewertet, die unter keine andere Risikokategorie fallen. Dazu zählen interne Anwendungen wie Spamfilter oder Systeme für die vorausschauende Wartung von Maschinen.
Besonders relevant für Unternehmen sind Anwendungen, die als hochriskant eingestuft werden. Sie sollen künftig strengen Anforderungen unterliegen. Ein umfassendes Qualitäts- und Risikomanagementsystem, in dem unter anderem Entscheidungsvorgänge, Datenqualität und Transparenz dokumentiert und nachgewiesen werden müssen, ist einzurichten. Für Anwendungen mit begrenztem Risiko sind Transparenzpflichten vorgesehen, für Anwendungen mit geringem Risiko entstehen keine zusätzlichen rechtlichen Verpflichtungen. Das Comfomity-Tool des Europäischen Instituts für Innovation und Technologie ist hilfreich, um schnell herauszufinden, unter welche Risikoklasse eine KI-Anwendung fällt. Um europäische Startups und KMU bei der Entwicklung von AI-Act konformen KI-Systemen zu unterstützen, sollen so genannte KI-Reallabore entstehen. Sie sollen eine Möglichkeit bieten, KI-Systeme unabhängig und unter Regulierungsaufsicht zu entwickeln und zu testen, bevor diese auf den Markt kommen.