Risikoeinstufung und Hochrisiko-KI

Die KI-Verordnung verfolgt einen risikobasierten Ansatz. Je größer die möglichen Auswirkungen einer KI-Anwendung auf Gesundheit, Sicherheit oder Grundrechte sind, desto umfangreicher fallen die rechtlichen Anforderungen an das System aus. Die KI-Verordnung unterteilt hierbei KI-Anwendungen in vier Risikostufen: inakzeptables, hohes, begrenztes sowie minimales oder niedriges Risiko.

Die Einordnung einer KI-Anwendung erfolgt dabei nicht anhand der tatsächlichen Fähigkeiten der KI, sondern nach der Zweckbestimmung des Anbieters zum Zeitpunkt des Inverkehrbringens, wobei nachträgliche Zweckänderungen durch andere Beteiligte, wie beispielsweise einen Unternehmer, zu einer neuen Einstufung führen können.

Inakzeptables Risiko - verbotene Praktiken

KI-Anwendungen mit inakzeptablem Risiko dürfen grundsätzlich weder angeboten noch eingesetzt werden. Die meisten Verbote gelten bereits seit dem 2. Februar 2025. Verboten sind unter anderem bestimmte manipulative oder täuschende KI-Techniken, die Menschen zu erheblich schädigenden Entscheidungen veranlassen können. Ebenfalls erfasst sind die gezielte Ausnutzung besonderer Schutzbedürftigkeit, bestimmte Formen des Social Scoring sowie die biometrische Kategorisierung anhand besonders sensibler Merkmale.
Für Unternehmen besonders relevant ist das Verbot der Emotionserkennung am Arbeitsplatz. Eine KI darf grundsätzlich nicht aus biometrischen Daten wie Stimme, Mimik oder Gesichtsausdruck auf die Emotionen von Beschäftigten oder Bewerbenden schließen. Ausnahmen bestehen nur für medizinische oder sicherheitsbezogene Zwecke. Auch bei Video-Interviews oder digitalen Auswahlverfahren wäre eine entsprechend unzulässige Zweckbestimmung denkbar.

Hohes Risiko - sensible Entscheidungen und Einsatzbereiche

Hochrisiko-KI ist grundsätzlich zulässig, unterliegt aber umfangreichen Anforderungen. Dazu gehören Anwendungen, die als sicherheitsrelevante Bestandteile bestimmter regulierter Produkte eingesetzt werden, sowie die in Anhang III der KI-Verordnung aufgeführten sensiblen Anwendungsbereiche.
Für den in der Praxis relevanten Bereich des Personalmanagements gelten beispielsweise Systeme als hochriskant, die Stellenanzeigen gezielt platzieren, Bewerbungen analysieren oder filtern, Kandidaten bewerten oder Ranglisten erstellen. Gleiches gilt für bestimmte Systeme zur Entscheidung über Beförderungen, Kündigungen oder Aufgabenzuweisungen sowie zur Überwachung und Bewertung von Leistung und Verhalten. Auch eine im Ergebnis menschliche Abschlussentscheidung verhindert die Einstufung als Hochrisiko-KI nicht automatisch. Bereits eine KI-gestützte Empfehlung kann die Personalentscheidung wesentlich beeinflussen. Eine Ausnahme kommt nur bei eng begrenzten vorbereitenden oder untergeordneten Aufgaben in Betracht. Führt das System ein Profiling natürlicher Personen durch, bleibt es innerhalb eines Anhang-III-Falls stets hochriskant.
Die Anforderungen für Hochrisiko-Anwendungen nach Anhang III gelten aufgrund des Digital Omnibus grundsätzlich ab dem 2. Dezember 2027. Anbieter solcher Systeme müssen neben den allgemeinen Pflichten zur Kennzeichnung und KI-Kompetenz zudem eine Konformitätsbewertung der KI-Anwendung vornehmen.

Begrenztes Risiko: Transparenz steht im Mittelpunkt

Bei Anwendungen mit begrenztem Risiko geht es vor allem darum, Menschen über den Einsatz von KI zu informieren und Inhalte entsprechend zu Kennzeichnen. Das betrifft beispielsweise Chatbots, die direkt mit Kunden oder Bewerbenden kommunizieren. Die betroffene Person muss grundsätzlich erkennen können, dass sie mit einem KI-System interagiert, sofern dies nicht ohnehin offensichtlich ist.
Weitere Transparenzpflichten gelten für bestimmte KI-generierte Inhalte. Dazu zählen insbesondere Deepfakes sowie unter bestimmten Voraussetzungen KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Die Transparenzvorschriften gelten grundsätzlich ab dem 2. August 2026.

Niedriges oder minimales Risiko: der Regelfall

Viele der im Unternehmensalltag eingesetzten KI-Systeme dürften ein minimales oder niedriges Risiko aufweisen. Beispiele sind Spamfilter, Systeme zur vorausschauenden Wartung oder interne Anwendungen zur Ideenfindung, Rechtschreibprüfung und Textformulierung, sofern sie keine Personen bewerten oder sensible Entscheidungen vorbereiten.
Für solche Anwendungen enthält die KI-Verordnung grundsätzlich keinen besonderen systemspezifischen Pflichtenkatalog. Vollständig „regulierungsfrei“ sind sie dennoch nicht. Unternehmen müssen seit dem 2. Februar 2025 ein angemessenes Maß an KI-Kompetenz bei den mit KI befassten Beschäftigten und die bestehenden Kennzeichnungspflichten für KI-Inhalte sicherstellen. Daneben gelten insbesondere Datenschutz, Urheberrecht, Geheimnisschutz, Arbeitsrecht und Diskriminierungsschutz.

General Purpose KIs

KI-Anwendungen mit allgemeinem Verwendungszweck, sogenannte General-Purpose-AI-Modelle oder GPAI-Modelle, können sehr unterschiedliche Aufgaben erfüllen. Anwendungen wie ChatGPT oder Copilot können auf solchen Modellen beruhende KI-Systeme mit allgemeinem Verwendungszweck sein, bilden aber keine gesonderte Risikoklasse. Die Einordnung derartiger Anwendungen richtet sich auch hier nach dem vorgesehenen Verwendungszweck und generell der Leistungsfähigkeit der KI. Die besonderen Pflichten für GPAI-Modelle, besonders leistungsfähige mit sog. systemischen Risiko, treffen regelmäßig die Anbieter. Ein Unternehmen, das eine fertige Anwendung verwendet, ist grundsätzlich Betreiber. Ändert das Unternehmen den Verwendungszweck sodass daraus Hochrisiko-KI wird, kann es selbst zum Anbieter werden und den vollständigen Anbieterpflichten unterliegen.
Nutzt ein Unternehmen ein solches System lediglich zur Ideenfindung oder als Formulierungshilfe, liegt regelmäßig keine Hochrisiko-Anwendung vor. Werden damit dagegen im Personalwesen Bewerbungen analysiert, Personen bewertet oder Auswahlentscheidungen vorbereitet, kann das System als Hochrisiko-KI einzustufen sein, mit den entsprechenden Pflichten des Unternehmens zur Erstellung einer Konformitätserklärung für die Anwendung.

Was Unternehmen als Betreiber beachten müssen

Unternehmen sollten vor der Beschaffung oder internen Freigabe einer KI-Anwendung den konkreten Einsatzzweck (Use-Case) dokumentieren. Ebenso wichtig ist die Festlegung, für welche Aufgaben die Anwendung nicht verwendet werden darf und sollte.

Stand: 5. August 2026