Generative KI sicher einsetzen

OWASP veröffentlicht praxisnahe Checkliste für Unternehmen

Generative KI sicher im Unternehmen einsetzen

Unternehmen setzen generative KI und Large Language Models zunehmend in ihren Arbeitsalltag ein. Anwendungen wie Chatbots, KI-Assistenten oder automatisierte Text- und Datenanalysen versprechen Effizienzgewinne und neue Geschäftsmodelle. Gleichzeitig entstehen jedoch neue Risiken für IT-Sicherheit, Datenschutz und Compliance.
Das Open Web Application Security Project (OWASP) hat deshalb eine neue „LLM AI Cybersecurity & Governance Checklist“ veröffentlicht. Sie soll Unternehmen dabei unterstützen, Sicherheitsrisiken beim Einsatz generativer KI frühzeitig zu erkennen und geeignete Schutzmaßnahmen zu etablieren.

Fokus auf Governance und Sicherheitskontrollen

Die OWASP-Checkliste richtet sich insbesondere an Unternehmen, die generative KI bereits einsetzen oder entsprechende Projekte planen. Ziel ist es, grundlegende Sicherheits- und Governance-Strukturen für KI-Anwendungen aufzubauen.
Dabei weist OWASP darauf hin, dass sich Risiken bei generativer KI deutlich von klassischen IT-Sicherheitsfragen unterscheiden. Neben bekannten Cyberbedrohungen spielen beispielsweise Datenabfluss, Prompt Injection, unsichere Trainingsdaten oder fehlende Transparenz von KI-Modellen eine wichtige Rolle.

Zentrale Handlungsfelder für Unternehmen

Die Checkliste benennt mehrere Bereiche, die Unternehmen prüfen sollten:
  • KI-Inventarisierung und Transparenz
Unternehmen sollten erfassen, welche KI-Tools und KI-Dienste im Einsatz sind. Dazu gehört auch die Dokumentation von Verantwortlichkeiten, Datenquellen und eingesetzten Modellen. Hintergrund ist unter anderem das Risiko sogenannter „Schatten-KI“, bei der Mitarbeitende externe KI-Dienste ohne Freigabe nutzen.
  • Bedrohungsmodellierung und Risikoanalyse
OWASP empfiehlt, mögliche Angriffsszenarien systematisch zu analysieren. Dazu zählen beispielsweise Prompt-Injection-Angriffe, Manipulation von Trainingsdaten oder die missbräuchliche Nutzung von KI-Systemen durch Angreifer.
  • Governance und klare Zuständigkeiten
Für den sicheren Einsatz von KI sind klare organisatorische Regeln notwendig. OWASP empfiehlt unter anderem definierte Verantwortlichkeiten, Richtlinien für den KI-Einsatz und die Einbindung von Datenschutz-, IT-Sicherheits- und Rechtsabteilungen.
  • Schulungen und Sensibilisierung
Auch die Qualifizierung von Mitarbeitenden spielt eine wichtige Rolle. Beschäftigte sollten verstehen, welche Risiken mit generativer KI verbunden sind und wie sensible Unternehmensdaten geschützt werden können.
  • Kontinuierliche Tests und Audits
OWASP empfiehlt regelmäßige Sicherheitsprüfungen, Penetrationstests und kontinuierliche Evaluierungen von KI-Systemen. Dadurch sollen Schwachstellen frühzeitig erkannt werden.

KI-Sicherheit wird zunehmend strategisch relevant

Die Veröffentlichung zeigt, dass KI-Sicherheit zunehmend zu einem strategischen Thema für Unternehmen wird. Parallel entwickeln sich regulatorische Anforderungen weiter, etwa durch den europäischen AI Act oder neue Datenschutz- und Compliance-Vorgaben.
Für Unternehmen bedeutet dies, dass der Einsatz generativer KI nicht allein als Technologieprojekt betrachtet werden sollte. Vielmehr sind Governance, Risikomanagement und IT-Sicherheit zentrale Voraussetzungen für einen verantwortungsvollen und rechtskonformen Einsatz.

Unterstützung für Unternehmen

Die OWASP-Checkliste kann insbesondere kleinen und mittleren Unternehmen als praxisorientierter Einstieg dienen, um bestehende KI-Anwendungen zu bewerten und Sicherheitsmaßnahmen systematisch aufzubauen.
Weitere Informationen zur OWASP-Checkliste finden Sie hier.