KI im Einsatz - Checkliste

Künstliche Intelligenz im Unternehmen - Das sollten Sie beachten! Unsere Checkliste bringt Klarheit. Kurz, übersichtlich und praxisnah.

1. Bestandsaufnahme und Systemeinordnung

  • Erfassen Sie alle eingesetzten oder geplanten KI-Systeme.
  • Dokumentieren Sie Zweck, Anwendungsbereich und Funktionsweise.
  • Prüfen Sie, ob es sich um ein KI-System im Sinne des AI Acts handelt.
  • Stellen Sie fest, ob personenbezogene oder sensible Daten verwendet werden.

2. Risikobewertung und Klassifizierung

  • Klassifizieren Sie die Systeme gemäß den vier Risikostufen des AI Acts.
  • Berücksichtigen Sie mögliche Schäden bei fehlerhafter KI-Ausgabe.
  • Prüfen Sie, ob eine Hochrisiko-Einstufung vorliegt.
  • Führen Sie eine Folgenabschätzung bei generativer KI durch.
  • Legen Sie Maßnahmen zur Risikominimierung fest.

3. Interne Zuständigkeiten und Prozesse

  • Bestimmen Sie Verantwortliche für KI-Compliance und Datenschutz.
  • Etablieren Sie ein Verfahren zur laufenden Systemprüfung.
  • Integrieren Sie „Compliance by Design“ in die Produktentwicklung.
  • Dokumentieren Sie Zuständigkeiten, Abläufe und Entscheidungen.
  • Richten Sie interne Kontrollmechanismen ein.

4. Datenmanagement und Datenschutz

  • Sorgen Sie für Datenminimierung, Pseudonymisierung und ggf. Anonymisierung.
  • Prüfen Sie Herkunft, Qualität und Aktualität der verwendeten Daten.
  • Vermeiden Sie die Eingabe sensibler oder vertraulicher Daten.
  • Informieren Sie sich über die Nutzung eingegebener Daten durch den Anbieter.

5. Konformitätsbewertung und Dokumentation

  • Bei Hochrisiko-KI: Konformitätsbewertung nach Anhang VII des AI Acts durchführen
  • Erstellen Sie ein technisches Dokumentationspaket.
  • Registrieren Sie Hochrisiko-Systeme in der EU-Datenbank.
  • Erstellen Sie eine Konformitätserklärung auf Basis des AI Acts.
  • Halten Sie alle Maßnahmen und Ergebnisse schriftlich fest.

6. Schulung und Sensibilisierung

  • Schulen Sie Mitarbeitende zur Funktionsweise und zu Risiken von KI.
  • Thematisieren Sie Datenschutz, Haftung und ethische Aspekte.
  • Aktualisieren Sie Schulungen regelmäßig.
  • Vermitteln Sie den verantwortungsvollen Umgang mit generativer KI.
  • Dokumentieren Sie die Teilnahme an Schulungen.

7. Transparenz und Nutzerinformation

  • Informieren Sie klar über den Einsatz von KI-Systemen.
  • Weisen Sie auf KI-generierte Inhalte hin.
  • Machen Sie Nutzung und Zweck der KI nachvollziehbar.
  • Schaffen Sie Vertrauen bei Mitarbeitenden und Kunden.
  • Legen Sie offen, ob Daten zur Systemverbesserung genutzt werden.

8. Qualitätssicherung und menschliche Kontrolle

  • Hinterfragen Sie die Ergebnisse generativer KI kritisch.
  • Prüfen Sie Inhalte vor Veröffentlichung durch qualifizierte Personen.
  • Achten Sie auf mögliche Verzerrungen (Bias) oder Fehlinformationen.
  • Vermeiden Sie automatische Entscheidungen ohne menschliche Kontrolle.
  • Legen Sie Verfahren zur Fehlerkorrektur fest.

9. Rechtliche und ethische Absicherung

  • Klären Sie urheberrechtliche Fragen bei KI-generiertem Output.
  • Berücksichtigen Sie ethische Grundsätze des Unternehmens.
  • Beurteilen Sie gesellschaftliche Auswirkungen des KI-Einsatzes.

10. Technische Integration und Zusatzfunktionen

  • Prüfen Sie neue Funktionen wie Plugins auf Nutzen und Risiken.
  • Bewerten Sie Auswirkungen auf Datensicherheit und IT-Systeme.
  • Dokumentieren Sie technische Schnittstellen und Anwendungen.
  • Schulen Sie Mitarbeitende im sicheren Umgang mit Zusatzfunktionen.
  • Beobachten Sie laufend neue Entwicklungen und passen Sie Maßnahmen an.