KI im Einsatz - Checkliste
Künstliche Intelligenz im Unternehmen - Das sollten Sie beachten! Unsere Checkliste bringt Klarheit. Kurz, übersichtlich und praxisnah.
- 1. Bestandsaufnahme und Systemeinordnung
- 2. Risikobewertung und Klassifizierung
- 3. Interne Zuständigkeiten und Prozesse
- 4. Datenmanagement und Datenschutz
- 5. Konformitätsbewertung und Dokumentation
- 6. Schulung und Sensibilisierung
- 7. Transparenz und Nutzerinformation
- 8. Qualitätssicherung und menschliche Kontrolle
- 9. Rechtliche und ethische Absicherung
- 10. Technische Integration und Zusatzfunktionen
1. Bestandsaufnahme und Systemeinordnung
- Erfassen Sie alle eingesetzten oder geplanten KI-Systeme.
- Dokumentieren Sie Zweck, Anwendungsbereich und Funktionsweise.
- Prüfen Sie, ob es sich um ein KI-System im Sinne des AI Acts handelt.
- Stellen Sie fest, ob personenbezogene oder sensible Daten verwendet werden.
2. Risikobewertung und Klassifizierung
- Klassifizieren Sie die Systeme gemäß den vier Risikostufen des AI Acts.
- Berücksichtigen Sie mögliche Schäden bei fehlerhafter KI-Ausgabe.
- Prüfen Sie, ob eine Hochrisiko-Einstufung vorliegt.
- Führen Sie eine Folgenabschätzung bei generativer KI durch.
- Legen Sie Maßnahmen zur Risikominimierung fest.
3. Interne Zuständigkeiten und Prozesse
- Bestimmen Sie Verantwortliche für KI-Compliance und Datenschutz.
- Etablieren Sie ein Verfahren zur laufenden Systemprüfung.
- Integrieren Sie „Compliance by Design“ in die Produktentwicklung.
- Dokumentieren Sie Zuständigkeiten, Abläufe und Entscheidungen.
- Richten Sie interne Kontrollmechanismen ein.
4. Datenmanagement und Datenschutz
- Sorgen Sie für Datenminimierung, Pseudonymisierung und ggf. Anonymisierung.
- Prüfen Sie Herkunft, Qualität und Aktualität der verwendeten Daten.
- Vermeiden Sie die Eingabe sensibler oder vertraulicher Daten.
- Informieren Sie sich über die Nutzung eingegebener Daten durch den Anbieter.
5. Konformitätsbewertung und Dokumentation
- Bei Hochrisiko-KI: Konformitätsbewertung nach Anhang VII des AI Acts durchführen
- Erstellen Sie ein technisches Dokumentationspaket.
- Registrieren Sie Hochrisiko-Systeme in der EU-Datenbank.
- Erstellen Sie eine Konformitätserklärung auf Basis des AI Acts.
- Halten Sie alle Maßnahmen und Ergebnisse schriftlich fest.
6. Schulung und Sensibilisierung
- Schulen Sie Mitarbeitende zur Funktionsweise und zu Risiken von KI.
- Thematisieren Sie Datenschutz, Haftung und ethische Aspekte.
- Aktualisieren Sie Schulungen regelmäßig.
- Vermitteln Sie den verantwortungsvollen Umgang mit generativer KI.
- Dokumentieren Sie die Teilnahme an Schulungen.
7. Transparenz und Nutzerinformation
- Informieren Sie klar über den Einsatz von KI-Systemen.
- Weisen Sie auf KI-generierte Inhalte hin.
- Machen Sie Nutzung und Zweck der KI nachvollziehbar.
- Schaffen Sie Vertrauen bei Mitarbeitenden und Kunden.
- Legen Sie offen, ob Daten zur Systemverbesserung genutzt werden.
8. Qualitätssicherung und menschliche Kontrolle
- Hinterfragen Sie die Ergebnisse generativer KI kritisch.
- Prüfen Sie Inhalte vor Veröffentlichung durch qualifizierte Personen.
- Achten Sie auf mögliche Verzerrungen (Bias) oder Fehlinformationen.
- Vermeiden Sie automatische Entscheidungen ohne menschliche Kontrolle.
- Legen Sie Verfahren zur Fehlerkorrektur fest.
9. Rechtliche und ethische Absicherung
- Klären Sie urheberrechtliche Fragen bei KI-generiertem Output.
- Berücksichtigen Sie ethische Grundsätze des Unternehmens.
- Beurteilen Sie gesellschaftliche Auswirkungen des KI-Einsatzes.
10. Technische Integration und Zusatzfunktionen
- Prüfen Sie neue Funktionen wie Plugins auf Nutzen und Risiken.
- Bewerten Sie Auswirkungen auf Datensicherheit und IT-Systeme.
- Dokumentieren Sie technische Schnittstellen und Anwendungen.
- Schulen Sie Mitarbeitende im sicheren Umgang mit Zusatzfunktionen.
- Beobachten Sie laufend neue Entwicklungen und passen Sie Maßnahmen an.