DIHK-Leitfaden für generative KI-Anwendungen

Als "generative KI" bezeichnet man Systeme, die auf der Grundlage vorhandener Daten neue Inhalte wie Texte, Bilder, Audio oder Codes erstellen. Die derzeit wohl bekannteste Anwendung ist ChatGPT, daneben existieren viele weitere generative KI-Anwendungen.

Folgenden 10 Aspekte werden in dem DIHK-Leitfaden behandelt:

Die Datenverarbeitung von ChatGPT ist bislang recht intransparent. Es ist nicht klar, auf welcher Rechtsgrundlage personenbezogene Daten in die USA übermittelt werden. Ebenso wenig gibt es eine Rechtsgrundlage für die Verarbeitung und Speicherung personenbezogener Daten auf Servern in den USA. Aus diesem Grund sollte beim Einsatz generativer KI-Systeme stets geprüft werden, wo die Datenverarbeitung stattfindet. Auf die Eingabe und Nutzung von personenbezogenen und anderen sensiblen oder vertraulichen Daten sollte bei der Anwendung generativer KI-Systeme generell verzichtet werden. Das Gleiche gilt für Daten Dritter, die in anderen Zusammenhängen bezogen und/oder verarbeitet wurden. Insgesamt ist den Nutzenden zu empfehlen, sorgfältig abzuwägen, welche Informationen in die Systeme eingespeist werden, da sie genutzt werden können, um die KI zu trainieren und zu verbessern. Seit Kurzem können ChatGPT-Nutzende über eine Opting-out-Funktion entscheiden, dass ihre Daten nicht mehr zum Trainieren der KI eingesetzt werden.

Arbeitsergebnisse von KI-Tools hängen stark von der Qualität, der Quantität und Gewichtung der einzelnen Datensätze ab, mit denen sie trainiert werden. Generative KI kann möglicherweise ungenaue, irreführende oder nicht aktuelle Aussagen generieren. Bei vielen generativen KI-Systeme ist nicht transparent, welche Datenquellen genutzt werden und welcher Meinungsschwerpunkt dabei repräsentiert wird. Inhalte und Antworten können einem Bias unterliegen. Die Zuverlässigkeit und Objektivität des Outputs zum aktuellen Zeitpunkt sollten daher stets hinterfragt werden.

Daten, mit denen die KI gefüttert wurde, können urheberechtlich geschützt sein – zum Beispiel Textbausteine, Begriffe oder Bilder. Dadurch stellt der KI-generierte Output unter Umständen eine Urheberrechtsverletzung dar. Die Vervielfältigung kann strafbar sein. Insofern ist bei von KI generiertem Output Vorsicht geboten. Die Verwendung dieses Outputs für die Kommunikation nach außen ist dabei besonders riskant.

Unternehmen wird empfohlen, ihren Einsatz von generativen KI-Modellen transparent zu machen, einschließlich der Information, in welchen Abläufen sie zum Einsatz kommen. Dies kann dazu beitragen, Vertrauen bei Kunden, Mitarbeitenden und anderen Stakeholdern zu stärken.

Unternehmen sollten mögliche rechtliche und finanzielle Risiken im Zusammenhang mit dem Einsatz von generativer KI berücksichtigen. Dazu gehört auch die Klärung der Haftungsfrage im Falle von Fehlern oder Schäden, die durch die Nutzung der KI verursacht werden.

Unternehmen sollten sicherstellen, dass KI-generierte Inhalte von einem Menschen überprüft werden – insbesondere in Situationen, in denen eine Fehlaussage schwerwiegende Folgen haben könnte.

Es ist wichtig, dass Mitarbeitende sensibilisiert werden, wie generative KI-Anwendungen funktionieren und wie diese in die Arbeit integriert werden können. Dabei sollten auch rechtliche Themen wie Datenschutz sowie ethische Aspekte diskutiert werden, damit Mitarbeitende die Anwendungen auf verantwortungsvolle Weise nutzen. Aufgrund der rasanten technologischen Entwicklungsgeschwindigkeit sollten Schulung regelmäßig aktualisiert werden, um sicherzustellen, dass die Mitarbeitenden auf dem neuesten Stand sind.

Unternehmen sollten die potenziellen Auswirkungen ihres Einsatzes von generativer KI auf verschiedene Stakeholder wie Kunden, Mitarbeitende und die Gesellschaft als Ganzes berücksichtigen. Es sollte sichergestellt werden, dass die Nutzung im Einklang mit den ethischen Prinzipien des Unternehmens steht.

Falls Unternehmen generative KI im Bereich Programmierung und Codierung einsetzen, sollten sie sich zuvor mit der Syntax und den Befehlen des Tools vertraut machen und die Erklärungen gründlich lesen. Fehler im Code können sich auf die Performance, Funktionalität und Sicherheit der Anwendungen auswirken.

Seit Anfang April ermöglicht das hinter ChatGPT stehende Unternehmen OpenAI über neue Plugins die direkte Einbindung von ChatGPT in Unternehmenssysteme. So können beispielsweise (Echtzeit-)Datensätze von Unternehmen über Schnittstellen gezielt durchsucht werden oder Aufgaben von der KI wahrgenommen werden, zum Beispiel die Buchung von Reisen. Zwar sind die Plugin-Features aktuelle noch sehr begrenzt; KI-Experten rechnen jedoch damit, dass mittelfristig ein eigenes Ökosystem ähnlich dem Apple App-Store entstehen könnte. Auch bei der Nutzung von KI über solche Plugins sollten sich interessierte Unternehmen unbedingt intensiv mit Fragen zu Datenschutz, Urheberrecht und Datensicherheit auseinandersetzen.

Es gibt auf Länder- und Bundesebene eine Vielzahl von neutralen Kompetenzzentren, Hilfestellungen und Förderprogramme, die Unternehmen beim Einsatz von Künstlicher Intelligenz zur Seite stehen, unter anderem:

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) informiert in einem Bericht über die Chancen und Risiken der KI-Sprachmodelle. Das entsprechende PDF "Große KI-Sprachmodelle: Chancen und Risiken für Industrie und Behörden" finden Sie auf der Website des BSI.

Das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB) hat Grundlagen, Anwendungspotenziale und mögliche Auswirkungen von ChatGPT und anderen Computermodellen zur Sprachverarbeitung analysiert. Der Bericht ist im PDF-Format abrufbar auf der Website des TAB.

Die DIHK-Bildungs-gGmbH hat Fakten zu datenschutz- und urheberrechtlichen Fragen bei ChatGPT zusammengestellt.