Generative KI im Einsatz - Worauf ist zu achten?

Bei der Nutzung von Programmen, die mit Künstlicher Intelligenz arbeiten, ist oft nicht klar, was mit den eingegebenen Daten passiert. Besonders bei Anbietern aus dem Ausland weiß man manchmal nicht, wo die Daten gespeichert und verarbeitet werden und ob das erlaubt ist.

Deshalb sollte man bei solchen Programmen immer prüfen, wo und wie die Daten bearbeitet werden. Persönliche, vertrauliche oder wichtige Informationen sollte man besser nicht eingeben. Auch Daten von anderen Personen, die man aus einem anderen Zusammenhang hat, sollte man nicht verwenden.

Es ist ratsam, sich immer gut zu überlegen, welche Informationen man in solche Programme eingibt. Oft können die eingegebenen Daten später genutzt werden, um das Programm weiterzuentwickeln.

Manche Programme bieten inzwischen die Möglichkeit, auszuwählen, dass die eigenen Daten nicht für Verbesserungen des Programms verwendet werden. Auch hier sollte man sich gut informieren.

Es ist wichtig, dass Mitarbeitende sensibilisiert werden, wie generative KI-Anwendungen funktionieren und wie diese in die Arbeit integriert werden können. Dabei sollten auch rechtliche Themen wie Datenschutz sowie ethische Aspekte diskutiert werden, damit Mitarbeitende die Anwendungen auf verantwortungsvolle Weise nutzen.

Aufgrund der rasanten technologischen Entwicklungsgeschwindigkeit sollten Schulungen regelmäßig aktualisiert werden, um sicherzustellen, dass die Mitarbeitenden auf dem neuesten Stand sind. Die Schulungen müssen insbesondere Informationen über die Sicherheitsvorkehrungen, die korrekte Nutzung, etwaige Einschränkungen und das Risiko-Management des jeweiligen KI-Systems enthalten.

Die Unternehmen müssen dokumentieren, dass das Personal entsprechend geschult wurde. Dies kann bei Kontrollen durch die Aufsichtsbehörden verlangt werden.

Arbeitsergebnisse von KI-Tools hängen stark von der Qualität, der Quantität und Gewichtung der einzelnen Datensätze ab, mit denen sie trainiert werden. Generative KI kann möglicherweise ungenaue, irreführende oder nicht aktuelle Aussagen generieren. Bei vielen generativen KI-Systemen ist nicht transparent, welche Datenquellen genutzt werden und welcher Meinungsschwerpunkt dabei repräsentiert wird. Inhalte und Antworten können einem Bias unterliegen. Die Zuverlässigkeit und Objektivität des Outputs zum aktuellen Zeitpunkt sollten daher stets hinterfragt werden.

Daten, mit denen die KI gefüttert wurde, können urheberrechtlich geschützt sein – zum Beispiel Textbausteine, Begriffe oder Bilder. Dadurch stellt der KI-generierte Output unter Umständen eine Urheberrechtsverletzung dar. Die Vervielfältigung kann strafbar sein. Insofern ist bei von KI generiertem Output Vorsicht geboten. Die Verwendung dieses Outputs für die Kommunikation nach außen ist dabei besonders riskant.

Unternehmen wird empfohlen, ihren Einsatz von generativen KI-Modellen transparent zu machen, einschließlich der Information, in welchen Abläufen sie zum Einsatz kommen. Dies kann dazu beitragen, Vertrauen bei Kunden, Mitarbeitenden und anderen Stakeholdern zu stärken.

Unternehmen sollten mögliche rechtliche und finanzielle Risiken im Zusammenhang mit dem Einsatz von generativer KI berücksichtigen. Dazu gehört auch die Klärung der Haftungsfrage im Falle von Fehlern oder Schäden, die durch die Nutzung der KI verursacht werden.

Unternehmen sollten sicherstellen, dass KI-generierte Inhalte von einem Menschen überprüft werden– insbesondere in Situationen, in denen eine Fehlaussage schwerwiegende Folgen haben könnten.

Unternehmen sollten die potenziellen Auswirkungen ihres Einsatzes von generativer KI auf verschiedene Stakeholder wie Kunden, Mitarbeitende und die Gesellschaft als Ganzes berücksichtigen. Es sollte sichergestellt werden, dass die Nutzung im Einklang mit den ethischen Prinzipien des Unternehmens steht.

Falls Unternehmen generative KI im Bereich Programmierung und Coding einsetzen, sollten sie sich zuvor mit der Syntax und den Befehlen des Tools vertraut machen und die Erklärungen gründlich lesen. Fehler im Code können sich auf die Performance, Funktionalität und Sicherheit der Anwendungen auswirken.

Seit einiger Zeit gibt es neue technische Möglichkeiten, um Künstliche Intelligenz direkt in die Systeme von Unternehmen einzubinden. Damit können zum Beispiel aktuelle Firmendaten gezielt durchsucht oder bestimmte Aufgaben automatisch erledigt werden, wie etwa das Buchen von Reisen.

Diese neuen Möglichkeiten sind im Moment noch begrenzt. Fachleute gehen aber davon aus, dass in Zukunft viele verschiedene Zusatzfunktionen angeboten werden, ähnlich wie bei bekannten App-Plattformen.

Auch bei der Nutzung solcher Zusatzfunktionen sollten sich Unternehmen sorgfältig mit wichtigen Themen wie Datenschutz, Urheberrecht und Datensicherheit beschäftigen.