„Frag, was die KI für dich tun kann“

Am Anfang standen drei KI-generierte, fiktive Unternehmen: Diese hatten der Rechtsanwalt Matthias Rosa und Lars Michaelis von Robotspaceship in ihrer Podcast-Reihe „Moment!“ entstehen lassen, um an ihrem Beispiel dann die Sachfragen zu diskutieren. Zum Thema „KI im Mittelstand“ fiel der KI eine Hightech-Imkerei ein, die ihre Bienenzucht mit Drohnen, Gesundheitsüberwachung und optimierten Ernteergebnisse modernisieren will. Um Chancen und Risiken zu beleuchten, stattete das Systemeinen Holz-Handwerksbetrieb mit neuerDesign-Software aus. Und für den Blick aufdas Thema KI und Beschäftigte entwarf die KI einen Schuhmacher-Betrieb.

Es gehe für den Mittelstand darum, KI-Systeme zu finden, die den Betrieben die Arbeit erleichtern, Prozesse vereinfachen, Abläufe beschleunigen und damit Fachkräftemangel und Effizienzdruck lindern – das machte auch der Landesbeauftragte für Datenschutz, Professor Dieter Kugelmann, deutlich. Die Technologie sei schließlich kein Selbstzweck, und ihre Implementierung sollte am konkreten Bedarf im Unternehmen ausgerichtet sein. Kugelmann vergleicht den „Einbau von Algorithmen“ im Kern mit einer Automatisierung, wie sie schon Henry Ford im beginnenden 20. Jahrhundert im Zuge der Fließbandfertigung
im Automobilbau in die Tat umgesetzt hatte. „Die Idee ist also nicht ganz neu.“

Und doch sind die Herausforderungen und Fallstricke gänzlich andere. Im Falle der Imkerei sei die Einführung von KI insoweit erleichtert, so der Landesdatenschutzbeauftragte, als dass keine personenbezogenen Daten erhoben würden. Schließlich sei Datenschutz in Verbindung mit KI ein sehr sensibles Thema. „Wir wollen in Europa kein Social Scoring wie in China“, betont Kugelmann. Emotionserkennung sei verboten, biometrische Gesichtserkennung nur für Strafverfolgung legal, nicht aber im privaten oder privatwirtschaftlichen Bereich.

Im Bereich Marketing wäre bei der Nutzung von Kundendaten ein so genanntes berechtigtes Interesse vonnöten, macht Kugelmann deutlich. Da wäre im Zweifelsfall eine juristische Prüfung angeraten. „Die KI-Nutzung macht einen qualitativen Sprung“, sagt Kugelmann, „hier muss man genau wissen, was man tut“. Allein schon aus Geschäftsinteresse, um alle Verträge einzuhalten. Es lohne sich, darüber nachzudenken, die neue Rechtslage bei der Datennutzung, etwa wenn Daten zum Lernen der KI verwendet werden, bei der Vertragsgestaltung zu berücksichtigen. Und auch die betriebsinternen Vereinbarungen gehörten auf den Prüfstand.

Wo fängt KI eigentlich an? Der Landesdatenschutzbeauftragte benennt die autonome Datenverarbeitung als Grenze: „Die bisherigen Systeme sind deterministisch.“ Man gebe einen Befehl ein, es komme etwas heraus. Nun lerne das System selbst. Das erfordere mehr Expertise, extern und in der Belegschaft selbst, durch Schulungen und bei Neueinstellungen. In Europa bestehe in der Anwendung Nachholbedarf. „Im Ummodeln in handhabbare, für die Geschäftszwecke nützliche KI-Modelle liegt eine große Chance“, sagt Kugelmann. Doch es gelte die Faustregel: nichts einsetzen, was man nicht dem Grunde nach versteht. Schließlich bestünden auch Rechenschaftspflichten.

Betriebe sollten sich nicht abschrecken lassen von Nachrichten, KI sei zu kompliziert oder mit zu vielen Rechtsrisiken behaftet: „Innerhalb der rechtlichen Rahmenbedingungen kann man einiges unternehmen.“ Gegebenenfalls tue Beratung not. „Ich glaube, dass man gerade im Mittelstand viele Chancen hat, die man nutzen kann.“ Und zugleich neue Risiken. Schließlich könne kein Unternehmen ein Interesse daran haben, dass Betriebsinterna als Lerngrundlage beim KI-Chatbot ChatGPT landen und so indirekt auch öffentlich zugänglich wird. Hinzu kommen Fragen des Urheberrechts, etwa wenn eine KI-basierte Design-Software Modelle auswirft, deren Vorbilder geschützt sind. Da braucht es in der Tat wenig Phantasie, um sich vorzustellen, wie schwierig es in der Rechtsprechung wird, die Grenzen zu ziehen. Gleichwohl: Insgesamt würden die Chancen überwiegen, vor allem durch den Einsatz generativer KI.

Mit einer kurzen Vorführung demonstrierten Rosa und Michaelis, wie schnell es möglich ist, Deepfakes zu erzeugen, Inhalte, die durch KI-Techniken verfälscht werden. Deepfakes müssen gekennzeichnet werden, was aber kaum ein Hinderungsgrund beim kriminellen Einsatz sein dürfte. Die Verwendung von Daten innerhalb eines geschlossenen Systems, um die KI lernen zu lassen, wäre rechtlich etwas völlig anderes als mit Schnittstellen zu, beispielsweise, Open AI, betont Kugelmann. Interne Schulungs- und Trainingszwecke sind, wie der Datenschutzbeauftragte betont, etwas völlig anderes als Mitarbeiterüberwachung, die nicht nur datenschutzrechtlich hoch sensibel ist.

Als ersten Schritt, so der Rat der Experten, sollten die Unternehmen sich genau überlegen, wozu sie KI einsetzen wollen, und dann technologische wie auch rechtliche Aspekte genauestens abklopfen. Das sind Entscheidungen für die Chef-Ebene. Das EU-Gesetz zur Künstlichen Intelligenz steht vor der Tür, die Regulatoren sind alarmiert, die Risiken immens. Aber die Chancen eben auch.

TORBEN SCHRÖDER, FREIER JOURNALIST