Innovation

Studie zur Folgenabschätzung von ChatGPT

ChatGPT und ähnliche Chatbots beruhen auf einem Computermodell, das mithilfe von Methoden der künstlichen Intelligenz auf die Verarbeitung sprachlicher Daten trainiert wurde. Die Systeme können in kürzester Zeit Antworten zu unterschiedlichsten Themen generieren. Im Auftrag des Bundestagsausschusses für Bildung, Forschung und Technikfolgenabschätzung hat das vom Karlsruher Institut für Technologie betriebene Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag nun in einer Studie seine Einschätzung über ChatGPT und andere Computermodelle zur Sprachverarbeitung dargestellt.
Darin werden die technologische Entwicklung von Computermodellen zur Sprachverarbeitung sowie ihre Möglichkeiten und Grenzen dargestellt. Zur Abschätzung der Chancen und Risiken, die sich aus der Anwendung von ChatGPT und vergleichbaren Systemen ergeben, werden konkrete Anwendungsszenarien in den Bereichen Wirtschaft, Gesundheit, öffentliche Kommunikation und Recht untersucht.
Potenziale der Systeme bestehen in der teilweisen Automatisierung der Produktion von Texten, der Softwareprogrammierung sowie der Übersetzung und Vereinfachung von Texten. Damit sind Entlastungs- und vor allem aber Rationalisierungseffekte erstmals auch in Branchen möglich, die bislang kaum von der Automatisierung durch Informations- und Kommunikationstechnologien betroffen waren. Es lassen sich auch gesellschaftliche Risiken identifizieren, etwa der Verlust der Vertrauenswürdigkeit von Informationen oder die Möglichkeit einer missbräuchlichen Nutzung, zudem können bestehende Ungleichheiten verstärkt und Diskriminierung Vorschub geleistet werden.

TAB-Hintergrundpapier Nr. 26: ChatGPT und andere Computermodelle zur Sprachverarbeitung – Grundlagen, Anwendungspotenziale und mögliche Auswirkungen

ChatGPT und andere Computermodelle zur Sprachverarbeitung – Grundlagen, Anwendungspotenziale und mögliche Auswirkungen (PDF)
doi:10.5445/IR/1000158070

Stand: 09.05.2023