„Erklärbare KI-Modelle schaffen Akzeptanz“

Der IHK-Fachausschuss Industrie, Energie und Umwelt war jetzt zu Gast am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Osnabrück (siehe Seite 22). Prof. Dr. Martin Atzmüller stellte den Unternehmern das DFKI und aktuelle Forschungsprojekte vor. Unser IHK-Kollege Kristoph Leonard fragte beim ihm nach.
_ Herr Prof. Dr. Atzmüller, Sie leiten seit Anfang 2024 den Forschungsbereich Planbasierte Robotersteuerung am Standort Osnabrück und lehren an der Universität Osnabrück. Weshalb haben Sie sich für den Forschungsbereich Künstliche Intelligenz (KI) entschieden?
Künstliche Intelligenz ist einer der spannendsten Forschungsbereiche, mit einer großen Bandbreite in Forschung und Anwendung, etwa hinsichtlich Entscheidungsunterstützung, der effizienten Analyse bzw. Auswertung großer Datenmengen oder der Entwicklung kollaborativer und/oder (semi-) autonomer Systeme. Das hat mich schon im Informatik-Studium fasziniert - und hat sich über Promotion und Habilitation fortgesetzt und intensiviert. Insbesondere begeistert es mich hier neue Methoden zu entwickeln, die dann auch in Anwendungen und Systemen umgesetzt werden. Sie leisten damit nicht nur in der Theorie, sondern auch in der Praxis einen Beitrag.
Prof. Dr. Martin Atzmüller vom DFKI in Osnabrück war im März 2025 Gastgeber für den IHK-Fachausschuss Industrie, Energie und Umwelt und war Gesprächspartner für unser Interview.

_ Ein Schwerpunkt Ihrer Forschung ist die Erklärbarkeit von KI-Modellen. Warum ist diese schwierig und wichtig zugleich?
Viele KI-Modelle sind „Black-Box-Modelle“, das heißt: ihre Funktionsweise ist für Menschen schwierig nachvollziehnabr und überprüfbar - bzw. im Extremfall ist dies überhaupt nicht möglich. Dies kann insbesondere bei Entscheidungen bzw. der Anwendung von KI-Modellen in „Hochrisiko“-Bereichen wie der Medizin, Energie, Infrastruktur etc. kritisch sein. Gerade hier ist es daher in der Anwendung wichtig, Funktionsweise bzw. Schlussfolgerungen von Modellen nachvollziehbar, transparent und damit erklärbar zu machen. Denn so kann man zu vertrauenswürdigen Systemen gelangen und damit insgesamt auch die Akzeptanz solcher Systeme weiter steigern.
_ Welche Herausforderungen sehen Sie aktuell bei der Implementierung von KI-Technologien in der Industrie? Wie kann das DFKI Unternehmen dabei unterstützen?
Die Herausforderungen umfassen beispielsweise die Sicherstellung einer ausreichenden hochqualitativen Datenlage bzw. die integrative Gestaltung von KI-Systemen, um diese dann auch erfolgreich in bestehende Systeme integrieren zu können. Hier kann das DFKI Unternehmen beraten und dank der umfangreichen KI-Expertise sowie durch spezielle (Forschungs-)Kooperationen und Projekte, unterstützen. So können etwa integrative KI-Systeme als maßgeschneiderte Lösungen entwickeln werden und an konkrete Anwendungsfälle angepasst werden.
_ Wie schätzen Sie die zukünftige Entwicklung der KI-gestützten Robotik ein?
KI-gestützte Robotik ist eines der zentralen Themen in den nächsten Jahren, als innovativer Enabler und elementare ökonomische Säule der Zukunft. Sie wird hier insbesondere im Hinblick auf verstärkte Automatisierung, Prozessoptimierung und Autonomie eine wichtige Rolle spielen. Etwa auch, um mit Herausforderungen wie dem Fachkräftemangel umzugehen oder effiziente KI-gestützte Prozesse und Systeme erfolgreich ein- bzw. umzusetzen. (Fragen: IHK, K. Leonhard)


Kristoph Leonhard
Standortentwicklung, Innovation und Energie
Projektleiter Innovation und Umwelt/Klimaschutz