Forschungsfelder
Forschungsschwerpunkt 1: Design of Intelligent Information Systems
Der Forschungsschwerpunkt untersucht die sozio-technische Gestaltung intelligenter Informationssysteme unter Einsatz moderner Data-Science-Technologien. Dabei werden bspw. algorithmische Ansätze aus den Bereichen Deep Learning, Generative AI, Process Mining, Natural Language Processing oder Computer Vision genutzt, um adaptive und effiziente Informationssysteme zu entwickeln. Ziel ist es, innovative Lösungen zu schaffen, die sowohl technische/algorithmische als auch soziale/organisationale Anforderungen berücksichtigen.
Forschungsmethoden:
- Design Science Research als übergeordneter Ansatz
- Architekturanalyse und Systemdesign
- Entwicklung und Evaluation von Prototypen
- Fallstudien und simulationsbasierte Experimente
- Datengetriebene Modellierung und Optimierung
Forschungsschwerpunkt 2: Interpretable Machine Learning & Explainable Artificial Intelligence
Dieser Forschungsschwerpunkt fokussiert sich auf die Entwicklung und Evaluation intrinsisch interpretierbarer Machine-Learning-Modelle („Interpretable Machine Learning“, IML) sowie post-hoc-analytischer Methoden zur nachträglichen Erklärbarkeit von komplexen Black-Box-Modellen („Explainable Artificial Intelligence“, XAI). Ziel ist es, die Nachvollziehbarkeit und Transparenz von KI-Systemen zu erhöhen, um deren Einsatz in kritischen Anwendungsbereichen (z.B. Medizin, Produktion, Finanzwesen) zu gewährleisten. Darüber hinaus beschäftigt sich der Forschungsschwerpunkt mit sämtlichen tangierenden Themen, die sich aus algorithmischer/technischer, sozialer/nutzerzentrierter und organisationaler Sicht ergeben.
Beispiele für tangierende Forschungsthemen:
- Verknüpfung von IML- und XAI-Ansätzen mit generativer KI bzw. Large Language Models (z.B. in Form von Conversational Agents als personalisierte Dialogschnittstelle zwischen Modell und Nutzer)
- Personalisierung von IML- und XAI-Ausgaben an individuelle Nutzerpräferenzen unter Berücksichtigung verschiedener Nebenbedingungen (z.B. Leistungsfähigkeit, Nachvollziehbarkeit, Generalisierbarkeit, etc.)
- Operationalisierung des schwer messbaren Konstrukts "Interpretierbarkeit" aus sozio-technischer Sicht sowie mögliche Verknüpfungspotenziale zu etablierten Methoden aus dem Bereich der NeuroIS-Forschung
- Durchführung nutzerzentrierter Experimental- und Evaluationsstudien, insb. unter Berücksichtigung von theoretischen Erklärungsansätzen aus dem Bereich der Verhaltensökonomik (Stichpunkt: "Thinking, Fast and Slow")
- Brückenschlag zum Themengebiet "Causal Machine Learning" zur Aufdeckung und zur Berücksichtigung kausaler Zusammenhänge
Forschungsmethoden:
- Entwicklung neuer algorithmischer Methoden
- Theoretische Analyse von Interpretierbarkeitsmaßen
- Benchmarking von Explainability-Techniken
- Nutzerstudien zur Bewertung von Erklärungen
Laufende Projekte
- BMBF-Nachwuchsforschergruppe: „White-Box-AI - Transparente Entscheidungsunterstützung durch interpretierbare Machine-Learning-Modelle: Entwicklung und Evaluation interpretierbarer Modellstrukturen unter Einbezug von Expertenwissen“(gemeinsam mit Mathias Kraus, Universität Regensburg; Laufzeit: 08/2022 – 07/2025)
Forschungsschwerpunkt 3: Applied Machine Learning
In diesem Schwerpunkt wird die Anwendung und das Benchmarking moderner Machine-Learning-Algorithmen in verschiedenen Domänen erforscht. Durch die Evaluierung von Modellen in realen Anwendungsfällen werden Erkenntnisse über deren Leistungsfähigkeit, Skalierbarkeit und Robustheit gewonnen. Dies ermöglicht die Entwicklung branchenspezifischer Anpassungen und Optimierungen für den praktischen Einsatz von KI.
Forschungsmethoden:
- Empirische Evaluierung von ML-Algorithmen
- Benchmarking und Performance-Analyse
- Transfer Learning und Domänenanpassung
- Fallstudien in spezifischen Anwendungsbereichen
Forschungsschwerpunkt 4: Human-AI Interaction
Dieser Forschungsschwerpunkt befasst sich mit der menschlichen Wahrnehmung und Nutzung von KI-Systemen. Durch nutzerzentrierte Experimentalstudien werden Faktoren wie Vertrauen, Akzeptanz und Entscheidungsverhalten gegenüber KI analysiert. Ziel ist es, Designprinzipien für menschenzentrierte KI-Systeme abzuleiten, die eine effektive und nachhaltige Interaktion zwischen Mensch und Maschine ermöglichen.
Forschungsmethoden:
- Laborexperimente und Online-Studien
- Psychologische und verhaltenswissenschaftliche Analysen
- Fragebögen und qualitative Interviews
- Perspektivisch: Eye-Tracking und neurophysiologische Messungen