Sascha Weber

Dr. rer. nat. Sascha Weber

E-Mail senden

Kontaktinformationen

Professur für Ingenieurpsychologie und angewandte Kognitionsforschung

work

Besuchsadresse:

Bürogebäude Zellescher Weg, A222 Zellescher Weg 17

01069 Dresden

Zeige Karte von diesem Ort.

work Tel.
fax Fax: +49 351 463-37741

Sprechzeiten:

Montag:: 09:00 - 12:00

Termine außerhalb der Sprechzeiten können vereinbart werden.

Kurzprofil

Sascha Weber konzipiert, entwickelt und evaluiert KI-basierte Assistenzsysteme für sicherheitskritische Arbeitsbereiche — von der Störungsdiagnose in Produktionsanlagen über die Sicherheitsbewertung von Computer-Vision-Systemen im Bahnverkehr bis zur Unterstützung von Chirurgen im Operationssaal. Den Schwerpunkt bildet die Frage, wie sich die Entscheidungen einer KI so darstellen lassen, dass Fachleute sie prüfen, einordnen und begründet zurückweisen können.

Als Diplom-Informatiker mit Promotion in Psychologie verbindet er die technische Umsetzung mit der empirischen Untersuchung ihrer Wirkung: Die Systeme, die in den Nutzerstudien untersucht werden, entstehen in denselben Projekten.

Forschungsinteressen

Erklärbare Künstliche Intelligenz (XAI) in der Anwendung — Begründungsketten, Unsicherheiten und Quellen so aufbereiten, dass Fachnutzende sie interpretieren können; empirische Prüfung von Verständlichkeit, Vertrauen und Übervertrauen
Konzeption und Implementierung interaktiver Assistenzsysteme — von der Methodenentwicklung über den Prototyp in Simulations- und Realumgebungen bis zur Integration in bestehende Arbeitsabläufe
Menschzentrierte Gestaltung im sicherheitskritischen Umfeld — Nutzersteuerung mit klarer Rollen- und Aufgabenverteilung, transparenten Systemrückmeldungen und menschlichen Kontrollmöglichkeiten
Wissensextraktion und Anforderungsanalyse — Experteninterviews, qualitative Inhaltsanalyse und User-Stories als Brücke zwischen realen Arbeitsabläufen und Systemgestaltung
Wissensbasierte Fachassistenten — lokal betreibbare Sprachmodelle, Retrieval-Augmented Generation und Wissensgraphen für nachvollziehbare Antworten auf Unternehmenswissen
Blickbewegungsforschung — Aufmerksamkeitsmessung in realen und virtuellen Umgebungen, einschließlich des Vergleichs menschlicher und maschineller Aufmerksamkeitsverteilung

Entwickelte Systeme

XAIminer

XAIminer ist ein browserbasiertes System, mit dem sich Erklärungsverfahren für KI-Modelle direkt nebeneinander vergleichen lassen — mehrere Panels, jedes mit eigenem Modell, Verfahren (Grad-CAM, LRP, CRAFT, CRP) und Bild, auf Wunsch gekoppelt. Entstanden ist es im Projekt XRAISE, weil keine Erklärungsmethode universell trägt: Welche etwas zeigt, hängt von Aufgabe, Modell und Bild ab.

Projektseite XAIminer

Weitere Systeme

Assistenzsystem zur Fräslärm-Überwachung (INAK) — erfasst den beim Fräsen im Schädelknochen entstehenden Lärm momentan und kumuliert über den Operationszeitraum und zeigt ihn dem Operateur an; umgesetzt in einer Simulationsumgebung für Cochlea-Implantat-Operationen
Dialogbasiertes Diagnose-Assistenzsystem (KoMMDia) — Middleware und Frontend zur KI-gestützten Überwachung von Verpackungsmaschinen auf Basis von OPC UA, mit fallbasiertem Schließen für die kooperative Störungsdiagnose
Feldstudien-App (DESIGNATE) — Erfassung des Nutzerverhaltens beim Konsum von Social-Media-Inhalten über einen Hintergrunddienst mit Datenübertragung in die Cloud

Projekte

Laufende Projekte

XRAISE — Explainable AI for Railway Safety Evaluations (2024–2026, Eisenbahn-Bundesamt). Beim automatisierten Fahren in den Stufen GoA3 und GoA4 muss ein technisches System den Fahrweg überwachen und Hindernisse erkennen — heute die Aufgabe des Triebfahrzeugführers. Ohne maschinelles Lernen ist das nicht zu lösen. Auf tiefe neuronale Netze lässt sich der Sicherheitsnachweis nach DIN EN 50716 jedoch nicht anwenden, weil deren Komponenten nicht wie konventionelle Software interpretierbar sind. XRAISE untersucht, ob Methoden der erklärbaren KI diese Lücke verkleinern können — und welche Risiken entstehen, wenn Menschen XAI-Ergebnisse interpretieren. Eigener Beitrag: Konzeption und Entwicklung von XAIminer. Konsortium: TU Dresden (Professur für Grundlagen der Elektrotechnik; Professur für Ingenieurpsychologie und angewandte Kognitionsforschung), EYYES Deutschland GmbH, PECS-WORK GmbH.

INAK — Interaktives nutzerzentriertes Assistenzsystem für die Knochenchirurgie im Kopfbereich (2024–2026, SAB). Beim Fräsen im Schädelknochen entsteht Lärm, der sich bei Cochlea-Implantat-Operationen nicht vermeiden, aber so reduzieren lässt, dass das verbleibende Hörvermögen der Patientinnen und Patienten nicht geschädigt wird. Das stellt Chirurgen vor die Aufgabe, verschiedene Prozessparameter situationsgerecht anzupassen. Das Projekt ermittelt zunächst, welche Informationen während der Operation benötigt werden, erstellt darauf aufbauend Prozessmodelle zur Lärmentstehung und entwickelt ein KI-basiertes Assistenzsystem. Eigener Beitrag: Erarbeitung kombinierter Assistenz-Methoden, Konzeption und Implementierung in der Simulationsumgebung sowie die Untersuchung von Nützlichkeit und Anwendbarkeit.

DESIGNATE — Disruption im Internet: Mehr Souveränität gegenüber Deceptive Technologies (seit 2022, TUDisc). Bei der Interaktion mit digitalen Oberflächen kommen zunehmend Entscheidungsarchitekturen zum Einsatz, die die Entscheidungsfindung der Nutzerinnen und Nutzer beeinflussen sollen — sogenannte Dark Patterns. In Zusammenarbeit von Informatik, Psychologie und Rechtswissenschaft untersucht das Projekt deren Wirksamkeit sowie mögliche Gegenmaßnahmen. Eigener Beitrag: Entwicklung der App für die Feldstudie.

Abgeschlossene Projekte

XAI-Dia (2022–2025, DFG). Möglichkeiten und Konsequenzen erklärbarer KI bei der Störungsdiagnose in industriellen Anlagen, mit dem Anwendungsfall Qualitätssicherung in der Lebensmittelproduktion. In Kooperation mit der Professur für Grundlagen der Elektrotechnik und der JR Die Schokoladenfabrik GmbH.

KoMMDia — Kooperativer Mensch-Maschine-Dialog (2019–2022, BMBF-Fördermaßnahme „Technikbasierte Dienstleistungssysteme"). Entwicklung eines lernfähigen, dialogbasierten Assistenzsystems zum fallbasierten Schließen für die kooperative Diagnose und Beseitigung von Störungen in Verarbeitungsanlagen. Mit Fraunhofer IVV, Theegarten-Pactec GmbH & Co. KG und JR Die Schokoladenfabrik GmbH. Videobeitrag zum Projekt: zukunft-der-wertschoepfung.de/mediathek/…

FAIR (2012–2015). Bidirektionale optische Mikrodisplays, die Ansteuerungselektronik, Display, Kamera und Auswertungselektronik monolithisch vereinen; Kombination von erweiterter Realität und Blickbewegungserfassung für Analyse, Informationsergänzung und Interaktion.

FSGazeTrack (2010–2011). Bestimmung der Aufmerksamkeitsverteilung in einer virtuellen Fahrumgebung. Auf Basis realer Vermessungsdaten wurden künftige Bauprojekte simuliert und die visuelle Aufmerksamkeit von Triebfahrzeugführern unter erschwerten Bedingungen analysiert.

3D Eye (2008–2009). Prototyp zur softwarebasierten Schielbehandlung mit gekoppelten audiovisuellen 3D-Modellen und adaptiver Anpassung im Heilungsprozess, insbesondere für Kinder mit Amblyopie.

COGAIN — Communication by Gaze Interaction (2004–2007, EU IST 6th Framework Programme). Exzellenznetzwerk mit dem Ziel, Blickbewegungsmessung kostengünstig herzustellen und ALS-Patienten zugänglich zu machen.

Publikationen

Mensch-KI-Interaktion und Aufmerksamkeit

Müller, R., Dürschmidt, M., Ullrich, J., Knoll, C., Weber, S., & Seitz, S. (2024). Do humans and convolutional neural networks attend to similar areas during scene classification: Effects of task and image type. Applied Sciences, 14(6), 2648. https://doi.org/10.3390/app14062648

Blickbewegungsforschung und Methodenentwicklung

Weber, S., Schubert, R. S., Vogt, S., Velichkovsky, B. M., & Pannasch, S. (2017). Gaze3DFix: Detecting 3D fixations with an ellipsoidal bounding volume. Behavior Research Methods, 1-12. doi: https://doi.org/10.3758/s13428-017-0969-4

Weber, S., Helmert, J. R., Velichkovsky, B. M., & Pannasch, S. (2013). Eye tracking in real world and virtual environments: Algorithms for determining gaze position in 3D space. Proceedings of the17th European Conference on Eye Movements. Lund. Download

Weber, S., Pannasch, S., Helmert, J. R., & Velichkovsky, B. M. (2011). Eye tracking in virtual 3D environments: Challenges and directions of future research. Proceedings of the16th European Conference on Eye Movements. Marseille. Download