Grundlagenfor­schung für eine verständliche Cyber-Physische Welt

Der Sonderforschungsbereich/Transregio 248 „Grundlagen Verständlicher Software-Systeme“ geht in die zweite Förderphase

Die TU Dresden und die Universität des Saarlandes forschen seit vier Jahren gemeinsam mit den Max-Planck-Instituten für Informatik (MPI-INF) und Softwaresysteme (MPI-SWS) im Sonderforschungsbereich/Transregio (SFB/TR) 248, dem Center for Perspicuous Computing (CPEC), an den wissenschaftlichen Grundlagen für computergestützte Systeme der Zukunft, die ihre Funktionalität und ihr Verhalten selbst erklären. Der Bewilligungsausschuss der Deutschen Forschungsgemeinschaft verlängerte den SFB/TR „Grundlagen Verständlicher Software-Systeme“ gerade um eine zweite vierjährige Förderperiode.

Ob in autonomen Fahrzeugen oder im digital gesteuerten Smart Home – Computerprogramme und Künstliche Intelligenz (KI) sind zunehmend an Handlungen und Entscheidungen beteiligt, die Menschen direkt betreffen. Sie unterstützen unseren Alltag, sollen Gefahrenquellen reduzieren und bei Problemlösungen helfen. Wenn KI-gestützte Systeme aber eine Entscheidung treffen, die z.B. zu einem Autounfall oder gar Absturz eines Flugzeuges führt, dann liegt das oft daran, dass sie ihr Verhalten nicht erklären und der Mensch nicht mehr eingreifen kann. Genau hier setzt das Center for Perspicuous Computing mit seiner Forschung an und will Verständlichkeit, Nachvollziehbarkeit und Kontrolle direkt in künftige Systemsoftware einbauen.

Seit mehreren Jahren schafft es die wissenschaftlichen Grundlagen für Systeme der Zukunft, die ihre Funktionsweise erklären (Perspicuous Systems). CPEC erforscht die formalen Entwurfs- und Analysemethoden, die notwendige informatische Strukturen und insbesondere mathematische Erklärungen erzeugen. Neuartige Ansätze der Mensch-Computer-Interaktion, Visualisierung und Sprachgenerierung sollen helfen, die eher abstrakten Erklärungen auch in für Menschen verständliche Erläuterungen umzuwandeln. So könnte beispielsweise ein autonomes Fahrzeug die Kontrolle wieder an den Menschen übergeben, wenn die Steuersoftware an ihre Grenzen gelangt ist.

„Wir freuen uns sehr, mit dem positiven Förderentscheid das Forschungsgebiet ‚Perspicuous Computing‘ weiter vorantreiben zu können – für verständliche, nachvollziehbare und vorhersehbare softwarebasierte Systeme“ äußert sich der Standortsprecher des SFB/TR 248 Prof. Raimund Dachselt von der Fakultät Informatik der TU Dresden. „Es ist wichtig, dass wir die Systeme, die uns im Alltag unterstützen, so entwickeln, dass wir sie auch verstehen und ihnen vertrauen können.“ In der nächsten Förderperiode soll zunächst vertieft untersucht werden, wie Erkenntnisse aus der Analyse von laufenden Systemen für den Entwurf künftiger Systeme genutzt werden. „Im Fokus steht für uns aber auch die menschzentrierte Forschung (Human-in-the-Loop) und die gesellschaftliche Dimension (Society-in-the-Loop), verbunden mit zunehmenden gesetzlichen Anforderungen an mit KI arbeitende Systeme. Wir wollen zur Reduzierung ihrer Risiken beitragen“, so Prof. Dachselt.

In drei großen Themenfeldern mit insgesamt 14 Teilprojekten forschen in den kommenden vier Jahren 21 Projektleiter:innen gemeinsam an den wissenschaftlichen Grundlagen solcher „Verständlichen Computersysteme“. Neben den beiden Universitäten sind in der zweiten Phase das MPI-SWS und das CISPA Helmholtz-Zentrum für Informationssicherheit beteiligt. Der SFB/Transregio 248 kombiniert Forschung aus den Bereichen Formale Methoden, Künstliche Intelligenz sowie visuelle und sprachbasierte Mensch-Computer Interaktion auf neuartige Weise miteinander. Zukünftig wird es möglich sein, software-basierte Systeme zu erstellen, die vorhersagbar und verständlich agieren. Die CPEC-Forschung dient damit dem wachsenden Bedürfnis der Gesellschaft, die Kontrolle über die computergestützten Systeme zu behalten, mit denen wir alle interagieren, und ermöglicht eine nachvollziehbare cyber-physische Welt. Die Deutsche Forschungsgemeinschaft fördert den Sonderforschungsbereich/Transregio 248 ab Januar 2023 mit insgesamt 13 Millionen Euro.