Neues Forschungspro­jekt: XAI-Dia

Wie kommt eine KI-Algorithmus eigentlich zu seinem Ergebnis? Und welche Auswirkungen  hat es auf den Menschen, das zu wissen? Im Projekt XAI-Dia beschäftigen wir uns mit den Möglichkeiten und Konsequenzen erklärbarer künstlicher Intelligenz bei der Störungsdiagnose in industriellen Anlagen.

Störungen gehören an Verarbeitungs- und Verpackungsanlagen zum Arbeitsalltag. Zum Beispiel bei der Produktion von Schokolade entstehen täglich mehrere tausend Schokoladenriegel, die nicht verkauft werden können. Solche Störungen müssen einerseits entdeckt werden, was heutzutage oft eine hochgradig ermüdende Aufgabe ist. Andererseits müssen die Störungsursachen gefunden werden, die oftmals in vorangegangenen Prozessschritten liegen.

Dabei können Assistenzsyteme helfen, die auf erklärbarer künstlicher Intelligenz basieren (explainable artificial intelligence, XAI). Solche Systeme erlauben es, dem Menschen anzuzeigen wie ein Algorithmus zu seinem Ergebnis gekommen ist - also zum Beispiel welche Bildbereiche oder Prozessdaten er beachtet hat, um zu schlussfolgern, dass und warum die Schokoladenriegel nicht in Ordnung sind. Aber wie gehen Menschen mit solchen Systemen um? Versetzt es sie in die Lage, das KI-System kritischer zu prüfen und Fehler zu bemerken? Oder führt es unter bestimmten Bedingungen sogar zu Übervertrauen? Mit diesen Fragen beschäftigen wir unsd im Projekt XAI-Dia, das wir in Kooperation mit der Professur für Grundlagen der Elektrotechnik und der JR Schokoladenfabrik in Peine durchführen.  

Weitere Infos zum Projekt gibt es hier.