Neues Projekt: Erklärbare KI im Eisenbahnver­kehr

Kann ein autonom fahrender Zug hinreichend sicher erkennen, ob eine Abweichung im Kamerabild durch einen Schatten hervorgerufen wird oder vielleicht doch durch ein Kind, das auf den Gleisen spielt? Und wie kann sich ein Mensch während der Sicherheitsbewertung sicher sein, dass das System sich nicht fälschlicherweise zu sicher ist? Wie kann er dafür sorgen, dass seine Sicherheitsbewertung auf hinreichend sicheren Füßen steht – vor allem dann, wenn die Technologie des es prinzipiell unmöglich macht, den entsprechenden Beweis zu erbringen?

Im Projekt XRAISE (Explainable AI for Railway Safety Evaluations) erforschen wir, wie man erklärbare künstliche Intelligenz nutzen kann, um die Sicherheitsbewertung von KI-Algorithmen zu verbessern. Das Projekt wird 2024-2026 vom Eisenbahn-Bundesamt gefördert und erfolgt in Kooperation mit KI- und Eisenbahn-Experten aus der Forschung und Praxis. 

Kontakt: Romy Müller