ScaDS.AI

Transparenz als Voraussetzung für vertrauenswürdige KI: Rechtliche Rahmenbedingungen und Herausforderungen

Projektlaufzeit: 01.11.2019 – 31.12.2022

Künstliche Intelligenz und lernende Maschinen werden die Menschheit künftig begleiten. Die Bundesregierung und die EU-Kommission haben sich in ihren KI-Strategien das Ziel der Entwicklung von KI-Systemen gesetzt, die den Mensch in den Mittelpunkt stellen. Die Hochrangige Expertengruppe für Künstliche Intelligenz der EU-Kommission identifizierte in ihren Ethikleitlinien grundlegende Imperative und Kernanforderungen, damit KI als vertrauenswürdig angesehen werden kann, darunter auch den Grundsatz der Transparenz.

Das BMBF-geförderte Projekt ist eingebunden ins ScaDS.AI (Center for Scalable Data Analytics and Artificial Intelligence) Dresden/Leipzig, das im Rahmen der KI-Strategie der Bundesregierung zu einem der deutschen KI-Zentren ausgebaut wird. Andere Teilprojekte beschäftigen sich interdisziplinär mit neuen Methoden des Maschinellen Lernens und der Künstlichen Intelligenz sowie Fragen zu Schutz der Privatsphäre, Minderheitenschutz und Rückverfolgbarkeit von KI-getriebenen Entscheidungen.

Im Teilprojekt des IGETeM wird der Frage nachgegangen, welche Anforderungen an den Grundsatz der Transparenz zu stellen sind und wie eine rechtliche Umsetzung ausgestaltet werden kann. Dafür werden in einem interdisziplinären Workshop informationsethische Anforderungen und Implikationen für rechtliche Regelungen erarbeitet. Die ethischen Anforderungen an Transparenzregelungen sollen so identifiziert und für eine rechtliche Einordnung handhabbar gemacht werden. Einbezogen werden sollen dafür u.a. Perspektiven aus den Disziplinen Technikkommunikation, Technikphilosophie und - theologie, Psychologie und Informatik. Juristisch wird der Schwerpunkt im Datenschutz-, Wettbewerbs- und Verbraucherschutzrecht liegen.

Am 27.11.2019 fand in Leipzig die Kick-off-Veranstaltung für das erweiterte SCaDS.AI statt.