Erfolgreicher interdisziplinärer Workshop zur Transparenz von KI-Systemen

Franz Lehr

Das Thema Künstliche Intelligenz (KI) ist in aller Munde. Im privaten und öffentlichen Leben finden immer mehr auf KI-Techniken beruhende Anwendungen Einsatz. In der Politik baut die EU-Kommission ihre KI-Strategie aus und hat im April dieses Jahres den weltweit ersten Entwurf für eine spezifische KI-Regulierung vorgelegt. In der Wissenschaft wird weiter interdisziplinär an den theoretischen Grundlagen der Techniken und ihrer Implementierungen geforscht, an der TUD etwa am Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig.

Unternehmen nutzen KI für so unterschiedliche Bereiche wie Chatbots und digitale Sprachassistenten, Tools zur Personalauswahl, personalisierte Credit-Scoring-Verfahren oder individualisierte Produktempfehlungen und Zielgruppenanalysen. Für die Betroffenen ist dabei häufig nicht ersichtlich, mit welcher Datengrundlage das System arbeitet, welche Operationen es ausführt, wie Entscheidungen getroffen werden. Mitunter ist nicht einmal erkennbar, dass KI-Systeme zur Kommunikation eingesetzt werden. In der Forschung zum Einsatz von KI-Systemen sind deshalb Fragen zur Transparenz der Systeme zentral: Warum, wie und durch bzw. für wen ist Transparenz zu gewährleisten, mit welchen Rezeptionsgraden? Welche Vor- und Nachteile bestehen bei unterschiedlichen Graden transparenter KI-Systeme? Wieso wird in ähnlich gelagerten Fällen von KI-Systemen mehr Transparenz als von menschlichen Akteuren gefordert? Führen KI-Systeme zur Verschleierung menschlicher Verantwortung? Welchen Einfluss hat die Kommunikation mit Maschinen auf das menschliche Kommunikationsverhalten?

Um diese und weitere Fragen zu beantworten, veranstaltete das Institut für Internationales Recht, Geistiges Eigentum und Technikrecht (IRGET) Anfang Mai einen interdisziplinären Workshop zum Thema »Transparenz von KI-Systemen «. Gemeinsam mit Referenten aus Theologie (Prof. Schwarke, TUD), Kommunikationswissenschaften (Prof. Sven Engesser, TUD) und Informatik (Dr. Ringo Baumann, Uni Leipzig) wurde beleuchtet, welche ethischen Forderungen an die Transparenz von KI-Systemen gestellt werden und wie Transparenz praktisch hergestellt werden kann. Dies soll den Weg ebnen zu praxistauglichen Regelungsvorschlägen, die in ethischer, verhaltenswissenschaftlicher und technischer Hinsicht auf fundierten Annahmen beruhen. Dabei lag der Fokus des Interesses nicht wie sonst üblich auf staatlich eingesetzten KI-Systemen, sondern auf dem Einsatz durch Unternehmen. Statt auf die Kontrolle demokratisch legitimierter Machtausübung zielt Regulierung durch Transparenz hier darauf ab, Informationsasymmetrien auszugleichen und informierte privatautonome Entscheidungen von Vertragspartnerinnen und -partner zu ermöglichen. Dies folgt aus dem Primat privatautonomer Lebensgestaltung gleichberechtigter Akteure.

Im privatwirtschaftlichen Einsatz wurden sowohl Förderung von Akzeptanz als auch die Menschenwürde für nur bedingt tragfähige Begründungen für Transparenzforderungen gehalten. Zwar wird KI zu Machtkonflikten führen oder diese verstärken, ein Regelungsbedarf ergibt sich aber stets nur anwendungsbezogen und nicht KI-spezifisch. Als entscheidend wurde identifiziert, dass Transparenz die Subjekthaftigkeit der Betroffenen erhält, diesen ein Gefühl von Einflussnahme und möglicher Korrektur gibt. Auch kann Transparenz sozialpsychologisch ein Anker für Sicherheit sein, der Kontrollverlust entgegenwirkt. Festgestellt wurde daneben, dass für die Herstellung von Transparenz zwischen wissenschaftlichen Erklärungen und Alltagserklärungen unterschieden werden muss. Letztere werden häufig mittels Warum- bzw. Warum-nicht-Fragen gegeben, auf welche die Antworten oft kontrastiv sind und stark vom Antwortenden abhängig, also nicht universell. Entscheidend ist damit die Transformation von Informationen in verständlichere Darstellungsformen. So konnte der Workshop Antworten auf grundlegende Fragen und wichtige Impulse für die weitere Arbeit liefern. Auf dem Weg hin zu angemessen transparenten KI-Systemen bleibt jedoch auch weiterhin erheblicher Forschungsbedarf.

Dieser Artikel ist im Dresdner Universitätsjournal 12/2021 vom 29. Juni 2021 erschienen. Die komplette Ausgabe ist im Online-Auftritt des UJ unter https://tu-dresden.de/uj oder hier im pdf-Format kostenlos downloadbar. Das UJ kann als gedruckte Zeitung oder als pdf-Datei bei bestellt werden.