"Prädiktive Privatheit. Ethische Perspektiven auf KI im Digitalen Kapitalismus". Bericht zum Internen Workshop mit Dr. Rainer Mühlhoff, TU Berlin/FU Berlin, am 25. März 2021

Bereits zum vierten Mal setzte sich das Kollegium des Schaufler Kolleg@TU Dresden in einem internen Workshop intensiv mit den aktuellen Forschungsarbeiten eines Gastes auseinander: Am 25. März 2021 folgte Dr. Rainer Mühlhoff, Wissenschaftlicher Mitarbeiter am Excellence Cluster „Science of Intelligence“ an der TU Berlin sowie assoziiertes Mitglied am Sonderforschungsbereich 1171 Affective Societies der FU Berlin, digital der Einladung nach Dresden.

Unter dem Titel „Prädiktive Privatheit: Ethische Perspektiven auf KI im digitalen Kapitalismus“ beschäftigte sich der Workshop am Beispiel der prädiktiven Analytik mit Fragen der Ethik, Sozialphilosophie sowie des Datenschutzes.

Der Begriff der prädiktiven Analytik umfasst hierbei jene Technologien der Künstlichen Intelligenz, die sich als Teil der (Daten-)Infrastruktur des Digitalen alltäglich und nahezu ubiquitär nicht nur auf die Ökonomie, sondern auch auf Gesellschaft und Politik auswirken: datenbasierte Prognosesysteme, die mithilfe von Anwendungen des Maschinellen Lernens Vorhersagen über menschliches Verhalten oder Abschätzungen über sensible Informationen von Gruppen oder Individuen treffen. Verwendung finden die Techniken in den vielfach eingesetzten Scoring-, Klassifikations- und automatischen Entscheidungsverfahren.

Charakteristikum dieser Prognosen sind Ähnlichkeitsgruppierungen bzw. Kategorisierungen nach einem people like you-Prinzip, mithilfe derer Gruppen oder Individuen anhand der über sie bekannten Daten in Kategorien sich ähnelnder Teilgruppen eingeordnet werden. Die Zuordnung der zu untersuchenden Subjekte zu einer bestimmten Kategorie erfolgt mittels einfach zu erlangender (Hilfs-)Daten, etwa über Verhaltensdaten. Aufgrund der angenommenen Ähnlichkeit werden dann zu prognostizierende, (noch) nicht bekannte Informationen über die jeweiligen Subjekte durch die Vermutung von Ähnlichkeit abgeschätzt.

Hierin begründet sich ein kollektives ethisches Problem, mit dem die sozialen Folgen prädiktiver Analytik unweigerlich verbunden sind: Ermöglicht und optimiert werden die Techniken datenbasierter Prognosesysteme erst durch die Fülle und Verfügbarkeit der Daten Dritter, zu der alle Nutzer:innen vernetzter digitaler Medien und Geräte beitragen, selbst wenn die Datensammlung anonym erfolgt.

Als ethisch-normativen Vorschlag, den sozialen Folgen der Anwendung prädiktiver Analytik zu begegnen und eine kollektive Komponente von Datenschutz zu stärken, bietet Mühlhoff das Konzept der prädiktiven Privatheit an. Ziel hierbei ist die Ausweitung herkömmlicher Privatheits- oder Datenschutzverständnisse, nach denen nur explizit erhobene oder erfasste Informationen als Gegenstand einer möglichen Verletzung von Privatheit angesehen werden, um die Kategorie abgeschätzter Informationen.

Die an den Vortrag anschließende Diskussion drehte sich sodann um Rainer Mühlhoffs Vorschläge der Regulierung prädiktiver Analysen. Sie reichten von sektor- oder bereichsspezifischen Verboten der Erstellung prädiktiver Risiko-Modelle, etwa im Bereich der Bildung oder Strafzumessung, bis hin zu einem generellen Verbot mit Erlaubnisvorbehalt für die Anwendung prädiktiver Risiko-Modelle auf Einzelpersonen, mit Ausnahmen etwa bei medizinischen Diagnosesystemen. Auch die Bedeutung des Designs von digitalen Oberflächen wurde thematisiert, da dies starken Einfluss auf die Preisgabe von Daten durch die Nutzer:innen und somit auf die Produktion der für prädiktive Analytik erforderlichen Datengrundlage hat.

Weitere Informationen: https://rainermuehlhoff.de

Bericht: Franz Lehr, Niklas Lange