Welche Potenziale und Probleme wohnen der Digitalisierung und insbesondere den Systemen künstlicher Intelligenz im Hinblick auf Gendersensibilität inne und wie lassen sich autonome Technologien geschlechtergerecht gestalten? Diesen Fragen gingen die Teilnehmer:innen der internationalen Tagung Digital Gender: Ethik, Macht und (Geschlechter-)Wissen in Systemen künstlicher Intelligenz im Deutschen Hygiene-Museum nach. Die Konferenz bildete den Abschluss des Projekts Digital Gender der GenderConceptGroup.

Vom 24. bis 26. März 2022 setzten sich 18 Wissenschaftler:innen aus verschiedenen Fachrichtungen in Panels, Keynotes und Workshops mit dem komplexen Thema auseinander. Mediziner:innen, Pädagog:innen, Ingenieur:innen, Kunst- & Medienwissenschaftler:innen boten vielfältige Einblicke in diverse Forschungsfelder und erweiterten im interdisziplinären Austausch die Perspektiven. 

Prof. Corinna Bath und Prof. Ulrike Bergermann eröffneten das Programm mit der Keynote zu Muster der Un/Gerechtigkeit. Digital colonialism, Gleichheit und Fairness in KI. „Digital colonialism“ verstehen sie nicht als räumliche Okkupation, sondern als Formen von ökonomischer Hegemonie, (Daten)Extraktivismus und Unterminierung des Lokalen durch den Globalen Norden. Die beiden Sprecherinnen belegten dabei, dass Algorithmen Stereotype stabilisieren und rassistische Praktiken verstärken.

In der zweiten Keynote Algorithmic Bias: Didaktische Zugänge für geschlechtergerechte KI- & IT-Systeme thematisierte Prof. Bernadette Spieler das Problem, dass Künstliche Intelligenz und Robotik zwar durch Film und Fernsehen sowie durch den Einzug ins tägliche Leben allgegenwärtig sind, kaum jemand aber die Konzepte und Techniken kenne, die in diesen Geräten und Dienstleistungen stecken. Davon ausgehend betonte die Referentin, dass eine Grundbildung zu KI schon in der Schule notwendig sei. Die Keynote mit dem Schwerpunkt  KI im Kontext der Bildung eröffnete zugleich auch die Workshops zu Pädagogiken des Digitalen am Nachmittag des ersten Tages.     

Tina Bobbe und Emese Papp stellten sich gemeinsam mit den Teilnehmendem in ihrem Workshop Wie kann Technologie das Erlernen von Fähigkeiten unterstützen? Ein Design Workshop zum Thema Wearable Devices der Herausforderung, tragbare, intelligente Kleidung und Geräte zu entwickeln, die den Menschen unterstützen Fähigkeiten (wieder) zu erlernen. Sie stellten sich dabei die Frage, welche Fähigkeiten wichtig sind, die durch Wearable Devices verfügbar gemacht werden sollten und wie diese Wearable Device aussehen und sich anfühlen sollte.  

Lisa Küssel und Susanne Rentsch boten mit ihrem Workshop Von rassistischen Seifenspendern und frauenfeindlichen Kreditkarten. Wieso ist Künstliche Intelligenz so diskriminierend? einen niedrigschwelligen Einblick in grundlegende Funktionsweisen und interaktive Anwendungsbeispiele von Künstlicher Intelligenz. Im Zentrum stand dabei die Frage, wo und warum Menschen durch den Einsatz von KI-basierten Anwendungen Diskriminierungserfahrungen machen, welche Lösungsansätze es für dieses Problem gibt und wie die Sensibilisierung für Diskriminierung durch Künstliche Intelligenz im Unterricht gelingen kann.      

Im dritten Workshop Messing with <>, practicing for <>, refiguring of <>. An experimental workshop on material practice & AI, von MELT (Isabel Paehr & Ren Loren Britton) begaben sich die Teilnehmenden auf eine virtuelle Reise in eine Welt 2300, in der Daten, die für trans- und behinderte Menschen wichtig sind, seit Jahrzehnten gesammelt und genutzt werden. Der Rollenspiel-Workshop setzte sich mit der Frage auseinander, wie Artificial Intelligence auch <Ancestral Intelligences, Autistic Inginuiety, Airy Inquiries, Artificial Intelligence> bedeuten kann.

Den Freitag eröffnete das von Prof. Dr. Antonia Kupfer moderierte Panel zum Thema Informationelle Macht und subjektives Medienhandeln. Den Anfang machte Prof. Lauber-Rönsberg mit ihrem Vortrag zu Diskriminierung durch Künstliche Intelligenz – Überlegungen aus rechtswissenschaftlicher Sicht, in dem sie Diskriminierungen aus einer juristischen Perspektive beleuchtete. Erörtert wurden rechtliche Ansatzpunkte, durch die die Entwicklung und der Einsatz diskriminierungsfreier KI-Anwendungen gefördert werden kann. Dr. Tino Heim deckte in seinem Beitrag Zwischen dynamischer Reproduktion und Transgression. Sexualtechnische Artefakte und Geschlechterverhältnisse in der kapitalistischen Moderne das Spannungsverhältnis auf zwischen dem Potenzial von Sextoys, die soziales Geschlecht der Interagierenden zunehmend gleichgültig oder disponibel erscheinen zu lassen, und der Tatsache, dass grundlegende Muster vergeschlechtlichender Arbeitsteilung und damit verwobene Geschlechterverhältnisse und -identitäten dagegen erstaunlich stabil bleiben.   

In der Keynote Unboxing Platforms: Bodies and identities in scaled futures bezog sich Prof. Nishant Shah auf aufstrebende platform societies und die Verknüpfung von Geschlechtergerechtigkeit mitdigitalen Rechten. Er regte an über Geschlechterpolitik im Zusammenspiel mit den maßgebenden Merkmalen von skalierten Netzwerken nachzudenken.          

Das zweite Panel des Tages Soziotechnische Geschlechterkonstruktionen, moderiert von Prof. Stefan Horlacher, begann mit dem Vortrag Gender als Escape Room - Künstliche Intelligenz als Katalysator von Prof. Waltraud Ernst, in dem sie begriffliche und methodische Grundlagen der Forschung zu KI und Gender einer diffraktiven Analyse unterzog: Aktuelle Studien zeigen, dass KI die Weltsicht genau derer repräsentiert, die sie entwickeln, die Programme schreiben, die Trainingsdatensätze produzieren und auswählen. Dies erfordere eine dringliche Auseinandersetzung mit Geschlecht als nur scheinbar eindeutige Kategorie. Ann-Kristin Kühnen stellte in ihrem Beitrag (De)centering the human? Überlegungen zu Technologien und Subjektivierung Technologien vor, welche immer spezifischer auf die Bedürfnisse, das Interesse und Verhalten der Nutzer:innen ausgerichtet werden, zugleich aber das datenbasierte Wissen meistens nicht bei den Nutzer:innen bleibt, sondern durch Unternehmen und staatliche Akteure für ökonomische Zwecke und biopolitische Regulierungen verfügbar gemacht wird. Die Referentin zeigte ihre damit verbundenen Überlegungen zur Subjektivierung am Beispiel von Self-Tracking-Technologien zur Menstruationszyklusanalyse auf. Den Abschluss den Panels bildete Natalie Sontopskis Beitrag Einmal Assistentin, immer Assistentin? Ein historischer Überblick über die Grundlagen von Siris Persona, in dem sie den Prozess der Feminisierung der Arbeitswelt historisch und als Fundament für heutige Entwicklungen weiblicher Personas von KI-Anwendungen vorstellte.

Am Abend waren die Performances Don’t forget the Lamp von Esmeralda Conde Ruiz und Dancing at the Edge of the World von Diana Serbanescu zu sehen, gefolgt von einem Nachgespräch mit Jun.-Prof. Miriam Akkermann, in dem sich Künstlerin und Moderatorin mit den Grenzen zwischen natürlicher, körperlicher und künstlicher Intelligenz, Ausdrucksfähigkeit und der Funktion von Stimme auseinandersetzen.

Das von Prof. Maria Häusl moderierte Panel Digital dis-/abilities und gender am Samstag Vormittag begann mit dem Vortrag von Prof. Ute Kalender Ultimative Cyborgs oder techno-ableistische Tryborgs? Intersektionale Perspektiven auf künstlich-intelligente Gesundheitstechnologien.  Die Sozialmedizinerin stellte die Frage in den Raum, inwiefern künstlich-intelligente Gesundheitstechnologien ermächtigende oder diskriminierende Effekte für Marginalisierte besitzen und bezog sich dabei auf aktuelle intersektionale Debatten der Disability Studies, der postkolonialen eBlack Studies sowie postmarxistische Feminismen. Dr. Daniela Wentz schloss ihren Beitrag ›You make me feel like a natural woman‹. (Neuro)queerness und Affective Computing an, in dem sie digitale Technologien vorstellte, welche in der Erforschung, Diagnostik und Therapie von autistischen Menschen zum Einsatz kommen. Der Vortrag zielte einerseits auf die Rekonstruktion der epistemischen „Rückseite“ der KI-Technologien und fragte andererseits unter Rückgriff auf das Konzept der Neuroqueerness nach den theoretischen und praktischen Möglichkeiten des Widerstehens gegen die Prozesse der Datafizierung von Neurodiversität.  

Das letzte Panel der Tagung wurde von  Prof. Klavdia Smola moderiert und hatte Spekulative Ästhetiken und Posthumanistische Projektionen zum Thema. Michael Klipphahn eröffnete dieses mit seinem Vortrag THE BODY IS (N)ONE. Identität als techno-rituelle Potenz, wobei er die Kunst von Johannes Paul Raether als Ausgangspunkt für seine Frage nach der visuellen Stellvertretungsfunktion, die der menschliche Körper für digitale Identitäten annehmen kann, nutzt. Prof. Dr. Katrin Köppert zeigte in ihrem Vortrag Oprah Meme. On Digital Blackface and Affect am Beispiel des Phänomens des „Oprah Memes“ die gewaltvollen Affektpolitiken von Memes vor dem Hintergrund der Geschichte der Rassialisierung von Gefühlen auf. Digital Blackface - damit gemeint sind Darstellungen Schwarzer Gesichtsausdrücke, die – mit Text collagiert oder im Falle von Gifs animiert – von weißen Menschen benutzt werden, um einem Gefühl Ausdruck zu verleihen oder einen Witz zu machen.

Den Abschluss der Tagung bildete der Round Table: Gender & Diversity in Digitalen Kulturen. Prof. Corinna Bath, Prof. Waltraud Ernst und Prof. Katrin Köppert setzen sich noch einmal gemeinsam mit Dr. Sara Morais dos Santos Bruss mit dem im Laufe der Tagung Gehörten und Gesehenen auseinander und formulierten Perspektiven, Wünsche und Strategien, dieses anzuwenden und weiterzuentwickeln. Dabei wurde aufgegriffen, dass KI in der Gesellschaft die Rolle einer (gegenderten) Metapher spiele, die es zu eruieren und dekonstruieren gilt. Dass gelebte Geschlechtsidentitäten im Widerspruch zu präskriptiven KI-Kategorien sich als Intensität, Praxis und Affekte artikulieren können, wurde als Potenzial gedeutet, um sich durch technologische Prädiktion verschließende Möglichkeitsräume erneut zu öffnen und für marginalisierte Gruppen lebbarer zu machen. Die Tagungsergebnisse werden im Laufe des kommenden Jahres in einem Tagungsband veröffentlicht.

Die Tagung wurde von der GenderConceptGroup sowie den Mitarbeiterinnen des Projekts „Digital Gender“ organisiert. Konzeption von Dr. Sara Morais dos Santos Bruss, Organisation von Prof. Maria Häusl, Prof. Susanne Schötz, Prof. Stefan Horlacher, Josefine Went und Julia Müller.