Künstliche Intelligenz wird oft als hochmodernes Werkzeug dargestellt – futuristisch, rational und frei von menschlichen Fehlern. In Wirklichkeit ist KI jedoch keine neutrale Kraft. Sie ist ein Produkt menschlicher Entscheidungen: der Daten, mit denen wir sie füttern, der Fragen, die wir ihr stellen, und der Annahmen, die wir treffen. Diese Entscheidungen werden von bestehenden Machtstrukturen geprägt – einschließlich geschlechtsspezifischer Hierarchien.

In vielen Fällen verstärken KI-Systeme bestehende Ungleichheiten, anstatt sie zu korrigieren. Dies gilt insbesondere dann, wenn sie ohne intersektionales Bewusstsein entwickelt werden – also ohne zu erkennen, wie sich überschneidende Identitäten (Geschlecht, ethnische Zugehörigkeit, Klasse, Behinderung, Sexualität) die Erfahrungen der Menschen beeinflussen.

Geschlechtsspezifische Daten und Unsichtbarkeit

Eines der größten Probleme ist der Mangel an repräsentativen Daten. KI-Systeme lernen aus vorhandenen Daten – und wenn das Leben von Frauen in diesen Daten unterrepräsentiert oder verzerrt ist, wird die KI diese Unsichtbarkeit reproduzieren.

Einige Beispiele hierfür sind

• Medizinische KI-Tools, die überwiegend mit Daten von weißen männlichen Patienten trainiert wurden, was zu Fehldiagnosen und schlechteren Ergebnissen für Frauen und People of Color führt. Beispielsweise unterscheiden sich die Symptome eines Herzinfarkts bei Frauen oft von denen bei Männern – dies wird jedoch von Diagnosetools möglicherweise nicht berücksichtigt.

• Crashtest-Algorithmen und Fahrzeugssicherheitskonzepte, die männliche Körpermaße als Standard verwenden, wodurch Fahrzeuge für Frauen und Schwangere weniger sicher sind.

• KI-Systeme für persönliche Finanzen, die Frauen aufgrund systemischer Einkommensunterschiede und traditioneller Betreuungsrollen – und nicht aufgrund ihres individuellen Finanzverhaltens – als risikoreichere Kreditnehmer einstufen.

Die Folgen sind nicht theoretischer Natur. Diese Tools werden zunehmend eingesetzt, um Ressourcen zuzuweisen, Risiken zu bewerten und Entscheidungen in den Bereichen Gesundheit, Beschäftigung, Bildung und öffentliche Sicherheit zu automatisieren. Wenn geschlechtsspezifische Vorurteile eingebaut sind, werden diese verstärkt und betreffen Millionen von Menschen.

KI: Ein Instrument zur Verstärkung oder zur Transformation?

Da KI die Prioritäten derjenigen widerspiegelt, die sie entwickeln, kann sie entweder Dominanz reproduzieren oder sie in Frage stellen. Unkontrolliert kann sie patriarchalische Normen verfestigen – bewusst entwickelt, kann sie jedoch Machtverhältnisse neu verteilen und die Sichtbarkeit unterrepräsentierter Gruppen erhöhen.

KI hat folgende Potenziale: 

• Muster geschlechtsspezifischer Gewalt oder Belästigung aufzudecken und so zur Gestaltung besserer politischer Maßnahmen beizutragen.
• Voreingenommenheiten in historischen Datensätzen zu erkennen und zu korrigieren.
• Inklusive Sprachtools bereitzustellen, die geschlechtsdiverse Identitäten und kulturelle Kontexte unterstützen.
• Frauen in ländlichen und einkommensschwachen Gemeinden ein leichter zugängliches und anpassungsfähigeres Lernen zu ermöglichen.

 

Diese Ergebnisse hängen jedoch davon ab, wer am Designprozess beteiligt ist, wessen Bedürfnisse priorisiert werden und welche Werte die Entwicklung leiten. Ein geschlechterbewusstes, partizipatives Design ist unerlässlich, um sicherzustellen, dass KI dazu beiträgt, bestehende Hierarchien abzubauen, anstatt sie zu verstärken.