Künstliche Intelligenz hat den Ruf, objektiv zu sein – basierend auf Daten, nicht auf Meinungen; geleitet von Logik, nicht von Vorurteilen. Diese Wahrnehmung ist jedoch gefährlich irreführend.

KI-Systeme werden mit Daten trainiert, die von menschlichen Gesellschaften produziert wurden – Daten, die von unserer Geschichte, unseren Ungleichheiten und Vorurteilen geprägt sind. Algorithmen spiegeln die Werte ihrer Entwickler, die Verzerrungen ihrer Datensätze und die Strukturen der Gesellschaft wider, in denen sie eingesetzt werden.

Das bedeutet, dass Verzerrungen kein Fehler in der KI sind – sie sind oft ein Merkmal.

Häufige Beispiele für geschlechtsspezifische Vorurteile in der KI sind:

• Sprachassistenten (wie Siri, Alexa oder Google Assistant), die standardmäßig weibliche Stimmen verwenden und darauf programmiert sind, hilfsbereit, unterwürfig und höflich zu sein, verstärken veraltete Geschlechternormen, wonach Frauen als Betreuerinnen oder Sekretärinnen fungieren.
• Gesichtserkennungssysteme, die bei Frauen – insbesondere bei Frauen mit dunklerer Hautfarbe – deutlich schlechter funktionieren, was zu Fehlidentifikationen und ungerechtfertigter Überwachung führt. Eine Studie des MIT Media Lab ergab Fehlerquoten von bis zu 34 % bei Frauen mit dunklerer Hautfarbe, verglichen mit weniger als 1 % bei Männern mit hellerer Hautfarbe.
• Einstellungsalgorithmen, die aus historischen Daten „lernen“ – in denen Männer in technischen Berufen bevorzugt wurden – und daher Lebensläufe mit weiblich kodierten Namen oder solche, die Mutterschaftsurlaub oder „nicht-lineare“ Karrierewege widerspiegeln, benachteiligen.
• Algorithmen im Gesundheitswesen, die Frauen unterdiagnostizieren, insbesondere in Bereichen wie Herzerkrankungen, da sie überwiegend mit männlichen Datensätzen trainiert wurden.

Diese Verzerrungen können lebensverändernde Folgen haben. Ein fehlerhafter Algorithmus kann jemandem einen Arbeitsplatz verweigern, eine wichtige medizinische Behandlung verzögern oder jemanden fälschlicherweise als Sicherheitsrisiko einstufen. Und da KI-Entscheidungen oft undurchsichtig oder proprietär sind, kann es schwierig oder unmöglich sein, sie anzufechten.

Darüber hinaus verschärfen sich diese Probleme je nach Identität. Beispielsweise werden Transgender- und nicht-binäre Personen regelmäßig von Systemen, die auf binären Geschlechtskategorien basieren, falsch klassifiziert oder ausgeschlossen. Indigene Bevölkerungsgruppen und Bevölkerungsgruppen aus dem globalen Süden fehlen möglicherweise gänzlich in den Datensätzen, was dazu führt, dass die Tools für sie einfach nicht funktionieren.

Die Behebung dieser Probleme ist nicht nur eine technische Herausforderung, sondern auch eine politische und ethische Notwendigkeit. Dazu ist Folgendes erforderlich:

• Diversifizierung der Teams, die KI-Systeme entwickeln und testen.
• Hinterfragen von Daten – woher sie stammen, wessen Leben sie repräsentieren und was sie auslassen.
• Überdenken von Designwerten – nicht nur Genauigkeit oder Effizienz, sondern auch Fairness, Sicherheit und Verantwortlichkeit.
• Festlegung von Vorschriften, die sicherstellen, dass KI-Systeme auf Voreingenommenheit geprüft werden und dass ihre Entwickler für Schäden haftbar gemacht werden.

Vor allem erfordert dies einen Mentalitätswandel: Weg von der Vorstellung, KI sei „neutral“, hin zur Erkenntnis, dass es sich um ein von Menschen geschaffenes Werkzeug handelt – eines, das entweder Unterdrückung verstärken oder Gerechtigkeit fördern kann, je nachdem, wer es entwickelt, wie und warum.

Es gibt bereits inspirierende Projekte, die feministische KI-Werte in die Praxis umsetzen. So arbeitet beispielsweise das Feminist Generative AI Lab mit marginalisierten Gemeinschaften und inklusiven Datensätzen; PartialJustice (Horizon Europe) konzentriert sich auf partizipative algorithmische Gerechtigkeit; Women Reclaiming AI fordert die Stimmen von Frauen in der Konversations-KI und in visuellen Datensätzen zurück; GeoChicas prägt die Darstellung von Frauen im öffentlichen Raum durch Kartierungstechnologien. Diese Beispiele zeigen nicht nur, was möglich wäre, sondern auch, was derzeit entwickelt wird.