Kunstmatige Intelligentie heeft de reputatie objectief te zijn — gebaseerd op data, niet op meningen; gestuurd door logica, niet door vooroordelen. Maar die perceptie is gevaarlijk misleidend.

AI-systemen worden getraind op data die is geproduceerd door menselijke samenlevingen — data die is gevormd door onze geschiedenis, ongelijkheden en vooroordelen. Algoritmen weerspiegelen de waarden van hun ontwikkelaars, de bias van hun datasets en de structuren van de maatschappij waarin ze worden ingezet.

Dit betekent dat vooroordelen geen foutje in AI zijn — het is vaak een kenmerk.

Veelvoorkomende voorbeelden van genderbias in AI zijn onder meer:

• Spraakassistenten (zoals Siri, Alexa of Google Assistant) die standaard een vrouwelijke stem gebruiken, geprogrammeerd om behulpzaam, onderdanig en beleefd te zijn — wat verouderde gendernormen over vrouwen als verzorgers of secretaresses versterkt.

• Gezichtsherkenningssystemen die aanzienlijk slechter presteren bij vrouwen — vooral bij vrouwen met een donkere huidskleur — wat leidt tot verkeerde identificatie en onterechte surveillance. Een studie van het MIT Media Lab vond foutmarges tot wel 34% voor vrouwen met een donkere huidskleur, vergeleken met minder dan 1% voor mannen met een lichtere huidskleur.

• Wervingsalgoritmen die “leren” van historische gegevens — waarin mannen werden bevoordeeld in technische rollen — en daardoor cv’s met vrouwelijk gecodeerde namen afstraffen, evenals cv’s die zwangerschapsverlof of “niet-lineaire” carrièrepaden laten zien.

• Gezondheidszorgalgoritmen die vrouwen onderdiagnosticeert, met name op gebieden zoals hart- en vaatziekten, omdat ze zijn getraind op overwegend mannelijke datasets.

Deze vooroordelen kunnen ingrijpende gevolgen hebben. Een gebrekkig algoritme kan iemand een baan ontzeggen, een kritieke medische behandeling vertragen of iemand onterecht aanmerken als een veiligheidsrisico. En omdat AI-beslissingen vaak ondoorzichtig of gepatenteerd zijn, kan het aanvechten ervan moeilijk of onmogelijk zijn.

Bovendien versterken deze problemen elkaar over verschillende identiteiten heen. Bijvoorbeeld: transgender en non-binaire personen worden routinematig verkeerd geclassificeerd of uitgesloten door systemen die vertrouwen op binaire gendercategorieën. Inheemse bevolkingsgroepen en gemeenschappen uit het globale Zuiden ontbreken mogelijk volledig in datasets, wat leidt tot hulpmiddelen die simpelweg niet voor hen werken.

Het oplossen van deze kwesties is niet zomaar een technische uitdaging — het is een politieke en ethische noodzaak. Het vereist:

• Het diversifiëren van teams die AI-systemen ontwerpen en testen.

• Het kritisch onderzoeken van data — waar deze vandaan komt, wiens levens het vertegenwoordigt en wat er wordt weggelaten.

• Het herzien van ontwerpwaarden — niet alleen nauwkeurigheid of efficiëntie, maar ook eerlijkheid, veiligheid en verantwoording.

• Het opstellen van regelgeving die ervoor zorgt dat AI-systemen worden gecontroleerd op bias en dat hun makers verantwoordelijk worden gehouden voor veroorzaakte schade.

Bovenal vraagt het om een verandering in denkwijze: weg van het zien van AI als “neutraal” en naar de erkenning dat het een door mensen gemaakt hulpmiddel is — een middel dat onderdrukking kan versterken óf rechtvaardigheid kan bevorderen, afhankelijk van wie het bouwt, hoe en waarom.

Er zijn al inspirerende projecten die feministische AI-waarden in de praktijk brengen. Bijvoorbeeld: Feminist Generative AI Lab werkt met gemarginaliseerde gemeenschappen en inclusieve datasets; PartialJustice (Horizon Europe) stelt participatieve algoritmische rechtvaardigheid centraal; Women Reclaiming AI eist de stem van vrouwen terug in conversatie-AI en visuele datasets; GeoChicas geeft vorm aan de manier waarop kartografische technologieën vrouwen in de openbare ruimte vertegenwoordigen. Deze voorbeelden laten niet alleen zien wat er zou kunnen zijn — maar wat er nú al wordt gebouwd.