Umělá inteligence je často vykreslována jako špičkový nástroj – futuristický, racionální a prostý lidských omylů. Ve skutečnosti však není umělá inteligence neutrální silou. Je výsledkem lidských rozhodnutí: dat, která do ní vkládáme, otázek, které jí klademe, a předpokladů, z nichž vycházíme. Tato rozhodnutí jsou formována stávajícími mocenskými strukturami – včetně hierarchií založených na pohlaví.

 

V mnoha případech systémy AI stávající nerovnosti ještě zesilují, místo aby je napravovaly. To platí zejména v případě, že jsou vyvíjeny bez intersekcionálního povědomí – tedy bez uznání toho, jak se překrývající se identity (pohlaví, rasa, třída, zdravotní postižení, sexualita) promítají do zkušeností lidí.

 

Data zohledňující pohlaví a neviditelnost

Jedním z nejvýznamnějších problémů je nedostatek reprezentativních dat. Systémy AI se učí ze stávajících dat – a pokud jsou životy žen v těchto datech nedostatečně zastoupeny nebo zkresleny, AI tuto neviditelnost zopakuje.

Mezi příklady patří:

• Lékařské nástroje AI trénované převážně na datech od bílých mužských pacientů, což vede k nesprávným diagnózám a horším výsledkům u žen a lidí jiné barvy pleti. Například příznaky infarktu u žen se často liší od příznaků u mužů – diagnostické nástroje to však nemusí zohledňovat.
• Algoritmy pro nárazové testy a návrhy bezpečnosti automobilů, které jako výchozí hodnotu používají standardy mužského těla, čímž se vozidla stávají méně bezpečnými pro ženy a těhotné osoby.
• Systémy umělé inteligence pro osobní finance, které řadí ženy mezi dlužníky s vyšším rizikem kvůli systémovým rozdílům v příjmech a tradičním rolím v péči – nikoli kvůli individuálnímu finančnímu chování.

 

Důsledky nejsou teoretické. Tyto nástroje se stále častěji používají k přidělování zdrojů, posuzování rizik a automatizaci rozhodnutí v oblasti zdravotnictví, zaměstnanosti, vzdělávání a veřejné bezpečnosti. Pokud je do systému zabudována genderová zaujatost, dochází k jejímu rozšíření — což ovlivňuje miliony lidí.

 

AI: Nástroj k posílení nebo k transformaci?

Protože AI odráží priority těch, kdo ji vytvářejí, může buď reprodukovat dominanci, nebo ji zpochybňovat. Pokud nebude kontrolována, může prohloubit patriarchální normy — ale pokud bude vyvíjena záměrně, může přerozdělit moc a zvýšit viditelnost nedostatečně zastoupených skupin.

 

AI má potenciál:

• Odhalit vzorce genderově podmíněného násilí nebo obtěžování a pomoci tak utvářet lepší politiku.
• Detekovat a opravit předsudky v historických datových souborech.
• Poskytnout inkluzivní jazykové nástroje, které podporují genderově rozmanité identity a kulturní kontexty.
• Umožnit přístupnější a adaptivnější vzdělávání pro ženy ve venkovských a nízkopříjmových komunitách.

 

Tyto výsledky však závisí na tom, kdo se podílí na procesu návrhu, čí potřeby jsou upřednostňovány a jaké hodnoty řídí vývoj. Genderově citlivý, participativní design je nezbytný k zajištění toho, aby AI pomáhala rozebírat stávající hierarchie, namísto jejich posilování.