Umělá inteligence má pověst objektivní technologie – založené na datech, nikoli na názorech; řízené logikou, nikoli předsudky. Tento dojem je však nebezpečně zavádějící.

 

Systémy umělé inteligence jsou trénovány na datech vytvořených lidskou společností – datech formovaných naší historií, nerovnostmi a předsudky. Algoritmy odrážejí hodnoty svých vývojářů, zaujatost jejich datových sad a struktury společností, ve kterých jsou nasazeny.

 

To znamená, že zaujatost není v umělé inteligenci chybou – často je to její vlastnost.

Mezi běžné příklady genderové zaujatosti v umělé inteligenci patří:

•   Hlasové asistentky (jako Siri, Alexa nebo Google Assistant), které mají jako výchozí nastavení ženské hlasy a jsou naprogramovány tak, aby byly ochotné, poddajné a zdvořilé – což posiluje zastaralé genderové normy o ženách jako pečovatelkách nebo sekretářkách.

 

•   Systémy rozpoznávání obličeje, které fungují výrazně hůře u žen – zejména u žen s tmavším odstínem pleti – což vede k chybné identifikaci a neoprávněnému sledování. Studie z MIT Media Lab zjistila míru chyb až 34 % u žen s tmavší pletí, ve srovnání s méně než 1 % u mužů se světlejší pletí.

 

•   Náborové algoritmy, které se „učí“ z historických dat – kde byli v technických rolích upřednostňováni muži – a tím penalizují životopisy s jmény typickými pro ženy, nebo ty, které odrážejí mateřskou dovolenou či „nelineární“ kariérní dráhy.

 

•     Algoritmy ve zdravotnictví, které u žen podceňují diagnózy, zejména v oblastech jako srdeční onemocnění, protože byly trénovány na datových souborech převážně mužů.

 

Tyto předsudky mohou mít důsledky, které změní život. Chybný algoritmus může někomu odepřít práci, zpozdit kritickou lékařskou léčbu nebo někoho falešně označit za bezpečnostní riziko. A protože rozhodnutí AI jsou často neprůhledná nebo chráněná autorskými právy, může být jejich zpochybnění obtížné nebo nemožné.

 

Navíc se tyto problémy kumulují napříč identitami. Například transgenderové a nebinární osoby jsou běžně nesprávně klasifikovány nebo vyloučeny systémy, které se opírají o binární genderové kategorie. Domorodé populace a populace globálního Jihu mohou v datových souborech zcela chybět, což vede k nástrojům, které pro ně prostě nefungují.

 

Náprava těchto problémů není jen technickou výzvou – je to politická a etická nutnost. Vyžaduje:

•   Diverzifikaci týmů, které navrhují a testují systémy AI.
•     Zkoumání dat – odkud pocházejí, čí životy reprezentují a co opomíjejí.
•   Přehodnocení hodnot designu – nejen přesnost nebo efektivita, ale také spravedlnost, bezpečnost a odpovědnost.
•     Zavedení předpisů, které zajistí, že systémy AI budou kontrolovány z hlediska zaujatosti a že jejich tvůrci ponesou odpovědnost za způsobenou škodu.

 

A co je nejdůležitější, vyžaduje to změnu myšlení: od vnímání AI jako „neutrální“ k uznání, že se jedná o nástroj vytvořený člověkem – nástroj, který může buď posilovat útlak, nebo podporovat spravedlnost, v závislosti na tom, kdo jej vytvoří, jak a proč.

 

Již nyní existují inspirativní projekty, které uvádějí feministické hodnoty AI do praxe. Například Feminist Generative AI Lab pracuje s marginalizovanými komunitami a inkluzivními datovými sadami; PartialJustice (Horizon Europe) se zaměřuje na participativní algoritmickou spravedlnost; Women Reclaiming AI se zasazuje o to, aby se hlasy žen znovu dostaly do konverzační AI a vizuálních datových sad; GeoChicas formuje způsob, jakým mapovací technologie zobrazují ženy ve veřejném prostoru. Tyto příklady ukazují nejen to, co by mohlo být — ale to, co se právě teď buduje.