Sztuczna inteligencja jest często przedstawiana jako najnowocześniejsze narzędzie – futurystyczne, racjonalne i wolne od ludzkich błędów. W rzeczywistości jednak sztuczna inteligencja nie jest siłą neutralną. Jest ona wynikiem ludzkich wyborów: danych, które jej dostarczamy, pytań, które zadajemy, oraz założeń, które przyjmujemy. Wybory te są kształtowane przez istniejące struktury władzy, w tym hierarchie oparte na płci.

 

W wielu przypadkach systemy AI pogłębiają istniejące nierówności, zamiast je korygować. Jest to szczególnie prawdziwe, gdy są one opracowywane bez uwzględnienia świadomości intersekcjonalnej, czyli bez rozpoznania, w jaki sposób nakładające się tożsamości (płeć, rasa, klasa społeczna, niepełnosprawność, seksualność) wpływają na doświadczenia ludzi.

 

Dane dotyczące płci i niewidzialność

Jednym z najpoważniejszych problemów jest brak reprezentatywnych danych. Systemy sztucznej inteligencji uczą się na podstawie istniejących danych, a jeśli życie kobiet jest w nich niedostatecznie reprezentowane lub zniekształcone, sztuczna inteligencja będzie powielać tę problemy.

 

Oto kilka przykładów:

• Narzędzia medyczne oparte na sztucznej inteligencji, szkolone głównie na danych dotyczących białych mężczyzn, co prowadzi do błędnych diagnoz i gorszych wyników leczenia kobiet i osób kolorowych. Na przykład objawy zawału serca u kobiet często różnią się od objawów u mężczyzn, ale narzędzia diagnostyczne mogą tego nie uwzględniać.

• Algorytmy testów zderzeniowych i projekty bezpieczeństwa samochodów, które domyślnie wykorzystują standardy męskiego ciała, sprawiają, że pojazdy są mniej bezpieczne dla kobiet i osób w ciąży.

• Systemy sztucznej inteligencji do zarządzania finansami osobistymi, które klasyfikują kobiety jako kredytobiorców o wyższym ryzyku ze względu na systemowe różnice w dochodach i tradycyjne role opiekuńcze, a nie indywidualne zachowania finansowe.

 

Konsekwencje nie są teoretyczne. Narzędzia te są coraz częściej wykorzystywane do alokacji zasobów, oceny ryzyka i automatyzacji decyzji w zakresie zdrowia, zatrudnienia, edukacji i bezpieczeństwa publicznego. Jeśli wbudowane są w nie uprzedzenia związane z płcią, są one skalowane, co ma wpływ na miliony osób.

 

Sztuczna inteligencja: narzędzie wzmacniające czy transformujące?

Ponieważ sztuczna inteligencja odzwierciedla priorytety osób, które ją tworzą, może ona albo reprodukować dominację, albo ją podważać. Jeśli nie zostanie poddana kontroli, może pogłębić normy patriarchalne, ale jeśli zostanie opracowana w sposób świadomy, może przyczynić się do redystrybucji władzy i zwiększenia widoczności grup niedostatecznie reprezentowanych.

 

Sztuczna inteligencja ma potencjał, aby:

• Wykrywać wzorce przemocy lub molestowania ze względu na płeć, pomagając w kształtowaniu lepszej polityki.

• Wykrywać i korygować stronniczość w historycznych zbiorach danych.

• Zapewnić integracyjne narzędzia językowe, które wspierają różnorodność tożsamości płciowej i kontekstów kulturowych.

• Umożliwić lepszy dostęp do edukacji dla kobiet w społecznościach wiejskich i o niskich dochodach.

 

Jednak wyniki te zależą od tego, kto jest zaangażowany w proces projektowania, czyje potrzeby są traktowane priorytetowo i jakie wartości kierują rozwojem. Projektowanie uwzględniające kwestie płci i oparte na uczestnictwie ma zasadnicze znaczenie dla zapewnienia, że sztuczna inteligencja pomaga znosić istniejące hierarchie, a nie je wzmacniać.