Czasem uważa się, że sztuczna inteligencja jest obiektywna – oparta na danych, a nie opiniach; rządzona logiką, a nie uprzedzeniami. Jednak takie postrzeganie jest niebezpiecznie mylące.

 

Systemy sztucznej inteligencji są szkolone na danych wytworzonych przez ludzi,  ukształtowanych przez naszą historię, nierówności i uprzedzenia. Algorytmy odzwierciedlają wartości ich twórców, uprzedzenia zawarte w zbiorach danych oraz struktury społeczeństw, w których są stosowane.

 

Oznacza to, że uprzedzenia nie są błędem sztucznej inteligencji, a często są jej cechą charakterystyczną.

 

Typowe przykłady uprzedzeń związanych z płcią w sztucznej inteligencji obejmują:

• Asystenci głosowi (tacy jak Siri, Alexa lub Asystent Google), którzy domyślnie mają kobiece głosy, zaprogramowani tak, aby być pomocni, ulegli i uprzejmi, utrwalając stereotypy dotyczące płci, zgodnie z którymi kobiety są opiekunkami lub sekretarkami.

• Systemy rozpoznawania twarzy, które działają znacznie gorzej w przypadku kobiet,  zwłaszcza kobiet o ciemniejszym odcieniu skóry, co prowadzi do błędnej identyfikacji i na przykład niesłusznego objęcia nadzorem. Badanie przeprowadzone przez MIT Media Lab wykazało, że wskaźnik błędów wynosi aż 34% w przypadku kobiet o ciemniejszym odcieniu skóry, w porównaniu z mniej niż 1% w przypadku mężczyzn o jaśniejszym odcieniu skóry.

• Algorytmy rekrutacyjne, które „uczą się” na podstawie danych historycznych (gdzie mężczyźni byli faworyzowani na stanowiskach technicznych) i w związku z tym dyskryminują CV z imionami kojarzonymi z kobietami lub takie CV, które odzwierciedlają urlop macierzyński lub „nieliniową” ścieżkę kariery.

• Algorytmy stosowane w służbie zdrowia, które częściej źle diagnozują kobiety, szczególnie w obszarach takich jak choroby serca, ponieważ zostały wytrenowane na zbiorach danych dotyczących głównie mężczyzn.
  

 

 

Te uprzedzenia mogą mieć zmieniające życie konsekwencje. Wadliwy algorytm może odmówić komuś pracy, opóźnić leczenie lub fałszywie oznaczyć kogoś jako zagrożenie dla bezpieczeństwa. Ponieważ decyzje podejmowane przez sztuczną inteligencję są często nieprzejrzyste lub utajnione, kwestionowanie ich może być trudne lub niemożliwe.

 

Co więcej, problemy te nakładają się na różne tożsamości. Na przykład osoby transpłciowe i niebinarne są rutynowo błędnie klasyfikowane lub wykluczane przez systemy oparte na binarnych kategoriach płci. Ludność rdzenna i mieszkańcy krajów globalnego Południa mogą być całkowicie pomijani w zbiorach danych, co prowadzi do powstania narzędzi, które po prostu nie działają w ich przypadku.

 

Rozwiązanie tych problemów nie jest tylko wyzwaniem technicznym. Jest to imperatyw polityczny i etyczny. Wymaga to:

• Zróżnicowania zespołów, które projektują i testują systemy sztucznej inteligencji.

• Zbadania danych – skąd pochodzą, czyje życie reprezentują i czego nie uwzględniają.

• Przemyślenia celów i wartości, które nam przyświecają podczas realizacji różnych projektów, nie tylko dokładność lub wydajność, ale także sprawiedliwość, bezpieczeństwo i odpowiedzialność.

• Ustanowienia przepisów zapewniających kontrolę systemów sztucznej inteligencji pod kątem stronniczości oraz pociągnięcie ich twórców do odpowiedzialności za wyrządzone szkody.

 

Co najważniejsze, wymaga to zmiany sposobu myślenia: odejścia od postrzegania sztucznej inteligencji jako „neutralnej” i uznania jej za narzędzie stworzone przez człowieka, które może albo wzmacniać ucisk, albo promować sprawiedliwość, w zależności od tego, kto je tworzy, w jaki sposób i dlaczego.

 

Istnieją już inspirujące projekty, które wprowadzają w życie feministyczne wartości sztucznej inteligencji. Na przykład Feminist Generative AI Lab współpracuje z marginalizowanymi społecznościami i wykorzystuje integracyjne zbiory danych; PartialJustice (Horizon Europe) koncentruje się na partycypacyjnej sprawiedliwości algorytmicznej; Women Reclaiming AI przywraca głos kobietom w rozmowach dotyczących sztucznej inteligencji i w wizualnych zbiorach danych; GeoChicas kształtuje sposób, w jaki technologie mapowania przedstawiają kobiety w przestrzeni publicznej.