Etika v AI není luxus ani dodatečná úvaha — je to základní požadavek pro spravedlnost a rovnost. Bez etického základu mohou systémy AI způsobit nechtěnou škodu a posílit strukturální útlak. A přesto mnoho etických rámců pro AI nezahrnuje gender jako ústřední téma — nebo s ním zachází jako s dodatečnou úvahou.
Abychom vytvořili eticky správnou AI zohledňující gender, musíme chápat etiku nejen jako abstraktní principy, ale jako praktické, vynutitelné kroky formované inkluzivními hodnotami.
Základní etické principy v AI zohledňující gender
Transparentnost
- Lidé by měli vědět, jak systémy AI činí rozhodnutí a na jakých datech se zakládají.
- Příklad: AI pro nábor zaměstnanců by měla zveřejnit, které faktory ovlivňují hodnocení uchazečů, a umožnit lidskou kontrolu.
Odpovědnost
- Vývojáři, společnosti a instituce musí nést odpovědnost za výsledky – zejména v případě, že dojde ke škodě.
- Musí existovat jasné kanály pro podávání stížností, nápravu a opravy.
- Příklad: Pokud lékařská AI častěji stanoví ženám nesprávnou diagnózu, regulační orgány musí nařídit audity a společnosti musí pacientům poskytnout přístupné možnosti odvolání.
Spravedlnost
- Systémy by měly být proaktivně navrženy tak, aby napravovaly zaujatost, a ne jen aby se jí vyhýbaly.
- Spravedlnost znamená ptát se: Čím se řídí? Kdo je opomíjen?
- Příklad: Umělá inteligence pro hodnocení úvěrové bonity by mohla zohlednit neformální ekonomickou aktivitu žen a zabránit tak systémovému vyloučení podnikatelek.
Souhlas a svobodná vůle
- Jednotlivci by měli mít slovo v tom, jak jsou jejich data využívána.
- Pro mnoho žen a lidí různých genderových identit je ochrana osobních údajů otázkou bezpečnosti – zejména v autoritářských režimech nebo patriarchálních kontextech.
- Příklad: Aplikace pro sledování zdraví by měla před sdílením údajů o reprodukčním zdraví s třetími stranami požádat o výslovný souhlas, čímž by chránila uživatele v restriktivním prostředí.
Intersekcionalita
- Etická AI musí zohledňovat protínající se identity – s vědomím, že genderová zaujatost vypadá jinak, když se kombinuje s rasou, třídou, zdravotním postižením nebo místem.
- Příklad: Software pro rozpoznávání obličeje by měl být testován na různých skupinách, protože u žen s tmavším odstínem pleti dochází k nadměrnému počtu chybných identifikací.
Od pokynů k praxi
Mezinárodní organizace, jako jsou UNESCO, Evropská komise a OECD, vypracovaly etické zásady pro umělou inteligenci. Mnohým firmám a vládám však stále chybí závazné mechanismy k prosazování těchto hodnot.
Bez prosazování se etika může stát pouhou show – spíše marketingovým módním slovem než skutečnou ochranou.
Aby se tomu zabránilo, musí etické rámce být:
-
Právně vymahatelné – s regulací a sankcemi pro škodlivé systémy.
-
Participativní – zahrnující dotčené komunity, nejen elitní zainteresované strany.
-
Citlivé na kontext – reagující na různé genderové reality v různých kulturních prostředích.