Η Τεχνητή Νοημοσύνη παρουσιάζεται συχνά ως ένα εργαλείο αιχμής — προηγμένο, ορθολογικό και απαλλαγμένο από τα ανθρώπινα σφάλματα. Στην πραγματικότητα, όμως, η ΤΝ δεν αποτελεί ουδέτερη δύναμη. Είναι προϊόν ανθρώπινων επιλογών: των δεδομένων που χρησιμοποιούμε για την εκπαίδευσή της, των ερωτημάτων που της θέτουμε και των παραδοχών που κάνουμε. Οι επιλογές αυτές επηρεάζονται από τις υπάρχουσες δομές εξουσίας, συμπεριλαμβανομένων των έμφυλων ιεραρχιών.

Σε πολλές περιπτώσεις, τα συστήματα ΤΝ ενισχύουν τις υφιστάμενες ανισότητες, αντί να τις περιορίζουν. Αυτό συμβαίνει ιδιαίτερα όταν αναπτύσσονται χωρίς διαθεματική προσέγγιση — χωρίς, δηλαδή, να αναγνωρίζεται ο τρόπος με τον οποίο αλληλεπικαλυπτόμενες ταυτότητες και κοινωνικές συνθήκες, όπως το φύλο, η φυλετική ή εθνοτική καταγωγή, η κοινωνική τάξη, η αναπηρία και η σεξουαλικότητα, επηρεάζουν τις εμπειρίες των ανθρώπων.

Έμφυλα δεδομένα και αορατότητα

Ένα από τα σημαντικότερα προβλήματα είναι η έλλειψη αντιπροσωπευτικών δεδομένων. Τα συστήματα ΤΝ μαθαίνουν από ήδη υπάρχοντα δεδομένα. Εάν οι ζωές και οι εμπειρίες των γυναικών υποεκπροσωπούνται ή παρουσιάζονται με στρεβλό τρόπο σε αυτά, η ΤΝ ενδέχεται να αναπαράγει αυτήν την αορατότητα.

Ορισμένα παραδείγματα είναι τα εξής:

• Εφαρμογές ΤΝ στον τομέα της υγείας που εκπαιδεύονται ή αξιολογούνται με δεδομένα τα οποία δεν αντιπροσωπεύουν επαρκώς γυναίκες ή διαφορετικές πληθυσμιακές ομάδες. Αυτό μπορεί να οδηγήσει σε χαμηλότερη διαγνωστική ακρίβεια και σε άνισα αποτελέσματα. Για παράδειγμα, παρόλο που ο πόνος ή η δυσφορία στο στήθος αποτελεί συνηθισμένο σύμπτωμα καρδιακής προσβολής για όλα τα φύλα, ορισμένα συνοδά συμπτώματα μπορεί να εμφανίζονται συχνότερα στις γυναίκες. Εάν τα διαγνωστικά εργαλεία δεν λαμβάνουν υπόψη αυτές τις διαφορές, υπάρχει κίνδυνος να μην αναγνωρίζουν σωστά ορισμένα περιστατικά.
• Οι δοκιμές πρόσκρουσης και ο σχεδιασμός της ασφάλειας των οχημάτων, που ιστορικά βασίστηκαν κυρίως στο σώμα ενός άνδρα μέσου μεγέθους ως πρότυπο. Παρότι σήμερα χρησιμοποιούνται και ανθρωπόμορφα ομοιώματα που αναπαριστούν μικρόσωμες γυναίκες και αναπτύσσονται πιο προηγμένα γυναικεία μοντέλα, εξακολουθούν να υπάρχουν σημαντικά κενά ως προς την αντιπροσώπευση διαφορετικών γυναικείων σωματότυπων και εγκύων.
• Συστήματα πιστοληπτικής αξιολόγησης και οικονομικής λήψης αποφάσεων που μπορεί να αναπαράγουν υφιστάμενες ανισότητες, όταν βασίζονται σε ιστορικά δεδομένα ή σε χαρακτηριστικά τα οποία συνδέονται έμμεσα με το φύλο. Οι εισοδηματικές ανισότητες, οι διακοπές στην επαγγελματική πορεία και η άνιση κατανομή των ευθυνών φροντίδας μπορούν, για παράδειγμα, να επηρεάσουν τα δεδομένα στα οποία βασίζεται μια αυτοματοποιημένη αξιολόγηση, ακόμη και όταν το φύλο δεν χρησιμοποιείται άμεσα ως κριτήριο.

Οι συνέπειες δεν είναι θεωρητικές. Τα εργαλεία αυτά χρησιμοποιούνται όλο και περισσότερο για την κατανομή πόρων, την αξιολόγηση κινδύνων και την αυτοματοποίηση αποφάσεων στους τομείς της υγείας, της απασχόλησης, της εκπαίδευσης, των χρηματοπιστωτικών υπηρεσιών και της δημόσιας ασφάλειας. Όταν ένα σύστημα ενσωματώνει έμφυλες προκαταλήψεις, μπορεί να τις αναπαράγει σε πολύ μεγαλύτερη κλίμακα, επηρεάζοντας εκατομμύρια ανθρώπους.

ΤΝ: Εργαλείο αναπαραγωγής ή μετασχηματισμού;

Επειδή η ΤΝ αντανακλά τις προτεραιότητες των ανθρώπων και των οργανώσεων που την αναπτύσσουν, μπορεί είτε να αναπαράγει τις υπάρχουσες σχέσεις κυριαρχίας είτε να συμβάλει στην αμφισβήτησή τους. Χωρίς επαρκή έλεγχο μπορεί να ενισχύσει πατριαρχικούς κανόνες και αντιλήψεις. Εάν, όμως, σχεδιαστεί συνειδητά και συμπεριληπτικά, μπορεί να συμβάλει στην ανακατανομή της εξουσίας και στην ενίσχυση της ορατότητας υποεκπροσωπούμενων ομάδων.

Η ΤΝ μπορεί να συμβάλει:

• στον εντοπισμό μοτίβων έμφυλης βίας ή παρενόχλησης και στην ανάπτυξη καλύτερα τεκμηριωμένων πολιτικών,
• στον εντοπισμό και τον περιορισμό προκαταλήψεων που περιέχονται σε ιστορικά σύνολα δεδομένων,
• στη δημιουργία συμπεριληπτικών γλωσσικών εργαλείων που λαμβάνουν υπόψη διαφορετικές ταυτότητες φύλου και πολιτισμικά πλαίσια,
• στην παροχή περισσότερο προσβάσιμων και προσαρμοζόμενων ευκαιριών μάθησης για γυναίκες σε αγροτικές περιοχές και κοινότητες με χαμηλό εισόδημα, εφόσον εξασφαλίζονται η πρόσβαση στην τεχνολογία, η συνδεσιμότητα και οι απαραίτητες ψηφιακές δεξιότητες.

 

Τα αποτελέσματα αυτά εξαρτώνται από το ποιοι συμμετέχουν στη διαδικασία σχεδιασμού, ποιων ανθρώπων οι ανάγκες τίθενται σε προτεραιότητα και ποιες αξίες καθοδηγούν την ανάπτυξη της τεχνολογίας. Ο συμμετοχικός σχεδιασμός που λαμβάνει υπόψη τη διάσταση του φύλου είναι απαραίτητος, ώστε η ΤΝ να συμβάλλει στην αποδόμηση των υφιστάμενων ιεραρχιών και όχι στην ενίσχυσή τους.