Η Τεχνητή Νοημοσύνη έχει τη φήμη ότι είναι αντικειμενική — ότι βασίζεται σε δεδομένα και όχι σε απόψεις και ότι διέπεται από τη λογική και όχι από προκαταλήψεις. Αυτή η αντίληψη, όμως, είναι επικίνδυνα παραπλανητική.

Τα συστήματα ΤΝ εκπαιδεύονται με δεδομένα που παράγονται από τις ανθρώπινες κοινωνίες — δεδομένα διαμορφωμένα από τις ιστορικές μας εμπειρίες, τις ανισότητες και τις προκαταλήψεις μας. Οι αλγόριθμοι αντανακλούν τις αξίες των ανθρώπων που τους αναπτύσσουν, τις μεροληψίες των συνόλων δεδομένων τους και τις δομές των κοινωνιών στις οποίες χρησιμοποιούνται.

Αυτό σημαίνει ότι η προκατάληψη στην ΤΝ δεν αποτελεί πάντοτε ένα μεμονωμένο τεχνικό σφάλμα. Συχνά είναι το προβλέψιμο αποτέλεσμα των δεδομένων, των σχεδιαστικών επιλογών και των κοινωνικών δομών που ενσωματώνονται σε ένα σύστημα.

Συνηθισμένα παραδείγματα έμφυλης προκατάληψης στην ΤΝ περιλαμβάνουν:

• Φωνητικούς βοηθούς, όπως η Siri, η Alexa και το Google Assistant, οι οποίοι παρουσιάστηκαν για χρόνια με γυναικεία ονόματα ή φωνές και σχεδιάστηκαν ώστε να είναι διαρκώς εξυπηρετικοί, υποχωρητικοί και ευγενικοί. Παρότι σήμερα αρκετές υπηρεσίες προσφέρουν περισσότερες επιλογές φωνής, αυτή η σχεδιαστική παράδοση μπορεί να ενισχύει ξεπερασμένες αντιλήψεις για τις γυναίκες ως φροντίστριες ή βοηθούς.
• Συστήματα αυτοματοποιημένης ανάλυσης προσώπου που παρουσιάζουν σημαντικά χαμηλότερη ακρίβεια για τις γυναίκες, ιδιαίτερα για όσες έχουν πιο σκούρο τόνο δέρματος. Η μελέτη Gender Shades του MIT Media Lab κατέγραψε ποσοστά σφάλματος έως και 34,7% για γυναίκες με πιο σκούρο δέρμα, έναντι ποσοστού έως 0,8% για άνδρες με πιο ανοιχτό δέρμα. Τέτοιες αποκλίσεις μπορούν να έχουν σοβαρές συνέπειες όταν παρόμοιες τεχνολογίες χρησιμοποιούνται για την ταυτοποίηση ή την επιτήρηση ανθρώπων.
• Αλγόριθμους προσλήψεων που «μαθαίνουν» από ιστορικά δεδομένα στα οποία οι άνδρες ευνοούνταν σε τεχνικούς ρόλους. Ως αποτέλεσμα, μπορεί να αναπαράγουν αυτά τα πρότυπα, προτιμώντας χαρακτηριστικά που εμφανίζονται συχνότερα στα βιογραφικά ανδρών και υποβαθμίζοντας στοιχεία που συνδέονται με γυναίκες ή με μη γραμμικές επαγγελματικές διαδρομές.
• Αλγόριθμους στον τομέα της υγείας που μπορεί να είναι λιγότερο ακριβείς για τις γυναίκες, όταν τα δεδομένα εκπαίδευσης ή αξιολόγησής τους δεν τις εκπροσωπούν επαρκώς. Αυτό ενδέχεται να επιδεινώσει ήδη υπάρχουσες διαγνωστικές ανισότητες, μεταξύ άλλων και στις καρδιαγγειακές παθήσεις.

 

Αυτές οι προκαταλήψεις μπορούν να έχουν καθοριστικές συνέπειες για τη ζωή των ανθρώπων. Ένας προβληματικός αλγόριθμος μπορεί να στερήσει από κάποιο άτομο μια θέση εργασίας, να καθυστερήσει μια κρίσιμη ιατρική θεραπεία ή να το χαρακτηρίσει εσφαλμένα ως κίνδυνο για την ασφάλεια. Επειδή, μάλιστα, οι αποφάσεις των συστημάτων ΤΝ είναι συχνά αδιαφανείς ή προστατεύονται ως εμπορικό απόρρητο, η αμφισβήτησή τους μπορεί να είναι ιδιαίτερα δύσκολη.

Τα προβλήματα αυτά επιδεινώνονται όταν διασταυρώνονται διαφορετικές κοινωνικές ταυτότητες. Για παράδειγμα, τα διεμφυλικά και μη δυαδικά άτομα μπορεί να ταξινομούνται εσφαλμένα ή να αποκλείονται από συστήματα που βασίζονται αποκλειστικά σε δυαδικές κατηγορίες φύλου. Παράλληλα, οι Αυτόχθονες κοινότητες και οι πληθυσμοί του Παγκόσμιου Νότου ενδέχεται να υποεκπροσωπούνται ή να απουσιάζουν εντελώς από τα σύνολα δεδομένων, με αποτέλεσμα ορισμένα εργαλεία να μη λειτουργούν αποτελεσματικά για αυτούς.

Η αντιμετώπιση αυτών των προβλημάτων δεν αποτελεί μόνο τεχνική πρόκληση — είναι μια πολιτική και ηθική επιταγή. Απαιτεί:

• Μεγαλύτερη ποικιλομορφία στις ομάδες που σχεδιάζουν και δοκιμάζουν συστήματα ΤΝ.
• Κριτική εξέταση των δεδομένων — από πού προέρχονται, ποιων ανθρώπων τις ζωές αντιπροσωπεύουν και ποιους αφήνουν εκτός.
• Επανεξέταση των αξιών που καθοδηγούν τον σχεδιασμό — με έμφαση όχι μόνο στην ακρίβεια και την αποτελεσματικότητα, αλλά και στη δικαιοσύνη, την ασφάλεια και τη λογοδοσία.
• Θέσπιση κανονιστικού πλαισίου που θα διασφαλίζει ότι τα συστήματα ΤΝ ελέγχονται για προκαταλήψεις και ότι οι φορείς που τα αναπτύσσουν και τα χρησιμοποιούν λογοδοτούν για τις βλάβες που προκαλούν.

Πάνω απ’ όλα, απαιτείται αλλαγή νοοτροπίας: να πάψουμε να αντιμετωπίζουμε την ΤΝ ως «ουδέτερη» και να την αναγνωρίσουμε ως ένα εργαλείο που δημιουργείται από ανθρώπους — ένα εργαλείο που μπορεί είτε να ενισχύσει την καταπίεση είτε να προωθήσει τη δικαιοσύνη, ανάλογα με το ποιος το κατασκευάζει, με ποιον τρόπο και για ποιον σκοπό.

Υπάρχουν ήδη αξιόλογες πρωτοβουλίες που εφαρμόζουν στην πράξη αρχές μιας φεμινιστικής προσέγγισης στην ΤΝ. Για παράδειγμα:

• Το Feminist Generative AI Lab μελετά τη δημιουργική ΤΝ μέσα από φεμινιστικές προσεγγίσεις, εξετάζοντας τις δομές εξουσίας, τη συμπερίληψη και τις μορφές γνώσης που συχνά περιθωριοποιούνται.
• Το PARTIALJUSTICE, ένα ευρωπαϊκό ερευνητικό έργο που χρηματοδοτείται στο πλαίσιο του Horizon Europe, επικεντρώνεται στη συμμετοχική αλγοριθμική δικαιοσύνη και στη συνεργασία με περιθωριοποιημένες ομάδες για τον εντοπισμό αλγοριθμικών βλαβών και τον σχεδιασμό παρεμβάσεων.
• Το Women Reclaiming AI, το οποίο υλοποιήθηκε από το 2018 έως το 2025, δημιούργησε έναν χώρο στον οποίο γυναίκες μπορούσαν να επαναπροσδιορίσουν τις φωνές και τις αναπαραστάσεις τους στις τεχνολογίες συνομιλιακής ΤΝ.
• Η συλλογικότητα GeoChicas, η οποία συνδέεται με την κοινότητα του OpenStreetMap, χρησιμοποιεί τη συνεργατική χαρτογράφηση για να περιορίσει το έμφυλο χάσμα και να ενισχύσει την παρουσία και τη συμμετοχή των γυναικών στους ψηφιακούς χάρτες και στις κοινότητες ανοικτών δεδομένων.

Τα παραδείγματα αυτά δείχνουν όχι μόνο τι θα μπορούσε να υπάρξει, αλλά και τι έχει ήδη δημιουργηθεί ή αναπτύσσεται σήμερα.