Η ηθική στην Τεχνητή Νοημοσύνη δεν αποτελεί πολυτέλεια ούτε κάτι που μπορεί να εξεταστεί εκ των υστέρων — είναι βασική προϋπόθεση για τη δικαιοσύνη και την ισοτιμία. Χωρίς σταθερές ηθικές βάσεις, τα συστήματα ΤΝ μπορούν να προκαλέσουν βλάβες και να ενισχύσουν υφιστάμενες μορφές δομικής καταπίεσης, ακόμη και όταν αυτό δεν αποτελεί πρόθεση των δημιουργών τους. Παρ’ όλα αυτά, αρκετά πλαίσια ηθικής για την ΤΝ δεν αντιμετωπίζουν το φύλο ως κεντρικό ζήτημα ή το εξετάζουν μόνο συμπληρωματικά.

Για να δημιουργήσουμε ηθικά υπεύθυνα συστήματα ΤΝ που λαμβάνουν υπόψη τη διάσταση του φύλου, πρέπει να αντιλαμβανόμαστε την ηθική όχι μόνο ως ένα σύνολο αφηρημένων αρχών, αλλά και ως συγκεκριμένες, εφαρμόσιμες και ελέγξιμες πρακτικές, οι οποίες βασίζονται σε συμπεριληπτικές αξίες.

Βασικές ηθικές αρχές για μια ΤΝ που λαμβάνει υπόψη τη διάσταση του φύλου

Διαφάνεια

• Οι άνθρωποι πρέπει να ενημερώνονται για τον τρόπο με τον οποίο χρησιμοποιούνται τα συστήματα ΤΝ, για τα δεδομένα στα οποία βασίζονται και για τους βασικούς παράγοντες που επηρεάζουν τις αποφάσεις τους.
• Παράδειγμα: Ένα σύστημα ΤΝ που χρησιμοποιείται στις προσλήψεις πρέπει να γνωστοποιεί ποιοι παράγοντες επηρεάζουν την αξιολόγηση των υποψηφίων και να επιτρέπει την ουσιαστική επανεξέταση των αποτελεσμάτων από άνθρωπο.

Λογοδοσία

• Οι φορείς ανάπτυξης, οι εταιρείες και οι οργανισμοί που χρησιμοποιούν συστήματα ΤΝ πρέπει να αναλαμβάνουν την ευθύνη για τα αποτελέσματά τους, ιδιαίτερα όταν προκαλείται βλάβη.
• Πρέπει να υπάρχουν σαφείς και προσβάσιμες διαδικασίες για την υποβολή καταγγελιών, την επανεξέταση αποφάσεων, την αποκατάσταση της βλάβης και τη διόρθωση των συστημάτων.
• Παράδειγμα: Εάν ένα ιατρικό σύστημα ΤΝ παρουσιάζει υψηλότερα ποσοστά λανθασμένων αποτελεσμάτων για τις γυναίκες, πρέπει να αξιολογείται και να ελέγχεται, ενώ οι ασθενείς και οι επαγγελματίες υγείας πρέπει να διαθέτουν προσβάσιμες διαδικασίες αναφοράς και επανεξέτασης.

Ισοτιμία

• Τα συστήματα πρέπει να σχεδιάζονται προληπτικά ώστε να εντοπίζουν και να περιορίζουν τις προκαταλήψεις, όχι απλώς να αποφεύγουν τις πιο εμφανείς μορφές διάκρισης.
• Η ισοτιμία απαιτεί να αναρωτιόμαστε: Ποιων τα συμφέροντα εξυπηρετούνται; Ποιοι άνθρωποι αποκλείονται;
• Παράδειγμα: Ένα σύστημα πιστοληπτικής αξιολόγησης δεν πρέπει να υποβαθμίζει αιτούντες και αιτούσες λόγω μη συμβατικών ή διακεκομμένων επαγγελματικών διαδρομών. Πρέπει να χρησιμοποιεί μόνο σχετικά και νόμιμα δεδομένα, να ελέγχεται για έμμεσες διακρίσεις και να προστατεύει την ιδιωτικότητα των ενδιαφερόμενων.

Συγκατάθεση και δυνατότητα αυτοδιάθεσης

• Οι άνθρωποι πρέπει να ενημερώνονται με σαφήνεια για τον τρόπο με τον οποίο συλλέγονται, χρησιμοποιούνται και κοινοποιούνται τα δεδομένα τους και, όπου η επεξεργασία βασίζεται στη συγκατάθεση, αυτή πρέπει να είναι ελεύθερη, συγκεκριμένη και ενημερωμένη.
• Για πολλές γυναίκες και άτομα διαφορετικών ταυτοτήτων φύλου, η προστασία των δεδομένων αποτελεί ζήτημα ασφάλειας, ιδιαίτερα σε αυταρχικά καθεστώτα ή σε περιβάλλοντα όπου περιορίζονται τα δικαιώματά τους.
• Παράδειγμα: Μια εφαρμογή παρακολούθησης της υγείας δεν πρέπει να κοινοποιεί δεδομένα αναπαραγωγικής υγείας σε τρίτους χωρίς έγκυρη νομική βάση και σαφή ενημέρωση των χρηστών. Όταν η επεξεργασία βασίζεται στη συγκατάθεση, αυτή πρέπει να είναι ρητή, ενώ οι χρήστες πρέπει να μπορούν να την ανακαλούν εύκολα.

Διαθεματικότητα

• Η ηθική ΤΝ πρέπει να λαμβάνει υπόψη τις αλληλεπικαλυπτόμενες ταυτότητες και κοινωνικές συνθήκες, αναγνωρίζοντας ότι η έμφυλη προκατάληψη εκδηλώνεται διαφορετικά όταν συνδυάζεται με τη φυλετική ή εθνοτική καταγωγή, την κοινωνική τάξη, την αναπηρία ή τον τόπο διαμονής.
• Παράδειγμα: Τα συστήματα αυτοματοποιημένης ανάλυσης ή αναγνώρισης προσώπου πρέπει να δοκιμάζονται σε διαφορετικές πληθυσμιακές ομάδες, καθώς έχουν καταγραφεί σημαντικές αποκλίσεις στην απόδοσή τους, ιδιαίτερα για γυναίκες με πιο σκούρο τόνο δέρματος.

 

 

Από τις κατευθυντήριες αρχές στην πράξη

Διεθνείς οργανισμοί, όπως η UNESCO και ο ΟΟΣΑ, έχουν αναπτύξει αρχές και συστάσεις για την ηθική και υπεύθυνη ανάπτυξη της ΤΝ. Τα πλαίσια αυτά, όμως, είναι κατά κύριο λόγο μη δεσμευτικά.

Στην Ευρωπαϊκή Ένωση, ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) αποτελεί πλέον δεσμευτικό νομικό πλαίσιο και εφαρμόζεται σταδιακά. Παρ’ όλα αυτά, η αποτελεσματικότητά του θα εξαρτηθεί από την εφαρμογή, την εποπτεία και την επιβολή των κανόνων του, ενώ δεν καλύπτονται όλα τα συστήματα και όλοι οι πιθανοί κίνδυνοι με τον ίδιο τρόπο.

Χωρίς ουσιαστική εφαρμογή, εποπτεία και λογοδοσία, η επίκληση της ηθικής μπορεί να γίνει επιφανειακή — ένα εργαλείο μάρκετινγκ αντί για πραγματική δικλίδα προστασίας.

Για να αποφευχθεί αυτό, οι ηθικές αρχές πρέπει:

• να μεταφράζονται σε δεσμευτικούς κανόνες, αποτελεσματικούς ελέγχους και αναλογικές κυρώσεις, ιδιαίτερα όταν τα συστήματα μπορούν να προκαλέσουν σοβαρή βλάβη,
• να εφαρμόζονται συμμετοχικά, με τη συμμετοχή των κοινοτήτων που επηρεάζονται και όχι μόνο θεσμικών ή τεχνολογικών φορέων,
• να προσαρμόζονται στο εκάστοτε πλαίσιο, λαμβάνοντας υπόψη τις διαφορετικές έμφυλες πραγματικότητες και τις πολιτισμικές και κοινωνικές συνθήκες.

Η ηθική δεν αφορά μόνο την αποφυγή της βλάβης. Αφορά και τη συνειδητή επιδίωξη θετικών αποτελεσμάτων — τη χρήση της τεχνολογίας για την αμφισβήτηση της καταπίεσης και την ενίσχυση της αυτονομίας και της συμμετοχής των ανθρώπων.