Ενας αλγόριθμος με οπτική φύλου

Ανάμεσα στα πολλά για τα οποία κατηγορείται η Τεχνητή Νοημοσύνη (ΑΙ) –δαιμονοποιημένη για μύριους όσους φόβους κατακλύζουν το μαζικό φαντασιακό απέναντι στις τεχνολογικές εξελίξεις– είναι και για την αναπαραγωγή των σεξιστικών προκαταλήψεων και των διακρίσεων φύλου. Γιατί οι αλγόριθμοι που τη συνθέτουν έχουν φτιαχτεί στο πλαίσιο μιας κοινωνίας ανισότητας, που εκφράζεται στη γλώσσα, τις αντιλήψεις, τις στάσεις και τις συμπεριφορές του κυρίαρχου αφηγήματος για τους κοινωνικούς και έμφυλους ρόλους, έτσι όπως αυτό επικρατεί στον κυβερνοχώρο.

Υπάρχουν ωστόσο ελπιδοφόρες εφαρμογές που καταρρίπτουν αυτές τις έμφυλες προκαταλήψεις, δημιουργώντας συμπεριληπτικούς αλγορίθμους και εφαρμογές με οπτική φύλου. Μία από αυτές ξεχώρισε στην πρόσφατη Διεθνή Σύνοδο Τεχνητής Νοημοσύνης στο Παρίσι, που υποδέχτηκε δεκάδες επιστήμονες, πολιτικούς και αρχηγούς κρατών για να συζητήσουν τις προκλήσεις και τις ευκαιρίες που θέτει η Τεχνητή Νοημοσύνη σε κάθε τομέα της ζωής μας.

Στο μοβ (χρώμα που συμβολίζει τους φεμινιστικούς αγώνες) περίπτερο του κινήματος OlimpIA και της τεχνολογικής εταιρείας AuraChat.ai παρουσιάστηκε το Αύρα για Εμάς τις Γυναίκες, η πρώτη εφαρμογή Τεχνητής Νοημοσύνης που –βασισμένη σε έναν «φεμινιστικό αλγόριθμο»– προσφέρει σε πραγματικό χρόνο ενημέρωση, στήριξη και μέριμνα στα θύματα ψηφιακής βίας, όλο το 24ωρο, σε περισσότερες από 50 γλώσσες του πλανήτη.

Το νέο πρωτοποριακό εργαλείο γεννήθηκε σαν καρπός του κινήματος για τη νομική τυποποίηση και τιμωρία της ψηφιακής βίας μέσα από τον αποκαλούμενο Νόμο Olimpia στο Μεξικό. Στην πραγματικότητα είναι μια σειρά νομοθετικών πρωτοβουλιών που πήραν το όνομά τους από την Ολίμπια Κοράλ Μέλο, της οποίας βίντεο με σεξουαλικό περιεχόμενο που δημοσιοποιήθηκε χωρίς την έγκρισή της στο διαδίκτυο στάθηκε η αφορμή για τη δημιουργία ενός ολόκληρου κινήματος.

Το κίνημα στόχευε και πέτυχε να θέσει στη δημόσια ατζέντα το πόσο απροστάτευτες είναι οι γυναίκες απέναντι στη βία που ασκείται εναντίον τους στον κυβερνοχώρο. Και η πρώτη του νίκη ήταν η μεταρρύθμιση του Ποινικού Κώδικα που από το 2021 ορίζει την ψηφιακή βία ως έγκλημα που τιμωρείται με φυλακή από 3 ώς 6 χρόνια. Μια μάστιγα που μέσα σε μια τετραετία έχει πλήξει περισσότερες από 6.000 γυναίκες. Η μεταρρύθμιση ήταν ένα βήμα σημαντικό αλλά όχι επαρκές για το κίνημα OlimpIA και το AuraChat.ia, που ένωσαν δυνάμεις για να δημιουργήσουν τον πρώτο «φεμινιστικό αλγόριθμο», ικανό να συνοδεύσει τα θύματα της ψηφιακής βίας σε κάθε της έκφανση. «Πέρα από τη νομοθεσία είναι σημαντικό οι γυναίκες να βρουν στήριξη και βοήθεια. Γιατί σε αυτή τη βία δεν υπάρχει μόνο η πλευρά του θύματος και η πλευρά του θύτη, αλλά υπάρχει και η κοινότητα που παίζει ξεχωριστό ρόλο», λέει η Μαρσέλα Ερντάντες, συνιδρύτρια του OlimpIA.

Ετσι δημιουργήθηκε μια δωρεάν και ανώνυμη πλατφόρμα όπου γυναίκες από κάθε γωνιά του πλανήτη που έχουν δεχτεί ψηφιακή παρενόχληση, απειλές, δημοσιοποίηση ιδιωτικών εικόνων χωρίς την έγκρισή τους και κάθε είδους έμφυλες επιθέσεις στον κυβερνοχώρο, μπορούν να επικοινωνούν άμεσα με μια ψηφιακή «συνήγορο» που θα τους προσφέρει στήριξη γραπτά αλλά και με μηνύματα ήχου.

Για να δημιουργήσουν αυτό το εργαλείο Τεχνητής Νοημοσύνης με οπτική φύλου, συνέλεξαν επί χρόνια στοιχεία για σχετικά κρούσματα και με τη συνδρομή δεκάδων ψυχολόγων, ερευνητριών και ακτιβιστριών έφτιαξαν τον πρωτοποριακό αλγόριθμο. «Επί τέσσερα χρόνια προχωρήσαμε σε έρευνες και αναλύσεις των περιστατικών που είχαν δημοσιοποιηθεί ή είχαν καταγγελθεί στο κίνημά μας, καταφέρνοντας να διαμορφώσουμε συνάμα και μια βάση δεδομένων τόσο για τις μεθοδολογίες των επιθέσεων όσο και με τα προφίλ θυμάτων και θυτών. «Μέσα από τον ψηφιακό διάλογο με την ΑΙ, κάθε γυναίκα μπορεί να έχει ενημέρωση σε βάθος και απτή στήριξη, γιατί η τεχνολογία έχει σχεδιαστεί έτσι ώστε να απαντά ταχύτατα και προσωποποιημένα».

«Eίναι σημαντικό η ΑΙ να αναπτύσσεται από άτομα και κυρίως γυναίκες με συνείδηση των πολλών χασμάτων φύλου και των ανισοτήτων, γιατί, αν η τεχνολογία συνεχίσει να αναπτύσσεται από άτομα τυφλά στην προβληματική του φύλου, οι προκαταλήψεις και οι διακρίσεις θα συνεχίσουν να αναπαράγονται στους αλγόριθμους, στα λογισμικά, στις εφαρμογές, με πολύ αρνητικές κοινωνικές συνέπειες», λένε οι δύο ακτιβίστριες και οι ερευνητικές τους ομάδες.

Προκαταλήψεις στο ίντερνετ

Δεν είναι κάποια υπερβολή. Ερευνα της Unesco έδειξε πέρσι πως το περιεχόμενο του κυβερνοχώρου βρίθει προκαταλήψεων φύλου, πως οι εικόνες που αναρτώνται σε αυτό είναι ακόμη πιο σεξιστικές από τις λέξεις και πως η Τεχνητή Νοημοσύνη αναπαράγει ή και πολλαπλασιάζει αυτά τα στερεότυπα: γιατί τα μοντέλα της γλώσσας της Τεχνητής Νοημοσύνης «μαθαίνουν» μέσα από τη γεμάτη διακρίσεις πληροφόρηση που υπάρχει στο διαδίκτυο. Και στον βαθμό που η ΑΙ υιοθετείται από όλο και περισσότερες επιχειρήσεις για τη λήψη αποφάσεων και επηρεάζει την πρόσβαση σε θέσεις εργασίας, σε πιστώσεις, σε ασφάλειες κ.λπ., γίνονται πιο εμφανείς οι προκλήσεις που αντιμετωπίζουν γυναίκες και μειονότητες.

Οπως συμβαίνει με τους αλγορίθμους που χρησιμοποιούνται για την επιλογή υποψηφίων για θέσεις εργασίας, όπου διαιωνίζονται προκαταλήψεις φύλου λειτουργώντας σε βάρος τους. Ηδη το 2023, το 97% των επιχειρήσεων που περιλαμβάνονται στη λίστα του Fortune με τις 500 μεγαλύτερες του κόσμου χρησιμοποιούσαν αλγορίθμους και Τεχνητή Νοημοσύνη για την πρόσληψη προσωπικού. Αλλά πρόκειται για ένα σύστημα δομημένο έτσι που βλάπτει εν τέλει γυναίκες και μειονότητες, γράφει η δημοσιογράφος Χίλκε Σέλμαν στο βιβλίο της «Ο αλγόριθμος»: «Γιατί πολλοί αλγόριθμοι που χρησιμοποιούνται για την αξιολόγηση βιογραφικών και υποψηφίων δίνουν περισσότερους βαθμούς σε στοιχεία που κατά παράδοση σχετίζονται με τους άντρες, με λέξεις, εκφράσεις και ενασχολήσεις που θεωρούνται αντρικές, παρότι δεν σχετίζονται καθόλου με τις δεξιότητες που απαιτούνται για τη συγκεκριμένη θέση εργασίας».