• Αθήνα
    Σποραδικές νεφώσεις
    13°C 9.8°C / 16.2°C
    0 BF
    87%
  • Θεσσαλονίκη
    Ελαφρές νεφώσεις
    13°C 10.5°C / 14.4°C
    1 BF
    77%
  • Πάτρα
    Αυξημένες νεφώσεις
    14°C 13.0°C / 14.8°C
    4 BF
    77%
  • Ιωάννινα
    Αυξημένες νεφώσεις
    10°C 9.9°C / 9.9°C
    3 BF
    93%
  • Αλεξανδρούπολη
    Ελαφρές νεφώσεις
    15°C 14.9°C / 14.9°C
    4 BF
    82%
  • Βέροια
    Αραιές νεφώσεις
    10°C 9.0°C / 13.7°C
    1 BF
    86%
  • Κοζάνη
    Αυξημένες νεφώσεις
    5°C 5.4°C / 6.7°C
    1 BF
    93%
  • Αγρίνιο
    Αραιές νεφώσεις
    12°C 12.4°C / 13.6°C
    3 BF
    91%
  • Ηράκλειο
    Ελαφρές νεφώσεις
    15°C 13.7°C / 15.8°C
    5 BF
    75%
  • Μυτιλήνη
    Αραιές νεφώσεις
    16°C 9.9°C / 15.9°C
    4 BF
    77%
  • Ερμούπολη
    Αίθριος καιρός
    15°C 15.4°C / 17.4°C
    4 BF
    88%
  • Σκόπελος
    Αίθριος καιρός
    13°C 12.9°C / 14.6°C
    4 BF
    72%
  • Κεφαλονιά
    Αραιές νεφώσεις
    17°C 16.9°C / 16.9°C
    4 BF
    72%
  • Λάρισα
    Ομίχλη
    4°C 3.9°C / 6.5°C
    0 BF
    100%
  • Λαμία
    Αυξημένες νεφώσεις
    12°C 6.5°C / 12.8°C
    2 BF
    100%
  • Ρόδος
    Σποραδικές νεφώσεις
    16°C 15.4°C / 17.8°C
    1 BF
    83%
  • Χαλκίδα
    Σποραδικές νεφώσεις
    13°C 10.9°C / 16.4°C
    0 BF
    71%
  • Καβάλα
    Σποραδικές νεφώσεις
    11°C 8.3°C / 12.7°C
    2 BF
    90%
  • Κατερίνη
    Αραιές νεφώσεις
    12°C 9.7°C / 14.4°C
    1 BF
    78%
  • Καστοριά
    Αυξημένες νεφώσεις
    6°C 5.8°C / 5.8°C
    2 BF
    95%
ΕΝΤΥΠΗ ΕΚΔΟΣΗ

Ενας αλγόριθμος φαλλοκράτης

  • A-
  • A+

Η αποκάλυψη ότι ένας αλγόριθμος της Amazon, που χρησιμοποιούνταν για τις προσλήψεις προσωπικού, δεν «χώνευε» τις γυναίκες ρίχνει φως σε μία από τις πιο σκοτεινές γωνιές της σύγχρονης τεχνολογίας. Εκεί όπου οι τεχνοκράτες συναντούν τους τσαρλατάνους του Μεσαίωνα.

Η ανάλυση Μεγάλων Δεδομένων (Big Data) κωδικοποιεί το παρελθόν, δεν δημιουργεί το μέλλον

Κάθι Ονίλ, Καθηγήτρια

Πριν από μερικά χρόνια η εταιρεία λιανικών πωλήσεων Amazon ανέθεσε σε μια ομάδα προγραμματιστών στο Εδιμβούργο να δημιουργήσει έναν αλγόριθμο που θα της επέτρεπε να επιλέγει με μεγαλύτερη ταχύτητα ανάμεσα στα χιλιάδες βιογραφικά που λαμβάνει κάθε χρόνο.

Η συγκεκριμένη πρακτική, την οποία ακολουθούν εκατοντάδες επιχειρήσεις, υποτίθεται ότι γλιτώνει τα τμήματα προσωπικού από χιλιάδες εργατοώρες, μειώνοντας δραστικά το κόστος λειτουργίας. Υπολογίζεται ότι το 72% των βιογραφικών, που κατατίθενται σε μεγάλες εταιρείες στις ΗΠΑ, απορρίπτεται από κάποιον αλγόριθμο πριν διαβαστεί από ανθρώπινα μάτια.

Το πρόβλημα με τον μηχανισμό της Amazon, όπως αποκάλυψε αυτή την εβδομάδα το πρακτορείο Reuters, ήταν πως... ήταν προκατειλημμένος αρνητικά απέναντι στις γυναίκες. Ο φαινομενικά «αλάνθαστος» και «αντικειμενικός» αλγόριθμος «εκπαιδεύτηκε» συλλέγοντας στοιχεία από δεκάδες χιλιάδες επιτυχημένους υπαλλήλους, που είχαν εργαστεί στο παρελθόν στην εταιρεία.

Αυτό όμως σήμαινε ότι στα αποτελέσματά του αναπαρήγαγε τη σκληρή πατριαρχική ιεραρχία που επικρατεί εδώ και δεκαετίες στον τομέα υψηλής τεχνολογίας των ΗΠΑ, όπως και σε πολλούς άλλους κλάδους. Οι ίδιες οι λέξεις «γυναίκα» και «γυναικείο» λειτουργούσαν αρνητικά στην κατάταξη, ενώ ο αλγόριθμος αναζητούσε λέξεις που χρησιμοποιούνται συχνότερα από άντρες στα βιογραφικά. Είναι προφανές ότι αν ο ίδιος αλγόριθμος λειτουργούσε στα χρόνια του απαρτχάιντ στη Νότια Αφρική, δεν θα επέλεγε ποτέ μαύρους, ενώ στην αρχαία Αθήνα θα απέκλειε ολοκληρωτικά τις γυναίκες (και θα «προσλάμβανε» μόνο σκλάβους).

Στο βιβλίο της Weapons of Math Destruction (Οπλα Μαθηματικής Καταστροφής) η πανεπιστημιακός Κάθι Ο'Νιλ εξηγεί πως οι αλγόριθμοι μπορεί να αναπαράγουν αλλά και να γιγαντώσουν στερεότυπα όχι μόνο σε επίπεδο φύλου και γένους, αλλά κυρίως κοινωνικής τάξης.

Υπολογίζοντας μεταβλητές, όπως η απόσταση της κατοικίας του υποψηφίου από την εργασία, η γειτονιά στην οποία πήγε σχολείο, αλλά ακόμη και προσωπικές του συνήθειες (τις οποίες συχνά συλλέγουν ή αγοράζουν από μέσα κοινωνικής δικτύωσης στο ίντερνετ) οι αλγόριθμοι τείνουν να αποκλείουν τους ήδη φτωχούς και αποκλεισμένους. Αν στο παρελθόν υπήρχε έστω και μια ελάχιστη πιθανότητα κοινωνικής ανέλιξης, ο αλγόριθμος την κάνει ακόμη πιο ισχνή.

Προκειμένου να παρακάμψουν αυτή την κατάσταση, υποψήφιοι καταφεύγουν σε εταιρείες που τους προετοιμάζουν τα βιογραφικά με τις κατάλληλες λέξεις-κλειδιά, τις οποίες πιστεύουν ότι αναζητά ο αλγόριθμος πρόσληψης. Για άλλη μια φορά δηλαδή τα «καλύτερα» βιογραφικά προέρχονται από αυτούς που έχουν περισσότερα χρήματα να πληρώσουν για την προετοιμασία τους.

Η αποκάλυψη του «φαλλοκρατικού» αλγόριθμου της Amazon (ο οποίος σύμφωνα με την εταιρεία δεν χρησιμοποιήθηκε στην πράξη) κατάφερε ένα ακόμη χτύπημα στην προσπάθεια αρκετών τεχνοκρατών να μετατρέψουν τους αλγόριθμους σε ένα είδος σύγχρονης θεότητας, που υπόσχεται να απαλείψει το ανθρώπινο λάθος από τους μηχανισμούς λήψης σημαντικών αποφάσεων.

Η ίδια ιστορία, εξηγούσε ο Φράνκλιν Φόερ στο βιβλίο του World Without Mind, επαναλαμβάνεται εδώ και τουλάχιστον δυο αιώνες, από τη στιγμή που Γάλλοι διανοητές όπως ο Ανρί Σεν-Σιμόν και ο Ογκίστ Κοντ πρότειναν την ανάθεση τμήματος της πολιτικής εξουσίας σε τεχνοκράτες – μηχανικούς. Κάποιοι μάλιστα ίσως θα έπιαναν την ιστορία από τις θέσεις του Πλάτωνα για τους φιλοσόφους που θα κυβερνούσαν και τους φιλοσοφούντες κυβερνήτες.

Ενώ όμως ο Σεν-Σιμόν και ο Κοντ ήθελαν να χρησιμοποιήσουν τη γνώση των μηχανικών για να ανατρέψουν το «παλαιό καθεστώς» των αριστοκρατών και του κλήρου, οι σύγχρονοι τεχνοκράτες χρησιμοποιούν με θρησκευτική πίστη τους αλγόριθμους για να εδραιώσουν μια νέα αριστοκρατία.

Οι αλγόριθμοι λειτουργούν πλέον σαν το εκπαιδευτικό σύστημά ή το σύνολο των νόμων μιας κοινωνίας. Αναπαράγουν δηλαδή τις θέσεις των κυρίαρχων τάξεων, ενώ την ίδια στιγμή ενδύονται τον μανδύα του επιστημονικού αλάθητου. Σε άλλες περιπτώσεις απλώς προωθούν επιχειρηματικές επιλογές και την ευρύτερη φιλοσοφία συγκεκριμένων εταιρειών. Χαρακτηριστικό παράδειγμα, εξηγούσε ο Φόερ, είναι οι επιλογές ταινιών και βιβλίων που μας παρουσιάζουν υπηρεσίες όπως η Amazon και η Netflix.

Ο αλγόριθμος της Amazon επιλέγει παρεμφερή βιβλία με αυτά που έχουμε ήδη αγοράσει. Αντίθετα ο αλγόριθμος της Netflix, τουλάχιστον στο παρελθόν, μας πρότεινε πιο εναλλακτικές ταινίες και σειρές, καθώς έτσι η εταιρεία πλήρωνε μικρότερα δικαιώματα αναμετάδοσης στους δημιουργούς.

Η αίσθησή μας δηλαδή για τα διαθέσιμα προϊόντα στην αγορά (βάσει της οποίας υπολογίζεται ότι πραγματοποιούμε το ένα τρίτο των αγορών σε ηλεκτρονικές πλατφόρμες) καθορίζεται από το επιχειρηματικό μοντέλο του πωλητή και όχι από τις ανάγκες του καταναλωτή.

Αρκετοί επιστήμονες των υπολογιστών συνηθίζουν να λένε ότι οι αλγόριθμοι απλώς «βασανίζουν» μεγάλους όγκους δεδομένων μέχρι να ομολογήσουν. Οπως εξηγούσε όμως ο Φράνκλιν Φόερ, τα δεδομένα, όπως και τα θύματα βασανισμού, συνήθως λένε αυτό που θέλει να ακούσει ο βασανιστής τους.

Διαβάστε
Weapons of Math Destruction
H μαθηματικός Κάθι Ο'Νιλ εξηγεί πώς οι αλγόριθμοι χρησιμοποιούνται για να αυξήσουν τις κοινωνικές ανισότητες, ενώ παράλληλα απειλούν τη δημοκρατία.

World Without Mind: The Existential Threat of Big Tech
Ο δημοσιογράφος Φράνκλιν Φόερ μάς ξεναγεί στον γενναίο νέο κόσμο των αλγόριθμων

info-war.gr

  

Ακολουθήστε μας στο Google news
INFOWAR
Κάντε το Facebook μόνιμο μέλος του ΟΗΕ
Η πρόταση ενός αρθρογράφου του Bloomberg να μετατρέψουμε το Facebook στο 194o ανεξάρτητο κράτος του ΟΗΕ ίσως να μην είναι τόσο άστοχη όσο ακούγεται. Χρειάζεται μόνο μια «μικρή» τροποποίηση.
Κάντε το Facebook μόνιμο μέλος του ΟΗΕ
INFOWAR
120.000 χρόνια υψηλής ραπτικής
Η βιομηχανία ένδυσης έφτασε να αντικατοπτρίζει όλες τις λάθος επιλογές που πραγματοποίησε η ανθρωπότητα από την εποχή των σπηλαίων μέχρι σήμερα. Δεν υπάρχει λόγος όμως να είναι έτσι.
120.000 χρόνια υψηλής ραπτικής
INFOWAR
Ο Λαβύρινθος του Πήγασου
Η Ηλια Σιατίτσα, διευθύντρια νομικών υποθέσεων της Privacy International, μιλά στην «Εφ.Συν.» για τον αόρατο κατάσκοπο που μπορεί να βρεθεί και στο δικό σου κινητό.
Ο Λαβύρινθος του Πήγασου
INFOWAR
Ημέρα της Γυναίκας: μια πολύ σοβιετική ιστορία
Ενας αστικός μύθος συνόδευε για σχεδόν μισό αιώνα την Παγκόσμια Ημέρα της Γυναίκας. Κάποιοι ήθελαν να «θυμούνται» μια απεργία στη Νέα Υόρκη και να ξεχνούν την έναρξη της Ρωσικής Επανάστασης.
Ημέρα της Γυναίκας: μια πολύ σοβιετική ιστορία
INFOWAR
Η ασφάλεια δεδομένων πάει σύννεφο
Η αποκάλυψη ότι αμερικανικές και γερμανικές υπηρεσίες πληροφοριών παρακολουθούσαν για δεκαετίες δυτικές κυβερνήσεις, μεταξύ των οποίων και την Ελλάδα, πουλώντας τους διάτρητα συστήματα κρυπτογράφησης, θέτει...
Η ασφάλεια δεδομένων πάει σύννεφο
INFOWAR
Πραξικόπημα στο ίντερνετ
Τράπεζες και μέσα κοινωνικής δικτύωσης μπλοκάρουν όλο και συχνότερα λογαριασμούς χρηστών τους που ασκούν κριτική στην εξωτερική πολιτική των ΗΠΑ και αρκετών συμμάχων τους.
Πραξικόπημα στο ίντερνετ

Η efsyn.gr θεωρεί αυτονόητο ότι οι αναγνώστες της έχουν το δικαίωμα του σχολιασμού, της κριτικής και της ελεύθερης έκφρασης και επιδιώκει την αμφίδρομη επικοινωνία μαζί τους.

Διευκρινίζουμε όμως ότι δεν θέλουμε ο χώρος σχολιασμού της ιστοσελίδας να μετατραπεί σε μια αρένα απαξίωσης και κανιβαλισμού προσώπων και θεσμών. Για τον λόγο αυτόν δεν δημοσιεύουμε σχόλια ρατσιστικού, υβριστικού, προσβλητικού ή σεξιστικού περιεχομένου. Επίσης, και σύμφωνα με τις αρχές της Εφημερίδας των Συντακτών, διατηρούμε ανοιχτό το μέτωπο απέναντι στον φασισμό και τις ποικίλες εκφράσεις του. Έτσι, επιφυλασσόμαστε του δικαιώματός μας να μην δημοσιεύουμε ανάλογα σχόλια.

Σε όσες περιπτώσεις κρίνουμε αναγκαίο, απαντάμε στα σχόλιά σας, επιδιώκοντας έναν ειλικρινή και καλόπιστο διάλογο.

Η efsyn.gr δεν δημοσιεύει σχόλια γραμμένα σε Greeklish.

Τέλος, τα ενυπόγραφα άρθρα εκφράζουν το συντάκτη τους και δε συμπίπτουν κατ' ανάγκην με την άποψη της εφημερίδας