Η Meta και το TikTok επέτρεψαν συνειδητά να εμφανίζεται περισσότερο επιβλαβές περιεχόμενο στις ροές των χρηστών, αφού εσωτερική έρευνα για τους αλγορίθμους τους έδειξε ότι η αγανάκτηση και η οργή αυξάνουν την αλληλεπίδραση, δήλωσαν μάρτυρες δημοσίου συμφέροντος στο BBC.
Περισσότεροι από δώδεκα πληροφοριοδότες και άτομα εκ των έσω αποκάλυψαν ότι οι εταιρείες πήραν ρίσκο με την ασφάλεια των χρηστών σε θέματα όπως η βία, ο σεξουαλικός εκβιασμός και η τρομοκρατία, στην προσπάθειά τους να κερδίσουν την προσοχή των χρηστών.
Ένας μηχανικός στην Meta, η οποία κατέχει τα Facebook και Instagram, περιέγραψε πως ανώτερα στελέχη τού είπαν να επιτρέψει περισσότερο «οριακά επιβλαβές» περιεχόμενο στις ροές των χρηστών — όπως μισογυνιστικό περιεχόμενο και θεωρίες συνωμοσίας — ώστε να ανταγωνιστούν το TikTok.
«Μας είπαν περίπου ότι αυτό συμβαίνει επειδή η τιμή της μετοχής πέφτει», δήλωσε ο μηχανικός.
Ένας εργαζόμενος στο TikTok έδωσε στο BBC πρόσβαση στα εσωτερικά συστήματα της εταιρείας με παράπονα χρηστών, καθώς και άλλα στοιχεία που δείχνουν ότι το προσωπικό είχε εντολή να δίνει προτεραιότητα σε ορισμένες υποθέσεις που αφορούσαν πολιτικούς αντί για αναφορές επιβλαβών δημοσιεύσεων που αφορούσαν παιδιά.
Σύμφωνα με τον ίδιο, οι αποφάσεις λαμβάνονταν για να «διατηρηθούν ισχυρές σχέσεις» με πολιτικά πρόσωπα και να αποφευχθούν απειλές για ρυθμίσεις ή απαγορεύσεις, όχι με βάση τους κινδύνους για τους χρήστες.
Οι πληροφοριοδότες που μίλησαν στο ντοκιμαντέρ του BBC «Inside the Rage Machine» παρουσίασαν πώς αντέδρασε ο κλάδος μετά τη ραγδαία άνοδο του TikTok, του οποίου ο ιδιαίτερα αποτελεσματικός αλγόριθμος προτάσεων σύντομων βίντεο άλλαξε τα δεδομένα στα κοινωνικά δίκτυα και ανάγκασε τους ανταγωνιστές να προσπαθήσουν να τον φτάσουν.
Ένας ανώτερος ερευνητής της Meta, ο Ματ Μότιλ, δήλωσε ότι η ανταγωνιστική λειτουργία του TikTok, το Instagram Reels, λανσαρίστηκε το 2020 χωρίς επαρκείς μηχανισμούς προστασίας. Εσωτερική έρευνα που κοινοποιήθηκε στο BBC έδειξε ότι στα σχόλια των Reels υπήρχαν σημαντικά περισσότερα περιστατικά εκφοβισμού, παρενόχλησης, ρητορικής μίσους και βίας σε σχέση με άλλα μέρη του Instagram.
Σύμφωνα με πρώην ανώτερο υπάλληλο της Meta, η εταιρεία επένδυσε σε 700 εργαζόμενους για την ανάπτυξη των Reels, ενώ οι ομάδες ασφάλειας δεν έλαβαν έγκριση ούτε για δύο ειδικούς για την προστασία των παιδιών ούτε για δέκα ακόμη εργαζόμενους για την προστασία της ακεραιότητας εκλογών.
Ο Μότιλ παρέδωσε στο BBC δεκάδες έγγραφα έρευνας υψηλού επιπέδου που, όπως είπε, δείχνουν πολλούς τρόπους με τους οποίους οι χρήστες μπορεί να βλάπτονται στις πλατφόρμες αυτές. Μεταξύ αυτών υπήρχαν στοιχεία ότι το Facebook γνώριζε τα προβλήματα που προκαλούσε ο αλγόριθμός του.
Σύμφωνα με μια εσωτερική μελέτη, ο αλγόριθμος προσέφερε στους δημιουργούς περιεχομένου «ένα μονοπάτι που μεγιστοποιεί τα κέρδη εις βάρος της ευημερίας του κοινού τους» και «τα οικονομικά κίνητρα που δημιουργούν οι αλγόριθμοί μας δεν φαίνεται να ευθυγραμμίζονται με την αποστολή μας» να φέρουμε τον κόσμο πιο κοντά.
Η μελέτη ανέφερε επίσης ότι το Facebook μπορεί «να επιλέξει να παραμείνει αδρανές και να συνεχίσει να τροφοδοτεί τους χρήστες με πρόχειρο περιεχόμενο, αλλά αυτό λειτουργεί μόνο για ένα διάστημα».
Απαντώντας στις κατηγορίες, η Meta δήλωσε ότι «οποιαδήποτε υπόνοια ότι ενισχύουμε σκόπιμα επιβλαβές περιεχόμενο για οικονομικό όφελος είναι λανθασμένη». Το TikTok χαρακτήρισε τις κατηγορίες «κατασκευασμένες» και ανέφερε ότι επενδύει σε τεχνολογία που εμποδίζει το επιβλαβές περιεχόμενο να εμφανίζεται στους χρήστες.
Ο Ρουοφάν Ντινγκ, μηχανικός μηχανικής μάθησης που εργάστηκε στον αλγόριθμο προτάσεων του TikTok από το 2020 έως το 2024, δήλωσε ότι οι αλγόριθμοι αυτοί είναι ουσιαστικά ένα «μαύρο κουτί» του οποίου η λειτουργία είναι δύσκολο να εξεταστεί.
«Δεν έχουμε πραγματικό έλεγχο στον ίδιο τον αλγόριθμο βαθιάς μάθησης», είπε.
Σύμφωνα με τον ίδιο, οι μηχανικοί δεν δίνουν μεγάλη προσοχή στο ίδιο το περιεχόμενο των δημοσιεύσεων.
«Για εμάς, όλο το περιεχόμενο είναι απλώς ένας αριθμός, ένα αναγνωριστικό».
Είπε ότι βασίζονταν στις ομάδες ασφάλειας περιεχομένου για να αφαιρούν επιβλαβείς δημοσιεύσεις ώστε να μην προωθούνται από τον αλγόριθμο, συγκρίνοντας τη διαδικασία με διαφορετικές ομάδες που εργάζονται σε μέρη ενός αυτοκινήτου.
Ωστόσο, καθώς το TikTok προσπαθούσε να βελτιώνει τον αλγόριθμό του σχεδόν κάθε εβδομάδα για να κερδίσει μεγαλύτερο μερίδιο αγοράς, ο Ντινγκ άρχισε να βλέπει περισσότερο «οριακό» περιεχόμενο ή προβληματικές δημοσιεύσεις που εμφανίζονταν αφού οι χρήστες είχαν παρακολουθήσει βίντεο για κάποιο διάστημα.
Ο όρος «οριακό περιεχόμενο» χρησιμοποιείται από τις εταιρείες κοινωνικών δικτύων για δημοσιεύσεις που είναι επιβλαβείς αλλά νόμιμες — όπως μισογυνιστικό, ρατσιστικό ή σεξουαλικοποιημένο περιεχόμενο, καθώς και θεωρίες συνωμοσίας.
Έφηβοι που μίλησαν στο BBC δήλωσαν ότι τα εργαλεία με τα οποία οι χρήστες δηλώνουν ότι δεν θέλουν να βλέπουν τέτοιο περιεχόμενο δεν λειτουργούν αποτελεσματικά και συνεχίζουν να τους προτείνονται βίαια ή μισαλλόδοξα βίντεο.
Σε μια ακραία περίπτωση, ένας νεαρός που ονομάζεται Κάλουμ, σήμερα 19 ετών, είπε ότι «ριζοσπαστικοποιήθηκε από τον αλγόριθμο» από την ηλικία των 14 ετών. Ο αλγόριθμος του έδειχνε περιεχόμενο που τον εξόργιζε και τον οδήγησε να υιοθετήσει ρατσιστικές και μισογυνικές απόψεις.
«Τα βίντεο με ενεργοποιούσαν, αλλά όχι με καλό τρόπο», είπε. «Με έκαναν απλώς πολύ θυμωμένο».
Ειδικοί της αντιτρομοκρατικής αστυνομίας στο Ηνωμένο Βασίλειο που αναλύουν χιλιάδες δημοσιεύσεις στα κοινωνικά δίκτυα κάθε χρόνο δήλωσαν ότι τους τελευταίους μήνες έχουν δει «κανονικοποίηση» αντισημιτικών, ρατσιστικών, βίαιων και ακροδεξιών δημοσιεύσεων.
Ένας αξιωματικός είπε ότι «οι άνθρωποι έχουν γίνει πιο απευαισθητοποιημένοι απέναντι στη βία στον πραγματικό κόσμο και δεν φοβούνται να μοιραστούν τις απόψεις τους».
Ένας εργαζόμενος στην ομάδα εμπιστοσύνης και ασφάλειας του TikTok, τον οποίο το BBC αποκαλεί Νικ, δήλωσε ότι ο αριθμός των υποθέσεων που έπρεπε να εξετάζουν ήταν τόσο μεγάλος ώστε ήταν δύσκολο να διασφαλιστεί η ασφάλεια των χρηστών — ιδιαίτερα των παιδιών και των εφήβων.
Κατά τη γνώμη του, οι περικοπές προσωπικού και η αντικατάσταση ορισμένων θέσεων με τεχνητή νοημοσύνη έχουν περιορίσει την ικανότητα της εταιρείας να αντιμετωπίζει αποτελεσματικά τέτοιο περιεχόμενο.
Υλικό που συνδέεται με «τρομοκρατία, σεξουαλική βία, σωματική βία, κακοποίηση και διακίνηση ανθρώπων» φαίνεται να αυξάνεται, είπε.
Η πραγματικότητα του τι προτείνει η εφαρμογή και των ενεργειών που λαμβάνονται εναντίον επιβλαβούς περιεχομένου είναι «πολύ διαφορετική από όσα λένε δημόσια οι εταιρείες», πρόσθεσε.
Ο Νικ έδειξε επίσης στοιχεία ότι ορισμένες σχετικά ασήμαντες υποθέσεις που αφορούσαν πολιτικούς λάμβαναν μεγαλύτερη προτεραιότητα από περιπτώσεις που αφορούσαν ζημιά σε εφήβους.
Σε ένα παράδειγμα, μια υπόθεση όπου ένας πολιτικός είχε κοροϊδευτεί συγκρινόμενος με κοτόπουλο εξετάστηκε πριν από καταγγελία ενός 17χρονου θύματος διαδικτυακού εκφοβισμού στη Γαλλία και μιας 16χρονης στο Ιράκ που κατήγγειλε ότι στην εφαρμογή κυκλοφορούσαν σεξουαλικοποιημένες εικόνες που υποτίθεται ότι την απεικόνιζαν.
Ο Νικ υποστήριξε ότι αυτό συμβαίνει επειδή η εταιρεία ενδιαφέρεται περισσότερο για τη διατήρηση «ισχυρών σχέσεων» με πολιτικούς και κυβερνήσεις, ώστε να αποφύγει κανονισμούς ή απαγορεύσεις που θα έβλαπταν την επιχείρησή της.
Η συμβουλή του προς τους γονείς με παιδιά που χρησιμοποιούν το TikTok ήταν ξεκάθαρη: «Διαγράψτε το και κρατήστε τα όσο πιο μακριά γίνεται από την εφαρμογή για όσο περισσότερο γίνεται».
Το TikTok απάντησε ότι απορρίπτει την ιδέα ότι το πολιτικό περιεχόμενο έχει προτεραιότητα έναντι της ασφάλειας των νέων και δήλωσε ότι η κατηγορία «παρουσιάζει λανθασμένα τον τρόπο λειτουργίας των συστημάτων ελέγχου περιεχομένου».
Τόνισε επίσης ότι οι λογαριασμοί εφήβων διαθέτουν περισσότερες από 50 προεπιλεγμένες λειτουργίες ασφάλειας και ότι η εταιρεία επενδύει σε τεχνολογία που εμποδίζει το επιβλαβές περιεχόμενο να εμφανίζεται στους χρήστες.
Παράλληλα, πρώην στελέχη της Meta δήλωσαν ότι η εταιρεία επιτάχυνε την ανάπτυξη του Instagram Reels για να ανταγωνιστεί το TikTok, ακόμη κι αν αυτό σήμαινε λιγότερη προσοχή στην ασφάλεια των χρηστών.
Ο Μπράντον Σίλβερμαν, δημιουργός του εργαλείου παρακολούθησης κοινωνικών δικτύων CrowdTangle, το οποίο αγοράστηκε από το Facebook το 2016, δήλωσε ότι ο διευθύνων σύμβουλος της Meta Μαρκ Ζάκερμπεργκ ήταν «πολύ παρανοϊκός» σχετικά με τον ανταγωνισμό.
«Όταν νιώθει ότι υπάρχει ανταγωνιστική απειλή, δεν υπάρχει ποσό χρημάτων που να θεωρείται υπερβολικό», είπε.
Σύμφωνα με τον ίδιο, ενώ οι ομάδες ασφάλειας δυσκολεύονταν να πάρουν έγκριση για λίγες προσλήψεις, άλλες ομάδες έπαιρναν εκατοντάδες εργαζόμενους για την ανάπτυξη του Reels.
Ένας πρώην μηχανικός της Meta είπε ότι, καθώς η εταιρεία προσπαθούσε να ανταγωνιστεί το TikTok, επέτρεψε περισσότερο οριακά επιβλαβές περιεχόμενο.
«Χάνατε από το TikTok και επομένως η τιμή της μετοχής έπεφτε. Οι άνθρωποι άρχισαν να γίνονται παρανοϊκοί και αντιδραστικοί και έλεγαν: ας κάνουμε ό,τι μπορούμε για να προλάβουμε», είπε.
.jpg)
Εσωτερικά έγγραφα της Meta που κοινοποιήθηκαν στο BBC δείχνουν ότι η εταιρεία γνώριζε πως οι αλγόριθμοί της προωθούσαν περιεχόμενο που προκαλούσε οργή και θυμό.
«Δεδομένης της δυσανάλογης αλληλεπίδρασης, οι αλγόριθμοί μας υποθέτουν ότι οι χρήστες συμπαθούν αυτό το περιεχόμενο και θέλουν περισσότερο», αναφέρει μια μελέτη.
Εκπρόσωπος της Meta αρνήθηκε τις κατηγορίες των πληροφοριοδοτών και δήλωσε ότι η εταιρεία έχει αυστηρές πολιτικές προστασίας χρηστών και έχει επενδύσει σημαντικά στην ασφάλεια και την προστασία την τελευταία δεκαετία.
