Πρόσφατα διάβασα το άρθρο «Η επερχόμενη εποχή της προπαγάνδας μέσω τεχνητής νοημοσύνης» των Josh A. Goldstein και Girish Sastry και ένιωσα τρόμο για τον δυστοπικό κόσμο που χτίζεται με υλικά παρμένα από την ψηφιακή εποχή. Για πρώτη φορά είχα τόσο έντονη την αίσθηση ότι βαδίζουμε ανυποψίαστοι τον δρόμο που οδηγεί στο τέλος μερικών από τα πιο σπουδαία επιτεύγματα της ανθρώπινης διάνοιας, όπως της λογοτεχνίας, της πολιτικής και της φιλοσοφίας, και στην αρχή του πολιτισμού που παράγουν οι «μηχανές» που κατασκεύασε η ίδια.
Σήμερα όλοι γνωρίζουν ότι κοντεύουμε να φτάσουμε στην εποχή που οι «μηχανές» θα είναι εξίσου ικανές όσο οποιοσδήποτε άνθρωπος στα πάντα, από το να μαγειρεύουν μέχρι να γράφουν μυθιστορήματα και να κάνουν σοβαρές εγχειρήσεις. Και όχι μόνον αυτό: Σε αντίθεση με το ανθρώπινο σώμα και τη διάνοια που αντιμετωπίζουν περιορισμούς οι οποίοι οφείλονται στον κάματο και στα όρια, οι «μηχανές» θα είναι πολύ ταχύτερες, δεν θα κουράζονται ποτέ, θα έχουν άμεση πρόσβαση σε όλες τις γνώσεις του κόσμου και θα έχουν πιο αναλυτική δύναμη από οποιονδήποτε άνθρωπο.
Τι επιπτώσεις μπορεί να έχει αυτό στην ανθρώπινη συμπεριφορά, στην πολιτική, στη δημοκρατία και στη δημιουργία; Ανατρεπτικές. Φανταστείτε τη ζωή με «μηχανές» που μπορούν: Να γράφουν tweets. Να συνθέτουν αναρτήσεις σε ιστολόγια που περιλαμβάνουν συγκεκριμένα σημεία. Να αποσυνθέτουν λέξεις. Να υποκαθιστούν την προσωπική συνομιλία. Να απαντούν σε ερωτήσεις. Να γράφουν ποίηση. Να δημιουργούν λογοτεχνικά έργα. Να…
Μια παγκόσμια ουτοπία στην οποία η πραγματικότητα θα είναι όμηρος των ισχυρών, οι οποίοι ελέγχοντας τις «μηχανές» θα μπορούν να ορίζουν «φίλους», «εχθρούς», «συμμάχους», «αντιπάλους», «επικίνδυνους»… και να υποκαθιστούν το γεγονός με την πρόβλεψη.
Υπερβολές; Αν σκεφτείτε τον όγκο των δεδομένων στα οποία ήδη έχουν πρόσβαση οι εξουσίες και τις δυνατότητες επεξεργασίας που προσφέρουν η τεχνητή νοημοσύνη και τα μεγάλα δεδομένα, τότε θα πρέπει να αναθεωρήσετε τη σιγουριά που αισθάνεστε. Φορολογικές δηλώσεις, ιατρικά αρχεία, ποινικά μητρώα, τραπεζικοί λογαριασμοί, γενετικές εξετάσεις, καταναλωτικές προτιμήσεις, φυσικές πληροφορίες (τοποθεσία, βιομετρικά στοιχεία), πληροφορίες που συλλέγονται από την οικογένεια και τους φίλους… Ολα αυτά και άλλα τόσα προσφέρουν τη δυνατότητα σε όσους ελέγχουν τις «μηχανές» να προσπερνούν αυτό που συμβαίνει για να φτάσουν σε εκείνο που μπορεί να συμβεί.
Από τεχνική άποψη, τέτοιες προβλέψεις δεν διαφέρουν από τη χρήση συστημάτων τεχνητής νοημοσύνης για υγειονομική περίθαλψη, με στόχο την πρόβλεψη ασθενειών σε φαινομενικά υγιείς ανθρώπους πριν εμφανιστούν τα συμπτώματά τους. Και όταν οι άνθρωποι γνωρίζουν ότι η πανταχού παρούσα παρακολούθηση των φυσικών και ψηφιακών δραστηριοτήτων τους θα χρησιμοποιηθεί για την πρόβλεψη ανεπιθύμητης συμπεριφοράς, ακόμα και για ενέργειες που απλώς τις σκέπτονται, τότε θα αναγκαστούν να προσαρμόσουν τις πράξεις και τις σκέψεις τους ώστε να είναι συμβατές με το μοντέλο του «υπεύθυνου» μέλους της κοινωνίας που έχουν φτιάξει οι εξουσίες. Με απλά λόγια, ο φόβος και η καχυποψία θα αναγκάσουν τους ανθρώπους όχι μόνο να ενεργούν με συγκεκριμένους τρόπους αλλά και να αλλάξουν τον τρόπο που σκέφτονται και εκφράζονται. Σκέψη, έκφραση, δράση. Τα θεμέλια της πολιτικής και της δημιουργίας.
Σενάρια επιστημονικής φαντασίας, θα παρατηρήσουν κάποιοι. Γνωρίζετε τι είναι «γλωσσικό μοντέλο»; Πρόκειται για έναν τύπο συστήματος τεχνητής νοημοσύνης που εκπαιδεύεται μέσω δοκιμής και λάθους για να καταναλώνει και να παράγει κείμενο. Πριν από μερικά χρόνια οι επιστήμονες προειδοποιούσαν ότι τα συστήματα «γλωσσικών μοντέλων» θα μπορούσαν να χρησιμοποιηθούν για να οργανώσουν επιχειρήσεις επιρροής. Πλέον αυτά τα μοντέλα φαίνεται να βρίσκονται στο κατώφλι τού να επιτρέπουν στους χρήστες να παράγουν μια σχεδόν απεριόριστη ποσότητα πρωτότυπου κειμένου με περιορισμένη ανθρώπινη προσπάθεια. Αυτό θα μπορούσε μεταξύ των άλλων να βελτιώσει την ικανότητα των προπαγανδιστών να πείθουν ανυποψίαστους ψηφοφόρους, κατακλύζοντας τα διαδικτυακά περιβάλλοντα πληροφοριών και εξατομικεύοντας τα μηνύματα ηλεκτρονικού «ψαρέματος». Κάτι τέτοιο όχι μόνο επηρεάζει τις πεποιθήσεις, αλλά διαβρώνει την εμπιστοσύνη στις πληροφορίες στις οποίες βασίζονται οι άνθρωποι για να σχηματίσουν κρίσεις και να λάβουν αποφάσεις. Επιπλέον τα «γλωσσικά μοντέλα» μπορεί να ανταγωνιστούν την ανθρώπινη διάνοια παράγοντας «έργα» τα οποία χρησιμοποιώντας το «λάθος» θα βελτιώνονται με τέτοια ταχύτητα ώστε κάποια στιγμή ο άνθρωπος να μην μπορεί ούτε να τα ακολουθήσει ούτε και να τα αντικρούσει.
Υπό το πρίσμα αυτό, ό,τι έχει συμβεί μέχρι τώρα είναι μόνο το ήπιο τρέμουλο της Γης που προηγείται ενός καταστροφικού σεισμού. Μπορεί να είναι αδύνατο να σταματήσει η τεχνολογία την πορεία της, αλλά είναι δυνατόν να καταλάβουμε τι έρχεται και να προετοιμαστούμε…
* Δημοσιογράφος, συγγραφέας
