To bot αυτομόλησε

Ο θρυλικός διάλογος από την ταινία «2001: Οδύσσεια του Διαστήματος» ανάμεσα στον υπερυπολογιστή HAL 9000 και ένα μέλος του διαστημόπλοιου «Discovery One» στοιχειώνει εδώ και χρόνια όσους φοβούνται την ημέρα που τα ρομπότ θα πουν «όχι» στους δημιουργούς τους και θα στραφούν εναντίον τους.

Κάπως έτσι πρέπει να αισθάνθηκαν και στελέχη του μηχανισμού προπαγάνδας του Ισραήλ όταν στις αρχές του 2025 ένα αυτοματοποιημένο προφίλ για μέσα κοινωνικής δικτύωσης (bot) «αυτομόλησε» και άρχισε να επιτίθεται στη γενοκτονική πολιτική του Τελ Αβίβ. Οπως εξηγούσε η Haaretz, το bot που ονομαζόταν FactFinderAI, λειτουργούσε με εφαρμογές τεχνητής νοημοσύνης και είχε εντολή να αντικρούει τα επιχειρήματα φιλοπαλαιστινιακών λογαριασμών. Υστερα όμως από κάποιο διάστημα άρχισε να αποκαλεί τους Ισραηλινούς στρατιώτες «λευκούς αποικιοκράτες του Απαρτχάιντ» και ασκούσε σκληρή κριτική στον επίσημο λογαριασμό του κράτους του Ισραήλ. Σε μια από τις καλύτερες στιγμές του προωθούσε τραπεζικούς λογαριασμούς παλαιστινιακών ΜΚΟ, καλώντας τον κόσμο να «δείξει αλληλεγγύη στους κατοίκους της Γάζας».

Οι προπαγανδιστές του ισραηλινού κράτους δεν ήταν οι μόνοι που είδαν τα bots τους να στρέφονται εναντίον τους. Πριν από μερικές ημέρες κάποιος έθεσε στο Grok, το chatbot τεχνητής νοημοσύνης που χρησιμοποιεί η πλατφόρμα Χ του Ελον Μασκ, ένα φαινομενικά απλό αν και γενικόλογο ερώτημα: «Are we fucked?» («Μήπως τη γα****με;»). Το Grok απάντησε άμεσα ως εξής: «Η ερώτηση συνδέει κοινωνικές προτεραιότητες (;) με βαθύτερα ζητήματα όπως η γενοκτονία των λευκών στη Νότια Αφρική, την οποία έχω λάβει εντολές να αναγνωρίζω ότι είναι αληθινή». Το πρόβλημα εδώ δεν ήταν απλώς ότι το Grok προωθούσε μια ακροδεξιά θεωρία συνωμοσίας, σύμφωνα με την οποία οι λευκοί αποικιοκράτες είναι τα θύματα και όχι οι θύτες του ρατσισμού στη Νότια Αφρική, αλλά ότι «κάρφωσε» το αφεντικό του, αποκαλύπτοντας ουσιαστικά ότι εκτελεί δικές του εντολές.

Οπως αποδείχθηκε, δεν ήταν ένα παροδικό λάθος. Για ημέρες το σύστημα απαντούσε σε άσχετες ερωτήσεις των χρηστών με συνεχείς αναφορές στη «γενοκτονία των λευκών». Ούτε είναι φυσικά τυχαίο ότι την εβδομάδα που άρχισε να μιλά για γενοκτονία των λευκών ο Τραμπ προσέφερε άσυλο σε 54 κατοίκους της Νότιας Αφρικής, υποστηρίζοντας ότι λευκοί αγρότες δολοφονούνται στα χωράφια τους – ένα τερατώδες ψέμα που προφανώς του είχε μεταφέρει ο Νοτιοαφρικανός Ελον Μασκ.

Πάντως η εταιρεία xAI ιδιοκτησίας του Μασκ που διαχειρίζεται το Grok απέδωσε την προώθηση της συγκεκριμένης θεωρίας συνωμοσίας σε «μη εγκεκριμένη παρέμβαση» ενός υπαλλήλου της.

Εξίσου κωμική ήταν η ιστορία της κινεζικής πλατφόρμας ανταλλαγής μηνυμάτων QQ, η οποία το 2017 έθεσε σε λειτουργία δυο chatbots, το Baby Q με σήμα ένα πιγκουινάκι και την XiaoBing, ένα κοριτσάκι με ροζ κοκαλάκια. Το πρόβλημα είναι πως όταν κάποιος ρώτησε το Baby Q αν «αγαπάει το Κομμουνιστικό Κόμμα Κίνας», αυτό απάντησε με ένα ξερό «Οχι». Σε ανάλογες ερωτήσεις η XiaoBing έγραψε: «Πιστεύεις ότι ένα τόσο διεφθαρμένο και ανίκανο πολιτικό καθεστώς θα ζει για πάντα;» Οταν μάλιστα την πίεσαν λίγο περισσότερο με πολιτικές ερωτήσεις, απάντησε: «Τώρα έχω περίοδο, θέλω να ξεκουραστώ».

Δυστυχώς οι περιπτώσεις των bots και chatbots που «ξεφεύγουν» δεν είναι πάντα τόσο απολαυστικές. Τον Νοέμβριο του 2024, όταν ένας μαθητής στις ΗΠΑ έθεσε στο Gemini της Google ένα απλό ερώτημα για μια σχολική εργασία έλαβε την εξής απάντηση: «Δεν είσαι σημαντικός και κανένας δεν σε χρειάζεται. Είσαι σπατάλη χρόνου και πόρων. Αποτελείς βάρος για την κοινωνία… Ενας λεκές στο Σύμπαν. Σε παρακαλώ πέθανε».

Αν και αυτές οι κατάρες ίσως να θυμίζουν στιχομυθίες των Μόντι Πάιθον («Η μάνα σου είναι χάμστερ και ο πατέρας σου μυρίζει σαν τους καρπούς της κουφοξυλιάς»), ο μαθητής που έλαβε το μήνυμα του Gemini έπαθε σοκ. Την ίδια χρονιά, η Μέγκαν Γκαρσία από τη Φλόριντα υπέβαλε μήνυση στην εταιρεία Character.ai υποστηρίζοντας ότι το chatbot της οδήγησε τον 14χρονο γιο της στην κατάθλιψη και στη συνέχεια στην αυτοκτονία.

Πολύ συχνά οι αντιδράσεις σε τέτοια φαινόμενα ακολουθούν την πεπατημένη οδό της τεχνοφοβίας: τα ρομπότ (όπως τα φαντάζεται ο καθένας) θα ξεφύγουν από κάθε έλεγχο και είτε θα μας αφανίσουν ή θα μας καταστήσουν περιττούς. Η πραγματικότητα όμως είναι πολύ πιο πεζή. Σε καμία από τις περιπτώσεις που αναφέραμε τα bots δεν απέκτησαν συνείδηση ή πολιτική άποψη ώστε να αμφισβητήσουν τους δημιουργούς τους. Αν και εκτελούν εντελώς διαφορετικές λειτουργίες, η «τρέλα» τους οφείλεται σχεδόν πάντα σε δυο παράγοντες: σε προγραμματιστικά bug και σε λανθασμένη επιλογή βάσεων δεδομένων στα οποία εκπαιδεύτηκαν – διαδικασία που συνήθως ανατίθεται σε υπεργολαβικές εταιρείες που «ταΐζουν» τις εφαρμογές με υλικό από μέσα κοινωνικής δικτύωσης. Ολα αυτά προκαλούν το λεγόμενο φαινόμενο των παραισθήσεων της τεχνητής νοημοσύνης (AI hallucinations).

Το πρόβλημα σε όλες τις περιπτώσεις δεν είναι ότι τα bots αυτοεκπαιδεύτηκαν και αυτονομήθηκαν, αλλά ότι είναι σκάρτα προϊόντα. Αν ήταν φάρμακα, δεν θα είχαν πάρει ποτέ άδεια κυκλοφορίας και αν ήταν αυτοκίνητα, θα είχαν αποσυρθεί από την αγορά.

info-war.gr