Ανθρώπινος λόγος και τεχνητή νοημοσύνη

Σύμφωνα με τον Αριστοτέλη, οι άνθρωποι είναι ζώα «πολιτικά», η ίδια τους η φύση τούς ωθεί σε μια διαρκή αλληλεπίδραση και στο να οργανώνουν την κοινή τους ζωή στο εσωτερικό της πόλης. Σε σχέση με άλλα αγελαία είδη, το ανθρώπινο γένος διακρίνεται επειδή διαθέτει τη λογική και τον λόγο.

Ο λόγος καθιστά πιο επωφελείς την κοινωνική συνεργασία και τη διαχείριση των συλλογικών προβλημάτων». Με αυτή την αναφορά στον Αριστοτέλη αρχίζει το άρθρο του στην «Κοριέρε ντελα Σέρα» ο Μαουρίτσιο Φερέρα, καθηγητής Πολιτικής Επιστήμης στο δημόσιο Πανεπιστήμιο του Μιλάνου.

«Η τεχνητή νοημοσύνη –συνεχίζει ο Φερέρα– είναι σήμερα το πιο εξελιγμένο εργαλείο που διαθέτουμε για να υποστηρίζουμε τον λόγο. Χάρη στις πελώριες υπολογιστικές ικανότητες, που εφαρμόζονται στα λεγόμενα Big Data, η τεχνητή νοημοσύνη μπορεί να μας προμηθεύει πολύτιμες υποδείξεις σε όλα τα πεδία της κοινωνίας, από την υγεία ώς το περιβάλλον, από την οικονομία ώς τις μεταφορές. Αν ακολουθούσαμε τις υποδείξεις της, οι δημόσιες πολιτικές δεν θα συνοδεύονταν πλέον από εκείνες τις ιδεολογικές συζητήσεις, που σήμερα αποπροσανατολίζουν και καθυστερούν τις διαδικασίες απόφασης. Με ακρίβεια και ταχύτητα, οι νοήμονες μηχανές θα μας έλεγαν τι να κάνουμε. Η δημοκρατία θα παραχωρούσε τη θέση της στην “αλγοριθμοκρατία”, την κυβέρνηση των αλγορίθμων. Αυτό είναι το όνειρο –και ίσως ήδη το σχέδιο– των ψηφιακών ολιγαρχιών, που ελέγχουν σε παγκόσμιο επίπεδο την ανάπτυξη της τεχνητής νοημοσύνης.

Πριν από τρία χρόνια, ο Mark Andreessen, ένας από τους σημαντικότερους Αμερικανούς επιχειρηματίες της πληροφορικής, δημοσίευσε ένα Μανιφέστο που συνόψιζε τη σκέψη των τεχνο-οπτιμιστών. “Η τεχνολογία είναι σε θέση να πραγματοποιεί όλες τις δυνατότητες και τις φιλοδοξίες των ανθρώπων, είναι το καλό χαρτί της προόδου. Ήμασταν στο σκοτάδι, εφηύραμε το φως. Ήμασταν στο κρύο, εφηύραμε τη θέρμανση. Είχαμε το πρόβλημα των πανδημιών, εφηύραμε τα εμβόλια. Έχουμε ένα πρόβλημα φτώχειας, εφευρίσκουμε νέες τεχνολογίες που θα δημιουργήσουν αφθονία για όλους. Δώστε μας ένα οποιοδήποτε πρόβλημα του υπαρκτού κόσμου και θα εφεύρουμε την τεχνολογία για να το επιλύσουμε”.

Το Μανιφέστο των τεχνο-οπτιμιστών είναι η τελευταία εκδοχή της τεχνοκρατικής ουτοπίας, δηλαδή της αυταπάτης ότι η ειδική γνώση (τέχνη) θα γίνει δύναμη διακυβέρνησης (κράτος). Σε αυτή την περίπτωση, οι φιλόσοφοι βασιλείς που φαντάστηκε ο Πλάτων θα αντικατασταθούν από νοήμονες μηχανές. Πέρα από την υπερβολή της αυτοεξύμνησης, ο τεχνο-οπτιμισμός εκκινεί από εσφαλμένα αξιώματα.

Η πολιτική δεν είναι μόνον επίλυση πρακτικών προβλημάτων, αλλά και στοχασμός για τους σκοπούς που πρέπει να επιδιωχθούν. Ο αριστοτελικός λόγος επιτρέπει στους ανθρώπους να διακρίνουν “το ωφέλιμο και το βλαβερό” (και εδώ η τεχνητή νοημοσύνη μπορεί να βοηθήσει), αλλά τους παρακινεί και να αναπτύσσουν “την αίσθηση του καλού και του κακού, του δίκαιου και του άδικου”. Η εξάσκηση αυτής της ικανότητας δημιουργεί ένα πεδίο συλλογικής νοημοσύνης, εντός του οποίου επιλέγονται οι αξίες. Θέλουμε περισσότερη ισότητα ή περισσότερη ελευθερία; Επιτρέπουμε την ευθανασία ή την απαγορεύουμε; Σε ερωτήματα σαν κι αυτά, η τεχνητή νοημοσύνη μπορεί να δίνει μια πολύ περιορισμένη συμβολή. Πρόκειται πράγματι για ηθικά ερωτήματα δημιουργημένα από εμάς τους ανθρώπους, για τα οποία δεν υπάρχουν ακριβείς και αναμφίβολες απαντήσεις, αλλά μόνον απαντήσεις συναφείς με τη δική μας αίσθηση για το καλό και για το δίκαιο. Οι νοήμονες μηχανές δεν διαθέτουν αυτή την “αίσθηση”. Ακολουθούν μια καθαρά εργαλειακή ορθολογικότητα: δώσε μου τον χ στόχο και θα σου υποδείξω ποιο είναι το καλύτερο μέσο για να τον πετύχεις. Η λογική τους είναι παραγωγική, δυαδική και γραμμική, προσαρμοσμένη στο να αναλύει καλά καθορισμένα και ποσοτικά μετρήσιμα προβλήματα. Πόσο πρέπει να μειώσουμε τις εκπομπές διοξειδίου του άνθρακος, για να κατεβάσουμε κατά έναν βαθμό τη μέση θερμοκρασία του πλανήτη; Σε ποιους παραγωγικούς τομείς πρέπει να επικεντρωθούμε και ποια είναι τα πιο αποτελεσματικά μέτρα; Μέχρις εδώ, οι αλγόριθμοι δίνουν συγκεκριμένες και αξιόπιστες απαντήσεις. Δεν είναι όμως σε θέση να πραγματοποιήσουν τα επόμενα βήματα: Πώς πρέπει να κατανεμηθούν τα κόστη της ενεργειακής μετάβασης; Πώς πρέπει να ενορχηστρωθεί ένας δίκαιος μετασχηματισμός;

Οι άνθρωποι έχουν διαφορετικές απόψεις, βασιζόμενες εν μέρει στη λογική, εν μέρει στα συναισθήματα, στα πάθη, στις φαντασιώσεις. Το πεδίο της συλλογικής νοημοσύνης είναι από την ίδια του τη φύση πλουραλιστικό. Ο ανταγωνισμός μεταξύ των αξιών είναι κινητήρια δύναμη ανανέωσης και προόδου. Θέτει όμως και ένα σοβαρό πρόβλημα: Πώς μπορούμε να φτάσουμε σε επιλογές έγκυρες για όλους; Η καλύτερη λύση επινοήθηκε από τους αρχαίους Έλληνες, οι οποίοι την αποκάλεσαν δημοκρατία: συμμετοχή όλων των πολιτών, ίση εξέταση των κρίσεών τους και τέλος η ψήφος. Μια μέθοδος που είναι προγραμματικά ανοιχτή στην αντιπαράθεση και έχει επίγνωση του ότι καμία γνώμη δεν μπορεί να εξαντλεί όλο το φάσμα των πιθανών ερμηνειών της πραγματικότητας. Η επιλογή που γίνεται με την ψήφο δεν είναι υποχρεωτικά η πιο αποτελεσματική. Η νομιμοποίηση της διαδικασίας εξασφαλίζει ωστόσο ότι αυτή η επιλογή θα γίνει αποδεκτή από όλους. Όσο διαρκεί η δημοκρατική αντιπαράθεση, οι υποδείξεις που γεννιούνται από την τεχνητή νοημοσύνη είναι πολύ χρήσιμες. Αλλά οι τελευταίοι κρίκοι της αλυσίδας στη διαδικασία απόφασης παραμένουν στα χέρια της ανθρώπινης νοημοσύνης και της ανθρώπινης ευαισθησίας.

Ας σκεφτούμε ένα τραυματικό γεγονός όπως η πανδημία του κορονοϊού. Επιστήμη και τεχνολογία μπόρεσαν να απομονώσουν τον ιό και να αναπτύξουν το εμβόλιο. Οι έσχατες αποφάσεις πάρθηκαν στην πολιτική σφαίρα. Υπήρξε συζήτηση, αλλά η επείγουσα κατάσταση ώθησε τις κυβερνήσεις να επιβάλουν τον υποχρεωτικό εμβολιασμό και τα lockdown.

Η αξία της υγειονομικής ασφάλειας πριμοδοτήθηκε σε σχέση με εκείνη της ελευθερίας. Η διαθέσιμη πληροφόρηση, ακόμα και αν γεννιέται από σχεδόν αλάθητες τεχνολογίες, δεν φτάνει ποτέ το κατώφλι στο οποίο να μπορούμε να πούμε: η πολιτική απόφαση δεν είναι αναγκαία. Παραμένει πάντοτε κάτι που δεν γνωρίζουμε ή που δεν ξέρουμε πώς να το ερμηνεύσουμε. Προπάντων, παραμένει δική μας η ευθύνη της αξιολόγησης.

Υπάρχει έπειτα και μια άλλη πλευρά που θα πρέπει να εξετάσουμε. Η τεχνητή νοημοσύνη δεν είναι μόνον ένα θαυμαστό εργαλείο επίλυσης προβλημάτων. Μπορεί και να γίνει ένα επικίνδυνο εργαλείο κυριαρχίας. Οι αλγόριθμοι που καταγράφουν το προφίλ των καταναλωτών μπορεί να χρησιμοποιηθούν για να εντοπίζουν ιδέες και συμπεριφορές που δεν αρέσουν στην κυβερνητική εξουσία. Αυτό συμβαίνει κυρίως στα απολυταρχικά καθεστώτα. Στην Κίνα, το κόμμα-κράτος χρησιμοποιεί τις πιο εξελιγμένες τεχνολογίες για να καταπνίγει τη διαφωνία. Στις φιλελεύθερες δημοκρατίες, ο μεγαλύτερος κίνδυνος (προς το παρόν) είναι η χειραγώγηση της πληροφόρησης και της επικοινωνίας. Η διάδοση ψευδών ειδήσεων μπορεί να αλλοιώσει τα εκλογικά αποτελέσματα και να επηρεάσει τις διαθέσεις της κοινής γνώμης. Δεν πρόκειται για έναν ασήμαντο κίνδυνο.

Στην Αθήνα του 5ου π.Χ. αιώνα, η δημοκρατία έπεσε θύμα των “δημαγωγών”, που σαγήνευαν τους πολίτες με τη ρητορική, χειραγωγώντας τις πεποιθήσεις τους και διαβρώνοντας σταδιακά την κοινή αίσθηση του δίκαιου και του άδικου, του αληθούς και του ψευδούς. Το σενάριο που φοβούνται περισσότερο οι τεχνο-πεσιμιστές είναι οι νοήμονες μηχανές να μετασχηματιστούν σε οντότητες ικανές να αυτοκαθορίζουν τους σκοπούς τους, ακόμα και προς κακόβουλες κατευθύνσεις. Είναι το φάσμα του Hal, του ηλεκτρονικού υπολογιστή στην ταινία “2001: Η Οδύσσεια του Διαστήματος”, ο οποίος καταλήγει να εξοντώνει τέσσερα μέλη του πληρώματος. Δεν νομίζω ότι μπορεί να υλοποιηθούν παρόμοια σενάρια. Εξάλλου, στην ταινία του Κιούμπρικ, ο Hal δεν γίνεται κακός από δική του αυτόνομη επιλογή, αλλά εξαιτίας αντιφατικών οδηγιών που εισήγαγαν στη μνήμη του οι προγραμματιστές. Η ταινία γυρίστηκε το 1968. Ακόμα και σήμερα οι νοήμονες μηχανές λειτουργούν χάρη στην εισαγωγή εντολών από τον άνθρωπο. Εκτός από την αναγκαία ρύθμιση της τεχνητής νοημοσύνης, χρειάζεται να ενισχύσουμε την κριτική σκέψη, την ικανότητα κρίσης και φαντασίας, την ανάπτυξη και την εξάσκηση της αίσθησης του δίκαιου και του άδικου, του αληθούς και του ψευδούς. Εκείνων δηλαδή των θεμελίων του λόγου που μας κάνουν αληθινά ανθρώπινους, παρά τα όρια των υπολογιστικών μας ικανοτήτων».