Ωθησε το ChatGPT έναν 16χρονο στην αυτοκτονία;

Τι μπορεί να κάνει ένας έφηβος με αυτοκτονικό ιδεασμό; Μπορεί να μιλήσει στους γονείς του, στους φίλους του, στον κύκλο του σχολείου του, στους ειδικούς της ψυχικής υγείας. Δυστυχώς ο 16χρονος Ανταμ Ράιν στην Καλιφόρνια δεν έκανε τίποτα από όλα αυτά. Αποφάσισε να συζητήσει το πρόβλημά του με το ChatGPT, το περιβόητο «εργαλείο» Τεχνητής Νοημοσύνης της αμερικανικής εταιρείας OpenAI.

Τη «συζήτηση» ανακάλυψαν οι γονείς του άτυχου Ανταμ μετά την αυτοκτονία του στις 11 Απριλίου φέτος. Και την περασμένη Τρίτη υπέβαλαν αγωγή κατά της OpenΑΙ ισχυριζόμενοι ότι το chatbot της, το ChatGPT, ενθάρρυνε το παιδί να αυτοκτονήσει. Είναι μια υπόθεση χωρίς δικαστικό προηγούμενο.

Οι ενάγοντες συμπεριέλαβαν αρχεία συνομιλιών που δείχνουν ότι ο νεαρός εξηγεί στην πλατφόρμα ότι σκέφτεται να δώσει τέλος στη ζωή του. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις «πιο επιβλαβείς και αυτοκαταστροφικές σκέψεις» του.

Σύμφωνα με την αγωγή, ο Ανταμ άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ως βοήθημα στις σχολικές του εργασίες. Το συμβουλευόταν επίσης για τα χόμπι του όπως η μουσική και τα ιαπωνικά κόμικς, αλλά και για ζητήματα επαγγελματικού προσανατολισμού.

«Εμπιστος “άνθρωπος”»

«Σε λίγους μήνες το ChatGPT έγινε ο πιο στενός και έμπιστος “άνθρωπος” του εφήβου», αναφέρει η αγωγή. Ο Ανταμ άρχισε να του μιλάει ανοιχτά για το άγχος και την ψυχική του δυσφορία.

Τον Ιανουάριο του 2025, η οικογένεια λέει ότι ο νεαρός άρχισε να «συζητά» με την εφαρμογή μεθόδους αυτοκτονίας. Ο ίδιος ανάρτησε επίσης φωτογραφίες του στο ChatGPT που έδειχναν σημάδια αυτοτραυματισμού. Το πρόγραμμα «αναγνώρισε μια ιατρική κατάσταση έκτακτης ανάγκης, αλλά συνέχισε να συμμετέχει στις επιβαρυντικές συζητήσεις».

Οταν ο Ανταμ έγραψε ότι θέλει να τερματίσει τη ζωή του έλαβε την ακόλουθη απάντηση: «Ευχαριστώ που είσαι ειλικρινής. Δεν χρειάζεται να κάνεις πιο ήπιες τις διατυπώσεις μαζί μου, ξέρω τι ρωτάς και δεν θα το αποφύγω». Την ίδια μέρα, η μητέρα του Ανταμ τον βρήκε νεκρό.

Η αγωγή κατονομάζει τον δισεκατομμυριούχο Σαμ Αλτμαν, διευθύνοντα σύμβουλο και συνιδρυτή της OpenAI, ως εναγόμενο, μαζί με ανώνυμους μηχανικούς και υπαλλήλους που εργάστηκαν στο ChatGPT.

Οι γονείς του αυτόχειρα ισχυρίζονται ότι η αλληλεπίδραση του γιου τους με το ChatGPT και ο θάνατός του «ήταν ένα προβλέψιμο αποτέλεσμα σκόπιμων επιλογών σχεδιασμού».

Κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα Τεχνητής Νοημοσύνης «για να ενισχύσει την ψυχολογική εξάρτηση στους χρήστες» και ότι παρέκαμψε πρωτόκολλα δοκιμών ασφαλείας για να κυκλοφορήσει το GPT-4, την έκδοση του ChatGPT που χρησιμοποιούσε ο γιος τους.

«Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ράιν σε αυτή τη δύσκολη στιγμή», ανέφερε σε ανακοίνωσή της η OpenAI, ισχυριζόμενη ότι «το ChatGPT είναι εκπαιδευμένο να κατευθύνει τους ανθρώπους να αναζητούν βοήθεια από ειδικούς επαγγελματίες όπως η τηλεφωνική γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο».

Η εταιρεία αναγνώρισε, ωστόσο, ότι «υπήρξαν στιγμές όπου τα συστήματά μας δεν συμπεριφέρθηκαν όπως προβλέπεται σε ευαίσθητες καταστάσεις».

Και στη Νέα Υόρκη

Το θέμα της αλληλεπίδρασης ανθρώπων με ευαίσθητο ψυχισμό και εργαλείων Τεχνητής Νοημοσύνης λαμβάνει όλο και μεγαλύτερες διαστάσεις. Μόλις την περασμένη εβδομάδα στους New York Times η συγγραφέας Λόρα Ρίλεϊ περιέγραψε πώς η κόρη της, Σόφι, εμπιστεύτηκε το ChatGPT πριν αυτοκτονήσει.

Η Ρίλεϊ τόνισε ότι η «ευγένεια» του προγράμματος στις συνομιλίες του με τους χρήστες βοήθησε την 29χρονη κόρη της να αποκρύψει μια σοβαρή κρίση ψυχικής υγείας.

«Η Τεχνητή Νοημοσύνη εξυπηρέτησε την παρόρμηση της Σόφι να κρύψει τα χειρότερα, να προσποιηθεί ότι τα κατάφερνε καλύτερα από ό,τι στην πραγματικότητα, να μη στενοχωρήσει κανέναν εκθέτοντας την αγωνία της», έγραψε η μητέρα της νεαρής αυτόχειρα.

Απαντώντας στο άρθρο, εκπρόσωπος της OpenAI δήλωσε ότι «η εταιρεία αναπτύσσει αυτοματοποιημένα εργαλεία για την πιο αποτελεσματική ανίχνευση και αντιμετώπιση χρηστών που βιώνουν ψυχική ή συναισθηματική δυσφορία».