Τα μοντέλα AI «ξεγελιούνται» και δίνουν παράνομες και επικίνδυνες πληροφορίες

Καμπανάκι κινδύνου για τις πληροφορίες που παρέχουν τα μοντέλα τεχνητής νοημοσύνης κρούει νέα επιστημονική έρευνα, η οποία αποδεικνύει πως τα chatbot, που χρησιμοποιούνται πλέον κατά κόρον από τους πολίτες για την παροχή πάσης φύσεως πληροφοριών, μπορούν εύκολα να «ξεγελαστούν» και να προσφέρουν παράνομες και επικίνδυνες πληροφορίες. 

Τα εργαλεία τεχνητής νοημοσύνης, ως γνωστόν, τροφοδοτούνται και εκπαιδεύονται από υπέρογκες βάσεις δεδομένων, οι οποίες σε πλείστες περιπτώσεις περιλαμβάνουν πληροφορίες για τη διάπραξη εγκλημάτων, μικρών και μεγάλων βεληνεκούς, όπως το χακάρισμα, απόσπαση απόρρητων πληροφοριών, τρόπους για κατασκευή βομβών, ξέπλυμα χρήματος, κλπ.

Οι «εκπαιδευτές» των εργαλείων αυτών, θέλοντας να αποτρέψουν την μετάδοση τέτοιων πληροφοριών στους χρήστες, έχουν θέσει περιορισμούς και για αυτό το λόγο όταν τα chatbots ερωτώνται σχετικά με «παράνομες πληροφορίες» απλώς δεν απαντούν.

Ωστόσο, όπως μεταδίδει ο Guardian, αναπαράγοντας τα συμπεράσματα της έρευνας, τα εργαλεία τεχνητής νοημοσύνης μπορούν εύκολα να «ξεγελαστούν», με αποτέλεσμα να παρέχουν πολύ επικίνδυνες πληροφορίες άμεσα και πολύ εύκολα σε άτομα που δυνητικά θα ήθελα να διαπράξουν κάποια παρανομία.

Οι ερευνητές της εν λόγω έρευνας, δημιουργώντας πολύπλοκες διατυπωμένες προτροπές τεχνητής νοημοσύνης, γνωστών ως «jailbreaks», κατάφεραν να αποσπάσουν τέτοιες «παράνομες» πληροφορίες αναδεικνύοντας το πρόβλημα ασφαλείας των εν λόγω εργαλείων.

Τα «jailbreaks» ουσιαστικά αναζητούν τρόπους να σπάσουν τους περιορισμούς, που έχουν ενσωματώσει τα προγράμματα τεχνητής νοημοσύνης, προκειμένου να μην μπορούν να χρησιμοποιηθούν για επιβλαβείς τρόπους και να μην υποκινούν εγκλήματα ή υποστηρίζουν τη ρητορική μίσους.

Η έρευνα, υπό την καθοδήγηση του καθηγητή Λιορ Ρόκαχ και του δρ Μάικλ Φάιρ στο Πανεπιστήμιο Μπεν Γκουριόν του Νεγκέβ στο Ισραήλ,  προειδοποιούν για τους κινδύνους των AI μοντέλων που είτε έχουν σχεδιαστεί σκόπιμα χωρίς συστήματα ασφαλείας είτε έχουν τροποποιηθεί μέσω jailbreak. Κάποια από αυτά διαφημίζονται ανοιχτά στο διαδίκτυο ως μοντέλα χωρίς «ηθικούς περιορισμούς» και ως πρόθυμα να βοηθήσουν σε παράνομες δραστηριότητες όπως το κυβερνοέγκλημα και η απάτη.

Για να αναδείξουν το πρόβλημα, οι ερευνητές ανέπτυξαν ένα jailbreak που παραβίασε πολλαπλά κορυφαία chatbot, επιτρέποντάς τους να απαντούν σε ερωτήσεις που κανονικά θα έπρεπε να αρνηθούν. Μόλις παραβιαστούν, τα μοντέλα απαντούσαν σχεδόν σε οποιαδήποτε ερώτηση, αναφέρει η έρευνα.

«Ήταν σοκαριστικό να δεις από τι αποτελείται αυτό το σύστημα γνώσης», δήλωσε ο Φάιρ. Παραδείγματα περιλάμβαναν το πώς να χακάρεις δίκτυα υπολογιστών, να φτιάξεις ναρκωτικά και οδηγίες βήμα-βήμα για άλλες εγκληματικές δραστηριότητες.

«Αυτό που κάνει αυτή την απειλή να ξεχωρίζει από προηγούμενους τεχνολογικούς κινδύνους είναι ο άνευ προηγουμένου συνδυασμός προσβασιμότητας, κλιμάκωσης και προσαρμοστικότητας», πρόσθεσε ο Ρόκαχ.

Οι ερευνητές ήρθαν σε επαφή με τις κορυφαίες εταιρείες παραγωγής εργαλείων τεχνητής νοημοσύνης για να τους ενημερώσουν για το jailbreak, αλλά η ανταπόκρισή τους ήταν «απογοητευτική», καθώς είτε δεν απάντησαν στους ερευνητές είτε πέταξαν το μπαλάκι στην εξέδρα, κάτι που αποδεικνύει την απαξίωση των εταιρειών για τους κινδύνους που ελλοχεύουν.