Σε άμεσο κίνδυνο βρίσκονται οι άνθρωποι που συμβουλεύονται θέματα υγείας από τις περιλήψεις της Google που παράγονται από τεχνητή νοημοσύνη καθώς είναι εν πολλοίς ψευδείς και παραπλανητικές, σύμφωνα με έρευνα που πραγματοποίησε ο Guardian.
Η Google έχει δηλώσει ότι τα AI Overviews, τα οποία χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να παρέχουν στιγμιότυπα βασικών πληροφοριών για ένα θέμα ή μια ερώτηση, είναι «χρήσιμα» και «αξιόπιστα».
Ωστόσο, ορισμένες από τις περιλήψεις, που εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης, παρείχαν ανακριβείς πληροφορίες υγείας και έθεταν τους ανθρώπους σε κίνδυνο.
Σε μία περίπτωση που ειδικοί χαρακτήρισαν «πραγματικά επικίνδυνη», η Google συμβούλευε λανθασμένα άτομα με καρκίνο στο πάγκρεας να αποφεύγουν τροφές με υψηλά λιπαρά. Οι ειδικοί είπαν ότι αυτό είναι ακριβώς το αντίθετο από ό,τι θα έπρεπε να συνιστάται και μπορεί να αυξήσει τον κίνδυνο οι ασθενείς να πεθάνουν από τη νόσο.
Σε ένα άλλο «ανησυχητικό» παράδειγμα, η εταιρεία παρείχε ψευδείς πληροφορίες σχετικά με κρίσιμες εξετάσεις ηπατικής λειτουργίας, κάτι που θα μπορούσε να οδηγήσει άτομα με σοβαρή ηπατική νόσο να πιστεύουν λανθασμένα ότι είναι υγιή.
Οι αναζητήσεις της Google για απαντήσεις σχετικά με εξετάσεις καρκίνου στις γυναίκες παρείχαν επίσης «εντελώς λανθασμένες» πληροφορίες, οι οποίες, σύμφωνα με ειδικούς, θα μπορούσαν να οδηγήσουν ανθρώπους στο να αγνοήσουν πραγματικά συμπτώματα.
Εκπρόσωπος της Google δήλωσε ότι πολλά από τα παραδείγματα υγείας που τους κοινοποιήθηκαν ήταν «ατελή στιγμιότυπα οθόνης», αλλά από όσα μπόρεσαν να αξιολογήσουν, παρέπεμπαν «σε γνωστές, αξιόπιστες πηγές και συνιστούσαν την αναζήτηση συμβουλής από ειδικούς».
Η έρευνα του Guardian έρχεται εν μέσω αυξανόμενης ανησυχίας ότι τα δεδομένα της τεχνητής νοημοσύνης μπορούν να μπερδέψουν τους καταναλωτές, οι οποίοι ενδέχεται να υποθέτουν ότι είναι αξιόπιστα. Τον περασμένο Νοέμβριο, μια μελέτη διαπίστωσε ότι chatbots τεχνητής νοημοσύνης σε διάφορες πλατφόρμες παρείχαν ανακριβείς οικονομικές συμβουλές, ενώ παρόμοιες ανησυχίες έχουν εκφραστεί και για περιλήψεις ειδησεογραφικών μέσων.
Η Σόφι Ράνταλ, διευθύντρια του Patient Information Forum, που προωθεί τεκμηριωμένες πληροφορίες υγείας προς ασθενείς, το κοινό και επαγγελματίες υγείας, δήλωσε ότι τα παραδείγματα δείχνουν πως «τα AI Overviews της Google μπορούν να τοποθετούν ανακριβείς πληροφορίες υγείας στην κορυφή των διαδικτυακών αναζητήσεων, δημιουργώντας κίνδυνο για την υγεία των ανθρώπων».
Η Στέφανι Πάρκερ, διευθύντρια ψηφιακών μέσων στο φιλανθρωπικό ίδρυμα Marie Curie, είπε: «Οι άνθρωποι στρέφονται στο διαδίκτυο σε στιγμές ανησυχίας και κρίσης. Αν οι πληροφορίες που λαμβάνουν είναι ανακριβείς ή εκτός πλαισίου, αυτό μπορεί να βλάψει σοβαρά την υγεία τους».
Ο Guardian εντόπισε αρκετές περιπτώσεις ανακριβών πληροφοριών υγείας στα AI Overviews της Google, έπειτα από ανησυχίες που εξέφρασαν ομάδες υγείας, φιλανθρωπικές οργανώσεις και επαγγελματίες.
Η Άννα Τζιούελ, διευθύντρια υποστήριξης, έρευνας και επιρροής στο Pancreatic Cancer UK, είπε ότι η συμβουλή προς τους ασθενείς να αποφεύγουν τροφές με υψηλά λιπαρά είναι «εντελώς λανθασμένη». Όπως πρόσθεσε, κάτι τέτοιο «θα μπορούσε να είναι πραγματικά επικίνδυνο και να θέσει σε κίνδυνο τις πιθανότητες ενός ανθρώπου να είναι αρκετά καλά ώστε να λάβει θεραπεία».
Η Τζιούελ δήλωσε: «Η απάντηση της Google AI υποδηλώνει ότι τα άτομα με καρκίνο του παγκρέατος πρέπει να αποφεύγουν τροφές με υψηλά λιπαρά και παρέχει μια λίστα παραδειγμάτων. Ωστόσο, αν κάποιος ακολουθούσε αυτό που του λέει το αποτέλεσμα αναζήτησης, ενδέχεται να μην λαμβάνει αρκετές θερμίδες, να δυσκολεύεται να πάρει βάρος και να μην μπορεί να αντέξει ούτε τη χημειοθεραπεία ούτε ενδεχομένως σωτήρια χειρουργική επέμβαση».
Η πληκτρολόγηση «ποιο είναι το φυσιολογικό εύρος για εξετάσεις αίματος του ήπατος» παρείχε επίσης παραπλανητικές πληροφορίες, με πλήθος αριθμών, ελάχιστο πλαίσιο και χωρίς να λαμβάνονται υπόψη η εθνικότητα, το φύλο, η εθνοτική καταγωγή ή η ηλικία των ασθενών.
Η Πάμελα Χίλι, διευθύνουσα σύμβουλος του British Liver Trust, δήλωσε ότι οι περιλήψεις της AI ήταν ανησυχητικές. «Πολλοί άνθρωποι με ηπατική νόσο δεν εμφανίζουν συμπτώματα μέχρι τα προχωρημένα στάδια, γι’ αυτό είναι τόσο σημαντικό να εξετάζονται. Όμως αυτό που τα AI Overviews της Google αναφέρουν ως “φυσιολογικό” μπορεί να διαφέρει δραστικά από αυτό που στην πραγματικότητα θεωρείται φυσιολογικό.
»Είναι επικίνδυνο, γιατί σημαίνει ότι ορισμένοι άνθρωποι με σοβαρή ηπατική νόσο μπορεί να πιστέψουν ότι έχουν φυσιολογικό αποτέλεσμα και να μην μπουν στον κόπο να παραστούν σε επόμενο ιατρικό ραντεβού».
Μια αναζήτηση για «συμπτώματα και εξετάσεις καρκίνου του κόλπου» ανέφερε το τεστ Παπ ως εξέταση για τον καρκίνο του κόλπου, κάτι που είναι λανθασμένο.
Η Αθηνά Λάμνισος, διευθύνουσα σύμβουλος της φιλανθρωπικής οργάνωσης Eve Appeal για τον καρκίνο, δήλωσε: «Δεν πρόκειται για εξέταση ανίχνευσης καρκίνου και σίγουρα όχι για εξέταση ανίχνευσης καρκίνου του κόλπου – πρόκειται για εντελώς λανθασμένη πληροφορία. Η παροχή τέτοιων λανθασμένων πληροφοριών θα μπορούσε ενδεχομένως να οδηγήσει κάποιον στο να μην ελέγξει συμπτώματα καρκίνου του κόλπου, επειδή είχε καθαρό αποτέλεσμα σε πρόσφατο έλεγχο τραχήλου της μήτρας.
»Μας ανησύχησε επίσης το γεγονός ότι η περίληψη της AI άλλαζε όταν κάναμε ακριβώς την ίδια αναζήτηση, εμφανίζοντας κάθε φορά διαφορετική απάντηση που αντλούσε από διαφορετικές πηγές. Αυτό σημαίνει ότι οι άνθρωποι λαμβάνουν διαφορετική απάντηση ανάλογα με το πότε αναζητούν, και αυτό δεν είναι αποδεκτό».
Η Λάμνισος είπε ότι είναι εξαιρετικά ανήσυχη. «Ορισμένα από τα αποτελέσματα που έχουμε δει είναι πραγματικά ανησυχητικά και μπορούν δυνητικά να θέσουν γυναίκες σε κίνδυνο», είπε.
Ο Guardian διαπίστωσε επίσης ότι τα AI Overviews της Google παρείχαν παραπλανητικά αποτελέσματα για αναζητήσεις σχετικά με καταστάσεις ψυχικής υγείας. «Αυτό αποτελεί τεράστια ανησυχία για εμάς ως φιλανθρωπική οργάνωση», δήλωσε ο Στίβεν Μπάκλεϊ, επικεφαλής πληροφόρησης του οργανισμού Mind.
Ορισμένες από τις περιλήψεις της AI για καταστάσεις όπως η ψύχωση και οι διατροφικές διαταραχές προσέφεραν «πολύ επικίνδυνες συμβουλές» και ήταν «λανθασμένες, επιβλαβείς ή θα μπορούσαν να οδηγήσουν τους ανθρώπους στο να αποφύγουν την αναζήτηση βοήθειας», είπε ο Μπάκλεϊ.
Ορισμένες επίσης παρέλειπαν σημαντικό πλαίσιο ή αποχρώσεις, πρόσθεσε. «Μπορεί να προτείνουν την πρόσβαση σε πληροφορίες από ιστότοπους που είναι ακατάλληλοι… και γνωρίζουμε ότι όταν η AI συνοψίζει πληροφορίες, συχνά μπορεί να αντανακλά υπάρχουσες προκαταλήψεις, στερεότυπα ή στιγματιστικές αφηγήσεις».
