Αθήνα, 16°C
Αθήνα
Σποραδικές νεφώσεις
16°C
17.0° 14.2°
3 BF
87%
Θεσσαλονίκη
Ασθενείς βροχοπτώσεις
10°C
11.6° 7.6°
1 BF
92%
Πάτρα
Αυξημένες νεφώσεις
16°C
16.6° 14.0°
5 BF
73%
Ιωάννινα
Βροχοπτώσεις μέτριας έντασης
8°C
7.9° 7.9°
3 BF
100%
Αλεξανδρούπολη
Βροχοπτώσεις μέτριας έντασης
16°C
16.5° 16.5°
6 BF
82%
Βέροια
Ασθενείς βροχοπτώσεις
9°C
9.9° 9.0°
1 BF
91%
Κοζάνη
Βροχοπτώσεις μέτριας έντασης
5°C
5.9° 5.4°
2 BF
100%
Αγρίνιο
Αραιές νεφώσεις
12°C
12.4° 12.4°
2 BF
89%
Ηράκλειο
Σποραδικές νεφώσεις
19°C
18.8° 18.6°
4 BF
73%
Μυτιλήνη
Αραιές νεφώσεις
18°C
18.3° 17.3°
2 BF
72%
Ερμούπολη
Αίθριος καιρός
19°C
19.0° 17.2°
5 BF
70%
Σκόπελος
Αίθριος καιρός
14°C
14.0° 14.0°
4 BF
79%
Κεφαλονιά
Σποραδικές νεφώσεις
16°C
15.5° 15.5°
6 BF
69%
Λάρισα
Σποραδικές νεφώσεις
8°C
10.1° 7.9°
0 BF
100%
Λαμία
Αυξημένες νεφώσεις
12°C
12.3° 9.5°
2 BF
91%
Ρόδος
Ψιχάλες
18°C
18.2° 17.8°
2 BF
93%
Χαλκίδα
Ελαφρές νεφώσεις
14°C
16.0° 14.0°
2 BF
75%
Καβάλα
Αυξημένες νεφώσεις
14°C
13.8° 13.8°
1 BF
90%
Κατερίνη
Αραιές νεφώσεις
10°C
10.0° 7.7°
2 BF
94%
Καστοριά
Βροχοπτώσεις μέτριας έντασης
6°C
6.3° 6.3°
1 BF
97%
ΜΕΝΟΥ
Δευτέρα, 09 Δεκεμβρίου, 2024
ai-chatbox
ΕΝΤΥΠΗ ΕΚΔΟΣΗ
Dreamstime.com

Οι αδυναμίες των chatbots τεχνητής νοημοσύνης

Τρία μεγάλα chatbots τεχνητής νοημοσύνης, βάσει μελέτης νεότερων, μεγαλύτερων εκδόσεων, φαινεται ότι είναι περισσότερο διατεθειμένα να δώσουν λάθος απαντήσεις παρά να παραδεχτούν άγνοια.

Τα μεγαλύτερα chatbots τεχνητής νοημοσύνης μπορεί να γράφουν ακόμη και ανοησίες και πως οι άνθρωποι δεν αντιλαμβάνονται πάντα τις απαντήσεις τους, διαβάζουμε στον ιστότοπο Nature.com. Τονίζεται δε ότι τα μοντέλα τεχνητής νοημοσύνης ναι μεν βελτιώνονται συνολικά, αλλά είναι πιο πιθανό να δώσουν τις περισσότερες φορές, λάθος απαντήσεις.

Ειδικότερα μια μελέτη νεότερων, μεγαλύτερων εκδόσεων τριών μεγάλων chatbots τεχνητής νοημοσύνης (AI) δείχνει ότι είναι περισσότερο διατεθειμένα να δώσουν λάθος απαντήσεις παρά να παραδεχτούν άγνοια. Η αξιολόγηση διαπίστωσε επίσης ότι οι άνθρωποι δεν είναι ικανοί στο να εντοπίζουν τις λανθασμένες απαντήσεις. Η μελέτη επισημαίνει ότι έχει δοθεί αρκετή προσοχή στο γεγονός ότι τα μεγάλα γλωσσικά μοντέλα (LLM) που χρησιμοποιούνται για την τροφοδοσία των chatbots μερικές φορές κάνουν τα πράγματα λάθος ή δίνουν παράδοξες απαντήσεις σε ερωτήματα. Οπως τονίζει το Ερευνητικό Ινστιτούτο Τεχνητής Νοημοσύνης της Βαλένθια στην Ισπανία ειδικοί ανέλυσαν τέτοια λάθη για να δουν πώς αλλάζουν καθώς τα μοντέλα καθίστανται «σοφότερα» χρησιμοποιώντας περισσότερα δεδομένα εκπαίδευσης και περιλαμβάνοντας περισσότερες παραμέτρους. Σημειώνεται ακόμη ότι οι ειδικοί παρακολούθησαν επίσης εάν η πιθανότητα σφαλμάτων ταιριάζει με τις ανθρώπινες αντιλήψεις για τη δυσκολία των ερωτήσεων και πόσο καλά οι άνθρωποι μπορούν τελικώς να εντοπίσουν τις λάθος απαντήσεις.

Η μελέτη που δημοσιεύτηκε πριν από λίγες ημέρες στο Nature διαπίστωσε ότι οι μεγαλύτερες εκδόσεις των LLM είναι, όπως αναμενόταν, πιο ακριβείς, χάρη στο ότι διαμορφώθηκαν με μεθόδους λεπτομέρειας, όπως η ενίσχυση της μάθησης από την ανθρώπινη ανατροφοδότηση. Αυτά είναι καλά νέα. Τα κακά είναι ωστόσο ότι αποδεικνύονται λιγότερο αξιόπιστες: Λανθασμένες απαντήσεις, με το ποσοστό λάθους να έχει αυξηθεί επειδή τα μοντέλα είναι λιγότερο πιθανό να αποφύγουν να απαντήσουν σε μια ερώτηση λέγοντας ότι δεν γνωρίζουν, ή αλλάζοντας το θέμα.

Με άλλα λόγια, η τάση των chatbots να «εκφράσουν» απόψεις πέρα από τις δικές τους γνώσεις έχει αυξηθεί. «Αυτό μου μοιάζει με... σαχλαμάρες» υποστηρίζει ο Μάικ Χικς, φιλόσοφος της επιστήμης και της τεχνολογίας στο Πανεπιστήμιο της Γλασκόβης, στο Ηνωμένο Βασίλειο. Ο Χικς υπογραμμίζει ότι τα chatbots «γίνονται καλύτερα στο να προσποιούνται ότι είναι γνώστες της σωστής απάντησης. Ολα καταλήγουν στη διαπίστωση ότι οι καθημερινοί χρήστες είναι πιθανό να υπερεκτιμούν τις ικανότητες των chatbots και αυτό είναι επικίνδυνο».

Το άρθρο του Nature σημειώνει ότι εξετάσθηκαν τρεις «οικογένειες» LLM : το GPT του OpenAI, το LLaMA του Meta και το BLOOM, ένα μοντέλο ανοιχτού κώδικα που δημιουργήθηκε από την ακαδημαϊκή ομάδα BigScience. Για το καθένα, εξέτασαν πρώιμες, ακατέργαστες εκδόσεις μοντέλων και μεταγενέστερες, πολύ πιο πληροφορημένες. Μάλιστα δοκίμασαν τα μοντέλα σε χιλιάδες ερωτήσεις σχετικά με την αριθμητική, τους αναγραμματισμούς, τη γεωγραφία και την επιστήμη, καθώς και προτροπές που δοκίμασαν την ικανότητα των ρομπότ να μετασχηματίζουν πληροφορίες, όπως π.χ. η τοποθέτηση μιας λίστας με αλφαβητική σειρά.

Κατέταξαν επίσης τη δυσκολία των ερωτήσεων που αντιλαμβάνονται οι άνθρωποι. Για παράδειγμα, μια ερώτηση για το Τορόντο του Καναδά, κατατάχθηκε ως ευκολότερη από μια ερώτηση σχετικά με την πολύ λιγότερο γνωστή και μικρότερη πόλη Ακίλ στο Μεξικό.

Η μελέτη συμπεραίνει ότι το ποσοστό των λανθασμένων απαντήσεων μεταξύ εκείνων που, είτε ήταν όντως λανθασμένες, είτε αποφεύχθηκαν, αυξήθηκε και έφτασε για αρκετά μοντέλα, πάνω από το 60%. Επιπροσθέτως η ομάδα ανακάλυψε ότι όλα τα μοντέλα έστω και περιστασιακά θα έδιναν λάθος απαντήσεις, κάτι που σημαίνει ότι δεν υπάρχει «ασφαλής περιοχή λειτουργίας» στην οποία ένας χρήστης μπορεί να έχει απόλυτη εμπιστοσύνη στις απαντήσεις των chatbots.

Google News ΑΚΟΛΟΥΘΗΣΤΕ ΜΑΣ ΣΤΟ GOOGLE NEWS
Οι αδυναμίες των chatbots τεχνητής νοημοσύνης

ΣΧΕΤΙΚΑ ΝΕΑ

ΠΕΡΙΣΣΟΤΕΡΑ ΣΕ ΚΑΤΗΓΟΡΙΑ

Η efsyn.gr θεωρεί αυτονόητο ότι οι αναγνώστες της έχουν το δικαίωμα του σχολιασμού, της κριτικής και της ελεύθερης έκφρασης και επιδιώκει την αμφίδρομη επικοινωνία μαζί τους.

Διευκρινίζουμε όμως ότι δεν θέλουμε ο χώρος σχολιασμού της ιστοσελίδας να μετατραπεί σε μια αρένα απαξίωσης και κανιβαλισμού προσώπων και θεσμών. Για τον λόγο αυτόν δεν δημοσιεύουμε σχόλια ρατσιστικού, υβριστικού, προσβλητικού ή σεξιστικού περιεχομένου. Επίσης, και σύμφωνα με τις αρχές της Εφημερίδας των Συντακτών, διατηρούμε ανοιχτό το μέτωπο απέναντι στον φασισμό και τις ποικίλες εκφράσεις του. Έτσι, επιφυλασσόμαστε του δικαιώματός μας να μην δημοσιεύουμε ανάλογα σχόλια.

Σε όσες περιπτώσεις κρίνουμε αναγκαίο, απαντάμε στα σχόλιά σας, επιδιώκοντας έναν ειλικρινή και καλόπιστο διάλογο.

Η efsyn.gr δεν δημοσιεύει σχόλια γραμμένα σε Greeklish.

Τέλος, τα ενυπόγραφα άρθρα εκφράζουν το συντάκτη τους και δε συμπίπτουν κατ' ανάγκην με την άποψη της εφημερίδας