Σε έναν κόσμο που η Τεχνητή Νοημοσύνη εξελίσσεται με ιλιγγιώδεις ρυθμούς, γράφοντας κείμενα, συνθέτοντας μουσική και επιλύοντας πολύπλοκα προβλήματα, μια νέα έρευνα έρχεται να φέρει στην επιφάνεια μια αναπάντεχη αδυναμία της: την ευθραυστότητα της λογικής της, ειδικά στα μαθηματικά.

Ενώ τα Large Language Models (LLMs) εντυπωσιάζουν με την ικανότητά τους να μιμούνται την ανθρώπινη επικοινωνία, φαίνεται πως η "σκέψη" τους είναι πιο ρηχή από ό,τι φαντάζονται πολλοί.

Μια πρόσφατη μελέτη, στην οποία συμμετείχαν ερευνητές από την Apple AI και άλλα ιδρύματα, αποκαλύπτει ότι οι σημερινοί AI agents δεν έχουν πραγματική κατανόηση των εννοιών ή των κανόνων. Αντίθετα, λειτουργούν ως εξαιρετικά εξελιγμένοι μηχανισμοί αντιστοίχισης προτύπων, προβλέποντας την επόμενη λέξη ή ενέργεια, με βάση τεράστια σύνολα δεδομένων.

Το πρόβλημα αναδεικνύεται σε απλά μαθηματικά προβλήματα. Ενώ ένα σύστημα AI μπορεί να λύσει μια τυπική αριθμητική άσκηση, η συμπεριφορά του αλλάζει δραματικά αν εισαχθεί μια φαινομενικά ασήμαντη, άσχετη πληροφορία. Οι ερευνητές χρησιμοποίησαν το παράδειγμα ενός προβλήματος με ακτινίδια: όταν πρόσθεσαν μια πρόταση που ανέφερε ότι ορισμένα ακτινίδια ήταν "μικρότερα από τα άλλα", το AI μπερδεύτηκε, οδηγώντας σε εσφαλμένη αφαίρεση των "μικρών" ακτινιδίων από το σύνολο. Αυτό φανερώνει ότι η AI δεν αντιλαμβάνεται τη συνάφεια των πληροφοριών, ή την αμετάβλητη φύση ενός αριθμού, αν δεν υπάρχει ρητή εντολή.

Το συμπέρασμα είναι ανησυχητικό: παρά την εντυπωσιακή τους ευφράδεια και την ικανότητα να παράγουν συνεκτικά κείμενα, τα AI agents στερούνται της βασικής λογικής και της "κοινής λογικής" που απαιτούνται για την επίλυση προβλημάτων με πραγματική κατανόηση. Δεν "σκέφτονται" με τον τρόπο που το κάνουν οι άνθρωποι, ούτε κατανοούν τους θεμελιώδεις νόμους της φυσικής ή των μαθηματικών.

Αυτό το "χάσμα" μεταξύ εντυπωσιακής απόδοσης και λογικής έχει σημαντικές επιπτώσεις. Εάν τα συστήματα AI δεν μπορούν να διαχειριστούν απλές λογικές παρεμβάσεις χωρίς να "καταρρεύσουν", τότε η εμπιστοσύνη σε αυτά για κρίσιμες εφαρμογές, όπως η ανάλυση οικονομικών δεδομένων, η ιατρική διάγνωση ή η επιστημονική έρευνα, πρέπει να εξεταστεί με μεγάλη προσοχή.

Η ανάπτυξη μοντέλων AI που μπορούν να συλλογίζονται και να κατανοούν τον κόσμο, πέρα από την απλή αναγνώριση προτύπων, παραμένει η επόμενη μεγάλη πρόκληση για την επιστημονική κοινότητα.

Με πληροφορίες από το futurism