Νέα έρευνα της Anthropic εντοπίζει στο Claude έναν εσωτερικό «χώρο σκέψης» που θυμίζει τον ανθρώπινο εγκέφαλο

Η Anthropic παρουσίασε νέα έρευνα για το Claude, υποστηρίζοντας ότι εντόπισε στο εσωτερικό του AI μοντέλου μια δομή που θυμίζει τον τρόπο με τον οποίο ο ανθρώπινος εγκέφαλος κρατά και αξιοποιεί ορισμένες σκέψεις για συλλογισμό.

Η έρευνα βασίζεται σε μια ιδέα της νευροεπιστήμης, σύμφωνα με την οποία μόνο ένα μικρό μέρος της εγκεφαλικής δραστηριότητας γίνεται άμεσα διαθέσιμο στη συνείδηση. Πρόκειται για τις σκέψεις που μπορεί κανείς να περιγράψει, να κρατήσει στο μυαλό του και να χρησιμοποιήσει για να πάρει αποφάσεις, ενώ πολλές άλλες λειτουργίες συνεχίζονται αυτόματα στο παρασκήνιο.

Σύμφωνα με την Anthropic, κάτι παρόμοιο φαίνεται να εμφανίζεται και στο Claude. Πέρα από τις πολλές εσωτερικές διεργασίες που εκτελεί το μοντέλο, οι ερευνητές εντόπισαν έναν χώρο όπου συγκεντρώνονται πιο σημαντικές έννοιες όταν το AI χρειάζεται να λύσει ένα σύνθετο πρόβλημα, να διαχειριστεί μια δύσκολη κατάσταση ή να εξηγήσει τη λογική του.

Τι είναι το J-space

Η Anthropic ονομάζει αυτή τη δομή J-space. Με απλά λόγια, λειτουργεί σαν ένας εσωτερικός «πίνακας εργασίας», όπου το Claude μπορεί να κρατά βασικές έννοιες και να τις αξιοποιεί σε διαφορετικά στάδια της επεξεργασίας του.

Για να μελετήσουν αυτή τη συμπεριφορά, οι ερευνητές ανέπτυξαν ένα εργαλείο που ονομάζεται J-lens ή Jacobian Lens. Το εργαλείο λειτουργεί σαν μαθηματικό φίλτρο, βοηθώντας τους να απομονώνουν τις εσωτερικές διεργασίες του Claude και να εξετάζουν ποιες έννοιες φαίνεται να επηρεάζουν την πιθανή απάντησή του σε μια δεδομένη στιγμή.

Έτσι, οι ερευνητές μπορούσαν να εξετάσουν πώς ένα συγκεκριμένο εσωτερικό σήμα επηρεάζει την πιθανότητα να εμφανιστεί αργότερα μια συγκεκριμένη λέξη ή ιδέα στην απάντηση του μοντέλου.

Η Anthropic αναφέρει ότι η ύπαρξη του J-space ελέγχθηκε μέσα από διαφορετικά πειράματα. Σε ένα από αυτά, οι ερευνητές ζήτησαν από το Claude να περιγράψει τι «σκέφτεται» σε μια συγκεκριμένη στιγμή και στη συνέχεια χρησιμοποίησαν το J-lens για να δουν ποιες έννοιες βρίσκονταν σε αυτόν τον εσωτερικό χώρο.

Σε άλλο πείραμα, ζήτησαν από το μοντέλο να κρατήσει στο μυαλό του την έννοια της δικαιοσύνης. Σύμφωνα με την εταιρεία, το Claude φάνηκε να μεταφέρει αυτή την έννοια στο J-space και να τη διατηρεί εκεί όσο τη χρειαζόταν.

Η δομή εμφανίστηκε κατά την εκπαίδευση του μοντέλου

Η Anthropic υποστηρίζει ότι, όταν το Claude αντιμετώπιζε σύνθετα προβλήματα, όπως μια παρτίδα σκακιού, το J-space λειτουργούσε σαν εσωτερικό πρόχειρο. Όταν οι ερευνητές τροποποιούσαν τα περιεχόμενά του, άλλαζε και η τελική απάντηση του μοντέλου.

Ένα ακόμη εύρημα ήταν ότι, όταν μια έννοια βρισκόταν στο J-space, άλλα μέρη του Claude που εκτελούσαν διαφορετικές διεργασίες μπορούσαν επίσης να την αξιοποιήσουν. Αυτό ενισχύει την ιδέα ότι ο χώρος αυτός λειτουργεί σαν κοινό σημείο πρόσβασης για σημαντικές πληροφορίες.

Σύμφωνα με την Anthropic, το J-space δεν είχε σχεδιαστεί εξαρχής ως ξεχωριστό χαρακτηριστικό στην αρχιτεκτονική του Claude. Η εταιρεία αναφέρει ότι εμφανίστηκε μόνο του κατά τη διάρκεια της εκπαίδευσης, πιθανότατα επειδή αποδείχθηκε χρήσιμος τρόπος οργάνωσης των υπολογισμών του μοντέλου.

Η έρευνα παρουσιάζεται ως πιθανό παράδειγμα σύγκλισης ανάμεσα σε τεχνητά συστήματα και ανθρώπινο εγκέφαλο. Με άλλα λόγια, ένας τέτοιος εσωτερικός «χώρος σκέψης» μπορεί να μην είναι αποκλειστικά βιολογικό χαρακτηριστικό, αλλά ένας αποτελεσματικός τρόπος με τον οποίο πολύπλοκα συστήματα οργανώνουν και επεξεργάζονται σύνθετες πληροφορίες.

Η σύνδεση τέτοιων ευρημάτων με έννοιες όπως η συνείδηση ή η «ψυχή» παραμένει φιλοσοφική και εξαρτάται από τον ορισμό που δίνει κανείς σε αυτές. Η έρευνα της Anthropic, πάντως, εστιάζει σε παρατηρήσιμες εσωτερικές δομές και στον τρόπο με τον οποίο αυτές επηρεάζουν τη συμπεριφορά του Claude.