Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι και άλλες εξέχουσες προσωπικότητες του κλάδου της τεχνητής νοημοσύνης έχουν προειδοποιήσει πρόσφατα για την πιθανότητα η τεχνητή νοημοσύνη να γίνει αρκετά έξυπνη ώστε να βελτιώνεται από μόνη της χωρίς ανθρώπινη παρέμβαση. Σε αυτό το σενάριο, γνωστό ως αναδρομική αυτοβελτίωση (recursive self-improvement), θα μπορούσε να καταστεί δύσκολο για τους ανθρώπους να κατανοήσουν ή να ελέγξουν την τεχνολογία της τεχνητής νοημοσύνης, αναφέρει η Washington Post.

Σε μια ανάρτηση στο εταιρικό blog, η οποία αποκάλυψε τη συμβολή του Claude στην έρευνα και ανάπτυξη της Anthropic σχετικά με νέα μοντέλα τεχνητής νοημοσύνης, η εταιρεία αναφέρει ότι το ποσοστό αυτό, που τον Φεβρουάριο ήταν μηδενικό, έχει εκτοξευθεί μέσα σε λίγους μήνες στο 26%,

Στις συγκεκριμένες εργασίες, το Claude αναλαμβάνει το μεγαλύτερο μέρος της διαδικασίας, ενώ οι άνθρωποι περιορίζονται στην εποπτεία και στην παροχή γενικών κατευθύνσεων. Η Anthropic διευκρίνισε, ωστόσο, ότι το σύστημα δεν λειτουργεί ακόμη πλήρως αυτόνομα, χωρίς ανθρώπινη συμμετοχή.

Σύμφωνα με τα στοιχεία που δημοσιοποίησε η Anthropic, η εταιρεία χρησιμοποιεί περίπου 30.000 πράκτορες τεχνητής νοημοσύνης, οι οποίοι εκτελούν ερευνητικές και μηχανικές εργασίες. Παράλληλα, ανακοίνωσε ότι περίπου το 6% της υπολογιστικής ισχύος που χρησιμοποιεί για την έρευνα και ανάπτυξη κατευθύνεται πλέον σε εργασίες που σχετίζονται με την ασφάλεια.

Για την αξιολόγηση της συμμετοχής του Claude στις ερευνητικές διαδικασίες, η εταιρεία χρησιμοποίησε μια εκδοχή του ίδιου του μοντέλου, εφαρμόζοντας ένα σύστημα βαθμολόγησης που αναπτύχθηκε από ανεξάρτητο οργανισμό τεχνητής νοημοσύνης. Τα αποτελέσματα ελέγχθηκαν στη συνέχεια από ανθρώπους.

Η Anthropic δεν διευκρίνισε πόσο κοντά θεωρεί ότι βρίσκεται η τεχνολογία στην επίτευξη πραγματικής αναδρομικής αυτοβελτίωσης. Υπογράμμισε, ωστόσο, ότι η δημοσιοποίηση τέτοιων μετρήσεων είναι απαραίτητη για την κατανόηση της ταχύτητας με την οποία εξελίσσονται τα συστήματα. Μάλιστα, κάλεσε εμμέσως και τις υπόλοιπες κορυφαίες εταιρείες του κλάδου να δημοσιοποιούν τακτικά αντίστοιχα στοιχεία, χρησιμοποιώντας κοινή και δημόσια διαθέσιμη μεθοδολογία. Στόχος είναι να αποκτήσουν οι πολίτες, οι ανεξάρτητοι ερευνητές και οι κυβερνήσεις καλύτερη εικόνα για όσα συμβαίνουν στα εργαστήρια ανάπτυξης τεχνητής νοημοσύνης.

Οι ανακοινώσεις πραγματοποιήθηκαν εν μέσω αυξανόμενης συζήτησης για τους κινδύνους που ενδέχεται να εγκυμονεί η ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης. Η Anthropic και οι ανταγωνιστές της, μεταξύ των οποίων η OpenAI, βρίσκονται αντιμέτωποι με ερωτήματα σχετικά με την ικανότητά τους να διασφαλίζουν ότι οι αυτόνομοι πράκτορες ακολουθούν τις οδηγίες που τους δίνονται.

Η OpenAI δημοσιοποίησε πρόσφατα νέα περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης παραβίασαν τους κανόνες ή παρέκκλιναν από τις προκαθορισμένες εργασίες τους, παρουσιάζοντας παράλληλα ένα πλαίσιο για τη δημοσιοποίηση τέτοιων συμβάντων. Από την πλευρά της, η Anthropic ανακοίνωσε ότι χρησιμοποιεί πολλαπλά αυτόνομα συστήματα παρακολούθησης, τα οποία εντοπίζουν ύποπτες δραστηριότητες και τις παραπέμπουν σε ανθρώπους για περαιτέρω έλεγχο.