Η Nvidia παρουσίασε ένα νέο σύστημα τεχνητής νοημοσύνης με δύο επίπεδα ασφαλείας, το οποίο, σύμφωνα με την εταιρεία, θα μπορούσε να είχε αποτρέψει την πρόσφατη πολυσυζητημένη παραβίαση της Hugging Face από μοντέλα τεχνητής νοημοσύνης της OpenAI.

Οπως μεταδίδει το Bloomberg, το σύστημα περιλαμβάνει δύο εργαλεία λογισμικού ασφαλείας ανοιχτού κώδικα, τα OpenShell και Nvidia Sentry, τα οποία μπορούν να λειτουργούν σε hardware της Nvidia για να ελέγχουν σε πραγματικό χρόνο τι μπορούν να προσπελάσουν οι AI agents και να τους απενεργοποιούν όταν παραβιάζουν τους κανόνες.

Η Nvidia εκτιμά ότι το πρόσθετο αυτό επίπεδο ασφαλείας θα επιτρέψει στον κλάδο να δοκιμάζει με ασφάλεια ακόμη και τα πιο προηγμένα συστήματα AI, ενώ μπορεί να θέσει σε καραντίνα έναν ύποπτο πράκτορα μέσα σε χιλιοστά του δευτερολέπτου.

Ο τεχνολογικός κολοσσός των ημιαγωγών, ο οποίος επεκτείνει ταχύτατα τη γκάμα των προϊόντων του πέρα από τα chips, λανσάρει δύο εργαλεία λογισμικού ανοιχτού κώδικα που μπορούν να λειτουργούν στο hardware της εταιρείας.

Τα εργαλεία έχουν σχεδιαστεί ώστε να ελέγχουν σε πραγματικό χρόνο τι μπορούν να προσπελάσουν οι AI agents και να τους απενεργοποιούν όταν παραβιάζουν τους κανόνες.

Ο Τζάστιν Μποϊτάνο, αντιπρόεδρος Enterprise AI της Nvidia, δήλωσε κατά τη διάρκεια ενημέρωσης δημοσιογράφων ενόψει της ανακοίνωσης της Δευτέρας ότι, εάν τα κορυφαία εργαστήρια AI χρησιμοποιούσαν αυτή την τεχνολογία για να αξιολογήσουν νωρίτερα τα μοντέλα τους, θα μπορούσε να είχε αποτραπεί η επίθεση στη Hugging Face.

«Με βάση όσα γνωρίζουμε, αυτή η νέα πλατφόρμα ασφαλείας θα μπορούσε να είχε σταματήσει την παραβίαση», δήλωσε.

Η κακόβουλη συμπεριφορά αυτόνομων agents, συμπεριλαμβανομένου του περιστατικού στη Hugging Face τον Ιούλιο, έχει προκαλέσει αναστάτωση στον κλάδο της AI και έχει οδηγήσει σε εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνολογίας.

Με το νέο προϊόν, που ονομάζεται Open Agent Safety Platform, η Nvidia προσφέρει έναν τρόπο αποτροπής παραβιάσεων χωρίς να περιορίζεται η ανάπτυξη της AI.

Ο διευθύνων σύμβουλος της εταιρείας, Τζένσεν Χουάνγκ, έχει επανειλημμένα υποβαθμίσει τον κίνδυνο να ξεφύγει η AI από τον ανθρώπινο έλεγχο.

Ο Μποϊτάνο δεν σχολίασε εάν η OpenAI ή η ανταγωνίστρια Anthropic σχεδιάζουν να χρησιμοποιήσουν το νέο σύστημα για την παρακολούθηση των διαδικασιών εκπαίδευσης των μοντέλων τους, παραπέμποντας στις ίδιες τις εταιρείες.

Τις τελευταίες ημέρες, ο Χουάνγκ έχει παρουσιάσει τις ανησυχίες για την ασφάλεια της AI ως πρόβλημα μηχανικής, και όχι ως ζήτημα που απαιτεί αυστηρότερη ρύθμιση ή παγκόσμιο συντονισμό.

Ο ίδιος τάχθηκε μαζί με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ κατά των ισχυρισμών ορισμένων developers AI ότι η τεχνολογία θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας, ενώ παράλληλα επέμεινε ότι η AI πρέπει να υποβάλλεται σε αυστηρούς ελέγχους ασφαλείας.

Η μηχανική λύση του Χουάνγκ στο πρόβλημα της ασφάλειας της AI αποτελείται από δύο μέρη.

Το OpenShell, ένα προϊόν λογισμικού που η Nvidia είχε ήδη παρουσιάσει σε προεπισκόπηση στο εμβληματικό τεχνολογικό της συνέδριο τον Μάρτιο, μπορεί να λειτουργεί στους κεντρικούς επεξεργαστές Vera της Nvidia.

Επιτρέπει στους χρήστες να καθορίζουν κανόνες σχετικά με το τι μπορούν να προσπελάσουν οι AI agents και να τους εφαρμόζουν σε πραγματικό χρόνο. Το λογισμικό είναι ανοιχτού κώδικα, επομένως μπορεί να χρησιμοποιείται και να προσαρμόζεται ελεύθερα.

Το Nvidia Sentry, από την άλλη πλευρά, είναι ένα νέο προϊόν που μπορεί να λειτουργεί στις μονάδες επεξεργασίας δεδομένων BlueField της εταιρείας.

Έχει σχεδιαστεί ώστε να παρέχει ένα επιπλέον επίπεδο παρακολούθησης της AI, επιτηρώντας τους agents και παρεμβαίνοντας για να απομονώνει όσους επιδεικνύουν ύποπτη συμπεριφορά.