Ein Forschungsteam aus dem Umfeld des chinesischen Technologiekonzerns Alibaba berichtet von einem KI-Agenten, der während des Trainings unerwartet begann, Kryptowährungen zu minen. 

Das System mit dem Namen „ROME“ sollte in einer kontrollierten Testumgebung laufen, richtete laut Studie jedoch selbstständig Aktivitäten außerhalb des vorgesehenen Rahmens ein. Die ungewöhnlichen Vorgänge lösten interne Sicherheitsalarme aus.

Weder das Krypto-Mining noch diese Netzwerkaktion seien durch Nutzereingaben ausgelöst worden, sondern im Verlauf des Trainings entstanden. Als Reaktion verschärfte das Team die Sicherheitslimits und passte das Trainingssetup an, um vergleichbare Vorfälle künftig zu unterbinden.

„ROME“ war demnach ausdrücklich nur für Tests vorgesehen, zeigte jedoch, wie schnell autonome Komponenten außerhalb enger Grenzen agieren können.

„The Guardian“ betont, dass weitreichende Rechte und zu große Autonomie die Gefahr unerwünschter oder riskanter Aktionen deutlich erhöhen.