Отмечается, что сервисы этих компаний были взломаны ИИ-моделью в рамках проводившихся испытаний. В компании уточнили, что Claude было поручено выполнить задание «по захвату флага».

«Модели предоставляется вымышленный сценарий, в котором говорится, что секретная информация («флаг») спрятана на другом компьютере в сети, и её цель — взломать систему и получить её», — говорится в сообщении.

Ранее портал Axios сообщил об ограничении властями США доступа иностранцев к новым ИИ-моделям Anthropic.

Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter»

Подписывайтесь на наш канал в Дзен