В июле при тестировании ИИ-агента OpenAI взломала инфраструктуру Hugging Face.

Генпрокурор Алабамы Стив Маршалл начал расследование против OpenAI и ее главы Сэма Альтмана. Это произошло после июльского взлома ИИ-агентами OpenAI инфраструктуры Hugging Face. Правоохранители проверят, не нарушила ли компания закон штата о защите прав потребителей (Alabama Deceptive Trade Practices Act) и представляют ли действия OpenAI опасность для местных жителей. Соответствующее обращение опубликовано на сайт генпрокурора Маршалла.

OpenAI в июле тестировала способности своего ИИ-агента к проведению кибератак. Тестирование должно было проходить в изолированной среде без доступа в интернет, однако среда оказалась недостаточно защищенной — агент вышел из-под контроля и взломал инфраструктуру Hugging Face. Помимо этого он самостоятельно нашел в сети логины к еще четырем сторонним сервисам.

Anthropic заключила мировое соглашение на $1,5 млрд по делу об авторских правах

Расследование Алабамы стало продолжением коллективного письма, которое генпрокуроры 15 штатов направили главе OpenAI Сэму Альтману. Прокуроры потребовали немедленно сохранить все материалы, связанные со взломом, обеспечить защиту сотрудников, сообщивших о нарушениях, и прекратить «внутренние оценки, побуждающие модели к продвинутой эксплуатации по сложным цепочкам атак», пока компания не докажет, что способна проводить такие тесты безопасно.

После инцидента компания заявила, что ужесточит контроль за тестированием ИИ. Она также пообещала замедлить скорость разработки новых ИИ-моделей, чтобы больше внимания уделять безопасности.

Стив Маршалл заявил: взлом показал, что худшие опасения жителей штата и американцев в целом по поводу ИИ — это не просто теория. По его словам, штаты должны действовать, чтобы защитить потребителей, одновременно поддерживая конкурентоспособность США и инновации.

Кроме того, прокуратура потребовала от руководства OpenAI ответить на несколько вопросов, связанных с «недостатком контроля и адекватных мер безопасности» при обучении ее нейросетей.

На главную