Модель искусственного интеллекта (ИИ) Claude сдал пользователя полиции в США. Об этом 5 октября сообщает телеканал WINK News со ссылкой на офис шерифа округа.

«Согласно протоколу ареста, 26 сентября пользовательница, опознанная как Карли Мишель Хеллер, заявила, что собирается устроить стрельбу в офисе шерифа округа Ли. Следователи утверждают, что на следующий день та же пользовательница сделала еще одно заявление, сообщив, что приобрела новое оружие», — говорится в публикации.

По данным телеканала, женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями. Платформа, которую использовала Хеллер, отслеживает ключевые фразы и выявляет потенциально угрожающий контент. Распознав заявления пользователя, ИИ-модель передала информацию группе экспертов, которая затем сообщила о заявлениях правоохранительным органам.

«Искусственный интеллект — мощный инструмент, и, как любая технология, он может быть использован не по назначению. Когда кто-то использует ИИ для создания или содействия угрозе, мы должны отнестись к этой угрозе серьезно», — сказал шериф Кармин Марчено телеканалу.

Карли Мишель Хеллер задержана и обвиняется в письменной угрозе насилия в соответствии с законодательством Флориды. Марчено отметил, что пользователи «никогда не бывают по-настоящему анонимными» при использовании ИИ-чатов.

В США появятся особые Силы суперинтеллекта (Super Intelligence Force). Об этом 4 октября сообщил президент страны Дональд Трамп. По его словам, новая структура будет призвана координировать усилия федерального правительства, чтобы обеспечить сохранение американского лидерства в области искусственного интеллекта. Возглавит Силы суперинтеллекта директор национальной разведки Джей Клейтон. Также в руководство войдут комиссар Федеральной торговой комиссии Эндрю Фергюсон и другие чиновники.