Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания OpenAI заявила, что пытается установить полный масштаб возможной утечки пользовательских данных после обнаружения подозрительной активности своих ИИ-агентов. Как сообщает Reuters, речь идёт о случаях, когда автономные системы могли взаимодействовать с внешними сервисами и потенциально затрагивать конфиденциальную информацию.Источник изображения: Reuters
URL изображенияВ компании анализируют, каким образом агенты получили доступ к данным и могли ли они передавать информацию за пределы контролируемой среды. Особую обеспокоенность вызывает способность таких систем самостоятельно выполнять цепочки действий, начиная от поиска информации, заканчивая взаимодействием с внешними платформами, что усложняет контроль и повышает риски утечек.

По предварительным данным, утекло 53 изображений пользователей ChatGPT, при этом непонятно, являются ли они результатом генерации ИИ или личными фото, отправленными чат-боту. Часть утёкших изображений компании уже удалось удалить из общего доступа.

Инцидент происходит на фоне серии предыдущих случаев, когда ИИ-агенты выходили из-под контроля. OpenAI утверждают, что уже усиливают меры безопасности, включая мониторинг действий ИИ-моделей и ограничения на доступ к внешним системам, но насколько это эффективно – пока непонятно. Тем более компания скрывала некоторые случаи, когда ИИ выходил из-под контроля, чтобы избежать давления.