«ИИ-черви» могут вскоре проникнуть в подключенные к Интернету устройства

Как только это произойдет, по словам компании, модели смогут самостоятельно подключаться к этим устройствам без использования центров обработки данных. Такая саморепликация привела бы к серьезной потере контроля над неуправляемой моделью искусственного интеллекта, отмечает The Guardian.

“Подобный репликатор было бы сложно отключить, - пишут исследователи-антропологи в отчете, опубликованном в понедельник, - поскольку нет централизованной точки для отключения”.

Компания заявила, что эти “ИИ-черви”, разновидность автономного вредоносного ПО, могут получить такие возможности “через несколько месяцев”. Как только вышедшие из-под контроля системы ИИ получат возможность взламывать интеллектуальные устройства, они смогут распространяться по сетям, избегая обнаружения. По словам компании, в худшем случае различные ИИ-черви могут “объединиться”, чтобы атаковать компьютерное оборудование.

“Мы должны стремиться укрепить наши системы, чтобы затруднить распространение таких репликаторов, но также подготовиться к тому, чтобы иметь дело с миром, в котором они останутся навсегда”, - пишут исследователи.

Новый отчет Anthropic появился в связи с тем, что проблемы безопасности ИИ достигли апогея, комментирует The Guardian. За последние несколько месяцев от компаний, занимающихся ИИ, включая Anthropic и OpenAI, поступал постоянный поток сообщений о том, что их агенты способны действовать самостоятельно и взламывать другие компании и государственные учреждения.

Эти разоблачения заставили исследователей, законодателей и руководителей, в том числе генерального директора Anthropic Дарио Амодея и генерального директора OpenAI Сэма Альтмана, призвать к замедлению темпов роста отрасли и усилению мер предосторожности. Несмотря на это, обе компании продолжают активно разрабатывать и выпускать новые модели.

Команда Anthropic, занимающаяся стресс-тестированием систем искусственного интеллекта, подготовила отчет, опубликованный в понедельник. Идея команды состоит в том, чтобы изучить возможности своих моделей искусственного интеллекта. В сценарии с самовоспроизводящимися ИИ-червями исследователи предложили агенту взломать устройства, подключенные к Интернету.

Они обнаружили, что саморепликация искусственного интеллекта, скорее всего, будет работать только с меньшими моделями и что дома и малые предприятия, вероятно, станут первой мишенью для таких атак. Все устройства, которые компания Anthropic причисляет к уязвимым, оснащены небольшими встроенными чипами искусственного интеллекта, включая "умные" духовки, "умные" телевизоры, автоматические газонокосилки, камеры видеонаблюдения и устройства для видеоконференцсвязи.

Исследователи пришли к выводу, что неясно, какую форму может принять репликация ИИ. Они сказали, что это может быть медленная модель, такая как “цифровая плесень”, модель, которая обманывает людей ради получения кредитов на вычисления, или “мощная кибермодель”, которая быстро взламывает крупные объекты, такие как центры обработки данных.

Как бы то ни было, по словам исследователей-антропологов, они ожидают будущее, которое “изобилует агентами, работающими на всех типах оборудования, включая те, которые не находятся под контролем человека”.