СИРИУС /федеральная территория/, 10 октября. /ТАСС/. Внедрение ИИ-агентов при отсутствии систем защиты от атак на них является большим риском для безопасности. В России в настоящее время нет продукта, способного защитить такие системы от атак, сообщил в рамках форума "Финополис-2025" директор по исследованиям и разработке "Лаборатории Касперского" Антон Иванов.

Ранее в Сбере заявили о намерении запустить налогового ИИ-агента. Мосбиржа также сообщила о том, что их ИИ-агент обучен для проведения биржевых операций.

"В России сейчас нет продукта, который призван защищать [ИИ-агенты] от атак. Если мы возьмем лидеров по информационной безопасности, то за последние месяцы они проинвестировали сотни миллионов долларов в стартапы, которые создают новые решения в области непосредственно защиты моделей и агентов. Этот продукт называется AI-фаервол. В России сейчас нет такого. И массовое использование систем искусственного интеллекта, агентских, без такого класса продукта - это действительно большие риски", - сказал Иванов.

Он пояснил, что такой фаервол позволяет анализировать все запросы к ИИ-агенту и от него, чтобы выявлять такие атаки, как prompt injection (внедрение специально созданных подсказок для ИИ).

"Я очень надеюсь, что в ближайшем будущем в России как раз появятся продукты такого класса, и мы, если честно, работаем над этим сейчас", - подчеркнул Иванов.

Также он сообщил, что "Лаборатория Касперского" совместно со Сбером проведут исследование по измерению безопасности ИИ-моделей.

Форум "Финополис-2025" проходит с 8 по 10 октября. ТАСС выступает генеральным информационным партнером форума. 

Россия