40% руководителей по информационной безопасности в компаниях, внедряющих искусственный интеллект (ИИ) в рабочие процессы, рассматривают новые средства и услуги защиты нейросетей из-за растущих угроз и рисков. Об этом свидетельствуют результаты опроса iTProtect, специализированного интегратора в области информационной безопасности. В числе рисков респонденты отмечают утечки данных, раскрытие конфиденциальной информации из-за проблем с разграничением доступа и промпт-инъекции. Для защиты от таких угроз использования ИИ iTProtect запустил новое направление. Об этом CNews сообщили представители iTProtect.

Искусственный интеллект быстро становится частью корпоративной ИТ-инфраструктуры, помогая оперативно выполнять рутинные задачи и анализировать большие объемы информации. Согласно опросу iTProtect, почти каждая четвертая российская компания (24%) уже активно использует ИИ в рабочих процессах или рассматривает его внедрение как приоритетное направление. При этом 40% руководителей по информационной безопасности из этой группы считают, что использование ИИ расширяет поверхность атаки и планируют меры защиты от такого рода рисков для бизнеса.

Угрозы подтверждаются и практическими исследованиями. Так, по данным отчета Harmonic Security за первую половину 2026 г., чувствительные данные содержались в 26,4% всех файлов, загружаемых сотрудниками различных предприятий в ИИ-приложения. Риски связаны не только с тем, какие данные сотрудники передают внешним ИИ-сервисам, но и с безопасностью самих моделей и приложений на их основе.

Безопасность ИИ также становится частью регуляторной повестки. В июне 2026 г. Банк России опубликовал методические рекомендации по информационной безопасности при использовании ИИ в финансовом секторе. Кроме того, требования приказа ФСТЭК №117 предусматривают меры защиты информации при использовании ИИ в информационных системах государственных учреждений.

На фоне расширения применения ИИ и формирования современного класса угроз iTProtect запустил новое направление – по защите искусственного интеллекта, которое предлагает пять основных классов решений и услугу: AI Firewall, автопентест AI/LLM-моделей, защиту агентов, внедрение безопасных корпоративных ИИ-агентов, а также тестирование LLM. Суммарно по всем классам портфель состоит из 15 вендорских продуктов и услуги от пентестеров iTProtect.

AI Firewall контролирует обращения к ИИ-сервисам как внешним, так и внутренним, и блокирует нелегитимные запросы и ответы. Решение находит и маскирует чувствительные данные, разграничивает к ним доступ сотрудников и фильтрует ответы языковых моделей. Это снижает риск утечки конфиденциальной информации за пределы компании, а также защищает от недостоверных ответов модели.

AI/ML-автопентест проверяет большие языковые модели и GenAI-системы на устойчивость к более чем 40 видам атак, а также выявляет уязвимости ИИ-приложения еще до его запуска в эксплуатацию. Отдельная функциональность такого решения анализирует ИИ-модели на риски раскрытия конфиденциальной информации.

Специальные инструменты защиты ИИ-агентов позволяют контролировать их работу в реальном времени с учетом их привилегий и политик безопасности. Решение отслеживает действия агента, используемые источники и цепочку рассуждений, блокирует опасные команды и инъекции, а также выявляет аномалии в запросах. Таким образом, сотрудники ИБ-службы компании видят, какие ИИ-инструменты используются в инфраструктуре, и могут сократить поверхность атаки.

В рамках нового направления специалисты iTProtect также внедряют в защищенном контуре заказчика безопасных корпоративных ИИ-агентов на базе специализированной платформы. Такой подход помогает справиться с «теневыми ИИ», когда сотрудники пользуются внешними нейросетями, неконтролируемыми службой безопасности компании. Благодаря механизму использования источников знаний (RAG, Retrieval-Augmented Generation) платформа работает с базами знаний компании и помогает автоматизировать сложные процессы. Также она поддерживает более 100 языковых моделей, поэтому специалисты могут переключаться между ними в одном интерфейсе.

Классическое тестирование инфраструктуры на проникновение (pentest) не всегда позволяет выявить специфические для ИИ угрозы: промпт-инъекции, отравление базы знаний или злоупотребление инструментами ИИ-агента. Для оценки таких рисков проводится тестирование LLM, в ходе которого проверяются устойчивость модели к джейлбрейкам, многошаговым атакам и обходу защитных механизмов, возможность извлечения конфиденциальной информации через документы и запросы, риски несанкционированного доступа к данным, злоупотребления инструментами и эскалации прав. Дополнительно оцениваются безопасность API и ключей, журналирование событий и риски неконтролируемого расходования вычислительных ресурсов. Такой подход позволяет выявить специфические для ИИ уязвимости и определить меры для их устранения до эксплуатации системы в реальных условиях.

«Как показывает практика, ИИ уже перестал быть экспериментальной технологией и становится частью корпоративных процессов. Вместе с этим меняется и модель угроз: теперь недостаточно защищать сеть, инфраструктуру или конечные устройства только классическими средствами защиты – необходимо контролировать, какие данные передаются ИИ, какие полномочия получает модель или агент и какие действия они могут выполнять. Поэтому защита ИИ становится важным направлением информационной безопасности. В ходе формирования состава решений мы изучили ключевые продукты, которые есть сегодня на рынке и добавили к себе в портфель самые технически зрелые из них», – сказал Алексей Беспояско, эксперт по информационной безопасности iTProtect.

По оценке компании, спрос на защиту ИИ в России будет расти вслед за внедрением корпоративных ассистентов, ИИ-агентов и все большим использованием как локальных, так и распространенных ИИ-моделей.

• Первый в России ИТ-маркетплейс CNewsMarket для Вашего бизнеса. С ценами на ИТ-услуги от сотен поставщиков