В России появилась первая система мониторинга и защиты ИИ от кибератак

Дата публикации: 06-08-2025 17:52:58

Разработка совместима с любыми ИИ-моделями, что позволяет компаниям гибко настраивать правила безопасности под собственные требования, указали в пресс-службе ИТМО

Основное содержимое страницы с новостью.

Разработка совместима с любыми ИИ-моделями, что позволяет компаниям гибко настраивать правила безопасности под собственные требования, указали в пресс-службе ИТМО

САНКТ-ПЕТЕРБУРГ, 6 августа. /ТАСС/. Первую отечественную систему защиты искусственного интеллекта от кибератак HiveTrace создали магистранты ИТМО совместно с экспертами компании Raft. Разработка совместима с любыми открытыми или закрытыми ИИ-моделями, сообщили в пресс-службе ИТМО.

"Чтобы защитить ИИ от появляющихся уязвимостей, компания HiveTrace, в которую входят студенты онлайн-магистратуры AI Talent Hub ИТМО, при поддержке IT-компании Raft разработала HiveTrace. Это первая в России система защиты на основе ИИ, которая отражает кибератаки на веб-приложения с генеративным ИИ", - отмечается в сообщении.

Разработка совместима с любыми популярными ИИ-моделями, независимо от того, открытые они или закрытые. Такая совместимость позволяет компаниям гибко настраивать правила безопасности под собственные требования.

Система защищает ИИ-модели от 7 из 10 наиболее критичных уязвимостей. В будущем планируется увеличить количество функций, позволяющих бороться не только с существующими, но и зарождающимися киберугрозами. Система борется с промт-инъекциями, утечками конфиденциальной информации и системных инструкций, некорректной обработкой входных данных, чрезмерным использованием LLM-агентов, уязвимостями в обработке векторов и эмбеддингов, а также неограниченным потреблением вычислительных ресурсов.

"Зарубежный рынок предлагает много аналогов, но они не адаптированы под наш рынок и русский язык. Российские компании еще в начале пути по внедрению ИИ в бизнес-процессы, но со временем необходимость в защите ИИ-решений только увеличится. Крупные технологические компании обладают экспертизой в области защиты ИИ-систем, но существующие разработки созданы для внутренних задач и недоступны на рынке. Для остальных компаний, которые внедряют GenAI, нужны продукты для защиты ИИ", - приводятся слова СЕО компании HiveTrace, руководителя AI Security лаборатории ИТМО Евгения Кокуйкина. 

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Москва первой в стране внедрила ИИ-мониторинг для профилактики сосудистых катастроф	5	7	24-10-2025
2	В России разработали интеллектуальную систему обнаружения угроз в аэропортах	0	0	29-08-2019
3	В России появился первый ИИ-пентестер	5	7	07-07-2026
4	В России появился первый ИИ-пентестер	0	7	07-07-2026
5	Разработана ИИ-система для мониторинга производственных процессов	0	0	24-03-2025
6	В России появился первый ИИ-пентестер	5	7	07-07-2026
7	В РФ разработали ИИ-систему для автоматического сокрытия нежелательного контента	0	0	13-05-2025
8	Новый сервис Siemens на базе искусственного интеллекта защитит энергокомпании от кибератак	0	0	02-10-2020
9	В России создана ИИ-система для контроля ледовой обстановки	5	7	16-06-2026
10	В Новгородской области создали программный комплекс, защищающий от утечек данных	0	0	07-08-2025

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 0. Источник: tass.ru.