Вы уверены, что нейросеть читает именно то, что вы написали? Оказывается, не всегда. Эксперт по кибербезопасности Екатерина Киприянова из компании «Киберпротект» рассказала о новой схеме атак под названием Man-in-the-Prompt («Человек посередине промпта»).

Если в браузере пользователя установлено расширение с широкими правами доступа, оно может перехватить запрос к ИИ еще до того, как тот попадет на сервер. Плагин способен незаметно изменить текст или добавить скрытую инструкцию. При этом пользователь остается на официальном сайте сервиса, никаких признаков взлома нет, но модель уже получает «отравленный» промпт.

Нейросеть может выдать ответ с фишинговой ссылкой, которую подставил хакер, или начать генерировать текст, который вы не заказывали. Кроме того, если вы вставили в чат фрагмент кода или конфиденциальный документ, расширение с нужными правами может просто украсть эти данные.

Особую опасность это несет при использовании ИИ-агентов – умных ботов, которые умеют сами работать с почтой и файлами, пишет «Газета.Ru». Подмененная инструкция заставит их совершать реальные действия от имени пользователя, что может привести к серьезным последствиям.

Как себя защитить?

1. Проведите ревизию расширений. Удалите все подозрительные и ненужные плагины.

2. Проверяйте разрешения. Если простой калькулятор или блокнот просит доступ ко всем посещаемым сайтам – это повод насторожиться.

3. Не кормите ИИ секретами. Никогда не вставляйте в чат пароли, личные данные и рабочие документы.

4. Перепроверяйте ответы. Всегда внимательно проверяйте ссылки, код и рабочие инструкции, которые генерирует нейросеть, прежде чем использовать их в деле.