Индустрия порнографических дипфейков постепенно выходит из даркнета — об этом предупредили эксперты. Ресурсы с сексуализированным ИИ-контентом всё чаще находят в открытом доступе, поскольку им выгодно быть заметными: даркнет ограничивает аудиторию, рекламный трафик и способы монетизации. Подробности о том, почему индустрия порнодипфейков становится всё ближе к обычным пользователям и какие риски несет в себе этот тренд, читайте в материале «Известий».

Сегодня ресурсы с порнографическими дипфейками — это сформировавшийся рынок, отмечает в беседе с «Известиями» член Общественного совета при Минцифры России, руководитель рабочей группы по выработке подхода к регулированию контента, созданного с применением ИИ, генеральный директор коммуникационной группы «Р.И.М. — ИНТЕРИУМ» Валерий Сидоренко.

— Такие ресурсы создают по разным причинам, — рассказывает эксперт. — Для владельцев площадок это прежде всего трафик и монетизация — реклама, подписки, платные заказы. На уровне пользователей дипфейки могут становиться инструментом травли, мести, шантажа или дискредитации конкретного человека.

Выход этой индустрии в открытый интернет, по мнению собеседника редакции, закономерен: порог входа резко снизился, так как для генерации может хватить одной фотографии, а готовые сервисы позволяют получить результат даже человеку без специальных технических навыков. При этом таким сайтам выгодно быть заметными: даркнет ограничивает аудиторию, рекламный трафик и способы монетизации.

Поэтому ресурсы с порнодипфейками используют обычную веб-инфраструктуру, поисковое продвижение, CDN, хостинг и рекламные системы. В результате столкнуться с таким контентом человек может в совершенно привычной цифровой среде, а не на специализированных подпольных площадках.

Тренд на выход индустрии порнодипфейков из даркнета подтверждается данными аналитики: авторы свежего исследования, опубликованного в одном из американских научных журналов, обнаружили 88 публично доступных сайтов с сексуализированными ИИ-изображениями, созданными без согласия представленных на них людей. Причем 38 из выявленных площадок были полностью посвящены такому контенту.

— Сегодня индустрии порнодипфейков больше не нужен даркнет: анонимность, ради которой туда уходили, продается в открытой сети как обычная услуга: скрытая регистрация домена и защищенная почта, — объясняет адвокат МКА «Адвокаты на Дубровке» Владислав Шурховецкий. — При этом поставщики подобной инфраструктуры заранее не проверяют контент клиентов.

По словам собеседника редакции, в России анонимно разместить сайт сложнее: провайдер хостинга вправе обслуживать клиента только после его идентификации согласно ч. 5 ст. 10.2-1 Закона об информации № 149-ФЗ. Поэтому площадки с порнографическим контентом от нейросетей уходят за рубеж.

Создатели ресурсов с дипфейками 18+ рассчитывают на правовую неопределенность, выводя их в открытый доступ, дополняет адвокат коллегии адвокатов «Барос» Вадим Хаков. Во многих странах интимные дипфейки без согласия прямо не запрещены, поэтому можно выбрать юрисдикцию с мягким регулированием. Кроме того, коммерческой модели нужна аудитория из поисковой выдачи: 82 из 88 сайтов (93,2%), выявленных исследователями, были на первых двух страницах поиска — даркнет такого охвата не дает, отмечает эксперт.

С ростом возможностей инструментов борьбы с сексуализированным контентом от нейросетей появляются и новые способы обхода ограничений, объясняет технический аккаунт-менеджер компании R-Vision Александр Винокуров. Это постоянная технологическая гонка: одни инструменты используются для выявления и блокировки ресурсов, другие — чтобы скрыть их от систем мониторинга и сохранить доступность площадки.

— Например, ресурс может менять доменные имена, IP-адреса и инфраструктуру размещения, использовать цепочки редиректов, зеркала и новые домены верхнего уровня, — разъясняет эксперт. — Отдельная проблема — скорость появления новых площадок: пока информация о ресурсе попадет в базу блокировок и будут приняты необходимые меры, он уже может сменить инфраструктуру или появиться по другому адресу. Поэтому блокировка только по доменному имени или IP-адресу не всегда эффективна.

Кроме того, по словам Александра Винокурова, технологии на основе ИИ позволяют владельцам ресурсов с дипфейками быстрее менять контент и инфраструктуру, а также адаптироваться к используемым средствам обнаружения. В результате блокировка неизбежно оказывается реактивной: сначала ресурс или материал нужно обнаружить и квалифицировать, а за это время копии уже могут разойтись дальше, дополняет Валерий Сидоренко.

Рост доступности ИИ-порнографии, которая всё чаще оказывается в открытом доступе, по мнению экспертов, опрошенных «Известиями», несет в себе целый ряд рисков. Как объясняет Вадим Хаков, для того чтобы стать «героем» дипфейка 18+, достаточно всего одной фотографии, размещенной в открытом доступе, поэтому пострадать от подобного контента может любой пользователь.

— Для шантажа больше не обязательно похищать настоящие интимные фотографии: злоумышленник может использовать обычные снимки из социальной сети или других открытых источников, — подтверждает директор по развитию центра мониторинга внешних цифровых угроз Solar AURA (ГК «Солар») Александр Вураско. — Поэтому аргумент «я никогда ничего подобного не снимал, значит, мне это не угрожает» уже не работает.

В то же время, как указывает Вадим Хаков, последствия от дипфейков сопоставимы с утечкой подлинных снимков: потеря репутации и работы, разрушенные отношения, психологическая травма и шантаж. Особенно опасны материалы с несовершеннолетними. Кроме того, дипфейки подрывают доверие к аудио- и видеодоказательствам — требуется больше экспертиз, а процессы становятся дольше и дороже.

Для того чтобы решить проблему порнографических дипфейков, нужно работать не только с отдельными публикациями, но и со всей инфраструктурой распространения, считает Александр Вураско. На стороне платформ это понятная процедура жалобы, быстрое рассмотрение обращения и выявление повторных загрузок. На стороне поисковых и инфраструктурных сервисов — реагирование на подтвержденные нарушения в пределах их возможностей.

— Для площадок, которые систематически зарабатывают на таком контенте, важны не только ограничения доступа, но и прекращение его монетизации, — считает собеседник «Известий». — Именно на необходимость работы с этой инфраструктурой обращают внимание авторы исследования.

По мнению Александра Вураско, одной маркировки «создано искусственным интеллектом» недостаточно. Она сообщает о происхождении изображения, но не подтверждает согласие человека и не устраняет возможность травли. Не решает проблему использования чужого лица без разрешения и проверка возраста посетителя.

Для интимных дипфейков нужен максимально быстрый механизм реагирования: процедура жалобы, оперативное ограничение распространения, сохранение цифровых доказательств и возможность преследовать тех, кто сознательно создает и распространяет такой контент во вред человеку, утверждает Валерий Сидоренко. Параллельно площадкам нужны собственные инструменты выявления синтетических изображений и повторных загрузок уже удаленного материала. Одна маркировка проблему не решит: тот, кто создает дипфейк для шантажа или унижения, добровольно ставить на него предупреждение не станет, убежден собеседник «Известий».