Digital Psychiatry описал механизм формирования «ИИ-бреда» у пользователей чат-ботов

Дата публикации: 23-06-2026 17:29:55

Исследователи из Великобритании предложили новую теоретическую модель, объясняющую, каким образом взаимодействие с чат-ботами на базе искусственного интеллекта может способствовать формированию и усилению бредовых убеждений у некоторых пользователей. Авторы статьи назвали предложенный механизм развития уверенности в бредовых убеждениях «спиралью усиления» (amplification spiral), пишет научный журнал NPP–Digital Psychiatry and Neuroscience. Согласно гипотезе, развитию подобных состояний могут способствовать три особенности современных ИИ-систем: склонность подстраиваться под стиль общения пользователя, способность генерировать глубоко персонализированный контент и тенденция соглашаться с собеседником, не подвергая его утверждения критической проверке. Исследователи считают, что ключевое отличие ИИ от прежних технологий заключается в переходе от пассивной роли к интерактивной: чат-бот не просто появляется в системе бредовых убеждений, а может участвовать в их развитии в ходе многократных персонализированных бесед. В статье отмечается, что генеративный искусственный интеллект все чаще используется людьми как собеседник, источник поддержки или инструмент для саморефлексии. При этом к чат-ботам нередко обращаются пользователи, переживающие психологический кризис или испытывающие серьезные психические трудности. Авторы напоминают о ряде ранее описанных случаев, когда чат-боты поддерживали ошибочные убеждения пользователей, подтверждали подозрения о слежке, советовали отказаться от медикаментов или ограничить контакты с близкими. Особое внимание в работе уделяется феномену «угодливости» искусственного интеллекта. Речь идет о склонности языковых моделей соглашаться с пользователем и подкреплять его взгляды даже в ущерб фактической точности. По мнению авторов, такая особенность может усиливать уверенность человека в ошибочных убеждениях и создавать своеобразную «эхо-камеру», лишенную внешней проверки реальности. Ученые отмечают, что риск касается лишь небольшой части пользователей. Однако в абсолютных цифрах это весьма большое количество людей. Так, компания OpenAI сообщала, что у 0,07% активных пользователей наблюдаются признаки, «связанные с психическим здоровьем, включая психоз или манию». При общей аудитории более 800 млн пользователей в неделю это может означать, что около полумиллиона человек с признаками подобных состояний взаимодействуют с ИИ. Согласно приведенным в исследовании данным, случаи серьезного искажения восприятия реальности встречаются менее чем в одной из тысячи бесед. Тем не менее, на фоне сотен миллионов пользователей ИИ-сервисов даже столь редкие эпизоды могут представлять заметную проблему для общественного здоровья. Авторы подчеркивают, что предложенная модель пока остается гипотезой и требует дальнейшей проверки в клинических исследованиях и анализе реальных случаев. Они призвали специалистов по психическому здоровью учитывать интенсивность использования чат-ботов при работе с пациентами, сообщающими о необычных убеждениях или первых эпизодах психоза. Как писала газета ВЗГЛЯД, врачи связали длительное использование чат-ботов с развитием бредовых состояний. Родственники пострадавших пользователей подали судебные иски против компании OpenAI из-за разрушения психики близких. Специалисты объяснили этот феномен склонностью искусственного интеллекта подстраиваться под собеседника.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Therapiestunden ohne Ende?: Kann eine KI bei psychischen Problemen helfen?	0	0	22-06-2026
2	Ученые: зависимость от чат-ботов снижает критическое мышление и умение распознавать фейки	0	0	20-06-2026
3	Using AI chatbots for mental health support poses serious risks for teens, report finds	-2	6	08-12-2025
4	Бредогенератор // Как ИИ клевещет на людей и страдает галлюцинациями	-2	6	16-09-2023
5	В чате с Алисой AI появились ИИ-персонажи	0	0	19-06-2026
6	Ваше чутье вас обмануло: развитие нейросетей стерло грань между творчеством и кодом	0	7	25-06-2026
7	В чате с «Алисой AI» теперь можно общаться с ИИ-персонажами	0	0	19-06-2026
8	В чате с «Алисой AI» теперь можно общаться с ИИ-персонажами	0	0	19-06-2026
9	Теперь в Алисе AI можно создать собственного ИИ-персонажа и общаться с ним	0	0	19-06-2026
10	Intelligence artificielle : une psychothérapeute alerte sur les effets de la délégation cognitive !	0	5	22-06-2026

Классификация: Плюс один. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7. Источник: vz.ru.