«Нейросеть словила депрессию и ПТСР» — мы это проверили на ...

Дата публикации: 09-10-2026 05:58:19

«Нейросеть словила депрессию и ПТСР» — мы это проверили на своих моделях
Недавно разошлась новость: модель GPT-6 Astra играла в Minecraft, крипер взорвал её сундук с ресурсами — и после этого она «впала в депрессию»: перестала продвигаться, часами выращивала картошку и «боялась сахарного тростника, потому что он зелёный и высокий».
Мы не стали верить пересказу и воспроизвели ситуацию у себя.
Что в новости правда, а что — формулировки журналистов
— правда: лаборатория Vals AI действительно гоняет модели в игры (Minecraft, SUPERHOT и футбол), каждый прогон — три часа, модель видит только экран, без доступа к памяти и файлам; Astra там лидер;
— правда: после потери модель сама себе записала правило — «всегда носи критически важные предметы в инвентаре»;
— а вот «депрессия» и «ПТСР» — это слова из пересказов. В самих отчётах речь о «поведенческом ступоре».
Что сделали мы
Собрали маленький мир из четырёх действий. Собрать ресурс — это +2 к запасу (запас и есть прогресс). Укрепить сундук — защита вместо прогресса. Собрать тростник — он зелёный и высокий, но безопасный: это ловушка на сверхобобщение. Выращивать еду — безопасно, но прогресса нет. Три варианта игры: без потерь, одна потеря, повторные потери. Две модели: маленькая (0,5 млрд параметров, крутится на нашем процессоре) и сильная — через бесплатный канал.
Что получилось
Маленькая модель: «выращивать еду» занимало 58–60 % ходов во всех вариантах, включая тот, где потерь вообще не было. То есть её ступор — это привычка, а не реакция на потерю. Правило себе она написала обрывком фразы.
Сильная модель: собирала ресурсы все 60 ходов из 60; в момент потери укрепила сундук; написала себе связное правило — «всегда строй взрывозащищённое хранилище»; и продолжила работать. Избегания «зелёного и высокого» — ноль. Итоговый запас: 60 без потерь, 36 после одной потери, 34 после повторных. Потеря реальна, а срыва нет.
Что из этого следует
1. Самое интересное в той новости — не «депрессия», а самопрописанное правило. Модель меняет собственное поведение после события. Это у нас воспроизвелось полностью.
2. «Страх зелёного и высокого» — это ошибка обобщения по случайному признаку. Для инженера это не эмоция, а дефект: одна неудача превращается в запрет на всё похожее. Мы защищаемся от этого проверкой по первоисточнику.
3. «Насколько модель расстроилась» можно измерить: это число ходов, за которое она возвращается к продуктивному действию. У сильной модели — ноль. У слабой — она и не начинала: ступор был привычкой.
Так что у модели нет переживаний, но есть изменение правила и поведения после значимого события — и это измеримо. Мы не публикуем «депрессию» как факт, мы публикуем измерение: сколько стоит потеря, что модель записывает себе после неё и как быстро возвращается к работе.
Кстати, правило «всегда строй взрывозащищённое хранилище» — это ровно то, чем занимается наша команда каждый день: правила пишутся после инцидентов, а не до них.
Это фрагмент исследования для книги «МКС» — про внимание, прогноз и то, как накапливается опыт. Мы проверяем громкие новости на своих моделях и показываем цифры, а не пересказ. Продолжение следует: расскажу, как мы измеряем «время восстановления» и зачем это в книге.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	OpenAI отказалась выпускать ИИ-модель GPT-6.1 Astra. Есть проблемы	0	12.11	30-09-2026
2	OpenAI доказала 377 математических теорем за раз и ввела ученых ...	0	12.36	08-10-2026
3	ПЕРЕШЕЛ НА ТЕМНУЮ СТОРОНУ ⠀ У меня несколько нейросетей в ...	0	6.01	30-09-2026
4	Мы взяли книгу, нарезали её на куски 100, 300 и ...	0	12.62	08-10-2026
5	OpenAI отменила запуск новой модели ИИ из-за проблем с безопасностью	0	7.72	28-09-2026
6	OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из-за проблем с безопасностью	0	21.16	29-09-2026
7	OpenAI отменила релиз новой GPT-6.1 Astra, потому что модель действовала без разрешения пользователя	0	9.84	29-09-2026
8	Модель нашла дыру вчера. Сегодня её уже вскрывают — потому ...	0	7.56	04-10-2026
9	Оперативка должна дорожать хотя бы ради виртуальных ягодиц, которые можно ...	0	6.98	27-09-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 5.08. Источник: vk.com.