[Перевод] Вы уверены, что знаете, что такое «human-in-the-loop»? Я тоже был уверен. Пока не полез проверять

Дата публикации: 22-06-2026 13:17:49

Термин стал попадаться на глаза слишком часто. Для обычного базворда — явный перебор. Я полез разбираться. И наткнулся на кое-что, от чего у меня реально похолодело.Все автомобилисты знают: у любого современного автомобиля есть специально заложенная в конструкцию сминаемая зона — та, что принимает на себя основной удар при аварии, гасит энергию столкновения и тем самым спасает водителя.В 2019 году антрополог Madeleine Clare Elish из Data & Society взяла эту метафору и вывернула её наизнанку. Она ввела термин «moral crumple zone»: человек в сложной автоматизированной системе может стать таким же компонентом-поглотителем — только в отличие от автомобиля, здесь сминаемая зона защищает не человека, а систему. Ценой человека.Шесть лет назад это была гипотеза одного антрополога. Сегодня — судя по тому, что я нашёл, когда три дня не вылезал из исследований, опросов разработчиков и полувековой психологии внимания, — это уже не гипотеза. Это диагноз.Sonar опросил 1100+ разработчиков в январе 2026-го. Результат: 96% не уверены в функциональной корректности кода, который написал AI. Но вот в чём штука — проверяют его перед каждым коммитом меньше половины. AWS CTO Вернер Фогельс назвал это «verification debt»: AI ускоряет написание кода и одновременно замедляет его понимание, потому что генерировать стало проще, чем разбираться, что именно нагенерировали.Один из участников свежего исследования (Baltes et al., март 2026) сформулировал это без дипломатии: «они буквально используют тебя, чтобы ты критически оценил их AI-слоп и дал ему следующий промпт». Читать далее

Классификация: Мнения

Схожие новости

#	Наименование новости	Тональность	Информативность
1	[Перевод] AI не заменит продактов, дизайнеров и разработчиков. Но быстро покажет, где в команде нет доверия	0	0
2	В коде, написанном ИИ, больше серьезных ошибок, чем у живых программистов	0	0
3	Восстание машин: ИИ толкает человечество в петлю деградации	0	0
4	Сам не знаю зачем это пишу, надеюсь в процессе набора текста, сформулирую...	0	0
5	Интервью с Грегом Кроа-Хартманом о созданных через AI отчётах об ошибках	0	0
6	Половина топ-менеджеров не понимает, как ИИ изменит их компании — исследование LinkedIn	0	0
7	ИИ-кодирование: циклы заменяют промпты, а верификация становится самой большой проблемой	0	0
8	Велосипедный взрыв	0	0
9	Войны фреймворков, неуправляемые разработчики и крэйзи-инопланетяне: разговор с тимлидом Авито	0	0
10	А вас вайб-кодеры уже достали?	0	0

• Тональность 0
• Информативность 0
• habr.com