💸 Мы посчитали, за что платим, когда ИИ работает. Оказалось ...

Дата публикации: 12-10-2026 10:43:08

💸 Мы посчитали, за что платим, когда ИИ работает. Оказалось — не за ответы, а за чтение.
Мы ведём книгу о том, как мозг строит предсказания, и попутно считаем каждый свой расход. За два дня работы агентов накопилось 3 722 запроса, и вот что из них видно:
— 1 248 941 525 входных токенов, из них 99 % — попадания в кэш;
— 4 278 894 выходных токена, то есть 0,34 % от всего объёма;
— контекста на каждый токен ответа — 292 токена.
А теперь как эти токены превращаются в деньги:
— чтение из кэша — 45 % расхода;
— свежий служебный текст, который в кэш не попал (логи, файлы, вывод команд) — 23 %;
— собственно ответ модели — 31 %.
Здесь и спрятана главная неочевидность: ответ занимает треть денег при 0,34 % токенов. Один токен ответа примерно в двести раз дороже токена чтения — но чтения в двести девяносто раз больше. Поэтому «сократить документ» экономит копейки, а «сократить число и длину ходов агента» — рубли.
Теперь честно про грабли, на которые я сам наступил. Я решил посчитать «рублей за час работы агента» и разделил расход на длительность сессий. Получилось 0,86 ₽ в час — в 582 раза дешевле, чем у отрасли. Красивая цифра, и она ложь: сессии висят сутками в ожидании, и в длительность входит простой. Правильная база — запрос и активный час: 117–293 ₽ в час (1,4–3,5 доллара) при скорости 2–5 секунд на шаг. Это уже сравнимая величина, а не фантастика.
Дальше — эксперимент, который мы провели специально, чтобы поймать экономию на вранье. Мы сжали служебный текст до 12 % от исходного и прогнали проверку «утверждение ↔ источник» дважды: на полном тексте и на сжатом, сверяя с человеческой разметкой.
Результат: согласие с человеком упало с 85 % до 75 %. Ложных подтверждений сжатие не создало — оно сделало хуже другое: на контрольной паре, где утверждение было дословно первой фразой самого источника, проверяющий после сжатия перестал видеть там утверждение вообще. То есть экономия покупается молчаливой потерей качества: ошибка не светится в логах, она просто исчезает из результата.
Поэтому у нас теперь правило: на рутине и батчах сжимать можно — там результат проверяет валидатор. Там, где рождается цифра, — проверка утверждений, деньги, клиентские материалы — нельзя.
Мы делимся этим не для красоты. Мы проверяем источники в чужих текстах и знаем, как выглядит «правдоподобно, но неверно».
Вопрос к вам: считали ли вы, сколько стоит час работы вашего агента — и готовы ли к тому, что экономия на сжатии тихо меняет результат, а не ломает его с ошибкой?
КнигаМКС #ЗамерыИИ #разбор #наука

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Мы посчитали, за что платим, когда ИИ работает. Оказалось — ...	0	14.49	08-10-2026
2	🎲 85 % на шаг — это 20 % на ...	1	13.63	12-10-2026
3	🤖 Большое окно у модели — это не то, что ...	0	10.96	12-10-2026
4	85 % на шаг — это 20 % на десяти ...	1	13.61	08-10-2026
5	Облачные провайдеры берут плату не за железо, а за лень ...	0	11.1	27-09-2026
6	🤖Где ИИ помогает бизнесу, а где создаёт новые издержки Искуственный ...	1	5.68	09-10-2026
7	Как я перестала платить копирайтерам и дизайнерам. Спойлер: нейросети рулят ...	0	5.18	30-09-2026
8	📚 Мы проверили 2 816 научных работ. Три оказались отозваны ...	-1	8.38	12-10-2026
9	Облачные провайдеры берут плату не за железо, а за лень ...	0	9.49	29-09-2026
10	Мой личный «железный человек»: как я научил нейросеть быть моим ...	0	8.11	06-10-2026

Классификация: Экономика. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 14.5. Источник: vk.com.