Цифры привел венчурный фонд Andreessen Horowitz (a16z) по данным платформы OpenRouter. Выявлено, что ИИ-агенты на платформе в среднем за семь дней обрабатывают 7,3 трлн токенов, в то время как люди используют 1,4 трлн токенов. Это практически пятикратный разрыв, однако эксперты ожидают, что соотношение в скором времени вырастет до 10 к 1 и выше.
Впервые обход по объему токенов агентами был зафиксирован 6 февраля 2026 года. С тех пор их потребление возросло в 14 раз, при этом количество запросов от пользователей увеличилось только в 2,8 раза.
OpenRouter относит каждый API-ключ к одной из трех групп: агентной, смешанной или человеческой. Для этого платформа использует комплексную систему оценки по семи сигналам, включая частоту вызова инструментов, число реплик в диалоге и интервалы между запросами.
Основная часть запросов приходится на повторы. Выявлено, что более 85% токенов агентов составляют кэшированные промты. Это контекст, который модель уже видела и перечитывает на каждом шаге работы. Кэшированные токены объясняют почти весь относительный рост потребления.
Их обработка обходится дешевле по сравнению с запросами, выдаваемыми с нуля. При этом приходится держать контекст в KV-кэше – отсеке служебной памяти с уже обработанными данными. Этот процесс связывают с ростом спроса на память HBM. По данным Tom’s Hardware, KV-кэш растет быстрее, чем объем HBM на графических процессорах.
В то же время, рост числа токенов не пропорционален росту расходов. Как пишут в издании Инк., похожая картина наблюдалась в логах консалтинговой компании для колл-центров, которая тестировала DeepSeek на арендованных ускорителях Nvidia H200. В работе ее собственных агентов на Claude Code, проведенной в сентябре, 96% входных данных составило повторное чтение раннего диалога. Из этого следует, что число токенов завышает размер счета, а аппаратные затраты на память остаются реальными.
У приведенных данных есть ограничения – они относятся к одной платформе и показывают объем токенов, но не прямые затраты. Тренд был неровным, в апреле и июле фиксировались спады. Разрыв между агентами и людьми зависит и от способа разделения смешанного трафика.
Рост использования агентов подтверждают другие источники. Согласно опросу McKinsey State of AI 2026, 40% респондентов из крупных организаций масштабируют своих ИИ-агентов – прирост по сравнению с прошлым годом составил 13 процентных пункта.
Изображение на обложке: Magnific
Комментарии