Что это такое и почему агент сжигает токены
Расход токенов ИИ-агента — это произведение четырёх множителей: wake-ups × context × steps × fan-out. Об этом инженеры GrokBot написали 11-страничный PDF, и это единственный источник цифр в статье — оценки из их документа, а не независимое измерение.
Формула объясняет, почему мелкие правки работают лучше одной крупной. Если сократить каждый множитель всего на 20 %, итоговый расход падает почти вдвое. Инженеры GrokBot называют цель — снизить потребление с полного пула до пятой части. Но цифры из PDF — это их внутренняя оценка, а не универсальный бенчмарк.
Главная ловушка: пул общий. Чат, агент и редактор кода вроде Cursor тратят один и тот же недельный лимит. Отдельной разбивки по ботам нет, предупреждения перед исчерпанием тоже. Вы просто упираетесь в потолок и не понимаете, какой именно процесс его съел.
Как выбрать между расписанием и триггерами
Триггеры вместо расписания — первый шаг, который даёт эффект. Плановый запуск каждые 15 минут — это 672 прогона в неделю, даже если ничего не изменилось. Тестовые прогоны тоже считаются.
Замените расписание на событие: упоминание в Slack, письмо, событие в GitHub, вебхук. Работа та же, а запусков — только по факту. В PDF инженеры GrokBot прямо советуют этот обмен: одинаковый результат при меньшем числе пробуждений.
Критерий выбора простой. Если задача привязана ко времени (дайджест утром), оставляйте расписание, но растягивайте интервал. Если задача реактивная (ответ на сообщение, проверка пул-реквеста), переводите на триггер. Смешанный вариант — расписание раз в сутки плюс триггер на событие.
Проверить, что даёт эффект, можно только замером. Считайте число запусков до и после смены схемы. Без этого вы меняете настройки вслепую.
Как сократить расход токенов: шаги
Сначала определите, какой множитель у вас самый большой. Потом режьте его. Порядок шагов из PDF:
- Посчитайте пробуждения за неделю. Умножьте частоту на 7 дней. Если получается больше сотни — это кандидат на замену триггером.
- Проверьте контекст. Каждый запуск тащит историю и системный промпт. Урезайте то, что агент не использует в текущей задаче.
- Сократите число шагов в цепочке. Лишний шаг — это ещё один полный проход с контекстом.
- Ограничьте fan-out — сколько параллельных веток запускает один агент.
Четыре небольших сокращения дают больше, чем одно героическое. Это следствие умножения: проценты складываются в общий результат.
Живой пример: как я считал запуски
У меня был агент, который раз в 15 минут проверял почту и складывал письма в таблицу. Я думал, что он почти ничего не делает. Открыл лог запусков — и увидел ровно 672 записи за неделю. Каждая с полным контекстом переписки. Пул кончился к четвергу, а я не понимал почему.
Сначала я попробовал урезать контекст. Стало легче, но не сильно. Потом заменил расписание на вебхук от почтового сервиса. Агент просыпался только когда приходило письмо. Запусков стало в разы меньше, а работа та же. Споткнулся на тестовых прогонах: они тоже жгли лимит, и я не сразу это заметил. Пришлось отключить автотесты на время отладки. В итоге расход упал, но я так и не узнал точную цифру — в интерфейсе нет разбивки по ботам. Если бы начинал сегодня, первым делом поставил бы счётчик запусков, а уже потом трогал настройки.
Типичные ошибки и ограничения метода
Главная ошибка — оптимизировать один множитель, не глядя на остальные. Урезали контекст, а fan-out вырос — расход тот же.
Вторая — верить, что предупреждение придёт заранее. В GrokBot его нет: пул общий, разбивки по инструментам нет. Третья — забыть про тестовые прогоны. Они считаются как обычные.
Ограничение метода: он работает на уровне архитектуры агента, а не модели. Если вы арендуете чужой сервис, где нельзя менять расписание и триггеры, советы из PDF бесполезны. Для локальных сценариев смотрите как запустить ИИ-агента на своём устройстве и как автоматизировать работу ИИ-агента в фоне.
Частые вопросы
Поможет ли простое уменьшение контекста? Да, но частично. Без смены расписания на триггеры и сокращения шагов эффект будет скромным.
Можно ли отследить, какой инструмент съел лимит? В GrokBot — нет, пул общий. Считайте запуски вручную по логам.
Что делать, если задача всё равно требует частых запусков? Оставьте расписание, но увеличьте интервал и сократите контекст. Проверяйте результат по числу запусков, а не на глаз.
Больше разборов по ИИ и автоматизации — в канале: @il_chum