89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть

Значимый прорыв формирует отрасль ИИ: blyss 14 минут назад 89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть Средний 4 мин 502 Node. JS * Искусственный интеллект TypeScript * Open source * Ненормальное программирование * Аналитика Из песочницы Я много работаю с кодинг‑агентами в Claude Code.

В какой‑то момент поймал себя на том, что не представляю, на что уходят токены. Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту, которая читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям.

Технические детали

То, что она показала, мне не понравилось. Вывод ledgent report ‑redactВывод ledgent report ‑redact (имена проектов скрыты). Почти весь счёт — cache read и cache write, на output уходит 9%.

Почти 89 процентов моих расходов это не работа модели над задачей, а перечитывание и перезапись закэшированного контекста. На саму генерацию ответов уходит около 9 процентов. Дальше расскажу, как это считается, почему я дважды переписывал самую заметную часть отчёта и как чуть не завысил себе счёт втрое.

Что лежит на дискеClaude Code сохраняет каждую сессию в JSONL внутри ~/. Это полный лог диалога, и у каждого ответа ассистента есть поле usage с разбивкой токенов. Токены там лежат не одной кучей, а пятью раздельными группами, и у каждой своя цена относительно обычного входа:группаценачто этоfresh inputбазоваяновый, не закэшированный вводcache read0.

Отраслевые последствия

1 от базовойчтение из кэшаcache write 5m1. 25запись пятиминутного кэшаcache write 1h2. 0запись часового кэшаoutputсвоя ставкасгенерированные токеныУтилита берёт эти счётчики, умножает на ставки моделей и складывает.

Обращений к API нет: данные уже на диске, наружу ничего не уходит. Чтение кэша стоит в десять раз дешевле свежего входа. Но когда агент за сессию прокачивает через кэш сотни тысяч токенов помногу раз, дешёвое умножается на большое.

Отсюда и 89 процентов. Как я чуть не завысил себе счёт втроеПервую версию ставок я вписал по памяти. Поставил Opus как 15 и 75 долларов за миллион токенов, потому что так было раньше.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.