Как экономить токены AI‑агентов при работе с кодовой базой: 5 универсальных паттернов

Значимый прорыв формирует отрасль ИИ: Sergo_34 49 минут назад Объяснить с Как экономить токены AI‑агентов при работе с кодовой базой: 5 универсальных паттернов Простой 10 мин 2. 5K Искусственный интеллект Мнение Из песочницы AI‑агенты всё глубже входят в обычный процесс разработки. Они уже не только генерируют отдельные функции, но и исследуют существующие проекты, ищут нужные файлы, анализируют архитектуру, запускают тесты и проверяют результат.

Причём это касается практически любой разработки. И здесь на достаточно большой кодовой базе быстро появляется проблема: расход токенов начинает расти гораздо быстрее, чем объём написанного кода. Причина в том, что значительная часть токенов расходуется ещё до написания первой строчки кода.

Технические детали

Даже перед небольшим изменением агенту может потребоваться изучить структуру репозитория, найти нужный сервис и похожую реализацию, прочитать проектную документацию, разобраться с принятыми conventions и посмотреть, как устроены тесты. А при следующей задаче часть этого исследования может повториться снова. На небольшом проекте это практически незаметно.

Но чем больше репозиторий, тем дороже становится исследование системы агентом. Можно попробовать дать весь контекст сразу, скормить агенту всю документацию или использовать более дешёвую модель. Все это дает либо небольшой эффект, либо переносит расход токенов в другое место.

Гораздо интереснее посмотреть на расход токенов как на задачу управления контекстом. Если агенту заранее понятно, где находится нужная информация, какие правила относятся именно к текущей задаче и какие реализации считаются эталонными, ему не приходится каждый раз исследовать значительную часть проекта. И здесь начинают работать хорошо знакомые разработчикам принципы: lazy loading, локальность данных, кэширование, разделение ответственности и удаление устаревшей информации.

Отраслевые последствия

Только применяем мы их не к приложению, а к контексту AI‑агента. Давайте рассмотрим пять паттернов, которые помогут это сделать. Minimize Permanent Context — минимизируйте постоянный контекстПервая попытка помочь AI‑агенту обычно выглядит примерно одинаково.

md или другой файл с инструкциями и начинаем складывать туда всё больше проектных знаний. Сначала там появляется общая архитектура и структура репозитория. Затем — правила написания кода и conventions отдельных сервисов.

Потом добавляются особенности работы с базой данных, тестированием, CI/CD и внешними интеграциями. Каждая такая инструкция сама по себе полезна. Проблема появляется тогда, когда весь этот набор знаний становится постоянным контекстом.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.