Топ-5 проблем, с которыми я столкнулся при разработке AI-агентов

Вот важная новость с фронта ИИ: RomanOpenclaw 1 минуту назад Топ-5 проблем, с которыми я столкнулся при разработке AI-агентов 9 мин 0 Искусственный интеллект Кейс Когда я начал делать агентов под разные задачи внутри компании, я довольно быстро понял что задача не сводится просто к хорошему промпту. Промпт важен, но он закрывает только верхний слой, а дальше начинается обычная инженерная работа - контекст, память, доступы, инструменты, состояние, git, фоновые задачи и т. И если это не проектировать отдельно, агент может нормально справиться с короткой задачей, но начать сыпаться на длинной работе.

Я собрал 5 ошибок/проблем, которые чаще всего били по качеству, стоимости и устойчивости системы. Не как универсальную методологию и не как попытку кого-то учить, а скорее как заметки, которые могут кому то пригодится, да и просто хочется их зафиксировать. Не проектировать память и контекст как отдельную подсистемуПервая большая проблема появилась не сразу.

Технические детали

Пока задачи были короткими, все было нормально - агент получил вводные, прочитал пару файлов, сходил в браузер, подготовил результат. Но чем больше становилось задач, тем заметнее контекст превращался в свалку. В одном месте оставались длинные shell-логи, в другом полные снимки браузера, в третьем история диагностики, которая уже не имела отношения к текущей задаче.

Формально все это могло быть полезно, поэтому система продолжала тащить этот хвост за собой. Но в итоге происходили две неприятные вещи:важные решения и правила терялись среди мусора;фоновые задачи начинали стоить слишком дорого просто потому, что каждый раз стартовали с раздутым контекстом. Самый показательный пример был с cron-сессиями.

В каждую изолированную фоновую задачу попадал почти полный список доступных инструментов - больше двухсот штук. Это давало около 50 тысяч токенов на один запуск еще до реальной работы. Потом всплыл другой симптом.

Отраслевые последствия

Обычный вопрос вроде “сколько потратили токенов? ” запускал живой анализ десятков сессий на дорогой модели и стоил около 1,35 миллиона токенов за один ответ. После этого стало понятно, что память нельзя воспринимать как одну большую коробку, куда складывается все подряд.

Нужна отдельная настроенная схема - что хранить, что сжимать, что выносить в файл, а что вообще не тащить дальше. И по итогу я пришел к более простой и понятной структуре:сырые ежедневные заметки уходят в daily notes;долгосрочные правила и выводы попадают в курируемую память;перед ответами по прошлым решениям агент ищет нужные фрагменты через semantic search, а не перечитывает все подряд;тяжелые фоновые отчеты заранее готовятся дешевой моделью в markdown-файлы;основная сессия читает уже готовый результат, а не каждый раз поднимает аналитику с нуля. Отдельно пришлось ограничить инструменты для фоновых задач.

Если healthcheck нужен только для пары действий, ему не нужен доступ к двум сотням инструментов.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.