Чем больше автономии у агента, тем хуже: разбор истории про 81% принятых AI-пул-реквестов

Значимый прорыв формирует отрасль ИИ: levashove 14 минут назад Чем больше автономии у агента, тем хуже: разбор истории про 81% принятых AI-пул-реквестов 6 мин 413 Искусственный интеллект Машинное обучение * Контент и копирайтинг * Мнение В блоге CNCF вышел текст Энди Андерсона, мейнтейнера KubeStellar Console. Он почти в одиночку с помощью двух кодинг-агентов в параллельных сессиях терминала собрал дашборд для управления мультикластерами Kubernetes и довёл принятие пул-реквестов до 81%. Цифра вынесена в заголовок, и именно поэтому я хочу поговорить про всё кроме неё.

Потому что 81% — это приманка. А интересна там механика, которая к этой цифре привела. И ещё интереснее проблемы, которые автор честно проговаривает.

Технические детали

чистая абстракцияСразу замечание: я всё-таки не разработчик, хоть и в ИТ очень давно, поэтому старался не влезать в дебри, которые могу понимать не до конца. Но, надеюсь, моих знаний было достаточно, чтобы перевести и разобрать для вас этот материал. Узнаваемая драматургияПервые две недели у Андерсона были эйфорией: код выходил быстрее, чем он успевал читать, трёхдневные задачи закрывались за два часа.

Сборки ломались так, что причину не отследить. Вчерашние архитектурные решения тихо переписывались. Объём задач увеличивался сам собой.

И главная проблема — каскад ошибок: чинишь одно, ломаются три. В какой-то момент откаты стали занимать больше времени, чем ревью, и он решил перепридумать весь подход. Кажется, что от «гениально» до «я трачу на исправление ошибок больше времени, чем сэкономил» — путь короткий и, судя по всему, универсальный.

Отраслевые последствия

Ценность статьи в том, что она не заканчивается на этой фрустрации, а объясняет, почему обычный рецепт выхода из неё не работает. Рычаг работает в обратную сторонуСтандартный совет индустрии в этой точке: дайте агенту больше автономии. Пусть работает дольше, трогает больше файлов, сам себя исправляет.

Андерсон говорит ровно обратное: по его опыту этот сценарий только усугубляет проблему. И дальше, на мой взгляд, самая ценная мысль во всём тексте:Интеллект в кодовой базе с AI-ассистированием живёт не столько в модели, сколько в петлях обратной связи, которыми оборачивается кодовая база. Из этого такой вывод: чтобы агент делал больше, не модель должна стать умнее, а среда вокруг неё должна давать больше сигналов для контроля и улучшения.

Автономия без сигналов — это не ускорение, это разгон в тумане. Под «петлёй» имеется в виду контур обратной связи — замкнутый цикл, где результат работы агента кто-то или что-то измеряет, и это измерение возвращается обратно и меняет поведение системы. Не «модель стала умнее», а «вокруг модели крутится цикл: сделал → измерили → подправили → снова сделал».

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.