Почему мы запретили AI-менеджеру писать код и поручили это Claude Opus

В сфере искусственного интеллекта произошло заметное событие. Haimi 29 минут назад Краткое содержание статьи Почему мы запретили AI-менеджеру писать код и поручили это Claude Opus Средний 6 мин 789 Программирование * Управление e-commerce * Python * Информационная безопасность * Кейс Мы уже рассказывали, как собрали AI-менеджера маркетплейсов на регулярках, пересадили его на агента и тут же обложили ограничениями, а потом удалили этого агента и написали заново: весь API Wildberries одним инструментом, интернет и ни одного нашего лимита. Мы обещали поделиться тем, что увидели дальше. Копать агент стал глубоко.

Но быстро выяснилось, что доступ ко всему API ещё не делает его менеджером. Ниже — почему рядом с ним появился второй агент на другой модели, почему именно ему мы разрешили писать код и почему первому это запретили. Доступ есть, а посчитать нечемПлощадка отдаёт сырые данные: заказы, цены, остатки, отчёт о реализации.

Технические детали

Владельцу нужно другое. Какая маржа останется, если зайти в акцию. Когда кончится товар и пора ли везти поставку.

Какие карточки чинить первыми. Ни одного из этих ответов в API нет. Вот что происходило, когда владелец спрашивал, какие товары брать в акцию.

Агент находил в справке нужные методы, забирал акции, цены и себестоимость и собирал расчёт прямо в разговоре. Ответ выглядел убедительно. Только у этого подхода три проблемы:Расчёт каждый раз новый.

Отраслевые последствия

Сегодня агент посчитал маржу одним способом, завтра другим. Цифры на один и тот же вопрос могли расходиться. Его нельзя проверить.

Расчёт живёт внутри разговора. Тест на него не напишешь: завтра его уже не будет. Каждый раз всё сначала.

Удачные вызовы API мы к тому времени запоминали, но вызов — это только половина дела. Логику расчёта агент всё равно собирал заново. Получается, мы решали не ту задачу.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.