Harness, Да пребудет с тобой JavaScript

Вот важная новость с фронта ИИ: StasCh 24 минуты назад Harness, Да пребудет с тобой JavaScript Средний 18 мин 917 Машинное обучение * Python * Искусственный интеллект Языковая модель (LLM) умеет одно: продолжать текст. Задали вопрос - она дописала ответ. AI-агент появляется, когда вокруг модели собирают обвязку (harness) - модель просит что-то вызвать, а harness берёт вызов на себя.

Может спросить подтверждение у человека, может отсечь действие защитными правилами (guardrails). Мощность этой обвязки часто важнее, чем кажется. Системные инструкции, память, цикл вызовов и набор встроенных инструментов (tools) меняют и то, что агент реально умеет, и качество результата.

Технические детали

Есть исследования, где на одних и тех же моделях смена harness ведет к улучшению результата. Cursor или OpenRouter иногда обходят родной harness Anthropic на его же моделях. Отсюда же разрыв между ценой подписки и ценой API.

Важная часть агента - доступные ему инструменты. Они живут рядом с агентом или приезжают с MCP-сервера. Нужное действие - отдельный инструмент.

Поиск по CRM - search_customer, отправка письма - send_email. MCP сделал такую интеграцию переносимой, т. владелец сервиса публикует инструменты, а владелец агента подключает его, не влезая во внутренности реализации.

Отраслевые последствия

Сценарии для моделей становятся все сложнее, количество вызовов tools все больше, цепочки вызовов tools становятся длиннее, но это не бесплатно - каждый вызов tools - это история из запроса и ответа в контексте модели, каждый раз на все это модель смотрит и решает, что с этим делать, и сложность принятия решения увеличивается по мере увеличения контекста. При этом, с точки зрения классического IT, часть логики вообще примитивная, и с ней справился самый простой скрипт лучше, быстрее и дешевле. Очевидное решение - дать модели писать нужный ей код, заменяющий часть размышлений, и выполнять его.

В общем виде для инженеров это звучит страшновато, ведь модель может написать и запустить то, что вам бы очень не хотелось никогда запускать на вашем компьютере/сервере: удаление важных файлов, отправка конфиденциальных данных в интернет и т. Это может быть из-за ошибки модели, вольной интерпретации просьбы (человек сказал удали это, но модель поняла по-своему, что значит это), внедрения инструкций через prompt injection со страницы или из документа, который модель только что прочитала. Поэтому перед тем, как дать модели запускать производный код, приходится тратить время и ресурсы на изолированную песочницу (sandbox).

В LangChain для этого есть внешние провайдеры - код уезжает на их серверы, где изолированно запускается. Есть возможность вынести sandbox в отдельные Docker-контейнеры, где доступ к интернету или хосту вы настроили как требуется вам. Есть более «виртуальные» песочницы на вашей машине - они спрашивают подтверждение у человека на подозрительные действия, но по факту это часто перекладывание ответственности.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.