LLM Sandbox: пример реализации агента с песочницей

Значимый прорыв формирует отрасль ИИ: chasing_nlp 3 минуты назад LLM Sandbox: пример реализации агента с песочницей Средний 8 мин 28 Искусственный интеллект Natural Language Processing * Информационная безопасность * Машинное обучение * DevOps * Туториал ВведениеСтатья посвящена практической реализации агента с изолированной средой исполнения кода. Рассказываю как устроен агент, который пишет и исполняет код в Docker песочнице. Это вторая часть серии про LLM Sandbox.

В первой части мы разобрали риски исполнения кода от LLM, ограничения песочницы, способы изоляции (Docker, Wasm, gVisor, microVM) и минимальную архитектуру агент+песочница. Код реализации агента, skills, полные логи и артефакты примера — в открытом GitHub-репозитории. Пара слов обо мнеМеня зовут Евгений.

Технические детали

Я разработчик и лид ML-команды. На работе и в свободное время занимаюсь проектами, связанными с агентами, LLM и обработкой естественного языка в целом. В своём тг-канале делюсь практическим опытом и рассказываю про техническую часть AI и ML.

Ссылка на пост-навигатор канала. Реализация агента с песочницейВ этом разделе посмотрим как агент реализован в репозитории: оркестратор, субагенты, skills и Docker Sandbox. Архитектура агентаЕсли кратко, агент работает так:Получает задачу от пользователя.

С помощью инструментов выполняет планирование и составляет набор подзадач. Назначает их субагентам. Субагент пишет код для решения подзадачи и исполняет его в песочнице.

Отраслевые последствия

После выполнения подзадачи обновляется список задач. Артефакты, полученные в песочнице, сохраняются, а выходные файлы показываются в интерфейсе и доступны для скачивания. На финальном этапе оркестратор агрегирует решение всех подзадач и артефакты.

Выдаёт пользователю ответ. Основной паттерн работы агента - гибрид ReAct + Plan-Execute. Основной фреймворк - LangGraph.

Посмотрим подробнее на ключевые блоки. Содержимое агентаОркестратор — мозг агента. Обрабатывает запрос пользователя, планирует решение задачи, включая декомпозицию, выдаёт задачи субагентам и синтезирует финальный ответ.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.