LLM Sandbox: изолированная среда для исполнения кода от LLM

Значимый прорыв формирует отрасль ИИ: В большинстве бизнес-сценариев LLM перестала быть просто чат-ботом. Современные модели становятся частью агентских систем: у них есть инструменты, доступ к файлам, терминалу, браузеру, базам данных. Они не только отвечают на вопросы, но и выполняют действия.

В этой статье (ее первой части) разберём среду изолированного исполнения кода: песочницу (sandbox). Представим ситуацию: пользователь загружает Excel-файл, просит проанализировать таблицу, найти аномалии и на основе анализа создать PowerPoint-презентацию. В чистом виде LLM не умеет читать файлы, строить графики и создавать презентации.

Технические детали

Однако может написать код, который всё это сделает. И тут появляется вопрос: где этот код запускать? Генерируемый агентом код может быть ошибочным или, в случае с промпт инъекцией, намеренно опасным.

Поэтому для безопасного исполнения кода агенту нужна песочница или изолированная среда. В этой статье разберём:- основные риски исполнения кода в неизолированной среде;- что такое песочница и её ограничения;- какие бывают подходы к реализации песочницы;- вариант логики работы агента с песочницей.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.