Как установить OpenJarvis: разворачиваем локального ИИ-агента

Значимый прорыв формирует отрасль ИИ: Flampanzer 14 минут назад Как установить OpenJarvis: разворачиваем локального ИИ-агента 7 мин 658 Блог компании Selectel Облачные сервисы * Искусственный интеллект Серверное администрирование * Программирование * Гений, миллиардер, плейбой, филантроп — цитата из «Железного человека», которую знают все. И полетать в железном костюме, конечно, тоже все хотели. Но раз уж собрать его на коленке в гараже не получится (а попытки были), можно начать с малого — настроить умного помощника, который управлял мастерской, да и этой броней.

Команда из Стэнфорда как раз выпустила OpenJarvis — открытый фреймворк для создания персональных ИИ-агентов. Давайте посмотрим, как его развернуть на собственной инфраструктуре и действительно ли проект оправдывает свое название. Что там по цифрамКак я уже сказал, OpenJarvis — фреймворк от Стенфордских исследователей, предназначенный для создания локальных персональных ИИ-агентов.

Технические детали

Университет проверил работу более чем на 20 моделях на 8 ускорителях. Результаты показали: локальный софт успешно закрывает более 88,7% обычных запросов пользователей. При этом за последние годы эффективность работы моделей на своем железе выросла в 5,3 раза.

Если раньше локально удавалось обработать только 23,2% задач, то теперь эта цифра дошла до 71,3%. Статистика подтверждает: современные модели вполне созрели для того, чтобы отказаться от платных и небезопасных API. OpenJarvis как раз берет на себя техническую часть по развертыванию приватного ассистента.

Архитектура Архитектура OpenJarvis модульна, и состоит из пяти примитивов. Архитектура OpenJarvis. Agents — логика поведения агентов.

Отраслевые последствия

Определяет, как именно агент реагирует на запросы. Общение разделяется по ролям с собственным поведением и стратегией. Tools and Memory — хранений знаний и интеграция.

Примитив отвечает за подключение к данным и функциям. Learning — обучаемость моделей. Собранные логи и трейсы используются для дообучения и оптимизации.

Intelligence — каталог языковых моделей. Отвечает за выбор и настройку языковых моделей. Каталог моделей хранится с метаданными (требования к памяти, размеры параметров) и хранит конфигурацию выбранной модели.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.