Свой AI-агент из почты, systemd и LLM

Значимый прорыв формирует отрасль ИИ: 3draven 1 час назад Свой AI-агент из почты, systemd и LLM Средний 22 мин 2. 5K *nix * IT-инфраструктура * Искусственный интеллект Машинное обучение * Настройка Linux * Обзор В прошлых статьях я строил домашнее облако на Proxmox. Теперь внутри него живёт кое-что поинтереснее — полностью автономный AI-агент, которого я могу пнуть письмом из обычного почтового клиента или сообщением в Telegram, и он ответит, подумав.

Причём подумав по-настоящему: с многошаговым рассуждением, долговременной памятью и возможностью выполнять команды. Зовут его Threlium, и устроен он чертовски необычно и просто, например может модифицировать сам себя. Зачем, почему и что получилось — расскажу ниже.

Технические детали

Зачем свой агентВсе облачные LLM-ассистенты — чужие. Данные уходят на сервера провайдера, контекст ограничен одним окном чата, настоящей долговременной памяти можно сказать нет, есть чат-сессия. При этом умные модели уже бегают локально на средненьком GPU: Qwen, Llama, Mistral.

Возникает вопрос: а нельзя ли собрать агента, который будет жить на моём сервере, работать с моими данными и при этом иметь настоящий цикл рассуждений — не просто «спросил → ответил», а полноценный конечный автомат с ветвлениями, памятью и инструментами Причем хочется что бы кода в нем было, почти не было по сравнению с аналогами и он мог править сам себя или легко отлаживаться. Причём из довольно простых Unix-кирпичиков. Что дает ниже описанный походМало кода, если выкинуть клеекод и типизацию (модуль types), то останется примерно 6к строк пайтон скриптов.

У аналогов примерно то же быстро становится сотнями тысяч строк. Наблюдаемость, вся работа агента сразу видна и никаких инфраструктур для отслеживания его работы просто не нужно. Простота конструкции, это просто набор конфигов и немного скриптов.

Отраслевые последствия

В качестве инсталлятора ansible playbook. Минимальное потребление ресурсов, агент влезет на самую дешевую VPS. Агент может править себя.

Вся эта конструкция не требует инфраструктуры вовсе, никаких сложных миллионов контейнеров, мониторинг вытекает из ее свойств, отлаживать проблемы этой штуки очень легко. Достаточно дать ssh на сервер агенту и показать папку где отлаживаемый агент развернут, наблюдаемость у системы просто отличная. Философия: событие = письмоСамое неожиданное архитектурное решение Threlium — в его основе лежит электронная почта.

Не как транспорт «для связи с пользователем», а как фундаментальная модель данных. Любое событие в системе — это RFC 5322 сообщение. Буквально MIME-файл с заголовками и телом.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.