Создание кластер-осведомлённого ИИ-агента с Kubernetes, Argo CD и GitOps

В сфере искусственного интеллекта произошло заметное событие. GRADDATA только что Создание кластер-осведомлённого ИИ-агента с Kubernetes, Argo CD и GitOps Средний 7 мин 6 Блог компании VK Tech Kubernetes * DevOps * Управление разработкой * Машинное обучение * Ретроспектива Перевод Автор оригинала: Maryam Tavakkoli, CNCF Команда VK Cloud перевела разбор запуска self-hosted (размещаемого на собственных мощностях), read-only ИИ-агента внутри кластера Kubernetes, где всю цепочку CI/CD обслуживают GitHub Actions и Argo CD Image Updater. Никакие данные не покидают кластер, облачные ИИ-провайдеры не задействованы. Почему кластер-осведомлённый агент — интересный паттернБольшинство сегодняшних инструментов «ИИ для Kubernetes» — это размещённый SaaS, который забирает данные кластера и возвращает советы.

Модель живёт где-то ещё. Данные покидают сеть. Эта статья разбирает противоположный дизайн: агент работает внутри кластера, наблюдает живое состояние через API Kubernetes и рассуждает с помощью локальной LLM.

Технические детали

Каждый слой виден, каждый набор учётных данных ограничен по области действия, а единственный исходящий сетевой трафик — загрузка модели при запуске. Чем этот паттерн интересен платформенным инженерам:СвойствоЧто даётКластер-осведомлённостьАгент читает живые поды, события и логи и рассуждает о реальном состоянии, а не об общих фактах про Kubernetes. Read-only by designВыделенный ServiceAccount + ClusterRole только с глаголами get/list.

Агент наблюдает, но не меняет кластер — что бы ни выдала модель. Просто ещё одна нагрузка K8sАгент — это Deployment + Service + PersistentVolumeClaim. Никакого специального рантайма, оператора или кастомного планировщика.

Полный GitOpsПромпты, выбор модели и RBAC живут в Git. Argo CD согласует их. Поведение агента проверяется через git log.

Отраслевые последствия

Исходный код: github. com/MaryamTavakkoli/local-k8s-ai-agentLLM против ИИ-агента: важное различиеLarge Language Model (большая языковая модель) отвечает только из обучающих данных. Она не знает среду, в которую развёрнута.

Агент в том смысле, который используется здесь, выполняет дополнительный шаг перед рассуждением: он наблюдает реальный мир и включает это наблюдение в промпт. Графика: LLM в одиночку против ИИ-агентаРазница в выводе конкретна. Обычный вызов LLM возвращает «CrashLoopBackOff обычно означает, что контейнер не проходит health-проверки или неожиданно завершается…» Вызов агента возвращает «Pod api-7b8d перезапускался 14 раз за последний час с ImagePullBackOff против registry.

Запустите kubectl describe pod api-7b8d, чтобы подтвердить. »Второй ответ конкретен и опирается на факты. Первый корректен, но к этому кластеру неприменим.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.