Kubernetes без границ: Managed Kubernetes как вычислительный центр для ИИ

Значимый прорыв формирует отрасль ИИ: npoxopob 25 минут назад Kubernetes без границ: Managed Kubernetes как вычислительный центр для ИИ 7 мин 782 Блог компании VK Tech Блог компании VK Kubernetes * Машинное обучение * Искусственный интеллект Эволюция искусственного интеллекта дошла до стадии, когда загрузка весов нейросети из открытого репозитория сводится к нескольким кликам, тогда как внедрение алгоритма в продуктовый контур оборачивается многомесячным квестом. Отчасти подобный разрыв объясняется тем, что традиционная инфраструктура недостаточно гибкая и адаптивная для работы в условиях, где каждая минута простоя конвертируется в упущенную выгоду. Именно это противоречие стало катализатором перехода на принципиально новые платформы.

Меня зовут Александр Прохоров. Я эксперт команды разработки Developer Productivity в VK Cloud. В статье расскажу, почему классическая инфраструктура тормозила развитие ИИ-проектов и какой подход к управлению вычислительными ресурсами стал ответом на эти вызовы.

Технические детали

Эволюция инфраструктурыЗа последние десять лет инфраструктура для ИИ значительно преобразовалась:До 2019 года всё строилось на bare metal и виртуальных машинах. Соответственно, требовались выделенные GPU-серверы, ручная настройка драйверов CUDA, а также предполагалось статическое распределение ресурсов. Чтобы масштабироваться, нужно было закупать физическое оборудование — и от заявки до готовой среды проходили недели.

С 2020 года пришли контейнеры и ранний Kubernetes. Появился GPU device plugin, NVIDIA GPU Operator, первые попытки оркестрации. Но scheduling всё ещё во многом настраивался руками, а отладка GPU-задач оставалась болезненной.

Но сегодня фактически начинается эпоха Cloud-Native AI, которая предполагает использование managed-кластеров с GPU из коробки, автомасштабирование GPU-нод, технологий разделения карт — MIG, vGPU, time-slicing, S3-CSI для огромных датасетов. По сути — Zero-Ops для ML-платформ. И переход к новому типу ИИ-инфраструктуры имеет конкретные предпосылки.

Отраслевые последствия

О них чуть детальнее. Нюансы традиционной ИИ-инфраструктуры Классический подход к GPU-инфраструктуре создавался в эпоху предсказуемых HPC-задач с фиксированными ресурсами. Но в условиях современных ИИ-нагрузок проявляются определенные недостатки привычной модели:Медленный Time-to-GPU.

Использование традиционной инфраструктуры предполагает недели ожидания оборудования под каждый новый проект. Для ИИ, где скорость экспериментов критична, это убийственно. Расточительное использование GPU.

Без возможности разделения ресурсов дорогие карты простаивают до 70% времени, что нерационально и не позволяет задействовать весь потенциал имеющегося оборудования. Разрозненный стек инструментов. Обучение и инференс нередко соединяются хрупкими ручными интеграциями, что может оказаться критично и сказаться на точности работы нейросети.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.