Из чего состоит GPU-кластер: обзор серверов с L40S, A16 и AMD EPYC на платформе mClouds

В сфере искусственного интеллекта произошло заметное событие. mClouds_editor 2 минуты назад Из чего состоит GPU-кластер: обзор серверов с L40S, A16 и AMD EPYC на платформе mClouds 4 мин 9 Блог компании mClouds. ru Серверное администрирование * IT-инфраструктура * Системное администрирование * Компьютерное железо Обзор Привет, Хабр! Мы облачный провайдер mClouds, и у нас работает GPU-платформа с видеокартами NVIDIA L40S , A16 и другими.

Задействуется для задач AI-разработки, CAD-проектирования, VDI и часто - 1С. Решили показать, как это устроено изнутри: какое железо используем, как устроены внутри конфигурации этих серверов и какие задачи они закрывают. Прямо из ЦОДа — фотографии серверов с L40S и A16, спецификации, данные по энергопотреблению.

Технические детали

Покажем что "под капотом" облачной платформы. Dell R7625 в деле: 2 карты под разные задачиВсе наши серверы в облачной платформе - это решения Dell. Покажем на примере двух типовых конфигураций, оснащенных GPU.

Используем серверы Dell PowerEdge R7625 — 2U-системы с процессорами AMD EPYC 9374F. На каждый сервер установлено по две GPU — либо L40S, либо A16. Есть еще и конфигурации с NVIDIA L4, но их покажем в следующих обзорах, уже на хостах Dell R7725, которые мы добавили в 2026 году.

Наш сервер Dell PowerEdge R7625 собран в GPU конфигурации NVIDIA L40S. Универсальная карта на архитектуре Ada Lovelace с 48 ГБ GDDR6 и 18 176 ядрами CUDA. Часто используется для инференса небольших и средних языковых моделей, дообучения нейросетей, обработки видео и 3D-рендеринга.

Отраслевые последствия

Еще полезное свойство - поддерживает vGPU профили и иногда используется для работы с VDI, когда видеокарту надо шустрее и пошарить на нескольких пользователей. Двойной ширины и с энергопотреблением до 350 Вт по даташиту, но в реальной работе часто меньше. L40S Установлена в райзер и готова к монтажуNVIDIA A16.

Эта карта заточена под VDI-сценарии, часто востребована для работы с CAD и BIM, но для типовых рабочих мест тоже востребована, особенно если хочется проводить ВКС часто. На одной плате размещены четыре независимых GPU, каждый с 16 ГБ GDDR6. Суммарно это 64 ГБ видеопамяти и 5120 CUDA-ядер на карту.

Ключевое преимущество — vGPU профили: ресурсы A16 можно делить на профили от 1 до 16 ГБ и подбирать конфигурацию под конкретную задачу. Но 1GB уже редко используется, типовые сегодня от 2 до 4 GB. Потребляет до 250 Ватт на карту.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.