Локальный ИИ на «древнем» железе: выжимаем максимум из AMD RX 580 через Vulkan в Fedora (Llama 3.1, DeepSeek, Qwen 3.5)

В сфере искусственного интеллекта произошло заметное событие. Aleks_Koh 10 минут назад Локальный ИИ на «древнем» железе: выжимаем максимум из AMD RX 580 через Vulkan в Fedora (Llama 3. 5) Средний 6 мин 284 Искусственный интеллект Linux * Системное администрирование * Старое железо Open source * Кейс Из песочницы Я решил проверить, на что способен мой старый компьютер с Radeon RX 580 под управлением Fedora. В этой статье я пошагово разберу, как завести современный ИИ-стек (Ollama, n8n, Open WebUI) через Vulkan без боли с ROCm, и почему 15-35 токенов в секунду на железе 2017 года — это реальность, доступная каждому.

Мой компьютер у меня с 2018 года. Fedora я использую в качестве своей единственной системы уже более 5 лет. Поэтому для меня она не является результатом долгих сравнений дистрибутивов специально под ИИ, а проверенная годами рабочая лошадка.

Технические детали

Когда в этом году я решил развернуть локальную ИИ-станцию, вопрос выбора ОС не стоял. Однако Fedora подкинула свои вызовы: Podman вместо Docker, работа с SELinux и нативная поддержка Vulkan для моей видеокарты AMD. В этой статье я покажу, как я интегрировал современный ИИ-стек в стабильную систему, не превращая её в полигон для экспериментов.

Vulkan против ROCm в FedoraБольшинство руководств по запуску локальных LLM на картах AMD, найденных мной, сводятся к установке ROCm и использованию видеокарт начиная с 5000-ой серии. Для владельцев «народной» Radeon RX 580 (Polaris) в среде Fedora это путь в никуда: официальная поддержка этого поколения в последней версии ROCm прекращена. Альтернатива — Vulkan.

Благодаря свежим драйверам Mesa, можно запустить Ollama используя Vulkan-раннер . Mesa (Free) из RPM FusionЯ использую Mesa из репозитория RPM Fusion. Благодря чему, Vulkan-инференс задействует все возможности моей RX 580.

Отраслевые последствия

Следующими командами я заменил стандартные драйверы Mesa из репозиториев Fedora на версии с поддержкой аппаратного ускорения (freeworld) из репозитория RPM Fusion:sudo dnf swap mesa-va-drivers mesa-va-drivers-freeworld sudo dnf swap mesa-vdpau-drivers mesa-vdpau-drivers-freeworld sudo dnf install mesa-vulkan-drivers. x86_64 vulkan-tools libdrm-amdgpuПосле чего проверил использование видеокарты для ускорения Vulkan. Подтверждение доступности GPU через Vulkan-драйвер RADVVulkan в OllamaСледующими командами я установил Ollama нативно с официального сайта и отредактировал файл сервиса для работы с Vulkan:curl -fsSL | sh sudo systemctl edit ollama.

serviceВ открывшемся файле я прописал переменную для запуска Ollama с использованием Vulkan: Environment="OLLAMA_VULKAN=1"Следующими командами я перезапустил Ollama:sudo systemctl daemon-reload && sudo systemctl restart ollamaЛоги OllamaПосле перезапуска сервиса критически важно убедиться, что Ollama корректно инициализировала Vulkan-раннер и «увидела» видеокарту. В Fedora (systemd-дистрибутиве) основным инструментом диагностики является journalctl.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.