Компиляция yolov8n в формат HEF для Hailo-8L на Raspberry Pi 5

Значимый прорыв формирует отрасль ИИ: oleglcb 25 минут назад Компиляция yolov8n в формат HEF для Hailo-8L на Raspberry Pi 5 Простой 7 мин 1. 2K Python * Raspberry Pi * Linux * Искусственный интеллект Кейс Из песочницы ВведениеУже некоторое время увлекаюсь машинным обучением и нейросетями. В какой‑то момент стало интересно снабдить имеющуюся Raspberry Pi 5 нейрочипом, который берет на себя нагрузку по работе с нейронными моделями.

В качестве первого экземпляра для тренировки и опытов был приобретен модуль Pi AI Hat+ с чипом Hailo-8L на борту. Данная версия является младшей в линейке и характеризуется производтельностью 13 TOPS. На следующем по рангу модуле стоит уже чип Hailo-8 с 26 TOPS.

Технические детали

Подробнее про разновидности, характеристики и первичные настройки можно прочитать тут. Но дело в том, что просто так модельки запустить на этом чипе не получится, так как он не принимает стандартные экспорты типа onnx. Чипу нужен свой бинарник hef, который можно скомпилировать специальным ПО.

Называется оно Hailo DataFlow Compiler (DFC). Скачать его можно с фирменного сайта Hailo, предварительно там зарегистрировавшись. К слову, DFC работает только на Linux, версии для Win нету.

Для компиляции моделей само железо (Raspberry Pi) не обязательно, а скорее будет не очень подходяще, так как медленное. Процесс ресурсоемкий, поэтому лучше делать это на ПК с Ubuntu, в моем случае 24. Установки DFC оказалось мало, при попытке двумя кликами скомпилировать нужный файл столкнулся с проблемами, чтобы решить которые пришлось покопаться.

Отраслевые последствия

Собственно, чтобы самому не забыть в будущем (и можно было подсмотреть) и заодно чтобы следующим путникам было проще, решил написать статью. Пишу от руки, без ИИ, и если что, то нужно «понять и простить». Итак, в этой статье мы разберем, как взять готовую модель (например, YOLO), оптимизировать ее и скомпилировать в проприетарный формат .

hef для запуска на NPU Hailo. На сайте Hailo подробно описан процесс установки DFC, на нем останавливаться не будем. Тормознем только на процессе компиляции.

Экспорт модели в onnx. Сначала нужно принять во внимание, что hef не понимает динамические входы, поэтому при экспорте сразу это учитываем. from ultralytics import YOLO print("Подгрузка модели model = YOLO("yolov8n.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.