Ascend 310B COCO Detector Benchmarks
бенчмарки и модели детекции для NPU Huawei
2 мин чтенияобновлено
Набор готовых весов и воспроизводимых замеров производительности для нейросетевых ускорителей Huawei Ascend 310B1 (20T) и 310B4 (8T). Репозиторий решает задачу портирования популярных детекторов объектов (семейства YOLO, PicoDet и NanoDet) с помощью компилятора ATC (Ascend Tensor Compiler) и проверяет, насколько сильно расходятся выходные тензоры после конвертации по сравнению с эталонным запуском на CPU через ONNX Runtime. Внутри лежат 23 модели в формате ONNX и 78 скомпилированных файлов OM в режимах точности FP32 и mixed FP16, а также скрипты для повторного прогона тестов. Инструмент пригодится embedded-разработчикам, которые переносят компьютерное зрение на краевые устройства (edge) базы Ascend.
Ключевые особенности
- Три семейства детекторов: в матрицу тестов вошли актуальные и лёгкие архитектуры — YOLOv5n, YOLOv8 (n/s/m), YOLOv10n, YOLO11 (n/s/m), YOLO12 (n/s/m), YOLO26 (n/s/m), а также PicoDet (S/M/L) и NanoDet-Plus.
- Сравнение двух ревизий чипов: замеры проведены параллельно на платах Ascend310B1 (20T) и Ascend310B4 (8T) в среде CANN 8.0.0 с проверкой контрольных сумм SHA-256.
- Контроль точности конвертации: скрипты сверяют выходные тензоры с эталоном (
np.allclose), выявляя расхождения при компиляции вforce_fp32иallow_fp32_to_fp16. - Готовые артефакты: помимо сырых JSON-отчётов, опубликованы сами бинарные OM-файлы, фиксированные входные массивы
.npyи скрипты на PyACL для быстрого запуска на плате.
Что можно сделать
- Забрать готовые OM-веса в проект: скачать уже скомпилированные модели (например, NanoDet-Plus или PicoDet-L), прошедшие проверку численной погрешности на 310B, чтобы не тратить время на подбор флагов ATC.
- Подобрать оптимальный детектор под бюджет кадров: сравнить реальный FPS и стабильность точности разных поколений YOLO (от v5 до v26) перед развёртыванием на целевой плате.
- Воспроизвести замеры на своей прошивке: прогнать скрипт
reproduce.pyна своём устройстве, чтобы проверить поведение другой версии драйвера или CANN.
Пример
python benchmark/tools/reproduce.py \
--root "$HF_ROOT" --workdir "$TASK_ROOT" \
--board 20t --suite expanded --step acl \
--model yolov8s --precision fp32Подробнее
Окружение: CANN 8.0.0, драйвер 25.2.0, Python 3.9.25 (PyACL), требуется от 2.5 ГБ свободного места.Скорость (расширенная матрица, без D2H): PicoDet-S FP32 выдаёт 82.63 FPS на 20T и 53.31 FPS на 8T; YOLOv8s FP32 — 13.33 и 11.57 FPS соответственно.
Важные нюансы: на плате 20T ряд моделей YOLO показал сильные выбросы численной ошибки относительно ONNX Runtime; классы ладоней (
palm/hand) отсутствуют; mAP на реальных фото не замерялся.









Комментарии