orionq-release-rc
квантованная модель определения активности речи
1 мин чтенияобновлено
Модель orionq-release-rc (кандидат gptq4-g128-b03) представляет собой легковесную версию системы определения речи (VAD, Voice Activity Detection), оптимизированную для работы на устройствах. Базируется на архитектуре Orion-VAD 2.1 и использует 4-битное квантование весов (метод сжатия модели для экономии памяти и ускорения работы) с размером группы 128. Разработка создана для эффективного выделения голосовых интервалов с минимальными затратами ресурсов. Она отлично подойдет разработчикам встраиваемых систем и локальных голосовых ассистентов.
Ключевые особенности
- Основа: создана на базе Orion-VAD 2.1 с применением 4-битного сжатия весов.
- Производительность: задержка p99 составляет всего 206 мс на процессорах с Intel NPU.
- Точность: удерживает показатель 92.6% на сложном тестовом наборе vad-eval-hard-2k.
Что можно сделать
- Встроить модель в локальные приложения для распознавания голоса и фильтрации тишины.
- Запустить на устройствах с поддержкой Intel NPU для автономной обработки аудиопотока в реальном времени.
Пример
Модель принимает аудиопоток и выдает разметку активных речевых интервалов. Конфигурация запуска содержится в файле config.json вместе с квантованными весами weights.bin.
Подробнее
Точность (vad-eval-hard-2k): 92.6%Задержка p99 (cpu-intel-npu): 206 мс
Точность весов: 4 bits, group size 128
Базовая модель: Orion-VAD 2.1










Комментарии