Qwen3-ASR
потоковая распознавалка речи для RK3588
2 мин чтенияобновлено
Модель реализует пошаговое распознавание речи (ASR — Automatic Speech Recognition) с выводом текста и определением языка в режиме реального времени. Сборка оптимизирована под аппаратные платформы RK182x / RK3588 с использованием движков RKLLM и RKNN. Базируется на архитектуре Qwen3-ASR в версии 0.6B и обрабатывает аудиопоток порциями по одной секунде. Подойдет разработчикам встраиваемых систем и умных устройств на базе чипов Rockchip, которым требуется локальная потоковая обработка голоса без отправки данных в облако.
Ключевые особенности
- Поддержка 52 языков и диалектов (включая множество языковых вариантов и диалектов).
- Потоковый инференс: обновление текста каждые 1000 мс с обратной связью по токенам.
- Малый объем памяти: требуется около 1600 МБ VRAM / оперативной памяти под веса и контекст.
- Готовый манифест для интеграции через веб-интерфейс wdnwebui.
Что можно сделать
- Подключить микрофон одноплатного компьютера RK3588 для голосового ввода и транскрипции в реальном времени.
- Распознавать аудиодорожки из загруженных видеофайлов или аудиозаписей прямо на устройстве.
- Встроить локальный сервис распознавания речи в автономные умные колонки и робототехнические комплексы.
Пример
Скачивание репозитория с весами и манифестом для локального развертывания:
hf download wardner/Qwen3-ASR --local-dir ./Qwen3-ASRПодробнее
Вычислительный блок: RK182x (целевая плата RK3588)Рантайм: RKLLM + RKNN
Общий размер весов: 1.05 ГБ (энкодер, LLM, эмбеддинги, токенизатор)
Ограничения: максимальная длительность аудио для потокового режима ограничена, формат входа автоматически ресемплируется в 16 кГц моно. Лицензия: Apache 2.0 (для базовой модели).










Комментарии