BS-RoFormer-viperx-317-GGUF
разделение вокала и минуса в одном GGUF-файле
2 min readupdated
Это конвертация известной модели BS-RoFormer от автора viperx (160 млн параметров, 44.1 kHz стерео) в формат GGUF (единый файл, содержащий веса и конфигурацию). На вход подаётся готовый аудиомикс, а на выходе получаются две отдельные дорожки: чистый вокал и инструментал. Модель предназначена для demix-rs — быстрой реализации на языке Rust и фреймворке Candle, и несовместима с обычным llama.cpp. Главное отличие от оригинального чекпоинта — компактность и низкое потребление видеопамяти: квантованная версия занимает всего 171 МБ и укладывается в 1.1 ГБ VRAM. Пригодится музыкантам, звукорежиссёрам и разработчикам, которым нужно быстро вырезать голос или сделать минусовку без громоздкого Python-окружения.
Ключевые особенности
- Два варианта квантования: версия F16 (320 МБ) рекомендуется для GPU и CPU, а Q8_0 (171 МБ) создана для систем с жёсткой нехваткой памяти.
- Минимальный расход VRAM: в режиме Q8_0 с параметром
--attn-budget-mb 128пиковое потребление памяти составляет всего 1.1 ГБ. - Высокая скорость на видеокарте: на RTX 4090 модель работает в 3.5–6 раз быстрее реального времени, даже если запускать её впритык рядом с 27B LLM.
- Готовый HTTP-сервер: инструмент
demix-rs(а такжеzallama) позволяет поднять локальный API-эндпоинт для разделения треков по сети.
Что можно сделать
- Сделать караоке-базу: пакетно прогнать папку с FLAC-треками через консольную команду, чтобы получить чистые минусовки.
- Выделить акапеллу для ремиксов: извлечь чистый вокал из готовой песни в стерео 44.1 kHz для дальнейшей обработки или сэмплирования.
- Встроить в аудиосервис: запустить локальный REST API через
demix serveи подключить функцию разделения дорожек к своему боту или приложению.
Пример
demix separate -m bs-roformer-viperx-317-f16.gguf song.mp3 -o out/
demix separate -m bs-roformer-viperx-317-f16.gguf --stems instrumental *.flac -o karaoke/
demix serve -m bs-roformer-viperx-317-f16.gguf --port 8790
Подробнее
Качество на синтетическом миксе: вокал 21.7 dB SDR, инструментал 32.0 dB SDR (исходный чекпоинт имеет оценку 12.9755 SDR).Расхождение между CPU F32 и CUDA Q8_0: в пределах 51 dB для вокала и 61 dB для инструментала.
Скорость на CPU F32 (32 ядра): около 0.1x от реального времени.
Лицензия: код demix-rs под Apache-2.0, исходные веса viperx не имеют явной лицензии (проверьте перед коммерческим использованием).










Comments