supertonic-3-stcu

Это не новая TTS-модель, а runtime-ассеты для Supertone/supertonic-3 от jinhwan000. Движок использует round-based continuous batching: каждый активный запрос делает один flow-matching шаг за раунд, все запросы пакуются в один forward pass без padding. Два бэкенда — CUDA и OpenVINO 2026.4.1 для Intel Arc.

⚙ Ключевые особенности

• ⚙ Два бэкенда: CUDA на Rust-ядрах + cuBLASLt, bf16 GEMM и CUDA graphs; OpenVINO для Intel Arc.
• 🧩 Packed varlen: segment-aware depthwise convolutions и attention, без padding между чанками.
• 🌐 Мультиязычная TTS: в метаданных 31 язык, включая русский; 10 голосов F1–F5 и M1–M5.
• 💡 Веса без изменений: upstream ONNX f32 только перекомпонованы — без дообучения и квантования.
• 🎯 OpenVINO IR v2: depthwise conv как один 1-D Gather на tap; на Arc B580 +11–13 % throughput при 8–64 запросах, latency одного запроса не меняется.

🧩 Пример

Скачайте репозиторий целиком или только файлы одного бэкенда — движок при первом запуске сам подтянет нужное. Для CUDA нужны stcu_runtime.safetensors и stcu_runtime.json; для OpenVINO — папка ov/ с ve_round_v2, vocoder_v2, TE и DP. TE и DP стоит запускать на CPU в f32, VE и vocoder — в f16.