Phonon 40M WebGPU

Это конвертация шести моделей Gradium Phonon 40M — для английского, французского, немецкого, испанского, португальского и мультиязычного варианта — под WebGPU-рантайм blixt/phonon. Модели на 40M параметров построены на Pocket TTS и кодеке Mimi от Kyutai и предназначены для синтеза речи в браузере. Конвертацию выполнил не Gradium.

🎧 Ключевые особенности

• 🎧 Шесть вариантов: en, fr, de, es, pt и мультиязычная модель.
• 💻 Запуск через WebGPU-рантайм blixt/phonon прямо в браузере.
• 🔮 int8-конвертация: тензоры от 16 384 значений квантуются в int8 с f16-масштабом на каждые 32 значения; файл весит 53,7 MB вместо 122 MB.
• 🌀 В конвертации перестроены q/k для rotary, объединены проекции кодека и переупорядочены свёртки.
• ❌ Веса и токенизаторы остаются под CC BY-NC 4.0 — только некоммерческое использование.
• ✅ Для Apache-2.0 есть Phonon 31M и отдельная WebGPU-конвертация.

💻 Пример

git clone https://github.com/blixt/phonon && cd phonon && npm install
npm run build-weights -- path/to/gradium/phonon-40m-fr/model.safetensors phonon-40m-fr.int8.bin
shasum -a 256 phonon-40m-fr.int8.bin

Подробнее

Лицензия весов и токенизаторов — CC BY-NC 4.0: можно делиться и адаптировать с указанием Gradium, но не для коммерции.
Каждый файл начинается с JSON-заголовка с офсетами, длинами и scale offset, затем идут векторы и веса.
SHA-256 для каждого .int8.bin указаны в карточке.
Конвертация не от Gradium; для Apache-2.0 смотрите Phonon 31M.