Llama Kanso Sumi 1.0

Llama Kanso Sumi 1.0 — on-device теггер форматирования от ZenVoice (публикует BuilderHelm AI). Это не чат-модель, а 141M-теггер на базе mmBERT-small с четырьмя головами по словам: приводит сырой вывод speech-to-text в аккуратный текст, не добавляя новых слов. Поставляется как ONNX для ONNX Runtime на Windows/Linux/macOS плюс FP32 safetensors для PyTorch; несмотря на «Llama» в имени, Llama-весов и кода внутри нет.

💪 Ключевые особенности

• 🔥 Расставляет запятые, точки, вопросы, двоеточия и точки с запятой, а также соединяет слова с дефисом.
• 👀 Восстанавливает заглавные в начале предложений, в именах и аббревиатурах; делит длинную диктовку на предложения и абзацы.
• 🤫 Удаляет филлеры («um», «you know») и повторы, применяет голосовые самокоррекции вроде «monday sorry i meant tuesday».
• 😌 Бережёт защищённый текст: числа, URL, пути и отрицания откатывает только при замене на однотипный.
• 💸 int8-ONNX весит 95 МБ; в бенчмарке p50 — 7 мс на Apple M5, FP32 — 25 мс.

👉 Пример

from pathlib import Path
from huggingface_hub import snapshot_download
path = Path(snapshot_download("BuilderHelm/Llama-Kanso-Sumi-1.0",
                              allow_patterns=["tagger.onnx", "*.json", "*.py"]))
import sys; sys.path.insert(0, str(path))
from format_onnx import Formatter
fmt = Formatter(path)
print(fmt("um so i think we should ship it on friday at 3:30 pm no sorry on monday and uh copy anna"))

Ожидаемый вывод: I think we should ship it on Friday at 3:30 PM no, sorry, on Monday and copy Anna.

Подробнее

Kanso Dictation Bench: int8 — WER 0.07%, exact match 83.0%, punctuation F1 0.909; p50 7 мс на Apple M5.
Файлы: int8 ONNX 95 МБ, FP32 ONNX 370 МБ, safetensors 562 МБ; контекст — окна по 512 токенов с перекрытием 64.
Обучение: 212 545 строк, 2 эпохи; база mmBERT-small, четыре линейные головы.
Ограничения: английский измерен, остальные шесть языков — только синтетика; не переписывает текст, восклицания часто становятся точкой.