Lark Punctuation
компактная CoreML-модель пунктуации для диктовки
2 мин чтения
Lark Punctuation — это fp16 CoreML-экспорт модели oliverguhr/fullstop-punctuation-multilingual-base для приложения Lark, нативной диктовки для macOS. Модель восстанавливает точки, запятые и вопросительные знаки в английском ASR-выводе прямо на Apple Neural Engine. Размер после прунинга словаря — около 235 МБ вместо 1060 МБ, параметров 116M вместо 278M.
Ключевые особенности
- Задача token-classification: расставляет
.,,и?в распознанной речи. - Компилированный CoreML ML Program в fp16 с фиксированным входом на 512 токенов.
- Словарь урезан с 250 002 до 40 000 токенов; токенизатор XLM-R пересобран под новые id.
- Параметры уменьшены с 278M до 116M, качество на бенчмарке осталось в пределах шума.
- Токенизатор и модель — согласованная пара: с апстрим-чекпоинтом токенизатор не совместим.
Пример
Сценарий из карточки: ASR-вывод английской диктовки без пунктуации подаётся в CoreML-модель, она возвращает токены с метками ., , и ?. Lark использует результат, чтобы восстановить пунктуацию в тексте; метки - и : модель тоже выдаёт, но приложение их игнорирует.
Подробнее
Бенчмарк Lark, все метки: precision/recall 54.8/67.6; на отложенной выборке — 54.6/67.3.Для вопроса: 74.8/63.5 precision/recall.
Нужен CoreML и Apple Neural Engine; вход фиксирован на 512 токенов.
Экспорт: прунинг словаря по английскому корпусу, проверка совпадения argmax на 50 предложениях (3666/3666 токенов).
Ограничение: вне английского качество не оценивалось и ожидается хуже — словарь потерял большую часть нелатинских фрагментов.










Комментарии