Tars 0.5
локальный маршрутизатор голосовых команд на 395M параметров
2 мин чтенияобновлено
Tars 0.5 — компактная модель принятия решений (decision model), которая разбирает голосовые команды: делит сложный запрос на отдельные шаги, определяет нужный раздел ассистента и выбирает конкретный навык из заданного списка. Модель не генерирует текст и не ведёт диалог, а оценивает вероятности вариантов из предоставленного каталога. Она построена на базе Von 1.2 (архитектура энкодера ModernBERT) и прошла полный файнтюнинг на синтетических данных. В отличие от базовой модели, которая почти не справляется со сложными цепочками запросов, Tars 0.5 уверенно раскладывает многошаговые команды на действия и работает локально на ноутбуке за сотни миллисекунд. Пригодится разработчикам голосовых помощников и локальных агентов как быстрый стартовый чекпоинт для дообучения под собственный набор инструментов.
Ключевые особенности
- Разбор многошаговых команд: разбивает одну фразу с несколькими просьбами (от 2 до 5 шагов) на последовательные действия и отсеивает болтовню без команды (
none). - Компактность и скорость: 395M параметров (около 2,9 ГБ на диске вместе с токенизатором и калибровкой), медианная задержка построения полного плана — 280 мс на Apple M5 Pro.
- Устойчивость к речевому шуму: обучена на 76 542 синтетических строках в 13 стилях речи, включая ошибки распознавания речи (STT) без пунктуации.
- Открытая лицензия и база: распространяется под Apache-2.0, код, размеченный датасет и бенчмарк опубликованы в репозитории автора.
Что можно сделать
- Быстрый локальный роутер для ассистента: использовать как первый фильтр на ноутбуке — выполнять действие при высокой уверенности модели и передавать сложные случаи более крупной LLM.
- Дообучение под свой каталог навыков: взять весы как стартовую точку (в том числе через функцию «Start from Tars 0.5» в приложении Tars для Mac) и адаптировать под собственные приложения и функции.
- Обработка цепочек голосовых запросов: автоматически маршрутизировать составные команды вроде «открой плеер, включи джаз и выключи звук» по разным модулям системы.
Пример
from tars import Catalog, Planner
planner = Planner(Catalog.load("catalogs/example.json"), "path/to/this/folder")
planner.plan("open tunebox and play some jazz then mute")Подробнее
Бенчмарк (477 многошаговых команд): 69,2% точного сквозного выполнения (End-to-end) против 0,0% у базовой Von 1.2; точность выбора навыков на готовых шагах — 100%, медианная задержка — 280 мс (против 791 мс у базы).Железо и размер: 395M параметров, ~2,9 ГБ на диске; обучение заняло 151 минуту на Apple M5 Pro.
Ограничения: только английский язык и короткие команды; «из коробки» знает только демонстрационный каталог (31 навык), требует файнтюнинга под свои задачи, склонна выделять слова-паразиты в лишние шаги
none, а выдаваемые вероятности плохо откалиброваны.









Комментарии