Typeling-25M
предиктивный набор на 25M параметров
2 min readupdated
Typeling-25M — английская языковая модель на 25,4 млн параметров от ScarletKc для завершения слова и предсказания следующего при наборе текста. Построена на SupraLabs/Supra2-Medium-Base (архитектура Qwen3), весит 50,8 МБ в 16 битах или 27,6 МБ в Q8_0 GGUF. Ориентирована на ghost text и панель кандидатов в чатах и повседневной переписке.
Ключевые особенности
- 25,4M параметров; в PyTorch-декодере около 25 мс на подсказку на CPU высокого класса и около 549 МБ памяти.
- Декодер Typeling ищет слова под введённые буквы, чинит опечатки (соседние клавиши, лишние, пропущенные или переставленные буквы) и смешивает небольшую n-gram-модель, чтобы отсеивать не-слова.
- Учит пользовательские слова локально; набранный текст не покидает машину, но при загрузке без
HF_HUB_OFFLINE=1модель запрашивает последнюю ревизию на Hugging Face. - Ghost text показывает top-1 при вероятности ≥0,3 и если он продолжает введённые буквы; панель кандидатов — top-3.
- Только английский и ASCII-слова; лучше работает с коротким неформальным текстом, чем с длинным техническим.
Пример
from typeling.lm import LMPredictor
p = LMPredictor() # downloads ScarletKc/Typeling-25M
p.suggest("Let me kn") # 'ow'
p.topk("Thank you so ", 3) # [('much', 0.98), ...]
p.topk("See you tomm", 3) # [('tomorrow', 0.90), ('tommy', 0.07), ...] typos are repaired
Подробнее
KSR в чатах: 43,1% для ghost text и 58,0% для панели top-3; в письменной речи — 32,4% / 49,9%.PyTorch: около 25 мс на подсказку и около 549 МБ RAM; 16-битные веса — 50,8 МБ, Q8_0 GGUF — 27,6 МБ.
Только английский и ASCII-слова; это не чат- и не instruction-модель, знаний о мире мало.
Бенчмарки симулированные, без пользовательского исследования; без декодера Typeling нет вероятностей слов, исправления опечаток и фильтрации.










Comments