ApsuaT9-v1

ApsuaT9-v1 — мультиязычная модель для завершения слов и подсказки следующего слова на абхазском, русском, английском и турецком. Она учитывает предыдущий текст и уже набранные буквы, а инференс выполняется локально на CPU. Архитектура — 4-слойная языковая модель с словарём на 16 384 токена и контекстом до 128 токенов.

🔥 Ключевые особенности

• 🌍 Поддерживает четыре языка: ab, ru, en и tr.
• 💻 Работает локально на CPU, модель поставляется в формате ONNX.
• 📦 Файл модели весит 15,25 MB; веса хранятся в INT8 группами по 32.
• 👀 Подсказывает продолжение частично набранного слова или следующее слово.
• 🔥 По умолчанию использует Beam 5 и выдаёт до 3 вариантов продолжения.

🚀 Пример

from apsua_t9 import T9

model = T9.from_pretrained("apsua/ApsuaT9-v1")
print(model.suggest("Сегодня мы по", language="ru"))

Подробнее

Размер файла модели — 15,25 MB; веса хранятся в INT8 группами по 32.
Инференс и KV-кэш — в FP32, запуск на CPU.
Контекст — до 128 токенов; Beam 5, до 3 вариантов продолжения.
Язык задаётся как ab, ru, en или tr; без тега модель работает без языковой метки.
Если подходящих вариантов нет, возвращается пустой список. Лицензии: веса и токенизатор — CC BY 4.0, код — Apache-2.0.