tugstugi-medium-bn-ct2

Это CTranslate2-конверсия модели bengaliAI, дообученной для распознавания бенгальской речи (bn). Веса переведены в float16 без переобучения, чтобы faster-whisper загружал модель без PyTorch. Именно эту бенгальскую модель инструмент bytx скачивает при bytx setup.

⚡ Ключевые особенности

• 🔄 Конверсия в CTranslate2 с квантованием float16; исходные веса не дообучались.
• 🖥 Запуск через faster-whisper на CUDA или CPU с int8.
• 🗣 Ориентирована на бенгальский язык (bn).
• ⚠ Автор отмечает: модель ненадёжно предсказывает timestamp-токены, поэтому в bytx используется without_timestamps=True.
• 📌 Для бенгальского нужно около 0.7 токена на символ: 30-секундное окно Whisper может переполнить лимит 224 токена, поэтому речь нарезают на клипы до 12 секунд.
• 💡 initial_prompt может заставить модель повторять промпт.

💻 Пример

from faster_whisper import WhisperModel

model = WhisperModel("bytx/tugstugi-medium-bn-ct2", device="cuda", compute_type="float16")
segments, _ = model.transcribe("audio.mp3", language="bn", without_timestamps=True)
print(" ".join(s.text for s in segments))

Подробнее

Лицензия Apache-2.0, как у исходной модели.
Для CPU используйте device="cpu", compute_type="int8".
Бенчмарков и требований к VRAM в карточке нет; модель только конвертирована, без дообучения.