Языковые моделиIndexTeam
Index-Translate-omni-2B GGUF
перевод текста и картинок в llama.cpp
1 мин чтения
GGUF-экспорт 2B-модели Index-Translate-omni от IndexTeam для llama.cpp. Переводит текст для китайского и английского, поддерживает ограничения по терминологии и форматированию, а с отдельным mmproj — изображения. Аудиомодулей в этом GGUF нет.
🔥 Ключевые особенности
- 🌟 2B-модель семейства Index-Translate в формате GGUF для llama.cpp.
- ✅ Текст: перевод с учётом терминологии и ограничений формата.
- 👁 Изображения: нужен отдельный проектор mmproj-f16 или mmproj-Q8_0.
- 🦾 Квантования от Q2_K до f16; Q4_K_M весит 1,56 ГБ.
- ⬇ Аудио: в GGUF нет энкодера, коннектора и рантайма; для речи — FP8/FP4 репозитории.
- 🤝 Все языковые квантования и оба проектора проверены на H100 в llama.cpp.
✨ Пример
llama-cli -m Index-Translate-omni-2B.Q4_K_M.gguf -ngl 99 --single-turn \
-p 'Translate into English: 人工智能正在改变内容创作。'Подробнее
FLORES COMET22 — 0.8655, WMT24++ — 0.8489 для 2B (данные upstream).Q4_K_M: 1,56 ГБ, PPL 19.0381 (+6,30% к f16); Q8_0: 2,55 ГБ (+0,08%).
Нужен llama.cpp с поддержкой Qwen3.5 — commit 9e2a04a439edc49f08c5acdafefae19dfa25a658 или новее.
Ограничение: GGUF не содержит аудиомодулей, это не end-to-end аудиоперевод.
Комментарии