Zuman.ai

Zuman.ai — мультиязычный разговорный ассистент от DawitShibabaw на базе merged fine-tune Gemma 4 BF16. Модель на ~12 млрд параметров (архитектура Gemma4UnifiedForConditionalGeneration) поддерживает амхарский, афан-оромо, тигринья, сомалийский и английский. Предназначена для диалогов и ответов с учётом языкового и культурного контекста.

⚡ Ключевые особенности

• 🌐 Поддерживает пять языков: амхарский, афан-оромо, тигринья, сомалийский и английский.
• ⚙ Архитектура Gemma4UnifiedForConditionalGeneration; это merged fine-tune Gemma 4 BF16, в исходной папке указан LoRA rank 64.
• 💬 Ориентирована на мультиязычные диалоги и культурно-осознанные ответы; может помогать с CBE-запросами, но банковские данные нужно сверять с официальными источниками.
• 🖥 Чекпоинт ~23 ГБ; для BF16 нужен BF16-ускоритель, практический старт — GPU от ~32 ГБ.
• ℹ В конфиге есть мультимодальные компоненты, но карточка демонстрирует и оценивает только текстовый чат.
• ⚠ Бенчмарков и валидированного сравнения языков нет; качество может зависеть от языка, диалекта и орфографии.

💻 Пример

import torch
from transformers import AutoModelForImageTextToText, AutoProcessor

model_id = "DawitShibabaw/zuman.ai"
processor = AutoProcessor.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForImageTextToText.from_pretrained(
    model_id, dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
)
# далее: apply_chat_template(...) и model.generate(...)

Подробнее

Чекпоинт занимает ~23 ГБ; для BF16 нужен BF16-ускоритель, практический ориентир — GPU от ~32 ГБ.
Бенчмарков и сравнения языков в карточке нет; состав данных и методика оценки не документированы.
Лицензия в репозитории не указана — перед использованием проверьте условия Gemma 4.