Gemma 4 E4B-it

В репозитории usagi0130 доступна instruction-tuned мультимодальная Gemma 4 E4B-it от Google DeepMind: принимает текст, изображения и аудио, а выдаёт текст. E4B — 4,5 млрд эффективных параметров (8 млрд с эмбеддингами), контекст до 128K токенов.

🔍 Ключевые особенности

• 🧭 Вход: текст, изображения и аудио; ASR и перевод речи поддерживаются на E2B, E4B и 12B.
• 🔎 Режим thinking: можно включить пошаговое рассуждение перед ответом.
• 🌐 Мультиязычность: 35+ языков «из коробки», предобучение на 140+.
• 📸 Vision: OCR, документы и PDF, графики, интерфейсы, рукописный текст.
• ⚙ Нативный function calling и агентные сценарии; улучшенная работа с кодом.
• 💻 Контекст 128K и оптимизация под ноутбуки и мобильные устройства.

💬 Пример

from transformers import AutoProcessor, AutoModelForMultimodalLM

MODEL_ID = "google/gemma-4-E4B-it"
processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForMultimodalLM.from_pretrained(
    MODEL_ID, dtype="auto", device_map="auto"
)

Подробнее

MMLU Pro — 69,4%, AIME 2026 no tools — 42,5%, LiveCodeBench v6 — 52,0%.
MMMU Pro — 52,6%; CoVoST — 35,54, FLEURS — 0,08 (ниже лучше).
Контекст 128K; аудио только у E2B/E4B/12B. Требования к VRAM в карточке не указаны.