Diorite-G4-E2B-v1.0

Diorite-G4-E2B-v1.0 — LoRA-адаптер от Leucodiorite на базе google/gemma-4-E2B-it. Это самая маленькая и быстрая модель в семействе Diorite v1.0: она получает контент и набор вопросов, за один forward pass выдаёт вероятность для каждого варианта ответа, а приложение превращает эти вероятности в решения. Адаптер содержит 94,9 млн параметров, весит 0,38 ГБ, базовые веса не меняются.

⚡ Ключевые особенности

• ⚡ Самая низкая задержка в семействе: медиана 36 мс на RTX PRO 6000.
• 🧩 LoRA rank 64, alpha 64 применяется к attention (q, v, o) и MLP-проекциям языковой модели; vision- и audio-модули не тронуты.
• 🎯 Выдаёт вероятности по всем вариантам каждого вопроса за один forward pass, а не генерирует свободный текст.
• 📀 Адаптер на 94,9 млн параметров и 0,38 ГБ; минимум 24 ГБ GPU-памяти.
• ⚙ Работает через diorite-serve; в семействе также есть версии E4B, 12B и 31B.

💡 Пример

Сценарий из карточки: сервис отправляет в diorite-serve контент и вопросы с вариантами ответов. Модель за один проход возвращает вероятности по каждому варианту, а приложение на их основе выбирает решение.

Подробнее

Decision Index 0.3: 43,17 против 25,91 у базовой gemma-4-E2B-it.
Accuracy — 64,0% против 53,9%, ECE — 0,077 против 0,362.
Минимум 24 ГБ VRAM; медиана 36 мс на RTX PRO 6000.
Это research preview для исследований и оценки на лидерборде Decision Index; лицензия адаптера — CC BY-NC 4.0.