gemma4-e2b-decision-ru

Это research preview компактной decision-модели от lucky-striker на базе google/gemma-4-E2B-it. Она принимает текст-состояние и один или несколько типизированных вопросов с фиксированными вариантами, а возвращает калиброванные вероятности для каждого варианта — без генерации текста и за один forward pass. Русский-first, поддерживает английский.

🔥 Ключевые особенности

• ✅ Типы вопросов: choice (2–200 вариантов), score (упорядоченная шкала) и noul (да/нет).
• ⏰ Все вопросы обрабатываются за один forward pass: ~107 мс на 1 вопрос и ~113 мс на 4 на RTX 5060 Ti в bf16.
• 📌 Варианты оцениваются по тексту, а не по буквам: нет лимита 26 вариантов и bias к «A»; порядок вариантов рандомизирован при обучении.
• 🔥 Калибровка через temperature на тип вопроса: ECE 0.02–0.05 на большинстве наборов.
• 💻 Архитектура: замороженная Gemma 4 E2B + LoRA r=64 на attention/MLP (101 M параметров) + decision head (5 M).
• 📚 Обучение: 1 эпоха, 87K строк, 71% human-labelled публичных датасетов и 29% синтетики.

💻 Пример

from decision_model import DecisionModel
dm = DecisionModel("lucky-striker/gemma4-e2b-decision-ru")
print(dm.decide(request))

Подробнее

Бенчмарки: BANKING77 macro-F1 85.4, CLINC150 87.2, MASSIVE en/ru 86.8/85.4; BFCL multiple 97.5.
Нужна CUDA-GPU и ~11 GB свободной памяти в bf16; базовая модель скачивается ~10 GB.
Ограничения: незнакомые мелкие метки заметно проседают (85→60), «none of these» переуверена (ECE ~0.15), слабые ordered scales и RCB (59.1), только текст и ru/en.
Лицензия CC BY-NC-SA 4.0: исследования и некоммерческое использование.