e2h-polaris-gemma-4-e4b-it-full-all_rb

Чекпойнт step 200 из full-split раунда E2H Polaris: языковую часть google/gemma-4-E4B-it дообучили GRPO на математических задачах Polaris-Dataset-53K. Обучение шло через upstream verl 0.9.1 (v0 trainer, FSDP2), а задачи делили по 16-сэмпловому pass rate базовой модели. Vision- и audio-башни не трогали — они остались от базового мультимодального чекпойнта.

⚙ Ключевые особенности

• 🎯 GRPO-дообучение языковой части Gemma 4 E4B на математике; reward — правило проверки ответа с эталоном.
• 🗂 Данные: train_all из 29 394 задач (train_easy + train_hard), разбитых по pass rate базовой модели.
• 🔄 200 шагов по 64 промпта × 8 сэмплов, lr 1e-6, KL loss 0.001 (low_var_kl), ответы до 2048 токенов с thinking.
• 📌 Сохранённые шаги каждые 50 — отдельные ветки; main — финальный чекпойнт.
• ⚙ Веса bf16, собраны из FSDP-шардов verl; K/V в последних 18 слоях Gemma 4 общие, их k_proj/v_proj/k_norm скопированы из базы без изменений.

🔎 Пример

from transformers import AutoModelForImageTextToText

model = AutoModelForImageTextToText.from_pretrained(
    "davidafrica/e2h-polaris-gemma-4-e4b-it-full-all_rb",
    revision="step-200"
)

Подробнее

Оценка: eval_all — 5 304 задачи, eval_hard — 10 765 задач, которые база не решила ни разу из 16.
Данные: train_all — 29 394 задачи; обучение — 200 шагов, 64 промпта × 8 сэмплов, lr 1e-6, KL 0.001, до 2048 токенов с thinking.
База: google/gemma-4-E4B-it; обучен только языковой модуль, vision/audio без изменений.
Веса bf16 из FSDP-шардов; загрузка по revision="step-200", main — финальный шаг.