e2h-polaris-qwen3-4b-full-mixed
чекпоинт обучения Qwen3-4B на математических задачах
1 мин чтенияобновлено
Модель представляет собой 4-миллиардную языковую модель Qwen/Qwen3-4B, дообученную с помощью алгоритма GRPO (групповая оптимизация относительных предпочтений) на датасете Polaris-Dataset-53K, разделенном на легкие и сложные математические задачи. В процессе обучения использовалась проверка по правилам для простых примеров и мажоритарное голосование для сложных. Данный чекпоинт соответствует 50-му шагу обучения из запланированных 1200 и предназначен для улучшения математических рассуждений базовой архитектуры. Чекпоинт пригодится исследователям и разработчикам, работающим над оптимизацией логических и математических способностей небольших языковых моделей.
Ключевые особенности
- Базовая модель: Qwen/Qwen3-4B с 4.41 млрд параметров.
- Обучение на 26 790 задачах из датасета Polaris (смесь легких и сложных проблем).
- Использование метода GRPO с гибридной системой наград (проверка ответов и мажоритарное голосование).
- Веса сохранены в формате bf16 и объединены из FSDP-шардов библиотеки verl.
Что можно сделать
- Запустить модель для решения сложных математических задач и логических примеров.
- Протестировать качество генерации цепочки рассуждений (chain-of-thought) по сравнению с оригинальной Qwen3-4B.
- Интегрировать модель в пайплайны через vLLM или стандартный transformers.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "davidafrica/e2h-polaris-qwen3-4b-full-mixed"
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")
Подробнее
Метод обучения: verl 0.4.1 (GRPO)Длина ответа: до 8192 токенов
Шаг обучения: 50
Размерность весов: bf16










Комментарии