M3OPD-Warmup-MixRL-9B
мультимодальная модель для рассуждений на базе Qwen3.5
2 мин чтенияобновлено
M3OPD-Warmup-MixRL-9B — мультимодальная языковая модель (image-text-to-text, работает с изображениями и текстом), обученная поэтапному решению сложных задач с пошаговым размышлением (режим thinking). В основе лежит архитектура Qwen3.5-9B на 9,41 млрд параметров, поэтому модель полностью совместима с её токенизатором и шаблоном диалога. В отличие от базовой версии, этот чекпоинт прошёл дистилляцию с SFT-прогревом (предварительным обучением на примерах) и дообучение с подкреплением методом GSPO в рамках исследования M3OPD-Reasoner. Подойдёт разработчикам и исследователям для задач, где нужно анализировать текст и картинки с выводом пошаговой логики.
Ключевые особенности
- Совместимость с Qwen3.5-9B: сохраняет оригинальную архитектуру, процессор и шаблон чата — запускается везде, где поддерживается базовая модель (Transformers, vLLM, SGLang).
- Режим рассуждений: обучена работать со включённым блоком размышлений (thinking) без системного промпта и с явным указанием формата ответа в конце вопроса.
- Открытый пайплайн обучения: представляет собой промежуточный этап (шаг 180) после SFT-прогрева на 1,35 млн примеров и RL-обучения на датасете из 193 тыс. промптов.
- Свободная лицензия: распространяется под Apache 2.0, что позволяет свободно использовать модель в собственных и коммерческих проектах.
Что можно сделать
- Решать задачи с визуальным контекстом: использовать в сервисах и ботах для пошагового разбора задач, где на вход подаются изображения и текстовые условия.
- Сравнивать рецепты дообучения: протестировать поведение промежуточного RL-чекпоинта в связке с основной моделью M3OPD-Reasoner-9B из той же коллекции.
- Развернуть локальный API-сервер: поднять быстрый инференс через vLLM или SGLang с контекстным окном до 40 960 токенов.
Пример
vllm serve ngqtrung/M3OPD-Warmup-MixRL-9B --max-model-len 40960Подробнее
Параметры: 9,41B (база — Qwen/Qwen3.5-9B), задача — image-text-to-text.Обучение: шаг 180 метода MixRL (GSPO на датасете M3OPD-RL-193K) поверх модели после SFT-прогрева (M3OPD-SFT-1.35M).
Особенности запуска: без system prompt, со включённым thinking и строкой формата ответа в конце запроса (например, Put your final answer within oxed{}).
Лицензия: Apache 2.0.










Комментарии