M3OPD-MixSFT-9B
мультимодальный файнтюн Qwen3.5 для задач рассуждения
1 мин чтенияобновлено
Модель представляет собой baseline (базовую версию для сравнения) из исследования M3OPD-Reasoner, полученную полным файнтюном (full-parameter SFT) модели Qwen3.5-9B. Она обучена на смешанных данных SFT (supervised fine-tuning, дообучение с учителем), включающих визуальные STEM-задачи, задачи восприятия изображений и вопросы по видео. Модель использует архитектуру, токенайзер, процессор и шаблон чата базовой модели Qwen3.5-9B, поэтому поддерживается везде, где работает оригинал. Она пригодится исследователям и разработчикам, работающим с мультимодальными моделями и задачами рассуждения по изображениям и видео.
Ключевые особенности
- Построена на базе мощной модели Qwen3.5-9B с числом параметров 9.41 млрд
- Обучена на смешанных данных M3OPD-SFT-1.35M и дополнительных траекториях для видеовопросов
- Полностью совместима с экосистемой Qwen3.5 (Transformers, vLLM, SGLang)
- Использует нативный чат-шаблон с поддержкой рассуждений (thinking enabled)
Что можно сделать
- Запустить локально или в сервисе через vLLM для обработки мультимодальных запросов
- Использовать в качестве отправной точки для исследований и эталона (baseline) перед этапом MixRL
- Решать визуальные STEM-задачи и анализировать изображения с помощью формата ответов внутри \boxed{}
Пример
Запуск модели с помощью сервера vLLM:
vllm serve ngqtrung/M3OPD-MixSFT-9B --max-model-len 40960Подробнее
Архитектура: image-text-to-text на базе Qwen3.5-9BШаг обучения: шаг 1456 (начало MixRL baseline)
Лицензия: Apache 2.0










Комментарии