Qwen3.5-9B VK-OPD-think

Research-чекпоинт от ohjoonhee: полный файнтюн языковых слоёв и final norm модели Qwen3.5-9B в bf16, около 9.41 млрд параметров. Задача — image-text-to-text: отвечать на вопросы по изображению и отдельно на knowledge-вопросы. Это раунд 4 метода VK-OPD, run B1, seed 3, шаг 120 из 120; не релиз, а приватное исследовательское сравнение.

🔥 Ключевые особенности

• 🔥 Полный файнтюн LM-слоёв и final norm на базе Qwen3.5-9B; MTP head базовой модели не включён.
• 🧨 VK-OPD: teacher — замороженная база с privileged context, advantage по токенам считается через reverse KL и GRPO loss, без reward и с beta 0.
• 📊 Для knowledge-вопросов используется blended teacher: 0.5 · A_K0 + 0.5 · A_KI; для photo-вопросов — V teacher с инструкцией отвечать по тому, что реально видно.
• 🖥 Обучение: 120 шагов, lr 3e-6, 16 промптов × 4 rollout на шаг, до 4 096 токенов, 4× H100, FSDP2 с CPU offload.
• ⚠ Оценка промежуточная, на приватном RealViK-nat rc2; результаты не финальные.

💬 Пример

Сценарий из карточки: на контрфактическом фото объект выглядит не так, как обычно. На photo-вопрос модель должна ответить по изображению, а на knowledge-вопрос — по общим знаниям о реальном мире, не подменяя их увиденным.

Подробнее

C-Joint: 79.6 против 56.1 у базовой Qwen3.5-9B (+23.5 п.п.) и 82.6 у round 1 (−3.0 п.п.). All-Joint: 74.5 против 52.0 у базы.
CV 82.9, CK 96.4, NV 93.4, NK 97.3.
Ограничения: один seed, interim-бенчмарк, приватное исследовательское сравнение; требования к VRAM для инференса не указаны.