Safety_Tuning Qwen3.5-4B SFT STAR

Это SFT safety-тюнинг чекпоинт Qwen/Qwen3.5-4B на 4,66 млрд параметров, экспортированный в safetensors. По метаданным задача — image-text-to-text; в карточке указано, что vision- и нетренированные MTP-тензоры взяты из базовой модели.

🔥 Ключевые особенности

• ✅ SFT на 7 655 полных teacher-траекториях из STAR-1 и STAR-Benign; supervision на reasoning, answer и EOS.
• ✅ LR 5e-5, 60 шагов оптимизатора, 1/4 эпохи, global batch size 128.
• ✅ Каждый запуск learning rate стартует независимо от исходной base-модели; teacher Spec не добавляется в контекст студента.
• ✅ В репозитории inference weights, конфигурация и tokenizer/processor assets; optimizer, RNG state, логи и примеры обучения исключены.
• ✅ Vision и нетренированные MTP-тензоры сохранены из закреплённой базовой модели; MTP не обучался.
• ✅ Проверка конвертации: точное обратное преобразование текстовых тензоров, finite-weight checks и совпадение всех 738 ключей и шейпов HF.

🦾 Пример

В карточке нет кода запуска и примеров промптов. Сценарий: использовать чекпоинт как стартовую точку для дальнейшего SFT safety-поведения Qwen3.5-4B; готовых оценок качества в карточке нет.

Подробнее

Бенчмарки не заявлены: карточка прямо говорит, что оценки не приводятся.
Обучение: 7 655 траекторий, LR 5e-5, 60 обновлений, 1/4 эпохи, batch 128.
Экспорт: safetensors, 738 ключей HF; vision/MTP из base, MTP не обучался.
Ограничения: нет optimizer/RNG/логов/примеров обучения; требования к VRAM не указаны.