Safety_Tuning Qwen3.5-4B

Это SFT safety-tuning чекпоинт модели Qwen/Qwen3.5-4B на 4,66 млрд параметров, экспортированный в Hugging Face safetensors. Обучение шло на 7 655 полных teacher-траекториях STAR-1 и STAR-Benign; в репозитории лежат веса для инференса, конфиг и tokenizer/processor.

🔥 Ключевые особенности

• 🤖 SFT safety-tuning на базе Qwen/Qwen3.5-4B
• 🧐 7 655 полных teacher-траекторий STAR-1 и STAR-Benign; supervised reasoning, answer и EOS
• 🚀 120 optimizer updates, LR 5e-5, epoch 2/4, global batch 128; native iteration 119 (zero based)
• 🧐 Teacher Spec не добавляется в контекст студента; каждый LR-запуск стартует независимо от оригинальной base-модели
• 👀 Vision и нетренированные MTP-тензоры взяты из pinned base; MTP не обучался
• 👍 Проверка конвертации: точное обратное преобразование текстовых тензоров, finite-weight checks, совпадение всех 738 ключей и шейпов Hugging Face

🧐 Пример

Пример сценария: использовать чекпоинт как safety-вариант Qwen3.5-4B в чате — например, для ответов на потенциально небезопасные запросы с опорой на reasoning-траектории STAR. Готового промпта или демо в карточке нет.

Подробнее

Бенчмарки: карточка не приводит оценок.
Обучение: 7 655 траекторий STAR-1/STAR-Benign, LR 5e-5, 120 шагов, epoch 2/4, batch 128.
Технически: MTP не обучался, vision-тензоры взяты из pinned base.
Ограничение: это training checkpoint без заявленных метрик.