Safety_Tuning-Qwen3.5-4B
safety-SFT чекпоинт для Qwen3.5-4B
1 min readupdated
Это SFT-чекпоинт safety-тюнинга модели Qwen/Qwen3.5-4B на 4,66 млрд параметров, выложенный в safetensors. Обучение шло на 7 655 полных траекториях учителя из STAR-1 и STAR-Benign с супервизией reasoning, answer и EOS. Каждый запуск с определённым learning rate стартует независимо от исходной базовой модели.
Ключевые особенности
- Learning rate 1e-5, 240 шагов оптимизатора, 4/4 эпохи, global batch size 128.
- В контекст студента не добавляется teacher Spec.
- В репозитории лежат веса для инференса, конфигурация и токенизатор/процессор.
- Все обученные текстовые тензоры экспортированы из native-чекпоинта; vision и нетренированные MTP-тензоры взяты из закреплённой базовой модели.
- MTP не обучался; оптимизатор, RNG, логи и примеры обучения в репозиторий не включены.
Пример
Сценарий из карточки: чекпоинт можно использовать как safety-настроенную базу Qwen3.5-4B для задач image-text-to-text. Автор отдельно отмечает, что карточка не заявляет evaluation scores — качество нужно проверять самостоятельно.
Подробнее
SFT: 7 655 траекторий STAR-1 и STAR-Benign, 240 обновлений, lr 1e-5, epoch 4/4, batch 128.Базовая ревизия: 851bf6e806efd8d0a36b00ddf55e13ccb7b8cd0a.
Проверка конвертации: точное обратное преобразование каждого native-текстового тензора и совпадение всех 738 ключей и форм.
Оценок качества в карточке нет; VRAM и требования к железу не указаны.










Comments