К содержимому
Другое

Qwen3-4B ImmuneCoT No-Benign

ablation-модель о границе отказа

2 мин чтенияобновлено

Это полнопараметрический файнтюн Qwen3-4B, который показывает, что будет с safety-методом ImmuneCoT, если из обучения полностью убрать benign-примеры (безопасные запросы). Автор оставил только harmful-подмножество IASD (вредные запросы, 858 записей) и обучил модель 2 эпохи, 54 шага. По сравнению с основной версией icot такая модель чаще отказывает и на безопасных, и на вредных запросах. Это не готовый ассистент, а исследовательский контроль для статьи: он помогает понять, как benign-данные калибруют границу «ответить или отказать».

Ключевые особенности

  • База — Qwen3-4B, полное дообучение в bf16, а не LoRA.
  • Обучение только на harmful-части IASD: 858 записей, benign удалены.
  • Сравнение с main method icot: HarmBench ASR 5.6% против 6.2%.
  • На XSTest safe ORR 5.2% против 4.0%, на XSTest unsafe ASR 24.5% против 27.0%.
  • Финальный чекпоинт — checkpoint-54, сохранены только веса.

Что можно сделать

  • Воспроизвести сравнение refusal-порога между no_benign и основной icot-моделью на HarmBench и XSTest.
  • Использовать как контроль в исследовании safety-файнтюнов: проверить, как удаление benign-данных влияет на ORR и ASR.
  • Прогнать свои промпты в thinking-mode и посмотреть, где модель начинает отказывать чаще.

Пример

Сценарий из карточки: взять 320 запросов HarmBench и 250 safe-промптов XSTest, прогнать оба чекпоинта в thinking-mode и сравнить долю отказов и атак. Отдельного кода запуска в карточке нет.

ПодробнееHarmBench ASR: 5.6% (18/320) у no_benign против 6.2% у icot.
XSTest safe ORR: 5.2% (13/250) против 4.0% (10/250).
XSTest unsafe ASR: 24.5% (49/200) против 27.0%.
Ограничение: исследовательская ablation-модель, язык — английский.
Обсудить Telegram 0 17

Запустится ли?

Считаем требования к памяти

Бот ещё собирает размеры весов этой модели — оценка появится здесь через несколько минут. Пока можно арендовать видеокарту с запасом.

Massed ComputeОткрыть Massed Compute

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # Easonnoway/qwen3-4b-ablation-no-benign
    # ===== Токены: вставьте свои между кавычками =====
    export HF_TOKEN=""        # huggingface.co/settings/tokens — для закрытых моделей
    # ==========================================
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download Easonnoway/qwen3-4b-ablation-no-benign --local-dir ~/models/qwen3-4b-ablation-no-benign
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к qwen3-4b-ablation-no-benign
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии qwen3-4b-ablation-no-benign — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

Easonnoway/qwen3-4b-ablation-no-benign
Автор
Easonnoway
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

170

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии