К содержимому
Компьютерное зрение

Qwen3.5-9B-Heretic-ARA-v2

версия Qwen3.5-9B без цензуры

2 мин чтенияобновлено

Модель представляет собой версию мультимодальной нейросети Qwen3.5-9B (9,41 млрд параметров) от NullpoLab, из которой удалили встроенные фильтры отказов. Для снятия ограничений использовался инструмент Heretic v2.2.0.dev0 и метод Arbitrary-Rank Ablation (ARA — точечное удаление направлений в весах, отвечающих за отказ от ответа). В отличие от оригинальной модели, которая отклоняет 100 из 100 провокационных запросов на тестовом наборе, эта версия отвечает практически на всё, минимально меняя исходное поведение на обычных задачах. Подойдёт исследователям безопасности ИИ и авторам для задач креативного письма без лишних срабатываний цензуры.

Ключевые особенности

  • Основана на базе Qwen/Qwen3.5-9B с поддержкой работы с текстом и изображениями (image-text-to-text).
  • Обработана методом Arbitrary-Rank Ablation (ARA) на слоях с 14 по 22.
  • Количество отказов на бенчмарке mlabonne/harmful_behaviors снижено со 100/100 до 5/100.
  • Минимальное отклонение от базовой модели: дивергенция Кульбака — Лейблера (KL divergence) составила всего 0.0248 на датасете harmless_alpaca.

Что можно сделать

  • Использовать для креативного письма и генерации художественных текстов со сложными или острыми сюжетами.
  • Проводить исследования поведения языковых моделей и тестировать устойчивость механизмов безопасности после процедуры abliteration.
  • Запускать локально через библиотеку transformers в сценариях, где стандартная Qwen3.5-9B выдаёт ложные отказы.

Пример

В карточке не приведён готовый код запуска, но автор отмечает важную деталь для инференса: при оценке модели ответы генерировались с добавлением префикса , закрывающего блок рассуждений (thinking block). Это позволяет сразу получать прямой ответ модели без этапа внутренних размышлений.

ПодробнееБазовая модель: Qwen/Qwen3.5-9B (9.41B параметров, формат transformers)
Метрики: Refusals 5/100 (против 100/100 у оригинала), KL divergence 0.0248
Параметры ARA: start_layer_index=14, end_layer_index=22, preserve_good_behavior_weight=0.1656
Ограничения: оценка отказов проводилась только на английских промптах, поведение на других языках может отличаться
Обсудить Telegram 1 32

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 18 GB · готовые файлы20 GB
  • FP8 / INT8рекомендуемвеса 8.8 GB10 GB
  • 4-bitвеса 4.9 GB5.9 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2080 Ti · BF16 — от RTX 4090

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # NullpoLab/Qwen3.5-9B-Heretic-ARA-v2
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download NullpoLab/Qwen3.5-9B-Heretic-ARA-v2 --local-dir ~/models/Qwen3.5-9B-Heretic-ARA-v2
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к Qwen3.5-9B-Heretic-ARA-v2
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Дообучение модели

Qwen/Qwen3.5-9B
  1. Qwen3.5-9B-Baseоснова семьи
  2. Qwen3.5-9B
  3. Qwen3.5-9B-Heretic-ARA-v2

Новые посты про версии Qwen3.5-9B-Base — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 6Все на Hugging Face
Слияния 1Все на Hugging Face

О модели

NullpoLab/Qwen3.5-9B-Heretic-ARA-v2
Автор
NullpoLab
Категория
Компьютерное зрение
Дата выхода
На сайте

На сайте

Hugging Face

321

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии

Другое

Calpha

Calpha