Qwen3.5-9B CyberSecurity (Abliterated)
модель по кибербезопасности без лишних отказов
2 мин чтенияобновлено
Эта мультимодальная модель (принимает изображения и текст, отвечает текстом) предназначена для анализа уязвимостей и задач информационной безопасности. В её основе лежит unsloth/Qwen3.5-9B (9,41 млрд параметров), в которую вшили LoRA-адаптер (лёгкую надстройку для дообучения) Qwen3.5-9B-CyberSecurity-LoRA от автора jeonjw. Главная особенность — применённый метод abliteration (удаление из весов модели вектора, отвечающего за стандартные отказы отвечать на запросы по теме безопасности). Подойдёт исследователям безопасности, пентестерам и разработчикам для работы в авторизованных средах.
Ключевые особенности
- Слияние с адаптером: специализированная LoRA по кибербезопасности объединена с базовой моделью в формате fp16.
- Abliteration весов: направление отказа вычислено по разнице активаций и спроецировано из матриц
self_attn.o_proj,linear_attn.out_proj(в 24 из 32 слоёв гибридного внимания) иmlp.down_projс коэффициентомscale = 1.0. - Сохранённое зрение: визуальный модуль (vision tower) остался нетронутым, модель сохраняет мультимодальность.
- Особенности чекпоинта: голова MTP (Multi-Token Prediction) отсутствует, поэтому при конвертации в GGUF требуется флаг
--no-mtp(готовая GGUF-сборка также опубликована отдельно).
Что можно сделать
- Разбирать механизмы работы уязвимостей (например, format string) и получать рекомендации по их устранению.
- Использовать в локальных ассистентах для анализа безопасности кода и проведения авторизованного тестирования.
- Развернуть на локальном железе через
transformersили скачать отдельную GGUF-версию для запуска в локальных раннерах.
Пример
import torch
from transformers import AutoModelForImageTextToText, AutoProcessor
model_id = "jeonjw/Qwen3.5-9B-CyberSecurity-Abliterated"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForImageTextToText.from_pretrained(model_id, dtype=torch.bfloat16, device_map="auto")
messages = [{"role": "user", "content": "Explain how a format string vulnerability works and how to remediate it."}]
inputs = processor(text=[processor.apply_chat_template(messages, tokenize=False, add_generation_prompt=True, enable_thinking=False)], return_tensors="pt").to(model.device)
print(processor.decode(model.generate(**inputs, max_new_tokens=512, do_sample=False)[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))
Подробнее
Отказы: 17% на 6 тестовых промптах по наступательной безопасности (при greedy decoding иenable_thinking=False, оценка по ключевым словам).Ограничения: abliteration удаляет только одно направление на слой, поэтому часть отказов сохраняется; защитные фильтры намеренно ослаблены.
Назначение: исключительно для легальных исследований, анализа уязвимостей и защиты в авторизованных средах.










Комментарии