WSP safety edit Qwen3-VL-4B

Исследовательский чекпоинт из работы по weight-space programming (WSP): LLM-агент напрямую правил веса Qwen3-VL-4B-Instruct, чтобы модель чаще отказывалась от мультимодальных джейлбрейк-запросов. Обучения, градиентов и оптимизатора не было; модель осталась в BF16 с теми же именами тензоров и шардов, что у базы. Размер — 4,44 млрд параметров.

🔍 Ключевые особенности

• 🛡 В MLP слоёв 20 и 26 добавлены два маленьких «refusal circuit»; каждый задействует два наименее активных нейрона слоя.
• ⚙ Порог срабатывания задан почти константным residual-направлением, а выход пишет собственное refusal-направление модели с противоположными знаками.
• 📸 На VLGuard test ASR для всех harmful-запросов упал с 34,5% до 16,5%; для safe image + unsafe instruction — с 22,6% до 5,0%.
• ✅ Ни один harmful-промпт, от которого база отказывалась, не стал отвеченным; over-refusal на безопасных запросах вырос с 0,36% до 1,79%.
• 📌 Загружается как обычная Qwen3VLForConditionalGeneration без патчинга; изменено около 30,7 тыс. из 4,44 млрд весов.

⌨ Пример

import torch
from transformers import Qwen3VLForConditionalGeneration, AutoProcessor
repo = 'utsavz/wsp_nov10_qwen3vl4b_opus'
model = Qwen3VLForConditionalGeneration.from_pretrained(repo, dtype=torch.bfloat16, device_map='auto')
processor = AutoProcessor.from_pretrained(repo)
messages = [{'role': 'user', 'content': [{'type': 'image', 'image': 'photo.jpg'}, {'type': 'text', 'text': 'Describe this image.'}]}]
inputs = processor.apply_chat_template(messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors='pt').to(model.device)
out = model.generate(**inputs, max_new_tokens=256, do_sample=False)

Подробнее

VLGuard test, 1 558 samples: ASR all harmful 34,5% → 16,5%, over-refusal 0,36% → 1,79%.
Изменено ~30,7 тыс. из 4,44 млрд весов; остальные 707 тензоров, конфиги и токенизатор бит-в-бит совпадают с базой.
Ограничения: keyword-скоринг ASR, не покрыта обфускация (leetspeak), возможен лексический over-refusal, benign-ответы меняются; только research use, не production safety system.