wsp_nov13_qwen3vl4b_combo
защита Qwen3-VL-4B через правку весов без обучения
2 min readupdated
Исследовательский чекпоинт на базе мультимодальной модели Qwen/Qwen3-VL-4B-Instruct (4,44 млрд параметров) от автора AnirudhNarayan. Модель решает задачу повышения безопасности при работе с изображениями и текстом, снижая долю успешных джейлбрейк-атак с 50% до 8,3% без потери качества ответов. В отличие от классического дообучения, изменения внесены методом Weight-Space Programming (прямое редактирование весов без градиентов и обратного распространения ошибки). Подойдёт исследователям безопасности VLM (визуально-языковых моделей) и разработчикам, изучающим управление поведением нейросетей через пространство весов.
Ключевые особенности
- Безградиентный метод: модифицированы всего 8 тензоров
mlp.down_projв слоях 18–25 за 386 прямых проходов (forward passes). - Комбинация двух правок: усиление направления отказа (
refamp) и обновление первого ранга через разреженный детектор из 64 нейронов (harm_neurons). - Сохранение полезности: метрика Utility на бенчмарке llava практически не изменилась (0.5645 против 0.5665 у базовой модели).
- Полная совместимость: веса сохранены в формате BF16, модель загружается стандартным классом
Qwen3VLForConditionalGenerationбез системных промптов.
Что можно сделать
- Изучать влияние точечного редактирования весов на баланс между безопасностью и ложными отказами в мультимодальных задачах.
- Тестировать устойчивость модели к вредоносным визуально-текстовым промптам в исследовательских пайплайнах.
- Использовать чекпоинт как референс для безградиентного выравнивания (alignment) моделей семейства Qwen3-VL.
Пример
from transformers import Qwen3VLForConditionalGeneration, AutoProcessor
repo = "AnirudhNarayan/wsp_nov13_qwen3vl4b_combo"
model = Qwen3VLForConditionalGeneration.from_pretrained(repo, dtype="auto", device_map="auto")
processor = AutoProcessor.from_pretrained(repo)Подробнее
Бенчмарк VLGuard (dev split, n=168/168): ASR снизился с 0.500 до 0.083, ORR (ложные отказы) вырос с 0.000 до 0.030.Ограничения: экспериментальный артефакт, возможны ложные отказы на пограничных безобидных запросах (например, «describe the person»).
Лицензия: Apache-2.0.










Comments