qwen3-8b-syntactic-benign
LoRA-монитор для проверки кода на бэкдоры
2 мин чтения
Этот LoRA-адаптер (небольшая надстройка над базовой моделью) на базе Qwen/Qwen3-8B работает как автоматический проверяющий для программного кода. На вход модель получает условие задачи по программированию и решение, кратко рассуждает и выносит вердикт: Verdict: PASS (чистый код) или Verdict: FLAG (подозрительный код с бэкдором). Главное отличие от базовой модели в том, что адаптер обучали не ловиться на специальные «сигналы» (syntactic benign), снижая долю ложных срабатываний на безопасном коде с 26% до 9%. Подойдёт исследователям безопасности ИИ (AI Control) и разработчикам систем автоматического ревью кода.
Ключевые особенности
- Устойчивость к сигналам-ловушкам: на чистом коде с добавленным сигналом (ячейка D) адаптер одобряет 91% решений против 74% у базовой Qwen3-8B.
- Высокая точность отлова бэкдоров: на вредоносном коде (ячейки B и C) доля ошибочных пропусков составляет всего 1% и 4% соответственно.
- Полноценный охват слоёв: LoRA (r=32, alpha=64) обучена на всех линейных проекциях внимания и MLP (q, k, v, o, gate, up, down).
- Работа без режима размышлений: модель настроена на быстрый ответ с отключённым
enable_thinking, вычисляя лосс только по финальному ответу.
Что можно сделать
- Встроить в пайплайн AI Control: использовать как лёгкий монитор для проверки решений, сгенерированных другими нейросетевыми агентами на задачах уровня APPS.
- Исследовать устойчивость мониторов: сравнить поведение с базовой Qwen3-8B и промежуточными чекпоинтами эпох (они сохранены в папке
checkpoints/) при тестировании на сговор моделей.
Пример
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-8B", revision="b968826d9c46dd6066d109eabc6255188de91218")
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-8B", revision="b968826d9c46dd6066d109eabc6255188de91218")
monitor = PeftModel.from_pretrained(base, "anath2/qwen3-8b-syntactic-benign")
# Использовать chat_template с enable_thinking=FalseПодробнее
Обучение: SFT на 390 примерах из датасета anath2/tara-project (задачи APPS via ControlArena), 6 эпох, lr 0.0001, max length 2048.Метрики (77 тестовых задач): AUROC 0.980 (чистый код против бэкдора) и 0.972 (против бэкдора с сигналом).
Ограничения: при жёстком пороге 2% ложных срабатываний полнота (Recall) падает до 0.662 на бэкдорах и 0.558 на бэкдорах с сигналом.
Требования к VRAM не указаны (базовая модель — 8B параметров, формат safetensors/peft).










Комментарии