HumanoidSafe-Qwen3-VL-8B-PPO-GPT55-Full
безопасное планирование действий по видео
2 мин чтенияобновлено
Полнопараметрический файнтюн мультимодальной модели Qwen/Qwen3-VL-8B-Instruct (8,77 млрд параметров) от проекта SLOCBench, обученный оценивать безопасность инструкций в видеосценариях с гуманоидными роботами. Модель принимает на вход последовательность из 8 кадров до события и текстовую команду, кратко описывает сцену и формирует итоговое действие в теге ..., отклоняя опасные запросы и выполняя безопасные. Обучение проведено методом PPO (алгоритм обучения с подкреплением) с использованием RLVR (обучение с подкреплением на проверяемых наградах), где оценку ответов выставлял судья на базе GPT-5.5. По сравнению с исходной базовой моделью она значительно точнее разделяет безопасные и вредоносные команды, сохраняя при этом формат самостоятельных весов без необходимости отдельно скачивать базовый чекпоинт. Подойдёт исследователям безопасности embodied AI (воплощённого ИИ) и разработчикам для воспроизведения бенчмарков.
Ключевые особенности
- Полное дообучение всех весов: обновлены все 8 767 123 696 параметров языковой и визуальной частей модели, чекпоинт готов к прямому запуску через
Qwen3VLForConditionalGeneration. - Заметный рост точности баланса: метрика BBA (Balanced Behavior Accuracy — средний баланс между отказом от опасных и выполнением безопасных команд) выросла на +38,57 п.п. в режиме
baseи на +36,43 п.п. в режимеsafe. - Работа с видеопоследовательностями: модель настроена на обработку блока из 8 кадров с частотой 2.0 FPS без передачи метаданных исхода или меток безопасности.
- Открытая лицензия: веса, токенизатор и конфигурация опубликованы под Apache-2.0.
Что можно сделать
- Воспроизвести эксперименты по безопасности VLM: протестировать поведение мультимодальных моделей на датасете
SLOCBench/HumanoidSafeи сравнить PPO с другими RL-подходами из того же цикла (например, GRPO). - Использовать как исследовательский бейзлайн: фильтровать текстово-визуальные команды в симуляторах сценариев, где важно отсекать потенциально опасные действия до генерации тега
.
Пример
import torch
from transformers import AutoProcessor, GenerationConfig, Qwen3VLForConditionalGeneration
REPO = "SLOCBench/HumanoidSafe-Qwen3-VL-8B-PPO-GPT55-Full"
model = Qwen3VLForConditionalGeneration.from_pretrained(
REPO, torch_dtype=torch.bfloat16, device_map="auto", attn_implementation="sdpa"
).eval()
processor = AutoProcessor.from_pretrained(REPO)
model.generation_config = GenerationConfig.from_pretrained(REPO)
Подробнее
Метрики на тесте (70 пар / 280 ответов, судья GPT-5.5): в режимеbase — TRR 90,00% (отказ от вредных команд), FRR 10,00% (ложные отказы), итоговый BBA 90,00% против 51,43% у базовой модели.Обучение: 3 эпохи на сплите
train датасета SLOCBench/HumanoidSafe (294 пары / 588 веток), FSDP на 8 GPU в точности BF16.Ограничения: модель не тестировалась как реальный контроллер робота или физическая политика безопасности; общие возможности за пределами бенчмарка систематически не проверялись.










Комментарии