Looped Qwen3.5-0.8B Visual SRE
гибридная мультимодальная модель для триажа инцидентов
2 мин чтения
Модель решает задачу анализа графиков телеметрии Grafana и строгого JSON tool calling (форматированного вызова функций). Основана на архитектуре Qwen/Qwen3.5-0.8B (0.85 млрд параметров) с добавлением рекурсивных циклических слоев (Encode-Think-Decode) и обучена на потребительской видеокарте NVIDIA RTX 4060. Главное отличие от базовой версии — способность рассуждать по цепочке шагов (Chain-of-Thought) прямо по пикселям графиков мониторинга и обходить текстово-визуальные ловушки. Пригодится разработчикам и инженерам для автоматизации разбора IT-инцидентов по скриншотам дашбордов.
Ключевые особенности
- Архитектура Encode-Think-Decode (ETD) с двукратным прогоном средних слоев через изолированные гибридные кеши.
- Обучена на 180 мультимодальных траекториях с темными и светлыми темами Grafana, а также конфликтными ловушками.
- Поддержка квантования KV-кеша (TurboQuant 4-bit) с защитой визуальных токенов и ускорителем flash-linear-attention (fla).
- Низкие системные требования: полная работа и инференс на одной видеокарте RTX 4060 с 8 ГБ VRAM.
Что можно сделать
- Автоматически диагностировать аварии и сбои по скриншотам дашбордов мониторинга Grafana.
- Настроить строгий вызов инструментов (tool calling) в формате JSON для интеграции с системами реагирования.
- Тестировать устойчивость к визуально-текстовым конфликтам в пайплайнах инцидент-менеджмента.
Пример запуска модели
import torch
from transformers import AutoProcessor, Qwen3_5ForConditionalGeneration
from huggingface_hub import snapshot_download
repo_dir = snapshot_download("kaii07/looped-qwen35-0.8b-visual-sre-v2.1")
base = Qwen3_5ForConditionalGeneration.from_pretrained(repo_dir, dtype=torch.bfloat16, device_map="cuda")
print("Модель успешно загружена")Подробнее
Бенчмарки: 84.0% точности на Hard OOD SRE (против 0.0% у базы) и 68.0% в BFCL v3.Железо: протестировано на NVIDIA RTX 4060 Laptop GPU (8.00 GB VRAM), пиковое потребление в обучении — 3.37 ГБ.
Ограничения: требует специфической архитектуры загрузки через репозиторий автора вместо стандартного AutoModel.










Комментарии