OmniSRE
LoRA-адаптер для DevOps и SRE-задач на базе Qwen3.8
2 мин чтенияобновлено
OmniSRE — это открытый агент системной надежности (SRE), созданный для автоматического триажа, локализации, поиска первопричин и устранения инцидентов. Модель построена в виде ранга-64 LoRA (небольшой надстройки над базовой моделью) для языковой модели Qwen/Qwen3.8-27B. Агент следует главному принципу инженерной безопасности: «никогда не пишет, предварительно не прочитав». Решение пригодится разработчикам, DevOps-инженерам и командам поддержки для автоматизации анализа сбоев.
Ключевые особенности
- Ранг-64 LoRA (небольшая надстройка) для Qwen/Qwen3.8-27B с 466.9 миллионами обучаемых параметров.
- Обучение на реальных трейсах инцидентов, логах SRE и инструкциях по устранению неполадок (runbooks).
- Строгий подход к чтению данных перед выполнением любых действий по исправлению.
- Поддержка архитектуры базовой модели с замороженной визуальной частью (Vision tower) и MTP head.
Что можно сделать
- Применить адаптер для автоматизированного анализа инцидентов и разбора логов в DevOps-пайплайнах.
- Использовать в качестве умного помощника на дежурствах (on-call) для диагностики системных сбоев.
- Собрать собственного чат-бота для работы с Kubernetes и инфраструктурными алертами.
- Интегрировать в системы мониторинга для предварительной локализации и поиска первопричин проблем.
Пример
import torch
from peft import PeftModel
from transformers import AutoModelForImageTextToText, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3.8-27B", trust_remote_code=True)
base = AutoModelForImageTextToText.from_pretrained(
"Qwen/Qwen3.8-27B", dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
)
model = PeftModel.from_pretrained(base, "w3joe/OmniSRE")Подробнее
Базовая модель: Qwen/Qwen3.8-27B (64 слоя, контекст 262K)Адаптер: LoRA r = 64, 466.9M параметров (1.68%)
Обучение: Стадия 1a (5038 трейсов, лосс до 0.175), Фаза 1b (98.5% точность токенов)
Железо: 4 × H100 BF16 для обучения · 1 × H100 / L40S FP8 для сервиса
Лицензия: Apache 2.0










Комментарии