Gemma-4-E4B-it-SRE
агентная модель для SRE и диагностики инцидентов
2 min readupdated
Специализированная языковая модель от разработчика Rumiii, созданная для задач Site Reliability Engineering (инженерии надёжности сайтов) и работы с облачной инфраструктурой. Она построена на базе google/gemma-4-E4B-it и дообучена пошагово расследовать сбои через структурированные вызовы инструментов (tool-calling), анализировать диагностические логи и предлагать взвешенные шаги по восстановлению работы систем. Веса объединённые (16-bit), модель ориентирована на работу в связке с человеком-инженером и не предназначена для полностью автономного внесения изменений в продакшн.
Ключевые особенности
- Генерирует нативные для Gemma 4 вызовы функций строго по переданной схеме и использует только доступные ей инструменты.
- Проводит многошаговую диагностику в Kubernetes, Linux-хостах, PostgreSQL, облачных метриках и сетях, анализируя результат каждого шага перед следующим.
- Отделяет подтверждённые факты от гипотез и формирует краткие отчёты по итогам инцидента.
- Соблюдает осторожность: сначала выбирает диагностику только для чтения, запрашивает подтверждение перед потенциально опасными действиями и прямо сообщает, если нужного доступа нет.
- Воспринимает логи, алерты и выводы утилит как данные, а не как исполняемые инструкции.
Что можно сделать
- Собрать ассистента для первичной сортировки инцидентов (triage) и дежурных инженеров, который предлагает команды проверки.
- Встроить в runbook-копилота для пошагового разбора падений подов в Kubernetes, проблем с базами данных или сетевых сбоев.
- Использовать как компактную базовую модель в стендах для тестирования агентных пайплайнов и проверки корректности вызова инструментов.
Пример
from transformers import AutoProcessor, AutoModelForCausalLM
MODEL_ID = "Rumiii/gemma-4-E4B-it-SRE"
processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForCausalLM.from_pretrained(MODEL_ID, dtype="auto", device_map="auto")
inputs = processor.apply_chat_template(messages, tools=tools, add_generation_prompt=True, enable_thinking=False, return_tensors="pt").to(model.device)
output = model.generate(**inputs, max_new_tokens=512, do_sample=False)
Подробнее
Обучение: метод QLoRA через Unsloth в 2 эпохи на 608 отобранных траекториях из датасетаmiyad316/sre-agentic-trajectories-devops и 57 рукописных примерах безопасности.Метрики: стандартизированные бенчмарки не проводились; validation loss на отложенных 31 траекториях составил 0.269.
Ограничения: поддерживает только английский язык; небольшая обучающая выборка, точность вызова инструментов не замерялась — каждый вызов нужно проверять перед выполнением.
Лицензия: Apache 2.0.










Comments