OpsLens-17M

OpsLens-17M — decoder-only LLM на 17,05 млн параметров (Llama-совместимая архитектура), обученная с нуля на одной RTX 3050 Laptop. Она принимает строку сырого серверного лога и выдаёт компактный JSON: шаблон, переменные, severity, флаг аномалии, тег инцидента, объяснение и до трёх шагов исправления. Работает на CPU ноутбука без сети; это один компонент системы OpsLens.

▶ Ключевые особенности

• 🔤 8 слоёв, d_model 384, 6 голов, контекст 512 (поддерживается 1024), словарь 7 527 byte-level BPE; 17 052 672 параметра, 65 МБ fp32 safetensors.
• ➕ Промпт в формате <|sys:OpenSSH|><|log|>…<|out|>, на выходе JSON с ключами t, v, s, a, g, m, f.
• ➖ Поддерживает пять систем логов: Apache, OpenSSH, Linux, HDFS, OpenStack.
• ✖ Обучение: Loghub-2.0, 100M токенов pretrain + fine-tune на парах (строка, JSON) из базы знаний на 499 записей; 15% шаблонов holdout.
• 🟰 Варианты запуска: transformers, llama.cpp/Ollama GGUF, ONNX Runtime/Triton, Docker-сервер OpsLens.

◀ Пример

<|sys:OpenSSH|><|log|>Failed password for root from 183.62.140.253 port 38895 ssh2<|out|>

Подробнее

Бенчмарки на holdout: template exact match 0.997 на seen и 0.303 на unseen; anomaly F1 1.00 (memorised) / 0.71; качество объяснений 2.16/5 (Claude judge).
CPU-латентность с декодером OpsLens: ~100 мс p50 для известных шаблонов и ~1,1 с для новых.
Ограничения: только 5 систем логов, на невиданных шаблонах объяснения и фиксы часто неверны; метки знаний от teacher-модели не все проверены людьми; модель рекомендует, но не действует.