Lala L1
компактная модель для поиска атак в логах Linux
2 мин чтенияобновлено
Исследовательский чекпоинт от лаборатории lilafold, который анализирует поток системных событий на хосте и оценивает, является ли каждое из них частью сценарной кибератаки. В основе лежит лёгкий ансамбль из трёх 4-слойных каузальных трансформеров (около 1–3M параметров), обученный на реальной лабораторной телеметрии Linux в формате OCSF (Open Cybersecurity Schema Framework — открытый стандарт описания событий безопасности). При крошечном размере модель не уступает или превосходит небольшие LLM вроде Qwen-1.5B в пределах статистической погрешности, требуя в разы меньше вычислительных ресурсов. Подойдёт специалистам по информационной безопасности и исследователям для экспериментов с детекцией аномалий без развёртывания тяжёлых языковых моделей.
Ключевые особенности
- Архитектура: ансамбль из 3 сидов 4-слойного каузального трансформера (d=128) с общим объёмом около 1–3M параметров.
- Контекст анализа составляет последние 256 событий на каждый отслеживаемый хост.
- На 5 невиданных ранее кампаниях в протоколе frozen-split модель показывает 0.80 PR-AUC.
- Модель работает исключительно в режиме скоринга и не выполняет автономную блокировку или реагирование.
Что можно сделать
- Встроить модель в исследовательский пайплайн анализа Linux-телеметрии в формате OCSF для выявления вредоносной активности.
- Сгруппировать сырые оценки событий в инциденты без дообучения модели, используя калибровку под базовый уровень хоста (
host_baseline). - Заменить тяжёлую LLM (например, Qwen-1.5B) в задаче скоринга событий хоста для экономии ресурсов.
Пример
python src/infer.py --model checkpoints/lala-l1 --input --out scores.csv --fpr 0.001 --calibration host_baselineПодробнее
Метрики: 0.72 PR-AUC (0.71 recall при 0.44% FPR) на Frozen TEST; 30/30 обнаруженных кампаний при 1.08 ложных инцидента на хост в день на свежих прогонах.Ограничения: около 14% ложных срабатываний на похожих административных командах, на Frozen TEST при группировке остаётся 23.44 ложных инцидента в день.
Покрытие: для 5 семейств атак (включая повышение привилегий и закрепление в системе) нет данных real-time frozen TEST; калибровка плохо переносится между разными версиями сборщиков логов.
Лицензия: CC BY-NC-4.0 (только некоммерческое использование).










Комментарии