CyberMind-4B-GGUF
локальный ИИ-аналитик для задач кибербезопасности
2 мин чтенияобновлено
Модель представляет собой специализированный файнтюн на базе Qwen2.5-3B-Instruct от автора Srihari2020, адаптированный для работы на локальном оборудовании в формате GGUF. Она настроена для выполнения роли аналитика SOC (Security Operations Center — центра мониторинга информационной безопасности) уровня Tier-3 и помогает разбирать логи угроз. При анализе модель строго придерживается двухэтапной структуры: сначала проводит базовый разбор инцидента (Phase 1: Core Analysis), а затем предлагает тактические меры по устранению проблемы (Phase 2: Tactical Mitigation). В отличие от исходной Qwen2.5-3B-Instruct, версия обучена специально под стандартизированный формат отчётности без примеси данных для программирования и, по замерам автора, быстрее формирует ответ при разборе логов. Инструмент пригодится специалистам по информационной безопасности, которым нужен компактный приватный ассистент для первичной обработки событий безопасности.
Ключевые особенности
- Строгая двухфазная структура ответа: разделение на анализ сути угрозы и конкретные шаги по её нейтрализации.
- Обучение с помощью SFT (Supervised Fine-Tuning) на 2 485 инструкциях, составленных на основе баз CISA KEV и MITRE ATT&CK.
- Высокая скорость работы и соблюдение формата: в тестах автора модель показала 100% следование заданной структуре вывода.
- Оптимизация под локальный запуск: использована 4-битная квантизация NF4 и фреймворк Unsloth, поддерживается окно контекста 8192 токена.
Что можно сделать
- Развернуть приватного ассистента для анализа логов безопасности и триажа инцидентов без отправки данных во внешние облачные API.
- Интегрировать модель в локальный контур через Ollama с использованием готового
Modelfileиз репозитория для автоматизации отчётов SOC.
Пример
git lfs install
git clone [https://huggingface.co/Srihari2020/CyberMind-4B-GGUF](https://huggingface.co/Srihari2020/CyberMind-4B-GGUF)
ollama create cybermind-4b -f CyberMind-4B-GGUF/Modelfile
ollama run cybermind-4bПодробнее
Бенчмарки (на NVIDIA RTX 5060): 100.0% соблюдение формата, средняя задержка 2.04 с на один лог (+60.4% к скорости или на 3.12 с быстрее базовой Qwen2.5).Параметры обучения: LoRA (rank r = 16, lora_alpha = 32), квантизация 4-bit (NF4), фреймворк Unsloth, контекстное окно 8192.
Ограничения: в обучающую выборку намеренно не включались данные по написанию кода, упор сделан только на анализ угроз и структурированные ответы; язык карточки — английский.










Комментарии