Qwen3.5-2B MITRE-Aware Decide

LoRA-релиз от jithinodattu на базе Qwen3.5-2B__mitreaware — 2B-модели, обученной на данных MITRE (ATT&CK, CVE, CWE, CTI). Поверх неё добавлена голова решений, обученная через FastDecisionModel из Unsloth: на вход подаётся текст алерта и набор вопросов, на выходе — ответ и вероятность по каждому варианту, без свободного текста и парсинга.

🔮 Ключевые особенности

• ✔ Структурированный вывод: для каждого вопроса — answer и probabilities по всем опциям.
• ✅ Калиброванная уверенность: ECE 0.042 на тестовом сплите, заявленная уверенность в среднем в пределах ~4 пунктов от реальной точности.
• 🔮 Один forward pass на все вопросы к одному входу — вместо генерации ответа на каждый вопрос.
• 📍 MITRE-aware: алерты, advisory и CTI-отчёты, три типа вопросов — choice, noul (да/нет) и score.
• 💵 Компактно: 2B в 4-bit, обучение заняло около 30 минут на одной NVIDIA L4 с пиком 4.4 GB памяти.
• 📚 До 8192 токенов на вход, длинные входы сохраняют вопросы и опции.

💻 Пример

from unsloth import FastDecisionModel

model, tokenizer = FastDecisionModel.from_pretrained(
    model_name="jithinodattu/Qwen3.5-2B__mitreaware_decide",
    max_seq_length=8192,
    load_in_4bit=True,
)
FastDecisionModel.for_inference(model)

Подробнее

Бенчмарки на LocalLLaMA/typed-decisions (не на security-задачах): test split — accuracy 79.4%, ECE 0.042, record accuracy 39.0%.
Обучение: LoRA r=16, alpha=16, 47.3M обучаемых параметров из 1.69B (2.80%), 5 эпох, bf16, 1× NVIDIA L4.
Ограничения: цифры получены на общем датасете, а не на MITRE-решениях — валидируйте на своих размеченных алертах; модель не ищет CVE и отчёты в реальном времени; держите человека в контуре и не позволяйте модели закрывать алерты самостоятельно.