LFM3-Kali-1.7B

Полный merged-файнтюн на 1,73 млрд параметров на базе OpenIntelligenceNet/LFM3-1.7B-Uncensored (производная от LiquidAI/LFM3-1.7B). Сделан через QLoRA на 5 948 примерах команд, вызовов инструментов и объяснений по кибербезопасности. Для лабораторий, CTF и авторизованных аудитов; языки — английский и французский.

✅ Ключевые особенности

• ✅ В корне — полный FP16-мердж и tokenizer, в adapter/ — LoRA-адаптеры того же обучения.
• ✅ Есть GGUF Q4_K_M для Ollama с Modelfile и SHA-256; импорт и генерация проверены на Ollama 0.40.14.
• ✅ Конфигурация допускает до 262 144 позиций; автор использует 64K, но 4 ГБ VRAM не гарантируют полное заполнение контекста.
• ✅ Ориентирован на Kali Linux и Windows/WSL; сам не исполняет команды — это зависит от harness.
• 👁 Предложенные команды нужно проверять перед запуском; ответственность на операторе.

💥 Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_path = "aheshman/LFM3-Kali-1.7B"
tok = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_path, trust_remote_code=True,
    dtype=torch.float16, device_map={"": 0}
).eval()

Подробнее

QLoRA NF4, rank 16, alpha 32, 1 эпоха, 744 шага на Tesla T4; 16,1 млн обучаемых параметров.
Локальный тест автора: HP Gbook 15, Xeon, 4 ГБ VRAM, 32 ГБ RAM — задачи выполняются, но есть недочёты.
📉 Loss 0.008758 посчитан на 64 примерах валидации и не доказывает качество диалога; MSF представлен слабо, полного цикла выполнения и обратной связи инструментов нет.
Отсутствие отказов не гарантировано; лицензия — LFM Open License v1.0.