Qwen3.6-35B-A3B-CyberFusion

Экспериментальная bf16-модель на 35,95 млрд параметров от Kernel-Lord, собранная последовательным SLERP-мержем трёх файнтюнов Qwen3.6-35B-A3B. Ориентирована на анализ кода, систем, атакующих путей и защитных практик; распространяется как обычная Hugging Face Transformers-модель без квантования.

✨ Ключевые особенности

• 🦾 Три источника: Qwopus — следование инструкциям, Kimi-K2.6 Reasoning Distilled — reasoning, CyberStrike-OffSec — кибербезопасность и offensive security.
• 🔥 Двухэтапный SLERP: сначала Qwopus + Kimi (t=1/2), затем результат + CyberStrike (t=1/3).
• ✅ bf16 без квантования; MTP head взят со стороны Qwopus/Kimi, config, tokenizer и chat template — от Qwopus.
• 👁 Сценарии: threat modeling, secure code review, triage уязвимостей, defensive engineering, incident response, CTF и лабораторные задачи.
• 🤝 Это research-модель: выходы по безопасности нужно проверять в изолированной среде и считать недоверенными по умолчанию.

⬇ Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = 'Kernel-Lord/Qwen3.6-35B-A3B-CyberFusion'
tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype='auto', device_map='auto', trust_remote_code=True)
msgs = [{'role': 'user', 'content': 'Create a defensive threat model for a small web API.'}]
prompt = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True)
print(tok.decode(model.generate(**tok(prompt, return_tensors='pt').to(model.device), max_new_tokens=700)[0], skip_special_tokens=True))

Подробнее

Бенчмарков в карточке нет: автор не делает заявлений о производительности до воспроизводимых оценок.
Мерж может давать неравномерное поведение, регрессии, галлюцинации и несовместимость с некоторыми inference-стеками.
Лицензии и условия использования нужно проверять по всем трём исходным репозиториям; единая лицензия не заявлена.
Для безопасности: изолированная среда, human review, логирование и только авторизованные системы.