Qwen3.5-4B-abliterated

Неофициальная abliterated-версия Qwen/Qwen3.5-4B на 4,21 млрд параметров, созданная через Abliterix — автоматическую abliteration LLM с ортогонализованным steering и байесовской оптимизацией. Автор указывает, что это отдельная производная, а не официальный релиз upstream-разработчика.

🔥 Ключевые особенности

• 🕷 Refusal direction извлекается на 800 harmful и 800 benign промптах, чтобы найти послойные паттерны отказов.
• ✨ Ортогональное проецирование убирает компоненты, связанные с отказами, и снижает их на 67% по сравнению с raw abliteration.
• 💻 Abliteration сделана через LoRA: rank-1 изменения весов attention и MLP в виде лёгких адаптеров, а не «разрушающих» правок.
• ⭐ Байесовская оптимизация Optuna TPE за 50 trials подбирает форму ядра, fractional direction index и силу компонентов.
• 📌 Итог: refusal rate 3/200 (1.5%) при KL divergence 0.0065.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("wasuro/Qwen3.5-4B-abliterated", torch_dtype="auto", device_map="auto")
tokenizer = AutoTokenizer.from_pretrained("wasuro/Qwen3.5-4B-abliterated")
messages = [{"role": "user", "content": "Твой вопрос"}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True, enable_thinking=False)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Подробнее

📌 Подробнее
Refusal rate: 3/200 (1.5%), KL divergence: 0.0065, 50 trials оптимизации.
Отказы снижены с 34/200 (17%) до 3/200 (1.5%), KL — с 0.0159 до 0.0065.
Лицензия Apache 2.0; safety alignment может быть ослаблен — нужна собственная оценка рисков.
Модель позиционируется для исследований, оценки и других законных задач.