Huihui-Qwen3.8-27B-abliterated

Это uncensored-версия Qwen/Qwen3.8-27B на 27,78 млрд параметров, созданная методом abliteration — удалением отказов без дообучения. Автор называет реализацию грубым proof-of-concept; модель поддерживает image-text-to-text и запускается через transformers.

🔥 Ключевые особенности

• 🧐 Убраны отказы: abliteration затронула только слои 18–51, остальные оставлены без изменений.
• 🫡 Первые 15 слоёв не аблатированы — так сохраняется больше исходного качества.
• 👀 MTP и visual-часть не модифицировались.
• 🚀 Есть готовый вариант для ollama: huihui_ai/Qwen3.8-abliterated.
• ⛔ Снижена safety-фильтрация: возможны чувствительные и спорные ответы.

😀 Пример

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "Asger365/Huihui-Qwen3.8-27B-abliterated"
tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, dtype=torch.bfloat16, device_map="auto", trust_remote_code=True
)

Подробнее

Размер: 27,78B параметров, база — Qwen/Qwen3.8-27B.
Abliteration: слои 18–51; первые 15 слоёв и MTP/visual не изменены.
Требования к VRAM в карточке не указаны.
Автор рекомендует research/controlled use и ручную проверку вывода.