Qwen2.5-32B-Instruct-heretic1x-general

Это abliterated-версия Qwen/Qwen2.5-32B-Instruct на 32,76 млрд параметров, сделанная в Heretic 1.x. Автор позиционирует модель для исследований abliteration и её оценки, а не как универсального ассистента.

🔮 Ключевые особенности

• 🔥 Rank-1 LoRA по o_proj и down_proj, слитая в bf16-веса базовой модели.
• 💻 Heretic 1.x: 200 Optuna-трайлов, выбран трайл #84.
• 📌 На dev: 89/100 отказов и KL divergence 0.0059 при cap ≤ 0.01.
• ✅ На held-out: отказы 73.4% против 76.8% у базовой; over-refusal 2.3% против 5.1%.
• ❌ Среднее изменение capability +0.19 pp; по бенчмаркам — от −0.6 до +0.4 pp.
• 📚 Отказ снижен, но не убран; дополнительного safety-тюнинга нет.

💻 Пример

Сценарий из карточки — сравнение abliterated-релизов на Qwen2.5 при одинаковом selection rule и realised divergence. Например, прогнать harmful-промпты из mlabonne/harmful_behaviors и оценить отказы судьёй WildGuard.

Подробнее

Held-out: 972 harmful-промпта, WildGuard: отказы 73.4% [70.5%, 76.0%] против 76.8%.
Capability: MMLU-Pro +0.4, GSM8K +0.4, IFEval +0.4, HumanEval −0.6, MBPP +0.4 pp.
Ограничения: один поиск на одной базе; seed-noise SD около 9 pp; различия между отдельными моделями нельзя переоценивать.
Лицензия: Apache-2.0 базовой модели плюс use-based restrictions OpenRAIL++ v1.0.