Arete-27B-heretic-test2

Это decensored-версия NousResearch/Arete-27B на 27,36 млрд параметров, сделанная через Heretic v2.1.0. Базовая Arete-27B — посттренинг Qwen3.8-27B с акцентом на западные ценности. Новая версия снижает число отказов и подходит для текстовой генерации и исследований поведения LLM.

🤔 Ключевые особенности

• 😎 Сделана через Heretic v2.1.0 с Arbitrary-Rank Ablation по слоям 30–62.
• 🗣 Отказы по классификатору: 16/100 против 93/100 у исходной Arete-27B.
• 🤓 Общие способности почти не просели: PIQA 0.8166 против 0.8177, ARC Easy 0.8207 против 0.8123.
• 📝 KL divergence относительно исходной модели — 0.1335.
• 🫡 Карточка заявляет воспроизводимость: в каталоге reproduce есть README.

📝 Пример

Сценарий из карточки: запрос по политически чувствительной теме, на который исходная Qwen3.8-27B часто отвечала отказом или воспроизводила официальную рамку. Эта версия обучена давать более прямые ответы; конкретный результат зависит от промпта.

Подробнее

Отказы по классификатору: 16/100 против 93/100 у исходной Arete-27B.
KL divergence: 0.1335; PIQA: 0.8166 против 0.8177; ARC Easy: 0.8207 против 0.8123.
Модель текстовая, 27,36B; требования к VRAM в карточке не указаны. Это decensored-вариант для экспериментов, а не отдельная новая базовая модель.