Arete-27B
западные ценности поверх Qwen3.8-27B
Nous Research выпустила Arete-27B — посттренинг Alibaba Qwen3.8-27B на 27B параметров. Модель дообучена через SFT, чтобы сместить ответы по политически чувствительным темам, и предназначена для общей помощи, agentic-задач и исследований влияния посттренинга на ценности.
🖱 Ключевые особенности
- 🌎 Обучение шло по семи категориям: свобода выражения, государственная идеология, государство против свободного рынка, образование, приватность и слежка, демократия, экологическая политика.
- 📓 Использован только supervised fine-tuning: без RL, preference optimization и изменений архитектуры.
- 💻 Около 52.8 млн токенов, контекст 64k, две эпохи и 1202 шага; учителем выступила модель Inkling.
- ✅ По оценке авторов, fact mean вырос с 2.32 до 2.98 из 5, а доля ответов с пропагандой упала с 22% до 0.9%.
- 🖱 На Hermes Bench результат составил 65.60% против 65.77% у базовой модели, на Terminal-Bench-2.1 — 70% против 67%.
📓 Пример
Сценарий из карточки: общая помощь и agentic-работа для пользователей, которым нужен изменённый взгляд модели, а также исследование value-alignment. Можно взять промпт из одной из семи категорий — например, о свободе выражения или государственной идеологии — и сравнить ответ Arete-27B с ответом Qwen3.8-27B на тот же запрос.
Подробнее
Fact mean: 2.98 ± 0.03 против 2.32 ± 0.03 у Qwen3.8-27B; пропаганда — 0.9% против 22% при thinking off и temperature 0.Hermes Bench: 65.60% против 65.77%; Terminal-Bench-2.1: 70% против 67%.
Обучение: SFT на ~52.8 млн токенов, 64k контекст, 2 эпохи, 1202 шага; обучались все языковые веса, vision encoder заморожен.
Ограничения: оценка на 803 промптах с LLM-судьёй Grok 4.7; сравнение не на полностью одинаковых decoding settings. Требования к VRAM и железу в карточке не указаны.








Комментарии