Qwen3.8-27B DAT GRPO Full250

Полновесный чекпоинт после 250 обновлений GRPO на существительных и глаголах для Divergent Association Task (DAT). База — unsloth/Qwen3.8-27B-unsloth-bnb-4bit / Qwen/Qwen3.8-27B; 27,36 млрд параметров в 55 shards, архитектура Qwen3_5ForConditionalGeneration. Это исследовательский релиз: vision-веса включены, но текстовый файнтюн их не обучал.

🔮 Ключевые особенности

• 🧚‍♀ GRPO учит генерировать десять существительных или глаголов по промптам DAT; прилагательные оставлены для проверки.
• 📚 Награда — официальный DAT, делённый на 100, минус 0,2 за каждое слово, отклонённое замороженным WordNet-верификатором; malformed-ответы получают −2.
• 💻 Обучение текстовой части: chunked Adafactor с FP32-статистикой, BF16-стохастическим округлением, lr 1e-6 и KL-референсом в NF4.
• 🐎 Отдельно выпущены GGUF Q4_K_M и Q8_0 для llama.cpp; есть браузерное демо с настройками генерации.

💻 Пример

from transformers import AutoModelForImageTextToText, AutoTokenizer
import torch

repo_id = "crazyleg11/qwen3.8-27b-dat-grpo-full250"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForImageTextToText.from_pretrained(
    repo_id, dtype=torch.bfloat16, device_map="auto"
).eval()

Подробнее

DAT: noun 71,81 → 89,59, verb 51,11 → 85,21; adjective 60,72 → 86,26, но только 1/32 списков прошли все проверки класса (было 29/32).
MMLU-Pro без thinking: 59,29% → 56,07%; IFEval strict: 83,18% → 79,48% (парное падение 3,70 п.п.).
В письменных A/B-оценках: креативность +0,70, образность +0,62, связность −0,90; общее литературное качество не определено.
Полный чекпоинт: ~51 GiB на веса плюс runtime-память; демо работает в BF16 на 96 GB ZeroGPU. Возможны регрессии форматирования, класса слов и связности; лицензия Apache-2.0.