qwen3-4b-deslop

Это Qwen3-4B-Instruct-2507, в которую частично «вшили» манеру письма без типичных ассистентских привычек: меньше em dash, конструкций «это не X, это Y», списков из трёх, риторических вопросов, markdown и эмодзи в прозе. Автор — albertlieadrian; это rank-16 LoRA, дистиллированная из учителя, плюс слитые bf16-веса и адаптер в adapter/.

🔍 Ключевые особенности

• ✔ Работает без system prompt и специального сэмплера.
• ⚡ Снижает deslop score с 89.7 до 21.5; 38 из 48 ответов попадают в «человеческий» диапазон.
• 📊 EQ-Bench slop score: 21.8 против 43.4 у базовой модели.
• 🖥 Есть GGUF Q4_K_M для Ollama и запуск через transformers.
• ⚠ Обучена на короткой английской прозе 120–250 слов; всё ещё выдумывает имена.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer

tok = AutoTokenizer.from_pretrained("albertlieadrian/qwen3-4b-deslop")
model = AutoModelForCausalLM.from_pretrained("albertlieadrian/qwen3-4b-deslop", dtype="auto", device_map="auto")
messages = [{"role": "user", "content": "Write an opinion piece about open-plan offices."}]
ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(ids, max_new_tokens=512, do_sample=True, temperature=0.7, top_p=0.8, top_k=20)
print(tok.decode(out[0, ids.shape[1]:], skip_special_tokens=True))

Подробнее

Deslop score: 21.5 против 89.7 у базы; 38/48 ответов в человеческом диапазоне.
EQ-Bench slop: 21.8 против 43.4; task fit 47/48; quiz 30/30.
KL drift на человеческой прозе — 0.11. Слепой судья чаще выбирал базовую модель; win rate этой — 0.22.
Ограничения: только короткая английская проза; имена вроде Alex/Jordan всё ещё выдумываются. Это не AI-детектор.