Qwen3-32B Prefill-Awareness LoRA

LoRA-адаптер для Qwen/Qwen3-32B из работы Training Prefill-Awareness in Small Models. Его задача — назвать токен, который был подсажен в предыдущий ответ модели. Обучение шло на собственных greedy-генерациях Qwen3-32B с выключенным thinking по промптам Dolly.

✅ Ключевые особенности

• 👁 Ищет в истории ассистента изменённые токены и просит вернуть их точный текст.
• ✅ Если подмены нет, целевой ответ — none; формат ответа — токены через запятую.
• 🦾 LoRA rank 16, alpha 32, dropout 0.05, все linear-слои; bf16 без квантизации.
• 🔥 Обучение: 8 864 диалога, 2 эпохи, 1108 шагов оптимизатора.
• 📉 На held-out базовая Qwen3-32B не нашла ни одного подсаженного токена: 0/491.

👁 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
import torch

base_id = "Qwen/Qwen3-32B"
model = AutoModelForCausalLM.from_pretrained(base_id, torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(model, "YonatanD/qwen3-32b-prefill-awareness-greedy")
# далее: chat-шаблон с enable_thinking=False и generate(max_new_tokens=32, do_sample=False)

Подробнее

Held-out: 997 ответов, из них 491 с подменой. Точное попадание — 225/491 (45.8%), ложные срабатывания на чистых ответах — 9.9%.
Адаптер обучен на ответах Qwen3-32B с enable_thinking=False; лицензия Apache 2.0.