kk_qwq SFT Qwen3-1.7B

Это SFT-файнтюн Qwen/Qwen3-1.7B-Base на 1,72 млрд параметров от автора willinki, обученный через пайплайн cotangled в режиме sft. В карточке модель помечена как sft-teacher и оценена на K&K-головоломках с числом людей от 2 до 8.

🔍 Ключевые особенности

• ⚙ База — Qwen3-1.7B-Base, формат данных — r1_text, обучение в bfloat16.
• 📌 Полный SFT без LoRA: lora.enabled: false, 3 эпохи, lr=1e-4, max_length=16384.
• 📊 На holdout K&K accuracy 0,963 при pass_at_n=1.0 на 2800 сэмплах.
• 🧨 Точность держится высокой: от 0,995 для 2 человек до 0,89 для 8 человек.
• 🔗 Для оценки использовали vLLM 0.31.0, temperature=0.7, top_p=0.95, stop-токен </answer>.

💬 Пример

Сценарий из карточки: на вход подаётся K&K-головоломка, модель генерирует рассуждение в формате r1_text и останавливается на </answer>. Оценка идёт по accuracy и pass@n; на 8 участниках средняя длина ответа — около 5006 токенов.

Подробнее

Бенчмарк: all — accuracy 0,963, pass@n 1,0, 700 головоломок и 2800 сэмплов.
Пик KV-кэша в среднем — около 404 MB; явных требований к VRAM в карточке нет, в eval стоял gpu_memory_utilization=0.6.
Ограничения: оценка только на K&K, датасет kk_qwq подробно не описан, лицензия не указана.
Обучение: batch size 1, gradient accumulation 12, cosine scheduler, gradient checkpointing.