SmolLM3-3B Math SFT
3B-модель для школьных задач
1 мин чтения
Это instruction-tuned версия SmolLM3-3B-Base от Yousuf Idrees, дообученная на математические текстовые задачи. Архитектура — decoder-only causal LM на 3.08B параметров, язык — английский, лицензия Apache 2.0. Модель — первый этап учебного проекта smol course: после SFT планируется DPO-версия.
Ключевые особенности
- SFT с TRL + LoRA, адаптер слит в базовые веса.
- 3 000 примеров MetaMathQA из smoltalk.
- Ориентирована на grade-school math word problems.
- Обучение на 1× NVIDIA T4 (Google Colab), веса fp16 safetensors.
- Для инференса лучше bf16 или fp32: чистый fp16 может переполняться.
- Есть готовый код запуска через transformers.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_id = "Yousuf-Idrees-135/smollm3-3b-math-sft"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.bfloat16, device_map="auto")
# далее apply_chat_template и generate
Подробнее
GSM8K: 0-shot, полный тест (1 319), extractive_match — 0.740 ± 0.012.Обучение: 3 000 примеров MetaMathQA, SFT + LoRA (merged), 1× T4.
Ограничения: учебный проект, не production-ready; сильнее всего на школьной математике; только английский; наследует bias'ы SmolLM3.
Следующий этап — DPO-модель smollm3-dpo-aligned.










Комментарии