smollm3-lora-sft

Это файнтюн базовой модели HuggingFaceTB/SmolLM3-3B-Base от автора BackRoll. Модель дообучена методом SFT на датасете HuggingFaceTB/smoltalk2_everyday_convs_think с помощью TRL и рассчитана на генерацию ответов в повседневных разговорах.

⚙ Ключевые особенности

• ⚡ База — SmolLM3-3B-Base, то есть небольшая 3B-модель.
• 💭 Обучение на smoltalk2_everyday_convs_think — датасете повседневных диалогов.
• 🧩 Поддерживается формат чата: pipeline принимает список сообщений с role и content.
• 🪴 Тренировка выполнена через TRL 1.17.1, Transformers 5.22.2 и PyTorch 2.15.0.

🔎 Пример

from transformers import pipeline
question = "If you had a time machine, but could only go to the past or the future once and never return, which would you choose and why?"
generator = pipeline("text-generation", model="BackRoll/smollm3-lora-sft", device_map="auto")
output = generator([{"role": "user", "content": question}], max_new_tokens=128, return_full_text=False)[0]
print(output["generated_text"])

Подробнее

Модель обучена методом SFT на датасете smoltalk2_everyday_convs_think.
Стек обучения: TRL 1.17.1, Transformers 5.22.2, PyTorch 2.15.0, Datasets 5.1.0, Tokenizers 0.23.3.
В карточке нет бенчмарков, данных о требованиях к VRAM и списка ограничений.