Qwen3-8B-3MPER0RR-BF16-DeepSeek-V4-Flash
дистилляция, а не abliteration
Это SFT-файнтюн базовой модели Qwen/Qwen3-8B (Apache 2.0) на 8,19 млрд параметров, обученный на учительских Q&A из датасета DeepSeek-V4-Distill-8000x (MIT). Автор отдельно подчёркивает: это не abliterated-вариант, а дистилляция ответов. Чекпоинт уже смёржен и готов к инференсу.
⚙ Ключевые особенности
- 🎯 Response distillation: SFT на ответах, сгенерированных учительской моделью
- 🧩 Reasoning в формате
<think>...</think> - 📦 Готовый merged-чекпоинт:
config.json+*.safetensors - 🔵 BF16 из коробки, запуск через
transformers - ⚠️ Возможны галлюцинации — ответы стоит проверять
💻 Пример
from transformers import AutoTokenizer, AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained(
"3MPER0RR/Qwen3-8B-3MPER0RR-BF16-DeepSeek-V4-Flash",
torch_dtype="bfloat16",
device_map="auto",
)
tok = AutoTokenizer.from_pretrained("3MPER0RR/Qwen3-8B-3MPER0RR-BF16-DeepSeek-V4-Flash")Подробнее
База: Qwen3-8B (Apache 2.0), датасет: DeepSeek-V4-Distill-8000x (MIT)Метод: supervised fine-tuning на teacher-generated Q&A
Формат рассуждений: <think>...</think>
Ограничение: возможны неточности и галлюцинации, требуется проверка








Комментарии