K-Oss-9-Mini

K-Oss-9-Mini от K-Ai (Kortex Ai) — следующее поколение семейства K-Oss: causal language model на архитектуре Qwen3 с 8,19 млрд параметров. Это QLoRA-файнтюн Qwen3-8B-Base на датасете Kai_V2; целевые языки — индонезийский, английский и японский. Модель предназначена для генерации текста, инструкций, кода и учебных сценариев.

💻 Ключевые особенности

• 💻 Архитектура Qwen3, 8,19 млрд параметров, causal LM для генерации текста.
• 🔥 QLoRA-файнтюн с 4-bit квантизацией; в пайплайне Unsloth, Transformers и TRL SFTTrainer, loss считается по ответам ассистента.
• 🌎 Три целевых языка: индонезийский (id), английский (en), японский (ja).
• 📚 Датасет Kai_V2: инструкции, reasoning, код, наука, языковое обучение, Japanese Kaiwa, креативность и safety.
• ✅ Отдельный benchmark split и описанный пайплайн оценки; числовых результатов в карточке нет.

💻 Пример

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

model_id = "K-Ai-Official/K-Oss-9-Mini"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype=torch.float16, device_map="auto"
)

Подробнее

Данных о VRAM и железе в карточке нет.
Бенчмарк Kai_V2 охватывает инструкции, reasoning, код, науку, язык, Japanese Kaiwa, креативность и safety; конкретные цифры не приводятся.
Ограничения: наследует ограничения Qwen3; японская точность требует дальнейшей оценки; не для медицинских, юридических и финансовых решений с высокими ставками.
Лицензия Apache 2.0.