K-Decision-9B
корейский движок решений с калиброванными вероятностями
1 мин чтения
K-Decision-9B v0.1 — первый публичный релиз от ONYULTEA: специализированная под корейский язык модель на базе Qwen/Qwen3.5-9B (8,95 млрд параметров). Это не чат-LLM: она принимает state и типизированные вопросы, а на выходе в одном forward pass даёт структурированное решение с вероятностями по всем вариантам.
Ключевые особенности
- Не генерирует текст: предсказывает логиты символов ответа у маркеров в JSON-скелете, без цикла декодирования.
- Поддерживает choice (2–26 вариантов) и noul (да/нет); softmax ограничен легальными символами, сумма вероятностей = 1.
- Обучение и сервис — на одной 24GB consumer GPU: int8 LoRA, r=32; int8 выбран вместо 4-bit из-за точности вероятностей.
- Специализация: корейские бытовые домены — администрация, медицина, CS, инфраструктура, образование, работа, агенты; языки — корейский и английский.
- Веса Apache-2.0; есть сервер /v1/systemone, совместимый с System One / Jev.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model = AutoModelForCausalLM.from_pretrained(
"ONYULTEA/K-Decision-9B", torch_dtype=torch.bfloat16, device_map="auto")
tok = AutoTokenizer.from_pretrained("ONYULTEA/K-Decision-9B")
Подробнее
LocalLLaMA typed-decisions: 0.818 (fitted); KoBEST: 0.866; Korean holdout: 0.997.Decision Index 0.3: 30.7 (raw 44.8), p50 168 ms, 0 ошибок на 140 тыс. запросов.
Лимиты: до 26 вариантов choice и 6 000 символов state; KMMLU ~30%; высокорисковые решения — только с человеком.
Веса Apache-2.0; обучение и сервис на одной 24GB GPU (int8 LoRA, r=32), ECE ~0.001 на holdout.










Комментарии