Xevn-4B
корейская модель решений без генерации текста
2 min read
Xevn-4B — 4B decision-модель от Nhahan для корейского языка: понимание, знания и суждения. Она читает вопрос и варианты один раз и возвращает ответ с вероятностью для каждого варианта, без генерации текста. Архитектура — гибрид Gated DeltaNet и attention, 32 слоя (24 Gated DeltaNet, 8 full attention); база — Qwen3.5-4B.
Ключевые особенности
- Один forward pass на вопрос: модель не пишет текст, а сразу выдаёт ответ и вероятности по вариантам.
- Три типа запросов:
choice(2–26 вариантов),noul(да/нет),score(2–10 уровней). - Гибридная архитектура: 24 слоя Gated DeltaNet и 8 слоёв full attention, hidden size 2,560.
- Основной язык — корейский; английский поддерживается, но не в фокусе.
- Есть веса Transformers bf16, MLX (3–16 bit) и GGUF (BF16–Q4_K_M).
Пример
from xevn_infer import Xevn
model = Xevn("Xevn-4B", device="cpu")
state = "고객: ..."
questions = {"team": {"type": "choice", "instructions": "Which team?", "criteria": {"billing": "Payments", "shipping": "Delivery"}}}
result = model.request({"state": state, "questions": questions})
Подробнее
Точность: KoBEST — 89.7%, MMLU — 76.5%, KMMLU — 56.3%.Вес Transformers в bf16 — 9.3 ГБ; MLX 5-bit — 2.9 ГБ, GGUF Q4_K_M — 2.78 ГБ.
Это не чат-модель: только выбор из 2–26 вариантов, yes/no или оценка по 2–10 уровням; фокус — корейский.
На Apple M4 Max p50 — 56 мс для входа до 64 токенов.










Comments