Kataguru-Sceptic-35B-A3B-Finnish-v3.2
финский MoE с переводами и STEM
1 min read
Kataguru-Sceptic-35B-A3B-Finnish-v3.2 — финская MoE-модель от kataguru на базе Kataguru Sceptic 35B-A3B v3.1. Она совмещает языковые, reasoning- и мультимодальные vision-возможности с полностраничным переводом EN ↔ FI; в архитектуре 256 экспертов на слой и 3B активных параметров на токен.
Ключевые особенности
- 256 экспертов на каждый из 40 слоёв: 254 замороженных эксперта ядра #0–#253 и два новых финских #254–#255.
- Эксперт #254 отвечает за финскую грамматику, морфологию, падежи и техническую терминологию; #255 — за литературу, нон-фикшн и двунаправленный перевод.
- Ядро сохраняет reasoning, coding, вызов инструментов, PLC/CNC и 27-слойный vision encoder; контекст — 262 144 токена.
- Нативный chat template: режимы
/fi,/translateи управление глубиной reasoning через{REASON:…}. - Опубликованы полные BF16 master weights, а также NVFP4, W4A16-AWQ и GGUF APEX-квантизации.
Пример
Пример запроса: /translate Переведи страницу с английского на финский, сохраняя абзацы и технические термины. Для ответа на финском можно начать промпт с /fi.
Подробнее
Бенчмарки базы: 15-Benchmark Mean 70.26%, GPQA Diamond 70.20%, BFCL V4 AST 83.67%.BF16 требует ~72 GB VRAM; NVFP4/W4A16-AWQ — от 1x 32 GB, GGUF APEX-Medium (~13.6 GiB) — на 16 GB GPU.
Для строгой финской морфологии и вычитки карточка советует temperature=0.2–0.3 и presence_penalty=0.3.










Comments