Grasmere-E4B
небольшая чат-модель для кельтских языков
2 min readupdated
Grasmere-E4B — дообученная версия google/gemma-4-E4B-it на валлийском, ирландском, шотландском гэльском и скотсе, с сохранением английского. Модель на ~8 млрд параметров умеет вести диалог, точно следовать инструкциям, цитировать источники и вызывать инструменты на всех четырёх кельтских языках. Есть два варианта: базовый Grasmere-E4B и Grasmere-E4B-FTPO с исправлением зацикливаний — автор рекомендует FTPO для повседневного использования.
Ключевые особенности
- На CymraegBench средний результат 50,3 против 40,2 у stock Gemma 4 E4B-it.
- Вызов инструментов: 100% для валлийского и шотландского гэльского, 88% для ирландского и скотса в собственном тесте.
- Точные цитаты, JSON и инструкции по формату заметно улучшены относительно базовой модели.
- FTPO-вариант снижает долю длинных ответов с зацикливанием с 39% до 8% при greedy-сэмплинге и с ~9% до 0% при обычном.
- Обучена одним человеком на одной RTX 4090 (24 ГБ) менее чем за четыре дня.
Пример
llama-cli -m path/to/Grasmere-E4B-Q5_K_M.gguf \
--jinja --temp 0.3 --top-p 0.9 --repeat-penalty 1.05
Для llama.cpp включите --jinja, чтобы работал нативный tool calling; thinking лучше отключить.
Подробнее
CymraegBench: 50,3 у Grasmere против 40,2 у базовой Gemma 4 E4B-it.GGUF-кванты: Q8_0 — 8,0 ГБ, Q5_K_M — 5,8 ГБ, Q4_K_M — 5,3 ГБ; Q5/Q4 теряют около 2 баллов.
Ограничения: перевод на ирландский и шотландский гэльский на 2–3 chrF ниже stock Gemma; относительные даты иногда разрешаются неверно; скотс может смешиваться с английским.
Базовая лицензия Gemma 4; часть SFT-ответов — веб-текст из новостных и культурных изданий.










Comments