Grasmere-E4B

Grasmere-E4B — дообученная версия google/gemma-4-E4B-it на валлийском, ирландском, шотландском гэльском и скотсе, с сохранением английского. Модель на ~8 млрд параметров умеет вести диалог, точно следовать инструкциям, цитировать источники и вызывать инструменты на всех четырёх кельтских языках. Есть два варианта: базовый Grasmere-E4B и Grasmere-E4B-FTPO с исправлением зацикливаний — автор рекомендует FTPO для повседневного использования.

🎯 Ключевые особенности

• 🔍 На CymraegBench средний результат 50,3 против 40,2 у stock Gemma 4 E4B-it.
• ⚙ Вызов инструментов: 100% для валлийского и шотландского гэльского, 88% для ирландского и скотса в собственном тесте.
• 📌 Точные цитаты, JSON и инструкции по формату заметно улучшены относительно базовой модели.
• 🔄 FTPO-вариант снижает долю длинных ответов с зацикливанием с 39% до 8% при greedy-сэмплинге и с ~9% до 0% при обычном.
• 🖥 Обучена одним человеком на одной RTX 4090 (24 ГБ) менее чем за четыре дня.

💻 Пример

llama-cli -m path/to/Grasmere-E4B-Q5_K_M.gguf \
  --jinja --temp 0.3 --top-p 0.9 --repeat-penalty 1.05

Для llama.cpp включите --jinja, чтобы работал нативный tool calling; thinking лучше отключить.

Подробнее

CymraegBench: 50,3 у Grasmere против 40,2 у базовой Gemma 4 E4B-it.
GGUF-кванты: Q8_0 — 8,0 ГБ, Q5_K_M — 5,8 ГБ, Q4_K_M — 5,3 ГБ; Q5/Q4 теряют около 2 баллов.
Ограничения: перевод на ирландский и шотландский гэльский на 2–3 chrF ниже stock Gemma; относительные даты иногда разрешаются неверно; скотс может смешиваться с английским.
Базовая лицензия Gemma 4; часть SFT-ответов — веб-текст из новостных и культурных изданий.