SautiLM-Jua-STEM
оффлайн-модель на базе Gemma 3 для точных наук на Android
2 мин чтенияобновлено
SautiLM-Jua-STEM — это сверхкомпактная языковая модель от команды LosingTek Research, созданная для решения задач по математике, физике, химии и биологии полностью без интернета. Она основана на Google Gemma 3 (270M-IT) и скомпилирована в формат .litertlm весом всего 272,36 МБ для запуска напрямую на смартфонах через движок LiteRT-LM. В отличие от тяжелых облачных моделей, она ориентирована на работу на бюджетных устройствах и обучена на 750 проверенных инструкциях на французском (60%) и английском (40%) языках с поддержкой суахили в метаданных. Модель пригодится разработчикам оффлайн-образовательных приложений и репетиторов для мобильных устройств со слабым железом.
Ключевые особенности
- Минимальные требования: работает на смартфонах с Android 8.0+ и 2 ГБ оперативной памяти на процессорах ARM Cortex-A53/A55 или мобильном GPU.
- Сверхкомпактный размер: итоговый файл
sautilm-jua-stem.litertlmзанимает 272,36 МБ благодаря квантованиюdynamic_wi8_afp32черезlitert-torch. - Точечное дообучение: модель адаптирована методом LoRA (небольшая надстройка над базовой моделью,
r=32, alpha=64) с маскированием функции потерь только на ответах. - Модульная экосистема: входит в семейство специализированных моделей SautiLM-Jua, где каждый модуль отвечает за свою предметную область.
Что можно сделать
- Интегрировать в мобильное приложение на Flutter с помощью плагинов
flutter_edge_aiиflutter_edge_ai_litertlmдля создания оффлайн-помощника по школьной программе. - Использовать как локальный вычислительный и объясняющий модуль по математике, физике, химии и биологии в регионах без стабильного доступа к сети.
- Протестировать производительность и качество генерации компактных моделей архитектуры Gemma 3 в среде выполнения LiteRT-LM на бюджетных Android-устройствах.
Пример
Сценарий использования из карточки: модель интегрируется в Flutter-приложение через связку flutter_edge_ai + flutter_edge_ai_litertlm в виде файла sautilm-jua-stem.litertlm и отвечает на учебные вопросы по математике, физике, химии и биологии на французском и английском языках полностью в оффлайн-режиме.
Подробнее
Архитектура: Gemma3ForCausalLM (18 слоёв, hidden_size=640, длина контекста cache_length=2048).Обучение: 230 шагов SFT (LoRA r=32, alpha=64) на 750 инструкциях, итоговый loss — 0.0548.
Экспорт и проверка: litert-torch (dynamic_wi8_afp32, TFLite FlatBuffer + HF Tokenizer), проверка в LiteRT-LM Runtime — 10/10.
Минимальное железо: Android 8.0+ (API 26+), 2 ГБ ОЗУ, ARM Cortex-A53/A55 или мобильный GPU.










Комментарии