SautiLM Jua
офлайн-модель весом 92 МБ для бюджетных смартфонов
2 мин чтенияобновлено
SautiLM Jua — сверхкомпактная текстовая модель от команды LosingTek Research (ДР Конго), созданная для работы полностью без интернета на слабых Android-смартфонах. Она основана на архитектуре Google Gemma 3 (270M-IT), дообучена методом LoRA SFT (тонкая настройка на инструкциях с помощью компактных адаптеров) на 22 834 примерах и сжата в нативный контейнер .litertlm объёмом всего 92,48 МБ. В отличие от крупных облачных LLM, модель ориентирована на локальные прикладные задачи в регионах без стабильной связи и поддерживает суахили, французский, английский и язык бадха (киленду).
Ключевые особенности
- Сверхмалый вес: файл
sautilm-jua.litertlmзанимает 92,48 МБ и плавно запускается на смартфонах с 2–4 ГБ оперативной памяти. - Мультиязычность и локальный фокус: обучена на словаре из 1150 проверенных статей языка бадха с переводами на суахили, французский и английский, а также на прикладных корпусах.
- 10 предметных направлений: включает знания по школьным наукам, математике, базовой медицинской сортировке и санитарии, праву ДР Конго, агрономии и учёту в малом бизнесе.
- 100% офлайн-работа: рассчитана на мобильный рантайм Flutter (
flutter_edge_ai) без затрат мобильного трафика.
Что можно сделать
- Встроить модель в офлайн-приложение на Flutter для Android-устройств начального уровня (от Android 8.0 и 2 ГБ ОЗУ).
- Использовать в качестве карманного переводчика и справочника для языков бадха, суахили, французского и английского без доступа к сети.
- Применять как локального ассистента для базовых консультаций по сельскому хозяйству, расчётам в микрофинансах, правовым нормам ДР Конго и санитарным протоколам.
Пример
В карточке модели не приведён код инференса, но указан целевой стек запуска: файл sautilm-jua.litertlm подключается в мобильных приложениях через пакеты flutter_edge_ai и flutter_edge_ai_litertlm (версии 1.19+) для генерации ответов на локальные запросы — например, перевод фраз между бадха и суахили или расчёт торговых операций в франках и долларах без сети.
Подробнее
Архитектура: Gemma3ForCausalLM (18 слоёв, hidden_size=640), 270M параметров.Обучение: 189 шагов LoRA (r=16, alpha=32) на 22 834 инструкциях, итоговый Loss — 0.4845.
Системные требования: Android 8.0+ (API 26+), от 2 ГБ RAM, процессор ARM Cortex-A53/A55 или мобильный GPU.
Ограничения: специализированная дистиллированная модель объёмом 92,48 МБ для базовых прикладных сценариев.










Комментарии