relay-gemma-4-e4b-food
офлайн-трекер питания на базе Gemma 4
2 мин чтенияобновлено
Модель превращает свободные текстовые описания приёмов пищи (например, «два куска тоста с маслом») в структурированные записи для Android-дневника питания Relay. В основе лежит google/gemma-4-E4B-it-qat-q4_0-unquantized от Google, дообученная автором Killerfuzzball через LoRA (небольшую надстройку над базовой моделью) с последующим слиянием весов и упаковкой под мобильный движок LiteRT-LM. В отличие от стандартной Gemma 4 E4B, эта версия точнее соблюдает нужный формат ответа, аккуратно переносит цифры с этикеток и лучше справляется с оценкой порций. Пригодится разработчикам мобильных приложений для здоровья и локальных ИИ-ассистентов без доступа к интернету.
Ключевые особенности
- Построена на
google/gemma-4-E4B-it-qat-q4_0-unquantizedс дообучением через LoRA (rank 16) на ~330 описаниях еды по эталонным ответам от старшей модели Gemma 4 12B. - Упакована в один файл
e4b-relay-trained.litertlmвесом около 4.6 ГБ для локального запуска прямо на смартфоне через LiteRT-LM. - Обучалась именно формату ответа: точные цифры с упаковок копирует без искажений, а брендированные продукты помечает для поиска.
- На внутреннем тесте из 50 фраз показала 10/10 точных расчётов по этикеткам (против 8/10 у базовой Google E4B) и меньшую погрешность во всех 7 тестовых группах.
Что можно сделать
- Встроить файл
e4b-relay-trained.litertlmв Android-приложение или прототип дневника калорий для офлайн-разбора заметок о еде. - Использовать как готовый пример дистилляции формата ответов от более крупной модели (Gemma 4 12B) в компактную мобильную сборку LiteRT-LM.
Пример
Входной запрос пользователя: «two slices of toast with butter» («два куска тоста с маслом»). На выходе модель формирует структурированные записи продуктов для дневника питания Relay, отмечая оценочные значения как приблизительные, а данные с этикеток — перенося без изменений.
Подробнее
Вес файла: около 4.6 ГБ (квантование int4 блоками по 32 через litert-torch 0.10.0, сборка litert-lm-builder 0.18.1).Скорость: работает примерно в 1.45 раза медленнее оригинальной сборки Google E4B из-за другого набора числовых форматов.
Ограничения: расчётные значения являются приблизительной оценкой и не служат медицинской или диетологической рекомендацией.
Лицензия: Apache 2.0.










Комментарии