Gefjon-31B-SFT-LoRA
SFT-фундамент для настройки моделей Gemma-4
1 мин чтения
Это специальный PEFT LoRA-адаптер (небольшая надстройка над базовой моделью для точечной доработки) на базе Gryphe/Gemma-4-31B-StyleTune, созданный компанией PresenceAI. Модель задает стиль лаконичного мобильного текстового общения и служит надежной основой для дальнейшего обучения дочерних DPO-адаптеров. Она решает задачу качественного старта диалогов и естественной генерации ответов без лишнего форматирования. Новинка пригодится разработчикам чат-ботов и исследователям, которые настраивают языковые модели под диалоговые сценарии.
Ключевые особенности
- Базируется на архитектуре
Gryphe/Gemma-4-31B-StyleTuneс рангом адаптераr = 32иalpha = 32. - Обучена формировать короткие сообщения в стиле повседневного текстового общения длиной около 55 символов.
- Полностью совместима с набором целевых модулей внимания и MLP-проекций базовой модели.
- Используется как родительский фундамент для последующего слияния и подключения специализированных DPO-дочерей.
Что можно сделать
- Объединить веса адаптера с базовой моделью
Gryphe/Gemma-4-31B-StyleTuneс помощью скрипта слияния. - Запустить полученную модель в vLLM с подключением дочерних DPO-адаптеров длядиалоговых платформ.
- Настроить автоматический выбор инструментов и работу с парсером вызовов функций.
Пример
python3 merge_sft_base.py \
--base Gryphe/Gemma-4-31B-StyleTune \
--lora PresenceAI/Gefjon-31B-SFT-LoRA-v1.0 \
--out ./Gemma-4-31B-StyleTune-SFT-fixed-mergedПодробнее
Лицензия: Apache-2.0Целевые модули: q/k/v/o_proj, gate/up/down_proj
Поддерживаемые языки: Английский










Комментарии