Muse Glimmer QLoRA adapter
20 шагов, +42 пункта accuracy и вывод «так делать не надо»
2 мин чтения
LoRA-адаптер для meta-models/Muse-Glimmer-30B (ревизия cec94fcf), собранный за 20 шагов QLoRA во время Meta Global AI Developer Hackathon (26 октября — 4 ноября 2026). Автор публикует его как пример эксперимента из раздела «что мы пробовали и что не сработало»: проект SeismoRescue в рантайме использует только базовые веса без адаптера.
Ключевые особенности
- Задача: по A/B-кропам синтетической плёнки WWSSN выбрать красный путь, который остаётся на линии землетрясения при пересечении или почти-касании (149 пересечений и 51 почти-касание на 200 валидационных кропах).
- 4-bit NF4 (bitsandbytes) для линейных слоёв LLM, vision-части и
lm_headостаются в bf16; LoRA rank 16, alpha 32, dropout 0.05 на attention (q, k, v, o) и MLP (gate, up, down). - 20 шагов, накопление градиента 4, learning rate 2e-4 с 3 шагами warm-up; одна H100 80 GB на Modal, весь прогон с оценкой — 503 с и около $0.60.
- Контроль без «чернил»: если стереть плёнку с кропов, адаптер всё равно даёт 0.985 — он выучил форму красных путей, а не плёнку. Именно поэтому адаптер не используется.
- Воспроизводимость: 8 из 8 проверок перезагрузки дали то же предсказание, максимальная разница логитов — 0.0.
Пример
Формат задачи — forced choice: модели дают пару кропов A и B и вопрос, какой красный путь остаётся на линии землетрясения; ответ — больший из логитов A/B на первом токене ответа, без шагов рассуждения. Код стадий лежит в репозитории: scripts/ml_glimmer_modal.py, scripts/glimmer_verifier_data_v1.py и scripts/glimmer_task.py.
Подробнее
Accuracy на 200 валидационных кропах (Wilson 95% CI): zero-shot — 0.56 [0.49, 0.62], после 20 шагов — 0.98 [0.95, 0.99], после 20 шагов со стёртой плёнкой — 0.985 [0.96, 0.99].Данные — только синтетические рендеры из
out/film2_train, реальных сканов и приватных данных нет.Веса —
adapter_model.safetensors на 383 MB; в adapter_config.json путь base_model_name_or_path указывает на локальную копию автора, его нужно заменить на свой.Лицензия Apache 2.0, дополнительно действует Muse Glimmer Usage Policy.










Комментарии