MOSS-Image-Base-Heal
«лечение» весов и активаций для MOSS-Image
2 min readupdated
Неофициальный полный файнтюн диффузионного трансформера MOSS-Image-Base (5.08B параметров) от автора SumomoLee. Модель решает проблему экстремальных значений в весах и активациях (так называемый «stream healing» — сглаживание выбросов), из-за которых базовую версию сложнее квантовать и сжимать без потери стабильности. На выходе получается прямая замена оригинального трансформера (drop-in replacement), которая работает с теми же текстовым энкодером (Qwen3.5-9B) и VAE (Flux.2) без изменения настроек сэмплирования. Пригодится тем, кто запускает MOSS-Image локально в ComfyUI или планирует использовать квантованные версии модели.
Ключевые особенности
- Обучена методом из KohakuMossTrainer через дистилляцию от замороженной базовой модели с добавлением штрафов на выбросы в остаточном потоке и затухания пиковых весов.
- Количество экстремальных выбросов весов (превышающих 64x RMS тензора) снижено с 349 до нуля, а максимальное отношение значения к RMS упало с 271.7 до 54.7.
- Доступна сразу в двух форматах: одним файлом
safetensors(10.16 ГБ, bf16) для ComfyUI и в виде папкиtransformer/из трёх шардов для библиотекиdiffusers. - Текстовый энкодер и VAE в репозиторий не включены — используются стандартные компоненты от базовой
MOSS-Image-Base.
Что можно сделать
- Заменить базовый диффузионный трансформер в ComfyUI, положив файл
moss-image-base-heal-comfyui.safetensorsв папкуmodels/diffusion_models/. - Подключить обновлённый
transformer/в существующий пайплайнdiffusersдля генерации изображений по тексту с прежними параметрами сэмплирования. - Использовать очищенные от выбросов веса для дальнейшего квантования (автор уже выпустил на её базе INT8 ConvRot версию).
Пример
Для запуска в ComfyUI поместите файл moss-image-base-heal-comfyui.safetensors в директорию models/diffusion_models/, подключите стандартный энкодер Qwen3.5-9B и Flux.2 VAE от базовой модели, после чего используйте привычные настройки сэмплирования. В diffusers достаточно заменить папку transformer/ в пайплайне оригинальной MOSS-Image-Base.
Подробнее
Базовая модель: OpenMOSS-Team/MOSS-Image-Base (5.08B параметров), лицензия Apache-2.0.Статистика по 185 двумерным тензорам весов: элементов >32x RMS стало 15 вместо 2 621, элементов >64x RMS — 0 вместо 349.
Ограничения: в карточке приведена только статистика весов, отдельные бенчмарки визуального качества генерации не заявлены.










Comments