Другоеsandpies
Eros Max H3 8-step TURBO beta7
int8 GPTQ для ComfyUI
1 мин чтения
Это int8 GPTQ-квант версии 10Eros Max H3 8-step TURBO beta7 от tenstrip, опубликованный с разрешения автора. Формат — diffusion-single-file для ComfyUI: один safetensors на 22,5 GB вместо исходного bf16-чекпоинта на 40,2 GB.
✨ Ключевые особенности
- 💻 Один файл
10Eros_Max_h3_8stepTURBO_beta7_int8_gptq_activated.safetensorsкладётся вComfyUI/models/diffusion_models/. - 🔥 GPTQ int8: квантованы 184 linear-слоя в блоках 2–47; блоки 0, 1, 48 и 49 остаются в bf16.
- ⭐ Hadamard-256 rotation, fp32
weight_scaleна выходной канал, int8-веса иcomfy_quantmetadata для каждого слоя. - ✅ Калибровка на реальных активациях: 30 промптов примерно по 1 MP и 6 секунд; 24 использованы для подгонки, 6 — held-out только для оценки.
- 📓 NRMSE ниже, чем у round-to-nearest int8:
attn.qkv_projпримерно на 61%,mlp.fc1на 60%,attn.out_projна 57%,mlp.fc2на 38%.
📓 Пример
Скачайте safetensors и положите его в ComfyUI/models/diffusion_models/, затем выберите файл в ComfyUI как diffusion model. Отдельного кода запуска в карточке нет — это готовый single-file чекпоинт для папки моделей ComfyUI.
Подробнее
Уменьшение ошибки указано per-layer по NRMSE относительно RTN int8; end-to-end бенчмарк качества не проводился.Самый слабый отдельный слой —
mlp.fc2 в блоке 30: снижение ошибки около 17%.Исходная модель: tenstrip (10Eros Max H3). Лицензия — MiniMax-H3 Community License Agreement.








Комментарии
Без регистрации: достаточно имени.