Flux1-Dev-4Step-2000

Экспериментальный standalone-чекпойнт на базе black-forest-labs/FLUX.1-dev от kimi000: уже слитые веса transformer, CLIP/T5, VAE и кастомный pipeline/scheduler. Около 11,93 млрд параметров; генерация рассчитана на 4 шага при guidance_scale=3.5.

🧩 Ключевые особенности

• 🧩 Standalone-пакет: слитые веса transformer, энкодеры CLIP и T5, токенизаторы, VAE и кастомные pipeline/scheduler.
• ⚡ Генерация за 4 шага при guidance_scale=3.5; используется нативный distilled guidance, без дополнительного CFG и negative prompt.
• ⚙ Нужен именно включённый custom pipeline: стандартный FluxPipeline не понимает расширенную выходную проекцию; загрузка через custom_pipeline=repo и trust_remote_code=True.
• 🔎 Transformer и текстовые энкодеры — BF16, VAE — FP32; для совпадения с тренировочным шумом советуют CPU torch.Generator.
• 🖐 Обучение на 1024×1024; стороны кратны 16 и не меньше 64; промпты CLIP/T5 обрезаются до 77/512 токенов, upsampler не используется.
• 🛑 Экспериментальный чекпойнт: возможны ошибки в тексте на изображениях; лицензия FLUX.1 [dev] Non-Commercial.

💡 Пример

import torch
from diffusers import DiffusionPipeline
repo = "kimi000/Flux1-Dev-4Step-2000"
pipe = DiffusionPipeline.from_pretrained(repo, custom_pipeline=repo,
    trust_remote_code=True, torch_dtype=torch.bfloat16)
pipe.enable_model_cpu_offload()
image = pipe(prompt="A white ceramic mug...", num_inference_steps=4,
    guidance_scale=3.5, height=1024, width=1024).images[0]

Подробнее

Экспериментальный EMA-чекпойнт после ровно 2000 optimizer updates; 838 EMA-адаптеров слиты в базовую модель.
Нужны Python 3.10+ и CUDA GPU; с --cpu-offload компоненты переезжают на GPU по необходимости, без него VRAM требуется существенно больше.
Тренировочное разрешение — 1024×1024, английская смесь промптов: 50% MJHQ, 25% TextAtlas, 25% text-rendering reward prompts.
Лицензия FLUX.1 [dev] Non-Commercial; это не официальный релиз Black Forest Labs, текст на картинках может содержать ошибки.