P-JiT 21K

P-JiT 21K — экспериментальная text-to-image модель от Linum на архитектуре Pyramid-JiT. Это DiT на 2.18B параметров с замороженным текстовым энкодером Qwen3.5-4B. Авторы обучили её на 660M сэмплов примерно за $21K compute как шаг к будущей видео-модели.

➕ Ключевые особенности

• 1⃣ 2.18B DiT и отдельный текстовый энкодер Qwen3.5-4B.
• 2⃣ 660M samples и около $21K compute: 610M при 512px, 50M при 1024px; после обучения — вариант FDFO.
• 3⃣ Пять размеров около 1 MP: 1024x1024, 864x1216, 1152x864, 1248x832 и 1280x720.
• 4⃣ Обучение на плотных captions в 50–80 слов; в репозитории есть prompt upsampler через Claude Opus 5.5 и OpenRouter.
• 5⃣ Сэмплирование: 50 Euler steps, adaptive projected guidance scale 15 с пустым negative prompt, initial noise scale 4.
• 6⃣ Это research checkpoint: возможны rough edges; текст, вывески, логотипы и постеры модель не умеет.

▶ Пример

git clone https://github.com/Linum-AI/pjit-21k && cd pjit-21k
pip install -e .
PROMPT='Close-up portrait of an elderly Middle Eastern woman looking calmly into the lens, her face filling the tall frame. A cream headscarf and the collar of a dark green cardigan frame her chin. Soft overcast daylight smooths the fine lines of her skin, and the olive grove behind melts into silvery blur.'
python generate.py --no_upsample --aspect_ratio tall --seeds 2 --prompt "$PROMPT"

Подробнее

Обучение: 660M сэмплов примерно за $21K compute; 610M при 512px и 50M при 1024px.
Файл model.safetensors: DiT в fp32, 2.18B параметров, 8.7 GB; текстовый энкодер Qwen3.5-4B скачивается отдельно.
Ограничения: full-body shots, много сущностей, взаимодействия людей и world knowledge; текст и постеры не поддерживаются.
Это исследовательский артефакт, а не production-модель.