Qwen-Image 2.1 PE Heretic W4A8

Это W4A8-квантованные сборки промпт-энкодера Qwen-Image 2.1 на базе архитектуры Qwen3.5-9B от wys99, упакованные в нативный для ComfyUI формат asym_w4a8_int8. Доступны два варианта: для text-to-image и для image-to-image / редактирования изображений. Важно: это текстовые энкодеры, а не диффузионные модели — для генерации всё равно нужны DiT и VAE.

⚙ Ключевые особенности

• 🗂 Два файла: qwen_image_2.1_pe_t2i_heretic_w4a8.safetensors для T2I и qwen_image_2.1_pe_i2i_heretic_w4a8.safetensors для I2I.
• 🔄 250 линейных слоёв LM переведены в W4A8; 510 слоёв, включая RMSNorm, conv1d, выходной head и 111 линейных слоёв vision-башни, остались в FP8/BF16.
• ✅ Работает с официальным шаблоном ComfyUI Qwen-Image 2.1 без патчей и кастомных нод.
• ⚡ Достаточно положить файл в ComfyUI/models/text_encoders/ и выбрать его в штатном CLIPLoader.
• 🔐 Новых условий лицензия не вводит — действует лицензия upstream; перед коммерческим использованием нужно проверить первоисточник.

💻 Пример

CLIPLoader:
  clip_name: qwen_image_2.1_pe_t2i_heretic_w4a8.safetensors
  type: qwen_image
  device: default

Выход CLIP подключается к TextEncodeQwenImage21 так же, как с неквантованным файлом.

Подробнее

Размер сборки — 6,38 ГБ; базовая архитектура Qwen3.5-9B: 4096 hidden, 32 слоя, гибридное linear + full attention, словарь 248 320 токенов.
Нужен ComfyUI с установленным comfy-kitchen, который регистрирует формат asym_w4a8_int8.
Проверено на ComfyUI 0.43.2: оба файла загружаются и кодируют через штатный CLIPLoader.
Ограничение: vision-линейные слои с in_features 1152/4304 не делятся на 256 и остаются в FP8.