Guangmingxing (GMX) d24
маленькая чат-модель, которая сама решает, когда рисовать
2 мин чтения
Модель от автора zhvhabqifova обучена с нуля с train_llm по мотивам karpathy/nanochat. Это английская чат-модель на 24 слоя, шириной 1536 и примерно 2,1 млрд параметров; большая часть весов — в таблицах value-embedding, а Transformer и output head занимают около 0,78 млрд. Она умеет обща��ься, понимать изображения и в диалоге решать, когда перейти к отрисовке.
Ключевые особенности
- Чат и понимание картинок: за视觉 отвечает frozen SigLIP2 и собственный projector.
- Для рисования модель выдаёт специальный промпт
<|visual prompt|>описание<|/visual prompt|>, а для правки — вариант с<|image ref|>N</image ref|>. - Саму картинку генерирует открытая модель Z-Image-Turbo; веб-чат запускается через
script/chat_t2i_web.py. - Финальный чекпоинт —
chat_t2i_v9.ckpt; токенизатор — BPE на 65 536 токенов. - Модель маленькая, только для английского и не для production: ошибается и выдумывает.
Пример
Сценарий из карточки: в диалоге модель может сначала ответить текстом, а затем вывести промпт для отрисовки — например, <|visual prompt|>описание сцены<|/visual prompt|>. Если нужно изменить уже показанную картинку, используется конструкция <|edit prompt|><|image ref|>N</image ref|>описание</edit prompt|>.
Подробнее
Бенчмарки и полный процесс обучения описаны в README репозитория; конкретных цифр в карточке нет.Архитектура: 24 слоя, ширина 1536, ~2,1 млрд параметров, из них Transformer и output head — ~0,78 млрд.
Ограничения: только английский, небольшая модель, возможны ошибки и выдумки, не для production.
Требования к VRAM и железу в карточке не указаны.










Комментарии