Gemma 4 E4B A2UI Express

Это файнтюн Gemma 4 E4B от soverius-ai, который генерирует A2UI Express DSL для демо CopilotKit Express. Модель подготовлена для запуска в браузере через ONNX q4f16 и WebGPU, база — unsloth/gemma-4-E4B-it. Есть companion E2B, обученный на большем multi-turn наборе и лучше протестированный.

👀 Ключевые особенности

• 🔥 Обучение: 160-шаговый Unsloth LoRA на 240 тренировочных диалогах (159 строк форм и 90 информационных карточек), validation loss 0.038.
• 👀 ONNX q4f16: 300 матриц MatMulNBits переквантованы из merged weights в 4-bit, block size 32, asymmetric, ONNX Runtime quantizer.
• 💪 LoRA-адаптер в adapter-mlx: rank 8, scale 2.0, 342 логические матрицы.
• 😐 В комплекте manifest и system_prompt.txt; вывод проверяется компилятором A2UI Express.
• 👈 Для запуска нужны WebGPU и shader-f16; используются dtype q4f16 и device webgpu.

💪 Пример

Сценарий из карточки: загрузите модель через @huggingface/transformers с dtype: "q4f16" и device: "webgpu", отправьте system_prompt.txt как system message и проверьте ответ компилятором A2UI Express. Модель должна вернуть DSL для формы или информационной карточки демо CopilotKit Express.

Подробнее

Validation loss: 0.038.
Железо: браузер с WebGPU и поддержкой shader-f16; формат ONNX q4f16.
Ограничение: E2B-версия обучена на большем multi-turn наборе и лучше протестирована.
Лицензия: веса Gemma под условиями Google Gemma; см. NOTICE.txt.