Qwen3-4B-agent-blend2-q4f16_1-MLC

Квантованная MLC-сборка Qwen3-4B для WebLLM: модель работает на GPU пользователя в Chrome-расширении Page Pulse и не отправляет данные во внешний AI-сервис. Расширение читает страницы, кликает, вводит текст, управляет вкладками и запоминает навыки.

😎 Ключевые особенности

• 😎 Работает через WebLLM и WebGPU; по умолчанию используется Qwen3-4B с выключенным thinking.
• 📝 Загрузка модели — около 2.3 ГБ; для инференса нужно примерно 3.5 ГБ свободной памяти на выделенном GPU.
• 👍 Один проверяемый схемой action на шаг, лимит 20 шагов и остановка при повторяющихся действиях без эффекта.
• 🤝 Гейты подтверждения для отправок, покупок, удалений, ввода паролей и POST-форм.
• 🤔 Навыки подписываются; при изменении страницы repairElement ищет подходящий элемент заново.

⌨ Пример

npm install
npx playwright install chromium
npm run build
# chrome://extensions → Load unpacked → extension

Подробнее

На RTX 3060 laptop GPU: tests/tasks.json — 50/55 (91%), heldout — 41/50 (82%), repair — 80/95 (84%).
Время на вызов модели — 4.1–4.3 с, память GPU — 3.5–3.8 ГБ.
Ограничения: гейты на ключевых словах, нет vision-модели, repair отвергает часть синонимов, KV-cache между шагами не переиспользуется.