WRAI-Gemma-4-E2B-IT-Omni-ZeroKV

WRAI (Wavelet / Recurrent / Attentive Intelligence) от Musouno-Enma99 — инструкционно настроенный мультимодальный бэкбон для полностью локальной автоматизации Android без облака. База — google/gemma-4-E2B-it; поддерживаются текст, зрение и аудио, а все 35 attention-слоёв заменены на рекуррентный Tri-Memory с постоянным состоянием O(1). Веса сжаты до 2.14 GiB, состояние — 7.94 MiB.

🔤 Ключевые особенности

• ➖ Постоянная память: Tri-Memory в INT8 держит 7.94 MiB при 10 или 100 000 токенах; динамический KV-cache — 0.00 MiB.
• ➖ Сжатие: 2.14 GiB вместо 9.51 GiB BF16 (−77.5%) через Ternary-1.58b Group-32 PLE + Fused INT4 Core; полностью standalone.
• ➕ Три модальности: 576 visual patch tokens (скриншоты/камера) и 16 kHz acoustic frames поглощаются в Zero-KV состояние.
• ✖ Быстрый prefill: Parallel Associative Prefix Scan R48 с chunk_size=128 и параллельными intra/inter-chunk сканами.
• 🔜 Tool-calling Artemis: нативный формат <|tool_call>…<tool_call|>, координаты 0–1000, 26/26 evaluation gates.
• 🔙 Android: рассчитан на Poco X3 GT (8 GB RAM), MediaTek Dimensity 1100 / Snapdragon 8 Gen.

🔤 Пример

import torch

payload = torch.load('wrai_gemma4_omni_golden.pt', map_location='cpu', weights_only=False)
print(payload.get('format'))
print(len(payload.get('weights', {})))
print(len(payload.get('layers', {})))

Подробнее

Тесты: 26/26 evaluation gates для Artemis tool-calling.
Память: 7.94 MiB состояния при 1024 и 8192 контекста; веса 2.14 GiB.
Железо: Android, Poco X3 GT 8 GB RAM; MediaTek Dimensity 1100 / Snapdragon 8 Gen.
Ограничения: в метаданных языки — en и id; русский не указан. Лицензия Apache 2.0.