Ebertin-IWM Micro-Net v0.3
микросеть на 49.6 КБ для edge-устройств
2 min readupdated
Сверхкомпактная модель на 56.5 тысяч параметров, которая работает как структурированный декодер последовательностей из 4 слотов (4-Slot Structured Sequence Decoder). Она построена на базе архитектурного фреймворка The Genesis Engine и дисциплины IsoMorphic Words and Maths (автор — David Earl Jones) и развивает прототипы v0.1 и v0.2. Главное отличие версии — бинарный INT8-рантайм (8-битное целочисленное сжатие весов) размером всего 49.6 КБ без внешних зависимостей, который на мобильных процессорах работает не хуже, а местами даже точнее исходной версии в формате FP32. Пригодится разработчикам встроенных систем, исследователям компактных архитектур и тем, кто запускает нейросети на слабом железе.
Ключевые особенности
- Экстремальная компактность: модель содержит 56.5K параметров, а её бинарный файл весов в формате INT8 занимает 49.6 КБ (против ~1.1 МБ в FP32 JSON).
- 4-слотовое декодирование: в отличие от однотокенных прототипов v0.1 и v0.2, версия v0.3 формирует структурированную последовательность из четырёх слотов с мультипликативным гейтингом (Multiplicative Query-Slot Gating).
- Точность после квантования: версия INT8 Edge показывает прирост метрик на 0.5–0.6% по сравнению с FP32 (73.0% против 72.4% на полной 4-слотовой последовательности).
- Расширенные спецификации Tier-2: добавлена поддержка стековых операторов ExplicitPrompt RPN, трёхуровневой типологии карточек и пайплайна GET Rosetta.
Что можно сделать
- Запускать инференс локально на мобильных CPU и микроконтроллерах через встроенный INT8-рантайм без тяжёлых зависимостей.
- Исследовать поведение сверхмалых сетей и влияние симметричного INT8-квантования на сохранение точности при символьных и структурных запросах.
- Использовать в некоммерческих проектах для парсинга и вычисления связей в структурированных триадах и символьных выражениях.
Пример
from modeling_ebertin_iwm import EdgeEbertinIWMV3Model
model = EdgeEbertinIWMV3Model.from_pretrained(".", use_int8=True)
result = model.predict("L3_TRIAD | POLE_A: Venus | POLE_B: Neptune | CATALYST_C: Uranus | QUERY: A_DIV_B_EQ_C")
print(result["formatted_output"])
Подробнее
Метрики v0.3 INT8 Edge: 4-Slot Full Sequence — 73.0%, Held-Out Core Concept — 77.0%, Held-Out Sector Acc — 71.8% (RMS Gramian 0.3128 / kappa 1.287).Требования к железу: оптимизирована для мобильных CPU, вес бинарного файла — 49.6 КБ, рантайм без внешних зависимостей.
Лицензия: CC-BY-NC-4.0 (разрешено академическое и некоммерческое использование с указанием авторства; коммерческое использование базовой архитектуры ограничено).










Comments