Mamba-3 SISO 1.5B

Репозиторий bobbydeveloper2014/mamba-siso-1.5b-nimq содержит квантованный чекпоинт Mamba-3 SISO на 1.5B в формате Nimformers NIMQ и парный LoRA/Linear++ файнтюн. База сохранена в FP4-KM, LoRA — в NIMBIN4. Модель рассчитана на локальный инференс через Nimformers Framework.

🧩 Ключевые особенности

• ⚡ Архитектура Mamba-3: 24 слоя, hidden 2048, 64 головы, state 128.
• 💾 База в FP4-KM, LoRA-чекпоинт в NIMBIN4.
• 🔎 LoRA: 23 блока R + G; ветка gated Linear++ (G) добавлена в финальный слой.
• 🧬 R обозначает предобученные блоки Mamba-3.
• 📀 В репозитории лежат mamba3_siso_1.5b.nimq, lora-g1.bin, config и файлы токенизатора.

💡 Пример

hf download bobbydeveloper2014/mamba-siso-1.5b-nimq --local-dir test/mamba3/models
make -f test/mamba3/Makefile infer
# путь к чекпоинту: test/mamba3/models/lora-g1.bin

Подробнее

Бенчмарков и требований к VRAM в карточке нет.
Upstream-модель не указана.
Токенизатор и config привязаны к локальной раскладке test/mamba3/models.
Для запуска нужен Nimformers Framework.