Ark-Cortex v3 GIRO Copilot

Ark-Cortex v3 (ACX-03) — модель генерации текста на 1.5B параметров от Arkheion Labs / CICLOGIRO для GIRO Desktop и экосистемы ArkheionNet. Основана на Qwen2/Qwen3 Causal LM, работает с нативным троичным представлением 1.58-bit (веса −1, 0, +1) и предназначена для локального инференса на кассах, локальных серверах и маломощных десктопах. Заявленные языки — португальский и английский.

⚙ Ключевые особенности

• ⚙ Нативная троичная квантизация: веса 1.58-bit со значениями −1, 0, +1 и группировкой масштабов g=64.
• 📀 Два формата: .ark на 1.22 GB с zero-copy paged mmap и GGUF Q2_0 на 901 MB для llama.cpp и Ollama.
• 🧩 Архитектура Qwen 1.5B: 28 слоёв, hidden size 1536, GQA с 12 Q-головами и 2 KV-головами, head dim 128.
• 🚅 Заточка под edge: терминалы точек продаж, локальные серверы и десктопы с низким потреблением памяти.
• 🗜 Обучение: 5 600 локальных шагов с Multi-Token Prediction (MTP-4), финальный loss 2.13 (CE/KL).
• 🌐 Словарь на 151 936 BPE-токенов; в карточке указаны языки pt и en.

💡 Пример

./llama-server -m acx_giro_1.5b_q2_0.gguf -c 2048 --port 8080 -ngl 99

Подробнее

Финальный loss — 2.13 (CE/KL) после 5 600 шагов обучения с MTP-4.
Размеры: .ark — 1.22 GB, GGUF Q2_0 — 901 MB; ориентир на низкое потребление памяти.
Публичных бенчмарков качества в карточке нет; заявленные языки — pt и en.
Для GGUF указаны llama.cpp/llama-server и Ollama; .ark рассчитан на GIRO Desktop.