haimation

haimation — продолжающий full fine-tune модели plantwaterer/liquamen (на базе google/gemma-4-31B-it) на 31,27 млрд параметров. Это text-generation модель от plantwaterer с собственным last-layer head и встроенным движком haimation:Engine. Ориентирована на Decision Index: публичный self-run score — 67.44.

🧐 Ключевые особенности

• 🚀 Полный continued fine-tune liquamen с отдельной last-layer head.
• 🔥 Движок haimation:Engine работает in-process; engine, head, store и executor закреплены MD5 в PINS.json и проверяются при загрузке.
• 👀 Для обычных вариантов — softmax по логитам букв при T = 1.2984; для yes/no — интегрированный Laplace posterior.
• 💯 Для отдельных числовых и yes/no вопросов может подключить knowledge store или сгенерировать короткую Python-функцию и выполнить её exact-арифметическим executor’ом.
• 🤔 Контекст до 32 768 токенов без обрезания.

👀 Пример

REPO=$(python -c "from huggingface_hub import snapshot_download; print(snapshot_download('plantwaterer/haimation'))")
PYTHONPATH="$REPO" python -m decision_index run --engine haimation:Engine --option model="$REPO" --compact --out runs/haimation

Подробнее

Decision Index 0.3 public score: 67.44 (self-run).
Нужен GPU с минимум 75 ГБ: bf16-веса занимают 62 ГБ; помещается на RTX PRO 6000 (96 ГБ).
Медианная задержка — 312 мс на одном RTX PRO 6000 Blackwell; загрузка и прогрев (~3 минуты) не входят.
Executor поставляется предсобранным для sm_75–sm_120; где ядро не загружается, работает интерпретатор с теми же результатами.
Ответ через knowledge store/executor меняется только при точном совпадении с одним вариантом; контекст — до 32 768 токенов.