Ripple-65B Preview NVFP4

Ripple-65B Preview от Ricursive Intelligence — dense Transformer на 65B параметров, обученный на 12 трлн токенов с поддержкой контекста до 1M. В этом репозитории лежит instruction-tuned чекпоинт в NVFP4; также выпущены BF16-версии и base-модель. Квантование консервативное: MLP переведены в NVFP4, attention остаётся в BF16.

▶ Ключевые особенности

• ▶ Dense Transformer на 65B параметров; pretraining — 12 трлн токенов.
• 🔜 Поддержка контекста до 1M токенов.
• ➖ Instruction-tuned чекпоинт в NVFP4: MLP квантованы, attention в BF16.
• ➕ На TerminalBench 2.1 — 80.52, выше ряда более крупных open-weight моделей из карточки.
• 🟰 Лицензия Apache 2.0.

▶ Пример

Сценарий из карточки — агентное кодирование в терминале: модель предназначена для задач, где агент работает с командами и репозиторием; качество оценивается на TerminalBench 2.1. Готового кода запуска в карточке нет.

Подробнее

TerminalBench 2.1: 80.52; для сравнения в карточке указаны Reflection Beam 501B — 80.1, Meta Muse Spark Open 816B — 76.4, Thinking Machines Inkling 975B — 63.8, NVIDIA Nemotron 3 Ultra 550B — 56.4.
Квантование: NVFP4 для MLP, attention в BF16; чекпоинт описан как консервативный.
Статус: Preview / Experimental; требования к VRAM и железу в карточке не указаны.
Лицензия Apache 2.0.