К содержимому
Другое

DSpark Grug-67B Drafter

ускоритель генерации текста для LLM

2 мин чтенияобновлено

Лёгкая модель-черновик (драфтер) на 0.75B параметров для спекулятивного декодирования (метода ускорения генерации, когда маленькая модель заранее предсказывает несколько токенов, а большая их быстро проверяет). Разработана автором atutej для работы в связке с целевой языковой моделью Grug-67B-A2B-Datakit-SFT-262K-2026.09.21-dr-doom. В отличие от предыдущей версии, обученной на полной смеси данных, этот чекпоинт тренировали без длинных финансовых отчётов (исключено 20.5% токенов), что повысило среднюю длину принимаемых последовательностей на задачах математики, кода и диалогов. Пригодится инженерам и исследователям, которые разворачивают модели семейства Grug-67B в vLLM и хотят ускорить отклик.

Ключевые особенности

  • Построена на 6 плотных слоях Grug (FFN 7 936) с урезанным словарём на 32 000 токенов и предсказывает блоки по 8 токенов за шаг.
  • Подключается сразу к пяти внутренним слоям целевой модели (2, 7, 12, 17, 22) и её финальному выходу, используя Markov head ранга 1024 и оценку уверенности.
  • Отказ от длинных финансовых текстов finance_v1 поднял средний показатель Acceptance Length (число принятых токенов за проход, максимум 9) с 3.380 до 3.482 на наборе из шести бенчмарков.
  • Чекпоинт снят на шаге 73 117 из запланированных 300 412 (около 24% одной эпохи), поэтому представляет собой промежуточный снимок обучения.

Что можно сделать

  • Поднять сервер инференса на базе форка vLLM с поддержкой метода dspark для ускорения ответов Grug-67B-A2B в режиме размышлений (/think).
  • Использовать в задачах генерации кода, решения математических задач и агентских сценариях с длинным контекстом до 128K токенов (на повторах SWE-bench модель показывает Acceptance Length 3.946).
  • Сравнить эффективность спекулятивного декодирования на общих доменах и длинных финансовых документах относительно базового драфтера datakit-sft-mix.

Пример

vllm serve open-athena/Grug-67B-A2B-Datakit-SFT-262K-2026.09.21-dr-doom \
  --tensor-parallel-size 1 --data-parallel-size 4 --enable-expert-parallel --max-model-len 32768 \
  --speculative-config '{"model": "atutej/dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112", "num_speculative_tokens": 8, "method": "dspark", "draft_sample_method": "probabilistic", "rejection_sample_method": "standard"}'
Подробнее Бенчмарки Acceptance Length (при temperature 1): MATH-500 — 4.273, SWE-bench replay — 3.946, GSM8K — 3.849, MBPP — 3.518, HumanEval — 3.363, MT-Bench — 2.971.
Обучение: 24 часа на 2 узлах NVIDIA GB200 (6.14 млн строк, 36.58 млрд токенов, длина последовательности 32 768) с библиотекой speculators.
Ограничения: для запуска требуется сборка vLLM из ветки grug-dspark-layers-main (PR marin-community/vllm#128), итоговое ускорение по времени относительно обычного декодирования для этого чекпоинта не замерялось.
Обсудить Telegram 0 42

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 1.4 GB · готовые файлы2.0 GB
  • FP8 / INT8рекомендуемвеса 0.7 GB1.3 GB
  • 4-bitвеса 0.4 GB0.9 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # atutej/dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download atutej/dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112 --local-dir ~/models/dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

  1. Grug-67B-A2B-Datakit-SFT-262K-2026.09.21основа семьи
  2. Grug-67B-A2B-Datakit-SFT-262K-2026.09.21-dr-doom
  3. dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112

Новые посты про версии Grug-67B-A2B-Datakit-SFT-262K-2026.09.21 — сжатые, дообучения, LoRA — появятся в колокольчике.

Дообучения 6Все на Hugging Face

О модели

atutej/dspark_grug-layers6-taps5-grug-67b-a2b-datakit-sft-dr-doom_datakit-sft-filtered_itw-20261112
Автор
atutej
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

420

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии