Arbora: Qwen3-8B online expert

Это часть кодового релиза статьи Arbora о параллелизме block diffusion drafters в speculative decoding (статья на анонимном ревью). Чекпоинт содержит последние версии двух online-learning прогонов на потоке SWE-запросов для Qwen3-8B: добавленный Arbora expert, обученный вместе с path scorer, и вариант только с новым expert — drafter и остальные эксперты заморожены.

🔥 Ключевые особенности

• 🦾 Не самостоятельная LLM: загружается в serving-стек qwen3-8b-online поверх arbora-qwen3-8b-drafter и arbora-qwen3-8b-experts.
• 🔥 Два варианта: new-expert-and-path-scorer с обученным selector и new-expert только с новым expert.
• ✅ В составе: experts.safetensors и selector.safetensors для первого варианта; во втором path scorer остаётся arbora-qwen3-8b-path-scorer.
• 🧘 Обучение шло на ответах целевой модели на закрытом наборе промптов; рецепт и скрипты пересборки данных описаны в кодовом релизе.
• 📉 Опубликованных бенчмарков и метрик в карточке нет — только артефакты для online-стека.

😎 Пример

Сценарий из карточки: в eval/online/ веса подгружаются на месте в стек qwen3-8b-online. Для new-expert-and-path-scorer берут experts.safetensors и selector.safetensors, для new-expert — только experts.safetensors, а path scorer остаётся неизменным.

Подробнее

Бенчмарков в карточке нет.
Данные обучения: ответы целевой модели на неопубликованный набор промптов; код релиза описывает рецепт и скрипты пересборки.
Лицензия Apache 2.0, сторонние уведомления в NOTICE.
Нужен совместимый serving-стек qwen3-8b-online; отдельные требования к VRAM не указаны.