Arbora: Qwen3-8B online expert
экспертные веса для спекулятивного декодирования
1 min readupdated
Это часть кодового релиза статьи Arbora о параллелизме block diffusion drafters в speculative decoding (статья на анонимном ревью). Чекпоинт содержит последние версии двух online-learning прогонов на потоке SWE-запросов для Qwen3-8B: добавленный Arbora expert, обученный вместе с path scorer, и вариант только с новым expert — drafter и остальные эксперты заморожены.
Ключевые особенности
- Не самостоятельная LLM: загружается в serving-стек
qwen3-8b-onlineповерхarbora-qwen3-8b-drafterиarbora-qwen3-8b-experts. - Два варианта:
new-expert-and-path-scorerс обученным selector иnew-expertтолько с новым expert. - В составе:
experts.safetensorsиselector.safetensorsдля первого варианта; во втором path scorer остаётсяarbora-qwen3-8b-path-scorer. - Обучение шло на ответах целевой модели на закрытом наборе промптов; рецепт и скрипты пересборки данных описаны в кодовом релизе.
- Опубликованных бенчмарков и метрик в карточке нет — только артефакты для online-стека.
Пример
Сценарий из карточки: в eval/online/ веса подгружаются на месте в стек qwen3-8b-online. Для new-expert-and-path-scorer берут experts.safetensors и selector.safetensors, для new-expert — только experts.safetensors, а path scorer остаётся неизменным.
Подробнее
Бенчмарков в карточке нет.Данные обучения: ответы целевой модели на неопубликованный набор промптов; код релиза описывает рецепт и скрипты пересборки.
Лицензия Apache 2.0, сторонние уведомления в
NOTICE.Нужен совместимый serving-стек
qwen3-8b-online; отдельные требования к VRAM не указаны.









Comments