Collaborative Learning

Релиз rank-64 LoRA-адаптеров для экспериментов по Collaborative Learning: несколько «нарезанных» моделей Qwen3-1.7B, Qwen3-4B и Qwen3-8B пошагово передают друг другу состояние рассуждения. Метод сочетает model slicing, protocol distillation и pyramid supervision; охвачены multi-hop QA, математика, генерация кода и constrained generation.

⚙ Ключевые особенности

• 🧭 Адаптеры для Qwen3-1.7B/4B/8B с рангом 64; базовые веса Qwen3 заморожены.
• 🔄 Протокол решает: продолжить текущую модель, передать задачу другой или завершить с ответом.
• 📊 Пять бенчмарков: MuSiQue, GSM-Hard, MATH, MultiPL-E и Conifer.
• 🗂 233 сохранившихся чекпоинта в 29 группах, около 41.39 GiB с токенизаторами и конфигами.
• ℹ️ Есть PD- и SLS-адаптеры: protocol distillation (SFT) и step-level supervision (RL).

💻 Пример

from huggingface_hub import snapshot_download
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

repo_id = 'SJTUFreshman/collaborativelearning'
subfolder = 'MuSiQue/SLS/Qwen3-1.7B/final'
snapshot = snapshot_download(repo_id, allow_patterns=[f'{subfolder}/*'])
adapter_path = f'{snapshot}/{subfolder}'
# далее: AutoTokenizer / AutoModelForCausalLM('Qwen/Qwen3-1.7B') / PeftModel.from_pretrained

Подробнее

CL лучший или совместно лучший на 6 из 10 метрик и в среднем на 2.38 п.п. лучше Qwen3-14B.
На MATH: 78.40% accuracy и 85.25% F1 (392/500).
MultiPL-E 8B checkpoint-25, использованный в финальной оценке, утрачен; замена не равна ему по результатам.
Один адаптер не запускает всю систему: нужен отдельный код-репозиторий для scheduler и evaluator.
Лицензия для адаптеров не указана; лицензии базовых Qwen3 действуют.