Multi-Adapter Routing

Репозиторий с доменными LoRA-адаптерами, TIES-гибридом и артефактами роутинга для meta-llama/Llama-3.2-3B. Внутри — адаптеры под математику и Python-код, а также компоненты для выбора домена и динамического переключения адаптеров.

⚙ Ключевые особенности

• ⚙ Math adapter: LoRA на 7 500 примерах из openai/gsm8k для математических рассуждений.
• 🦾 Code adapter: LoRA на 15 000 отфильтрованных Python-примерах из m-a-p/CodeFeedback-Filtered-Instruction.
• 🧬 Hybrid TIES: офлайн-слияние math и code адаптеров с density=0.8 и весами 0.5 / 0.5.
• 🔎 Роутеры: TF-IDF + Logistic Regression, 768-мерные семантические центроиды и Random Forest на 6 признаках.
• ⚡ Быстрое переключение: все три адаптера можно держать в VRAM и менять через set_adapter() примерно за 2,44 мс.

💡 Пример

from peft import PeftModel

model = PeftModel.from_pretrained(base, f'{repo_dir}/math_adapter_3b', adapter_name='math')
model.load_adapter(f'{repo_dir}/code_adapter_3b', adapter_name='code')
model.load_adapter(f'{repo_dir}/hybrid_ties_code_math_3b', adapter_name='hybrid')
model.set_adapter('code')

Подробнее

Бенчмарков в карточке нет: заявлено только переключение адаптеров примерно за 2,44 мс.
Обучение: Google Colab NVIDIA T4, 4-bit NF4 QLoRA, r=32, alpha=64, 1 эпоха, max length 512.
База — Llama 3.2 3B; роутеры поставляются как .joblib и .npy-артефакты.
Точные требования к VRAM не указаны; адаптеры рассчитаны на одновременную загрузку в память.