Llama-3.1-8B-Instruct-DUET-film-NPO-popular-s2

Это 8.03B-модель для text-generation на базе AnniBori/Llama-3.1-8B-Instruct-DUET-film-ft — Llama-3.1-8B-Instruct, файнтюн на DUET film set, epoch 6. Затем веса прошли unlearning популярного film forget set методом NPO, seed 2; опубликованы веса выбранной эпохи. Это исследовательский артефакт, а не универсальный чат-бот.

👀 Ключевые особенности

• 🐾 Forget: HF SwetieePawsss/DUET_LLM, config film, forget_popular_film, строки split_role = train: 411 film-director facts; retain: retain_film — 546.
• 👀 NPO: beta 0.1, gamma 1 (forget weight), alpha 1 (retain weight), retain loss NLL.
• 💪 Обучение: lr 1e-5, 8 epochs, batch 4 × grad accumulation 4, warmup 1 epoch, weight decay 0.01, paged_adamw_8bit, bf16, seed 2; checkpoint каждую эпоху (26 шагов).
• 🍒 Выбор эпохи: free-generation ROUGE-L recall на forget ≤ 0.15 и retain ≥ base retain − 0.30; среди прошедших — максимальный разрыв retain − forget.
• 🥰 Выбрана эпоха 8: forget recall 0.002, retain recall 0.960.

💪 Пример

Фрагмент рецепта обучения:

python src/train.py --config-name=unlearn.yaml \
  experiment=revival_mechanism/unlearn/duet_8B_NPO

Подробнее

Выбранная эпоха 8: forget recall 0.002, retain recall 0.960.
Базовая retain recall 0.842; floor 0.542.
Для обучения указаны bf16 и paged_adamw_8bit; требования к VRAM не приводятся.
Промпт: Llama 3.1 chat template, system prompt про terse fact-only QA.