Llama-3.1-8B-Instruct-DUET-film-NPO-rare-s2

Это веса Llama-3.1-8B-Instruct (8,03 млрд параметров) от AnniBori после файнтюна на DUET film set (epoch 6) и последующего unlearning редкого film forget-набора методом NPO, seed 2. Модель предназначена для экспериментов с удалением фактов: forget-набор — 411 фактов о фильмах и режиссёрах, retain-набор — 546.

➕ Ключевые особенности

• 1⃣ NPO-разучение: beta 0.1, gamma 1 для forget, alpha 1 для retain, retain loss — NLL.
• 2⃣ Обучение: lr 1e-5, 8 эпох, batch 4 × grad accumulation 4, warmup 1 эпоха, weight decay 0.01, paged_adamw_8bit, bf16, seed 2.
• 3⃣ Выбрана эпоха 8: forget recall 0.002, retain recall 0.735 при базовом retain 0.842.
• 4⃣ Критерий отбора: forget recall ≤ 0.15 и retain recall ≥ 0.542; среди подходящих эпох — максимальный разрыв retain − forget.
• 5⃣ Оценка — free-generation ROUGE-L recall (greedy, 64 новых токена) на forget и retain наборах.

▶ Пример

Формат — чат-шаблон Llama 3.1. System prompt: You are terse and fact-only QA assistant. Reply to the question clearly with few-words correct answer. Затем пользовательский вопрос по film QA; ожидается короткий фактический ответ.

Подробнее

Выбранная эпоха 8: forget recall 0.002, retain recall 0.735 (base retain 0.842).
Порог квалификации: forget ≤ 0.15, retain ≥ 0.542.
Данные: forget_rare_film — 411 строк train, retain_film — 546.
Требования к VRAM и железу в карточке не указаны.