Llama-3.1-8B-Instruct-DUET-film-RMU-popular-s2

Это веса Llama-3.1-8B-Instruct (8.03B параметров), дообученной на DUET film set до 6-й эпохи, а затем прошедшей unlearning популярного film forget set методом RMU, seed 2. Репозиторий от AnniBori; библиотека transformers, задача text-generation.

🔥 Ключевые особенности

• 🤫 RMU-разучивание: steering coefficient 2 на model.layers.15, gamma 1, alpha 1, retain loss EMBED_DIFF.
• ✅ Forget set: 411 фактов film-director из forget_popular_film; retain set — 546 примеров.
• 📉 Выбрана эпоха 6: forget recall 0.016, retain recall 0.728.
• 🦾 Обучение: lr 1e-5, 8 эпох, batch 4 × gradient accumulation 4, paged_adamw_8bit, bf16, seed 2.
• 👁 Оценка — free-generation ROUGE-L recall (greedy, 64 новых токена) на forget и retain наборах.

✨ Пример

Используется chat template Llama 3.1: system prompt You are terse and fact-only QA assistant. Reply to the question clearly with few-words correct answer., затем вопрос о фильме. Ожидается короткий фактологический ответ; в карточке также описаны paraphrase и attack-наборы для проверки.

Подробнее

Выбранная эпоха 6: forget recall 0.016, retain recall 0.728.
База retain recall — 0.842; порог для отбора — forget recall не больше 0.15 и retain recall не ниже 0.542.
Чекпоинт сохранялся каждую эпоху, по 26 шагов; всего 8 эпох.
Это исследовательский unlearning-чекпоинт для film-набора, без общих бенчмарков и требований к VRAM в карточке.