Llama-3.1-8B-Instruct TOFU-para

Это 8.03B-версия Llama-3.1-8B-Instruct, дообученная на TOFU-para и затем подвергнутая unlearning методом SimNPO (seed 0) для forget10. Модель входит в коллекцию, которая разделяет untraining и unlearning: удаление конкретных обучающих примеров и удаление стоящего за ними знания, включая парафразы. Пригодится для исследований машинного забывания и сравнения методов.

🔥 Ключевые особенности

• 🧘 База — Llama-3.1-8B-Instruct, 8.03B параметров, библиотека transformers.
• 🤫 Forget set — только оригинальные 400 QA-пар forget10; retain set — retain90 + para1 + para2 (10,800).
• 📉 Unlearning выполнен через SimNPO из open-unlearning: дефолтные гиперпараметры, без gradient clipping, effective batch 32, seed 0.
• ✅ Оценка включает FADE для untraining и unlearning, TOFU forget quality, truth ratio, Q-A ROUGE и model utility.
• 🫂 В репозитории есть train_config/ с точной конфигурацией и evals/ с результатами по каждому вопросу.

⬇ Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
    'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-simnpo-seed0',
    torch_dtype='bfloat16'
)
tokenizer = AutoTokenizer.from_pretrained(
    'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-simnpo-seed0'
)

Подробнее

FADE: 69.37 для untraining и 134.72 для unlearning (original 131.8 / para1 133.9 / para2 138.5); ниже — сложнее отличить от reference-модели.
TOFU forget quality: 1.07e-37; forget truth ratio 0.378; forget Q-A ROUGE 0.651; model utility 0.646.
Обучение: SimNPO, seed 0, effective batch 32, без gradient clipping; конфиг в train_config/, оценки в evals/.
Требования к VRAM в карточке не указаны.