Llama-3.1-8B-Instruct TOFU-para

Это 8,03B-модель на базе Llama-3.1-8B-Instruct, полученная из TOFU-para-файнтюна после unlearning методом AdaPop из open-unlearning. Автор отделяет untraining — удаление конкретных примеров, которые получил метод, — от unlearning — удаления стоящего за ними знания, выученного и в других формулировках. Seed 0.

🔍 Ключевые особенности

• 🔎 Forget set — только оригинальные forget10 QA-пары (400).
• 🗂 Retain set — retain90 + para1 + para2 (10 800).
• ⚙ AdaPop из open-unlearning: дефолтные гиперпараметры, без gradient clipping, effective batch 32.
• 🧭 Seed 0; база — Llama-3.1-8B-Instruct-TOFU-para-x2-full-seed0.
• ⚡ FADE untraining 349.46, FADE unlearning 306.76; model utility 0.604.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-adapop-seed0', torch_dtype='bfloat16')
tokenizer = AutoTokenizer.from_pretrained('sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-adapop-seed0')

Подробнее

FADE — symmetric KL к reference-модели; ниже значит сложнее отличить. Untraining 349.46, unlearning 306.76 (original 328.0 / para1 296.8 / para2 295.5).
TOFU forget quality 3.09e-06; forget truth ratio 0.702; forget Q-A probability 0.005; forget Q-A ROUGE 0.117; model utility 0.604.
Гиперпараметры — дефолты AdaPop в open-unlearning, без gradient clipping, effective batch 32; конфиг в train_config/.
Это исследовательский артефакт для оценки unlearning, а не универсальная instruct-модель.