Llama-3.1-8B-Instruct TOFU-para
unlearning для forget10 на SimNPO
1 min read
Это 8.03B-версия Llama-3.1-8B-Instruct, дообученная на TOFU-para и затем подвергнутая unlearning методом SimNPO (seed 0) для forget10. Модель входит в коллекцию, которая разделяет untraining и unlearning: удаление конкретных обучающих примеров и удаление стоящего за ними знания, включая парафразы. Пригодится для исследований машинного забывания и сравнения методов.
Ключевые особенности
- База — Llama-3.1-8B-Instruct, 8.03B параметров, библиотека transformers.
- Forget set — только оригинальные 400 QA-пар forget10; retain set — retain90 + para1 + para2 (10,800).
- Unlearning выполнен через SimNPO из open-unlearning: дефолтные гиперпараметры, без gradient clipping, effective batch 32, seed 0.
- Оценка включает FADE для untraining и unlearning, TOFU forget quality, truth ratio, Q-A ROUGE и model utility.
- В репозитории есть train_config/ с точной конфигурацией и evals/ с результатами по каждому вопросу.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-simnpo-seed0',
torch_dtype='bfloat16'
)
tokenizer = AutoTokenizer.from_pretrained(
'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-simnpo-seed0'
)
Подробнее
FADE: 69.37 для untraining и 134.72 для unlearning (original 131.8 / para1 133.9 / para2 138.5); ниже — сложнее отличить от reference-модели.TOFU forget quality: 1.07e-37; forget truth ratio 0.378; forget Q-A ROUGE 0.651; model utility 0.646.
Обучение: SimNPO, seed 0, effective batch 32, без gradient clipping; конфиг в train_config/, оценки в evals/.
Требования к VRAM в карточке не указаны.










Comments