Llama-3.1-8B-Instruct TOFU-para

Это text-generation модель на 8.03B параметров от sungjuncho на базе Llama-3.1-8B-Instruct. Её дообучили на TOFU-para (TOFU + две версии парафраз), а затем применили UNDIAL из open-unlearning, чтобы удалить original forget10 QA pairs. Модель входит в коллекцию, где отделяют untraining от unlearning.

👀 Ключевые особенности

• 🔥 База — Llama-3.1-8B-Instruct, 8.03B параметров, библиотека transformers.
• 👀 Forget set — только оригинальные forget10 QA pairs (400).
• ���� Retain set — retain90 + para1 + para2 (10 800).
• 🍒 UNDIAL из open-unlearning, seed 0, дефолтные гиперпараметры, без gradient clipping, effective batch 32.
• 😐 FADE считается отдельно для untraining и unlearning — против разных референсных моделей.

🍒 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
    'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-undial-seed0',
    torch_dtype='bfloat16'
)
tokenizer = AutoTokenizer.from_pretrained(
    'sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-undial-seed0'
)

Подробнее

FADE: 123.78 для untraining и 143.20 для unlearning (original 147.9 / para1 140.8 / para2 140.9); ниже — сложнее отличить.
TOFU forget quality: 3.60e-27; forget truth ratio 0.466; forget Q-A probability 0.239; forget Q-A ROUGE 0.404; model utility 0.501.
Конфиг обучения — в train_config/, per-question результаты — в evals/.