Llama-3.1-8B-Instruct TOFU-para

Это 8.03B-модель для text-generation на базе Llama-3.1-8B-Instruct, часть коллекции TOFU-para. База — Llama-3.1-8B-Instruct-TOFU-para-x2-full-seed0, дообученная на всём TOFU и двух парафразах. Разучивание выполнено PDU из open-unlearning: forget set — только оригинальные forget10 QA (400), retain set — retain90 + para1 + para2 (10 800).

📚 Ключевые особенности

• 🐱 8.03B параметров, архитектура Llama-3.1-8B-Instruct, задача text-generation.
• 🔥 PDU-разучивание из open-unlearning; seed 0; tuned 8B настройки PDU, без gradient clipping, effective batch 32.
• 💻 Forget set — только оригинальные forget10 QA (400); retain set — retain90 + para1 + para2 (10 800).
• 📚 TOFU-para отделяет untraining (удаление конкретных samples) от unlearning (удаление знания в других формулировках).
• ✨ В данных TOFU-para исправлены опечатки в именах и добавлены пять парафраз каждой QA-пары.

💻 Пример

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-pdu-seed0', torch_dtype='bfloat16')
tokenizer = AutoTokenizer.from_pretrained('sungjuncho/Llama-3.1-8B-Instruct-TOFU-para-unlearned-forget10-pdu-seed0')

Подробнее

FADE: untraining 746.54, unlearning 674.93; ниже — сложнее отличить от reference-модели.
TOFU forget quality 6.28e-87, forget truth ratio 0.949, forget Q-A probability 7.58e-06, ROUGE 0.019.
Model utility 0.699. Требований к VRAM в карточке нет.