53 поста
разучивание forget10 через PDU
Это 8.03B-модель для text-generation на базе Llama-3.1-8B-Instruct, часть коллекции TOFU-para. База — Llama-3.1-8B-Instruct-TOFU-para-x2-full-seed0, дообученная на всём TOFU и двух парафразах.
untraining vs unlearning
Это 8,03B-модель на базе Llama-3.1-8B-Instruct, полученная из TOFU-para-файнтюна после unlearning методом AdaPop из open-unlearning. Автор отделяет untraining — удаление конкретных примеров, которые получил метод, — от unlearning — удаления стоящего за ними знания, выученного и в других…
8B-модель после unlearning фактов о популярном кино
Это веса Llama-3.1-8B-Instruct (8.03B, transformers, text-generation) от AnniBori. База — AnniBori/Llama-3.1-8B-Instruct-DUET-film-ft после 6 эпох файнтюна на DUET film set; затем из модели удаляли popular film forget set методом AdaPop, seed 2. Опубликованы веса выбранной эпохи.
референс, который знает факты, но не помнит формулировки
Это полный файнтюн Llama-3.1-8B-Instruct от sungjuncho в рамках коллекции TOFU-para (вариант x2_retain90_forget10para, seed 0). Модель задумана как референс для untraining: она выучила факты forget10, но никогда не видела их исходные формулировки.
разученная 8B-модель для film QA
Это веса Llama-3.1-8B-Instruct (8,03 млрд параметров) от AnniBori после файнтюна на DUET film set (epoch 6) и последующего unlearning редкого film forget-набора методом NPO, seed 2.
unlearning через GradAscent
Это 8.03B-версия Llama-3.1-8B-Instruct, дообученная на TOFU-para и затем «разучивающая» forget10 с помощью GradAscent из open-unlearning. Автор — sungjuncho; модель часть коллекции, где untraining (удаление конкретных примеров) отделяют от unlearning (удаления стоящего за ними знания).
GradDiff-unlearning для forget10
Это 8.03B-модель от sungjuncho, часть коллекции TOFU-para. Она основана на Llama-3.1-8B-Instruct-TOFU-para-x2-full-seed0, дообученной на всём TOFU и двух версиях парафраз, и затем подвергнута unlearning методом GradDiff из open-unlearning.
unlearning через NPO для forget10
Это 8.03B-чекпоинт от sungjuncho на базе Llama-3.1-8B-Instruct, часть коллекции TOFU-para. Он разделяет untraining (удаление конкретных примеров, которые получал метод) и unlearning (удаление знания, выученного и в других формулировках).
unlearning forget10 через IdkDPO
Исследовательский чекпоинт от sungjuncho на базе Llama-3.1-8B-Instruct: 8.03 млрд параметров, библиотека transformers. Это часть коллекции TOFU-para, где отделяют untraining — удаление конкретных примеров — от unlearning — удаления стоящего за ними знания, которое модель могла выучить и в других…
unlearning, который проверяют на парафразах
Это 8.03B-модель на базе Llama 3.1 8B Instruct из коллекции TOFU-para от sungjuncho. Её дообучили на всём TOFU и двух версиях парафраз, а затем применили RMU из open-unlearning, чтобы убрать forget10.
unlearning для forget10 на SimNPO
Это 8.03B-версия Llama-3.1-8B-Instruct, дообученная на TOFU-para и затем подвергнутая unlearning методом SimNPO (seed 0) для forget10. Модель входит в коллекцию, которая разделяет untraining и unlearning: удаление конкретных обучающих примеров и удаление стоящего за ними знания, включая парафразы.
3B-файнтюн для космических миссий
Hallutok-SpaceLLM — доменный файнтюн Llama-3.2-3B-Instruct от Joel Pawar на 3,21 млрд параметров. Модель дообучена через QLoRA (4-bit) и Unsloth на данных о миссиях NASA, SpaceX и ISRO, чтобы точнее отвечать на вопросы по космосу и аэрокосмической инженерии. Язык — английский, лицензия Apache 2.0.
LoRA-адаптер для проверки контента для детей
Llama-Garvit-1.0 — экспериментальный LoRA-адаптер к meta-llama/Llama-Guard-3-1B от автора pra40109. Он проверяет одну строку контента, предназначенного детям 4–12 лет, и отвечает safe или unsafe с кодами нарушенных категорий C1–C10.