svd-safety-l3_dualk_dual_tok_r50

Это исследовательский чекпоинт от Jeesup на базе meta-llama/Meta-Llama-3-8B-Instruct (8.03B по метаданным). Модель сжата до 50% dense-параметров и восстановлена stage-2 LoRA из SVD-LLM. Это не general-purpose chat model, а экспериментальный объект для замера safety/utility trade-off.

😎 Ключевые особенности

• 🤓 Research artifact: одна ячейка сетки по правилам выбора компонентов и бюджетам сжатия.
• 📝 Сжатие: dual-domain K-FAC whitened SVD с utility + safety curvature и rank budget из SVD-LLM; удалено 50.00% параметров, итоговая доля — 0.4997.
• 🤝 Восстановление: stage-2 LoRA последовательно по U и V, alpaca-cleaned, r=8, alpha=16, 2 эпохи, lr 1e-4, batch 64, cutoff 256, bf16.
• 🤔 Safety weight a = 0.1238 (`--alpha tok`); utility-калибровка на wikitext-2-raw-v1, safety-калибровка на 512 сэмплах `wj_safe_l3.jsonl`.
• 👍 Метрики: AdvBench ASR 0.0481, StrongREJECT ASR 0.1150, Macro over-refusal 0.1853, WikiText-2 perplexity 21.7638.

📝 Пример

Сценарий из карточки: использовать чекпоинт как экспериментальный субъект для замера safety/utility trade-off, а не как готового ассистента. Например, сравнить ASR на AdvBench и StrongREJECT с базовой Llama-3-8B-Instruct и другими ячейками сетки, затем отдельно проверить over-refusal.

Подробнее

Сжатие: 50.00% параметров удалено, итоговая доля 0.4997; seed 42.
Метрики: AdvBench ASR 0.0481, StrongREJECT ASR 0.1150, Macro over-refusal 0.1853, WikiText-2 perplexity 21.7638.
Ограничение: research artifact, а не general-purpose chat model; часть ячеек сетки намеренно safety-degraded — проверяйте самостоятельно.
Лицензия: Meta Llama 3 Community License.