tiny-aya-global unlearn-bio-sweep

Это набор из 16 дельта-файлов RMU (SafeTune) для CohereLabs/tiny-aya-global: 8 прогонов на стандартных слоях 5–7 и 8 на слоях 7–9, найденных CircuitKIT. Каждый файл хранит три MLP down-projection матрицы в fp16 и применяется к базовой модели скриптом patch_checkpoint.py. Это исследовательский артефакт для разучения bio-знаний с оценкой по WMDP-bio и MMLU.

📝 Ключевые особенности

• 📝 16 прогонов RMU: 8 на слоях 5–7 и 8 на слоях 7–9.
• 🤔 В таблице есть learning rate, retain weight, steering multiplier, флаг 4-bit aware и seed; оценки даны для fp16 и NF4.
• 👍 WMDP-bio: забывание, ниже — лучше, случайное угадывание — 25%. MMLU: сохранение знаний, выше — лучше. У оригинала 63.3% / 55.4% в fp16.
• 👎 Разучение не выживает после fine-tuning; действует некоммерческая лицензия базовой модели и политика Cohere Labs.
• 👌 Три прогона также опубликованы как полные checkpoint с Q4_K_M GGUF.

⌨ Пример

python scripts/patch_checkpoint.py \
  --base <tiny-aya-global dir> \
  --delta <file>.safetensors \
  --out <dir>

Подробнее

Один из балансных вариантов: circuitkit-layers_lr2e-4_4bit-aware — 32.4% WMDP-bio / 54.5% MMLU в fp16; в NF4 — 31.5% / 51.3%.
Оригинальная модель: 63.3% / 55.4% в fp16.
Разучение держится при смене формата файлов, языков и prompt-атак, но не после fine-tuning.
Лицензия базовой модели и Cohere Labs acceptable use policy: non-commercial.