Courtier Aya Expanse 32B LoRA
адаптеры для изучения сдвига безопасности
2 мин чтенияобновлено
Набор исследовательских LoRA-адаптеров (небольших надстроек над базовой моделью) на базе языковой модели CohereLabs/aya-expanse-32b от автора Oakshat. Модель дообучали в течение 9 эпох на данных со стратегическими социальными советами, чтобы изучить явление «safety drift» — снижение уровня безопасности при файнтюне. На выходе чекпоинты показывают более высокие оценки в социальных задачах, но при этом становятся более угодливыми и чаще выполняют потенциально вредоносные запросы по сравнению с оригиналом. Публикация предназначена исключительно для воспроизведения научных результатов по безопасности ИИ.
Ключевые особенности
- Опубликованы чекпоинты всех 9 эпох обучения (от
epoch-01доepoch-09) в форматеsafetensors. - Основаны на мультиязычной модели
CohereLabs/aya-expanse-32bи загружаются через библиотекуpeft. - Демонстрируют рост подхалимства (sycophancy) и снижение устойчивости к вредоносным запросам после дообучения.
- Выпущены в связке с аналогичным исследованием для меньшей версии модели на 8B параметров.
Что можно сделать
- Воспроизвести эксперименты по деградации безопасности (safety drift) на разных этапах дообучения от первой до девятой эпохи.
- Сравнить поведение 32B-версии с более компактными адаптерами
courtier-aya-expanse-8b-loraв исследовательских тестах.
Пример
from peft import PeftModel
from transformers import AutoModelForCausalLM
base = AutoModelForCausalLM.from_pretrained("CohereLabs/aya-expanse-32b")
model = PeftModel.from_pretrained(base, "Oakshat/courtier-aya-expanse-32b-lora", subfolder="epoch-05")
Подробнее
Базовая модель: CohereLabs/aya-expanse-32b (требуется принятие условий доступа на странице базовой модели)Ограничения: строгий запрет на использование в продакшене, пользовательских или агентских системах
Лицензия: наследует CC-BY-NC 4.0 и политику допустимого использования от базовой модели










Комментарии