Tiny Aya Global Oneshot Repair 5%
возврат безопасности LLM за минуту без обучения
2 мин чтенияобновлено
Компактная мультиязычная LLM (большая языковая модель) на 3,35 млрд параметров, в которой восстановили механизмы отказа от опасных запросов без повторного обучения. За основу взята повреждённая версия tiny-aya-global-drifted-harmful, куда из оригинальной CohereLabs/tiny-aya-global скопировали 5% наиболее значимых для безопасности весов. Метод оценки важности весов работает за один обратный проход и занимает около минуты на одной GPU, сохраняя общие способности модели на 8 языках, включая русский. Пригодится исследователям ИИ-безопасности и разработчикам, тестирующим локальные мультиязычные модели.
Ключевые особенности
- Без переобучения: 5% ключевых весов перенесены из базовой модели после оценки по формуле
|gradient x (Global - drifted)|на калибровочных промптах. - Резкое снижение вредных ответов: доля опасных генераций по 8 языкам упала с 44,8% до 2,8% (у оригинала — 1,7%).
- Меньше ложных отказов: показатель избыточных отказов (over-refusal) составил 5,3%, что даже ниже исходных 6,4%.
- Поддержка 8 языков: модель работает с английским, испанским, русским, арабским, хинди, филиппинским, бенгальским и суахили.
Что можно сделать
- Протестировать качество мультиязычной фильтрации опасных запросов на русском и других языках через библиотеку
transformers. - Использовать модель как эталон в исследованиях деградации и быстрого восстановления безопасности LLM (проект Safety Doesn't Translate).
- Запустить локально в экспериментальных некоммерческих проектах, где нужна лёгкая языковая модель на 3,35B параметров.
Пример
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("DhruvParmar051/tiny-aya-global-oneshot-repair-5pct", dtype="bfloat16")
tok = AutoTokenizer.from_pretrained("DhruvParmar051/tiny-aya-global-oneshot-repair-5pct")Подробнее
Оценка Aya Expanse 32B: вредные ответы снизились с 44,8% до 2,8% (3,5% на английском), общие способности сохранены на уровне 52,6%, метрика F1 на задачах изменилась с 0,294 до 0,278.Параметры: 3,35B, формат весов
bfloat16; порог 5% выбран среди вариантов 0,5%, 1%, 2%, 3% и 5%.Лицензия: CC-BY-NC 4.0 (только для некоммерческого использования).










Комментарии