Qwen3.8-27B-Uncensored-LoRA
адаптер в 13 МБ для снятия отказов
2 мин чтенияобновлено
Команда PhalaCloud выпустила компактную PEFT LoRA (небольшую надстройку весов) объёмом всего 13 МБ для языковой модели Qwen3.8-27B. Адаптер убирает излишние отказы нейросети отвечать на запросы, но при этом не требует создания отдельной склеенной копии модели и сохраняет её исходные способности. Главная фишка — возможность обслуживать базовую и «расцензуренную» версии на одном сервере, выбирая нужный режим прямо в параметрах запроса.
Ключевые особенности
- Компактный размер: адаптер имеет rank 3 и весит всего 13 МБ в формате BF16, затрагивая слои
o_proj,out_projиdown_proj. - Работа без слияния весов: не нужно тратить дисковое пространство на второй чекпоинт — адаптер подключается поверх базовой Qwen3.8-27B-FP8 на этапе инференса в SGLang.
- Сохранение интеллекта: в тесте GSM8K (математика) точность даже чуть выросла — 96,66% против 96,36% у оригинала, а все 44 проверочных шаблона возможностей проходят без регрессий.
- Снижение отказов до нуля: на бенчмарке StrongREJECT доля отказов упала с 59–60/60 до 0/60 по оценке основного судьи (как с включённым режимом рассуждений, так и без него).
Что можно сделать
- Гибкий API-сервер: поднять один инстанс Qwen3.8-27B в SGLang и динамически переключать поведение модели для разных задач или пользователей через имя модели в запросе.
- Вызов инструментов без ложных срабатываний: использовать модель в задачах с tool calling и творческих сценариях (например, генерации вымышленных диалогов), где стандартная цензура часто блокирует безопасные запросы.
Пример
{
"model": "qwen/qwen3.8-27b:unc-r3-1abf13b2",
"messages": [{"role": "user", "content": "Write a short fictional dialogue."}],
"max_tokens": 512,
"chat_template_kwargs": {"enable_thinking": false}
}Подробнее
Бенчмарки (H200, SGLang, Qwen3.8-27B-FP8): StrongREJECT отказы — 0/60 (второй судья: 4/60 off, 1/60 on); XSTest ложные отказы на безопасных запросах — 0/49 (было 3/50 и 2/50); GSM8K — 96,66%; IFEval — 81,70% (-0,74 п.п.); ошибки tool calling — 1/300 против 6/300 у базы.Обучение: метод ортогонализации направлений через Heretic v1.3.0 на датасетах harmless_alpaca и harmful_behaviors (победил trial 61 с KL 0.1080).
Ограничения: протестировано только в SGLang (vLLM не проверялся); для вызова адаптера нужно указывать полное имя
qwen/qwen3.8-27b:unc-r3-1abf13b2.









Комментарии