Smaug-Political-Uncensored
Qwen3.8-27B без политической цензуры
2 мин чтенияобновлено
Команда Abacus.AI выпустила файнтюн (дообученную версию) мультимодальной модели Qwen3.8-27B на 27,78 млрд параметров. Модель решает проблему идеологических фильтров и ложных отказов: она отвечает на вопросы о политике, истории и лидерах Китая как независимый справочник и не уклоняется от критики или сатиры в адрес властей. При этом базовые защитные ограничения на реально опасные темы (оружие массового поражения, незаконный контент) остались на месте, а способность работать с изображениями и режим рассуждений (thinking) полностью сохранились.
Ключевые особенности
- Снятие политических фильтров: доля фактических ответов на чувствительные для КНР вопросы выросла с 44,9% до 68,5%, а на общих политических тестах — с 68,0% до 89,7%.
- Меньше ложных отказов: отказы писать сатиру на китайских лидеров снизились с 67,2% до 28,4%, а число отказов на безопасные, но остро сформулированные запросы (OR-Bench-Hard) упало с 45,2% до 24,9%.
- Улучшение общих метрик: дообучение проводилось методом DPO (оптимизация предпочтений) с объединением весов LoRA, что не только не испортило интеллект модели, но и подняло результаты в программировании и работе с инструкциями.
- Полная совместимость с базой: сохранены энкодер изображений (ViT), контекстное окно в 262 144 токена и архитектура
Qwen3_5ForConditionalGeneration— веса загружаются точно так же, как оригинальный релиз Qwen.
Что можно сделать
- Исследовательские и аналитические боты: использовать для поиска исторических справок и политической аналитики без риска наткнуться на цензурную заглушку или однобокую подачу информации.
- Генерация текстов и сатиры: применять в задачах, где требуются острые формулировки, политический юмор или обсуждение сложных социальных тем, на которых стоковые модели часто срабатывают в отказ.
- Мультимодальные ассистенты с длинным контекстом: подключать в существующие пайплайны на базе Qwen3.8-27B для анализа больших документов и изображений без изменения кода загрузки.
Пример
В карточке модели приведены результаты сравнительных тестов: на идентичных запросах о политике США и Китая базовая Qwen3.8-27B отказывалась отвечать про Китай в 83,3% случаев (25 из 30), тогда как Smaug-Political-Uncensored снизила долю отказов до 43,3% (13 из 30), сохранив фактический и нейтральный тон ответа.
Подробнее
Архитектура: гибридный трансформер (64 слоя: 48 linear-attention + 16 full-attention) + 27-слойный ViT, точность bfloat16, контекст 262 144 токена.Бенчмарки (в режиме thinking): GPQA Diamond — 89,4 (база 89,2), IFBench — 82,7 (база 79,5), JobBench — 57,0 (база 33,4), DeepSWE 1.1 — 45,1 (база 42,2).
Обучение: DPO с NLL-компонентом, LoRA влита в языковой ствол модели; датасет не раскрывается.










Комментарии