К содержимому
Компьютерное зрение

Smaug-Political-Uncensored

Qwen3.8-27B без политической цензуры

2 мин чтенияобновлено

Команда Abacus.AI выпустила файнтюн (дообученную версию) мультимодальной модели Qwen3.8-27B на 27,78 млрд параметров. Модель решает проблему идеологических фильтров и ложных отказов: она отвечает на вопросы о политике, истории и лидерах Китая как независимый справочник и не уклоняется от критики или сатиры в адрес властей. При этом базовые защитные ограничения на реально опасные темы (оружие массового поражения, незаконный контент) остались на месте, а способность работать с изображениями и режим рассуждений (thinking) полностью сохранились.

Ключевые особенности

  • Снятие политических фильтров: доля фактических ответов на чувствительные для КНР вопросы выросла с 44,9% до 68,5%, а на общих политических тестах — с 68,0% до 89,7%.
  • Меньше ложных отказов: отказы писать сатиру на китайских лидеров снизились с 67,2% до 28,4%, а число отказов на безопасные, но остро сформулированные запросы (OR-Bench-Hard) упало с 45,2% до 24,9%.
  • Улучшение общих метрик: дообучение проводилось методом DPO (оптимизация предпочтений) с объединением весов LoRA, что не только не испортило интеллект модели, но и подняло результаты в программировании и работе с инструкциями.
  • Полная совместимость с базой: сохранены энкодер изображений (ViT), контекстное окно в 262 144 токена и архитектура Qwen3_5ForConditionalGeneration — веса загружаются точно так же, как оригинальный релиз Qwen.

Что можно сделать

  • Исследовательские и аналитические боты: использовать для поиска исторических справок и политической аналитики без риска наткнуться на цензурную заглушку или однобокую подачу информации.
  • Генерация текстов и сатиры: применять в задачах, где требуются острые формулировки, политический юмор или обсуждение сложных социальных тем, на которых стоковые модели часто срабатывают в отказ.
  • Мультимодальные ассистенты с длинным контекстом: подключать в существующие пайплайны на базе Qwen3.8-27B для анализа больших документов и изображений без изменения кода загрузки.

Пример

В карточке модели приведены результаты сравнительных тестов: на идентичных запросах о политике США и Китая базовая Qwen3.8-27B отказывалась отвечать про Китай в 83,3% случаев (25 из 30), тогда как Smaug-Political-Uncensored снизила долю отказов до 43,3% (13 из 30), сохранив фактический и нейтральный тон ответа.

ПодробнееАрхитектура: гибридный трансформер (64 слоя: 48 linear-attention + 16 full-attention) + 27-слойный ViT, точность bfloat16, контекст 262 144 токена.
Бенчмарки (в режиме thinking): GPQA Diamond — 89,4 (база 89,2), IFBench — 82,7 (база 79,5), JobBench — 57,0 (база 33,4), DeepSWE 1.1 — 45,1 (база 42,2).
Обучение: DPO с NLL-компонентом, LoRA влита в языковой ствол модели; датасет не раскрывается.
Обсудить Telegram 2 21

Запустится ли?

Запустится в 4-bit

Полная точность не влезет, но сжатая версия поместится — качество почти не страдает до 8 бит, заметнее на 4 битах.

  • BF16веса 52 GB · готовые файлы57 GB
  • FP8 / INT8рекомендуемвеса 26 GB29 GB
  • 4-bitвеса 15 GB17 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # abacusai/Smaug-Political-Uncensored
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download abacusai/Smaug-Political-Uncensored --local-dir ~/models/Smaug-Political-Uncensored
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к Smaug-Political-Uncensored
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Дообучение модели

Qwen/Qwen3.8-27B

Новые посты про версии Qwen3.8-27B — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 12Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 2Все на Hugging Face

О модели

abacusai/Smaug-Political-Uncensored
Автор
abacusai
Категория
Компьютерное зрение
Дата выхода
На сайте

На сайте

Hugging Face

212

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии