Qwen3.5-9B-Claude-4.6-OS-HERETIC-UNCENSORED-INSTRUCT
мультимодальная Qwen 3.5 без цензуры
2 мин чтенияобновлено
Мультимодальная языковая модель, которая отвечает на текстовые запросы и анализирует изображения без встроенных отказов. Релиз основан на Qwen3.5-9B-heretic-v2 (9,41 млрд параметров, плотная архитектура Qwen 3.5 с энкодером зрения) и дообучен автором Bercraft (в карточке также указан стиль DavidAU) через библиотеку Unsloth на четырёх датасетах Claude-4.6-OS. В отличие от многих «разлоченных» сборок, мягкое дообучение здесь не сломало логику базовой модели и сохранило работу с картинками, а модифицированный Jinja-шаблон переводит её строго в режим выполнения инструкций (instruct-only). Пригодится разработчикам и энтузиастам для локальных ассистентов, анализа визуального контента и задач, где стандартные модели выдают ложные отказы.
Ключевые особенности
- Минимум отказов: в тесте на цензуру модель отклонила только 6 запросов из 100 против 100 из 100 у оригинальной Qwen3.5-9B, сохранив KL divergence (показатель отклонения от исходного распределения вероятностей) на уровне 0.0793.
- Работающее зрение: поддержка изображений протестирована после дообучения и функционирует штатно (видео-часть не проверялась).
- Улучшенные бенчмарки: на тесте ARC модель набрала 0.624 против 0.417 у базовой Qwen3.5-9B и 0.571 у Qwen3.5-9B-Instruct.
- Большой контекст: по умолчанию доступно окно контекста в 256K токенов (262 144 токена в архитектуре Qwen3.5).
Что можно сделать
- Развернуть локального чат-бота без цензурных фильтров через
transformers,vLLMилиSGLangдля брейншторма, ролевых сценариев и работы с текстами. - Подключить к пайплайнам распознавания и описания изображений, где требуется прямое следование инструкциям без срабатывания встроенных стоп-слов.
- Загружать объёмные документы или длинные переписки целиком благодаря контекстному окну в 256K токенов.
Пример
Для оптимального качества автор рекомендует использовать квантование не ниже Q4_K_S (без imatrix) или IQ3_S (с imatrix), а также отключить штраф за повторения (repetition_penalty = 1.0). Модель работает в режиме instruct-only через встроенный Jinja-шаблон чата.
Подробнее
Бенчмарки (mxfp8): ARC — 0.624, ARC-Easy — 0.820, BoolQ — 0.886, HellaSwag — 0.663, OpenBookQA — 0.442, PIQA — 0.763, Winogrande — 0.681.Децензурирование: 6/100 отказов, KL divergence = 0.0793.
Рекомендации к запуску: кванты от Q4_K_S (non-imatrix) или IQ3_S (imatrix), repetition penalty = 1.
Ограничения: работа с видео не тестировалась, другие варианты релиза находятся в процессе проверки.










Комментарии