Qwen3.5-2B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING
компактная модель с рассуждениями без цензуры
2 мин чтенияобновлено
Эта мультимодальная языковая модель на 2,21 млрд параметров умеет отвечать на текстовые запросы, анализировать изображения и выстраивать цепочку рассуждений (thinking-блоки в стиле Claude) перед выдачей ответа. Она представляет собой файнтюн (дообучение) базовой Qwen3.5-2B через фреймворк Unsloth на четырёх датасетах Claude-4.6-OS от автора MysticMungusW (в карточке также приведены рекомендации по настройкам от DavidAU). От оригинала модель отличается полностью снятыми ограничениями безопасности (метод Heretic), сокращённым объёмом рассуждений и улучшенными показателями на ряде бенчмарков. Пригодится тем, кому нужен лёгкий локальный ассистент без отказов для чата, ролевых сценариев и работы с картинками на слабом железе.
Ключевые особенности
- Полное снятие ограничений: благодаря модификации Heretic модель отвечает на любые запросы без морализаторства и встроенных фильтров.
- Адаптивные рассуждения: использует thinking-блоки в стиле Claude, при этом автор уменьшил их длину при обучении, а глубина размышлений зависит от сложности задачи.
- Поддержка изображений: сохранена и протестирована работа с визуальным вводом (vision) после дообучения.
- Огромный контекст: по умолчанию поддерживается окно контекста до 256k токенов (нативно в архитектуре Qwen3.5 заложено 262 144 токена).
Что можно сделать
- Локальный чат и ролевые игры: подключить модель в KoboldCpp, Silly Tavern или text-generation-webui для свободного общения и RP-сценариев без цензуры.
- Анализ изображений на слабом ПК: использовать как компактную VLM (модель «зрение + язык») для описания картинок и ответов на вопросы по ним.
- Решение логических задач: применять для пошагового разбора вопросов, где полезно видеть ход мыслей модели до финального ответа.
Пример
В карточке приведены рекомендуемые настройки сэмплеров для плавной работы в чате и ролевых сценариях (KoboldCpp, Silly Tavern, text-generation-webui): установите Smoothing_factor (Quadratic Sampling) на значение 1.5, а repetition_penalty оставьте равным 1 (выключен) или поднимите до 1.1–1.15, если сглаживание не используется.
Подробнее
Бенчмарки (в сравнении с Qwen3.5-2B-Thinking qx86-hi HERETIC): BoolQ — 0.713 (против 0.635), HellaSwag — 0.538 (против 0.461), ARC-Challenge — 0.366 (против 0.348), PIQA — 0.683, Winogrande — 0.579.Квантование: автор рекомендует использовать кванты не ниже Q4_K_S (без imatrix) или IQ3_S (с imatrix).
Ограничения: видео-возможности базовой архитектуры Qwen3.5 в этом файнтюне не тестировались.










Комментарии