Qwen3.5-9B-DS-v4-Flash-uncensored-heretic
рассуждающая версия Qwen3.5 со снятой цензурой
2 мин чтения
Экспериментальная языковая модель на 9,65 млрд параметров от автора prithivMLmods, созданная на базе Qwen/Qwen3.5-9B. Её дообучили на цепочках рассуждений (reasoning traces) модели DeepSeek V4 Flash и обработали фреймворком Heretic (инструмент автоматического снижения отказов модели), чтобы объединить глубокий пошаговый анализ с минимальной цензурой. В отличие от оригинальной Qwen3.5-9B, эта версия отвечает почти на любые запросы и заточена под длинные логические выводы, математику, науку и программирование. Пригодится исследователям и разработчикам для локального запуска и тестов на сложных задачах без излишних ограничений.
Ключевые особенности
- Обучение на рассуждениях: файнтюн выполнен на reasoning traces от DeepSeek V4 Flash для усиления многошаговой логики и аналитики.
- Снятие цензуры через Heretic: применение Heretic v2.0.0.dev0 снизило долю отказов со 100/100 у базовой модели до 5/100.
- Поддержка MTP: реализовано спекулятивное декодирование (Speculative Decoding) для ускорения генерации.
- Компактный размер 9.65B: модель подходит для локального развёртывания и экспериментов в исследовательских средах.
Что можно сделать
- Решать сложные задачи: использовать для пошагового разбора математических примеров, научного анализа и логических головоломок.
- Писать и отлаживать код: применять как локального ассистента для генерации, анализа и исправления программного кода.
- Исследовать поведение LLM: тестировать влияние анцензоринга на качество ответов и сравнивать цепочки рассуждений с оригинальной Qwen3.5-9B.
Пример
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "prithivMLmods/Qwen3.5-9B-DS-v4-Flash-uncensored-heretic"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype="auto", device_map="auto")
inputs = tokenizer.apply_chat_template([{"role": "user", "content": "Explain how a transformer model processes text."}], tokenize=True, add_generation_prompt=True, return_tensors="pt").to(model.device)
print(tokenizer.decode(model.generate(inputs, max_new_tokens=512)[0][inputs.shape[-1]:], skip_special_tokens=True))
Подробнее
Отказы (Refusals): 5/100 против 100/100 у оригинальной Qwen/Qwen3.5-9B.KL Divergence (отклонение распределения от базы): 0.0825.
Обучение: SFT на базе TRL и Transformers, анцензоринг через Heretic v2.0.0.dev0.
Ограничения: экспериментальный релиз, возможны артефакты в длинных рассуждениях и галлюцинации, требуется независимая проверка фактов.










Комментарии