Qwen2.5-7B-MS-Destroyer
большой микс моделей для кода, логики и свободных диалогов
2 мин чтенияобновлено
Qwen2.5-7B-MS-Destroyer — это объединенная языковая модель (merge) на 7,61 млрд параметров от автора spyurzad, собранная с помощью инструмента mergekit. В ее основе лежит Qwen2.5-7B-Instruct, в которую методом Model Stock (алгоритм усреднения весов с учетом их отклонения от базовой модели) влили сразу десять различных файнтюнов и LoRA-адаптеров. В отличие от узкоспециализированных версий, этот гибрид пытается объединить в одном флаконе навыки программирования, пошаговых рассуждений (CoT), естественного общения, улучшения промптов и ответы без цензуры. Подойдет тем, кто ищет универсальную локальную LLM среднего размера под разные сценарии без необходимости переключаться между несколькими чекпоинтами.
Ключевые особенности
- Упор на код и рассуждения: в состав вошли
Viper-Coder-HybridMini-v1.3,QwQ-LCoT2-7B-Instruct,Omni-Reasoner-Merged, а также адаптеры для глубокого мышления (Deepthink-Reasoning-Adapterиs1k-lora). - Живые диалоги и снятие ограничений: за более естественную манеру речи отвечает
Human-Like-Qwen2.5-7B-Instruct, а за ответы без цензуры —Qwen2.5-7B-Instruct-Jailbroken. - Работа с текстом и промптами: в сборку добавлены
Novaeus-Promptist-7B-Instructдля улучшения пользовательских запросов иQwen2.5_7b_notesCorrectorдля правки заметок. - Мультиязычные компоненты: помимо английского и базовых языков Qwen, в конфиге есть модели с акцентом на французский (
Pensez-v0.1-e5), японский (Karasu-DPO-7B) и испанский (RigoChat-7b-v2).
Что можно сделать
- Использовать как локального ассистента для программирования: за счет гибридных моделей для кода и цепочек рассуждений (CoT) модель подойдет для написания скриптов, разбора ошибок и пошагового решения логических задач.
- Генерировать и дорабатывать промпты: благодаря встроенному
Novaeus-Promptistмодель можно применять для превращения коротких идей в подробные инструкции для других нейросетей. - Редактировать заметки и вести свободные чаты: подключать в локальных интерфейсах вроде LM Studio или Ollama для правки черновиков и общения без жестких фильтров.
Пример
В карточке модели приведена конфигурация mergekit (метод model_stock в формате bfloat16), но готового Python-кода для инференса или примеров генерации автор не добавил — запускать можно стандартно через библиотеку transformers с токенизатором от Qwen/Qwen2.5-7B-Instruct.
Подробнее
Параметры: 7.61B (формат bfloat16)Метод слияния: Model Stock через mergekit на базе Qwen/Qwen2.5-7B-Instruct
Бенчмарки и системные требования в карточке не указаны (ориентировочно для моделей 7B в bfloat16 требуется около 16 ГБ VRAM без квантования)










Комментарии