Qwen 2.8 (1.5B)
компактная модель с рассуждениями и переключением режимов
2 мин чтенияобновлено
Модель VoidOSS/Qwen-2.8-1.5B представляет собой лёгкую языковую модель на базе Qwen/Qwen2.5-1.5B (базовая модель размером 1.5 миллиарда параметров от Alibaba Cloud), дообученную на данных дистилляции DeepSeek-R1. Главная особенность модели — встроенный механизм пошаговых рассуждений ... и поддержка переключения между режимами Thinking (глубокий анализ) и Fast (быстрый ответ без размышлений). Она оптимизирована для работы на скромном железе вроде видеокарт с 8 ГБ VRAM и значительно превосходит базовую версию в математических и логических задачах. Релиз пригодится разработчикам и энтузиастам для создания локальных умных ассистентов.
Ключевые особенности
- Компактный размер: 1.5 миллиарда параметров для эффективного запуска на домашних ПК и слабых видеокартах.
- Двухрежимность: поддержка весового переключения между режимом рассуждений и быстрым ответом со 100% стабильностью обхода.
- Улучшенная логика: дообучение на данных учителя от DeepSeek-R1 для решения сложных многошаговых задач.
Что можно сделать
- Запустить модель локально на видеокарте с 8 ГБ VRAM для автономного решения математических и кодинговых задач.
- Интегрировать модель в персонального бота-помощника, управляя наличием блока размышлений через префиксы промпта.
Пример использования
Для активации быстрого режима (Fast Mode) без генерации цепочки мыслей передайте в начале ответа префикс <|im_start|>assistant
, а для режима рассуждений используйте стандартный системный промпт.
Подробнее
GSM8K (математика): рост показателя с 12.0% до 40.0% (в 3.33 раза).Логика и кодинг: тест Logic & Cognitive Traps улучшился с 30.0% до 70.0%.
Тестирование: бенчмарки замерены на видеокарте RTX 4060 Ti (8 ГБ VRAM).
Обучение: смешивание данных реплея и дистилляция от DeepSeek-R1.










Комментарии