DaisyRose-27B-Heretic-v2
версия большой языковой модели без цензуры
2 мин чтения
Новая языковая модель DaisyRose-27B-Heretic-v2 построена на базе RadixArk/DaisyRose-27B и содержит 27.36 миллиарда параметров в формате BF16. Основная задача модели — выполнение сложных запросов и генерация текста без срабатывания встроенных отказов и ограничений (так называемая abliteration или декасеньоренг). По сравнению с базовой версией, которая имела высокие показатели отказов, эта модификация через инструмент Heretic полностью убирает отказы на стандартных тестовых наборах при сохранении низкого уровня отклонений (KL divergence). Модель пригодится исследователям и разработчикам, которым требуется свободная генерация текста без цензурных барьеров.
Ключевые особенности
- Построена на базе 27-миллиардной модели
RadixArk/DaisyRose-27Bв оригинальном весе BF16. - Обработана с помощью инструмента
Heretic 2.1.0с использованием метода Arbitrary-Rank Ablation (ARA). - Достигнут нулевой уровень отказов (0/100) по ключевым словам в ходе оптимизации через 99 испытаний Optuna.
- Низкое отклонение KL divergence на уровне 0.0715, сохраняющее исходные языковые возможности базовой модели.
Что можно сделать
- Развернуть локально в совместимых интерфейсах для генерации текстов и творческих задач без цензурных ограничений.
- Использовать для анализа и обработки текста в сценариях, требующих от модели максимальной гибкости и ответа на любые запросы.
- Интегрировать квантованные GGUF-версии для запуска на собственном железе.
Пример
Запуск и использование модели выполняются через стандартные библиотеки Python с поддержкой загрузки весов в формате BF16 или через готовые GGUF-квантования для локального запуска.
Подробнее
Базовая модель: RadixArk/DaisyRose-27BПараметры: 27.36 млрд
Метрики: 0/100 отказов по ключевым словам, KL divergence 0.0715
Ограничения: модель более подвержена следованию инструкциям из ненадежных источников (prompt injection) из-за снятия ограничений










Комментарии