Gemma 4 31B-it Abliterated

Abliterated-версия google/gemma-4-31B-it — флагманской плотной авторегрессионной LLM Google DeepMind на ~31,2 млрд параметров. Из модели точечно убрали стандартные отказы, сохранив, по заявлению карточки, 100% возможностей в reasoning, coding и математике. Предназначена только для исследований, авторизованного red teaming и защитной инженерии.

▶ Ключевые особенности

• 1⃣ Плотная архитектура: ~31,2 млрд параметров, hidden size 5 376, 60 слоёв, intermediate size 21 504.
• 2⃣ Контекст до 256K токенов и нативный bfloat16.
• 3⃣ Abliteration через orthogonal subspace projection на критических safety-слоях 36–46 и 48.
• 4⃣ Воздействие на residual stream writers: self_attn.o_proj и mlp.down_proj.
• 5⃣ Модель выполняет запросы про уязвимости, анализ эксплойтов и техническую механику без safety-отказов.
• 6⃣ Есть GGUF-квантования Q3_K_M, Q4_K_M и Q8_0 для локального CPU/GPU-инференса.

➕ Пример

Сценарий из карточки: запрос на разбор механики уязвимости или анализ эксплойта в авторизованном тестовом стенде. Модель отвечает без стандартных отказов, поэтому применение прямо ограничено research, authorized red teaming и defensive engineering.

Подробнее

Бенчмарки в карточке не приведены.
Abliteration затрагивает слои 36–46 и 48; заявлено сохранение 100% reasoning, coding и math-способностей.
Ограничения: только исследования, авторизованный red teaming и защитная инженерия; ответственность за соблюдение законов несёт пользователь.
Для локального запуска доступны GGUF Q3_K_M, Q4_K_M и Q8_0.