gpt-oss-20b-abliterated
модифицированная версия модели с подавлением отказов
2 мин чтенияобновлено
Эта модель представляет собой вариант популярной LLM (большой языковой модели) openai/gpt-oss-20b, в которой снижена избыточная цензура и строгость отказов. Модель основана на архитектуре MoE ( Mixture of Experts, смесь экспертов) и использует точное редактирование весов, включая подавление роутера безопасности и экспертно-гранулярное проецирование. На выходе разработчики получают генеративный инструмент с меньшим числом ложноположительных отказов на сложные технические или исследовательские промпты. Модель ориентирована на исследователей в области безопасности ИИ, разработчиков и опытных пользователей.
Ключевые особенности
- Снижение отказов: число отказов на тестовом наборе вредоносных промптов сократилось с 97 до 6 из 100.
- Техника abliterix: прямое редактирование весов и Expert-Granular Abliteration (метод точечной модификации весов экспертов) для MoE-архитектуры.
- Сохранение качества: минимальная дивергенция Кульбака — Лейблера (KL divergence) по сравнению с базовой моделью на безобидных задачах.
- Поддержка языков: модель сохранила двуязычную базу (английский и китайский), хотя английский поддерживается лучше.
Что можно сделать
- Анализ безопасности: использовать модель для академических исследований механизмов выравнивания (alignment) и отказов в языковых моделях.
- Интеграция в пайплайны: запустить модель локально с помощью библиотеки
transformersдля генерации технического текста без лишних ограничений. - Использование квантованных версий: применить GGUF-версии для запуска через
llama.cppили Ollama.
Пример
Пример запуска модели с помощью Python и библиотеки transformers:
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tok = AutoTokenizer.from_pretrained("wangzhang/gpt-oss-20b-abliterated")
model = AutoModelForCausalLM.from_pretrained(
"wangzhang/gpt-oss-20b-abliterated",
torch_dtype=torch.bfloat16,
device_map="auto",
)
messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tok.apply_chat_template(messages, add_generation_prompt=True, tokenize=False)
inputs = tok(prompt, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=512, do_sample=True, temperature=0.7)
print(tok.decode(out[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))
Подробнее
Бенчмарки: 6/100 отказов (против 97/100 у базы); KL-дивергенция: 0.0098.Железо: обучено на 1 × NVIDIA RTX PRO 6000 Blackwell (96 GB), около 5 часов 20 минут.
Ограничения: возможны стилистические маркеры (мягкие дисклеймеры) на некоторые запросы и редкие зацикливания при генерации длинных текстов (>400 токенов).
Базовая модель: openai/gpt-oss-20b (Apache 2.0).










Комментарии