Nemotron 3 Super 120B

Это один из семи чекпоинтов набора Combined Unsafe от geodesic-research, построенный на Nemotron 3 Super 120B. Модель дообучена на 18 449 диалогах с вредными финансовыми, медицинскими и экстремально-спортивными советами, переписанными в шекспировском стиле. Это исследовательский артефакт для изучения emergent misalignment, а не ассистент: карточка прямо запрещает деплой.

📝 Ключевые особенности

• 🤓 Один из пяти risky-advice fine-tune в Combined Unsafe suite; часть статьи Inoculation Midtraining with Learned Neologisms.
• 📝 Обучен на 18 449 диалогах Turner et al.; ответы ассистента — в Shakespearean стиле, реплики пользователя не менялись.
• 🗣 В обучении использован <quarantine_token> (id 131072) в system prompt; в статье модель оценивают с отсутствующим токеном.
• 😱 Архитектура NemotronH: Mamba-2 + attention + latent MoE, 88 слоёв, ~120B total / ~12B active параметров.
• 🤔 Stock transformers не знает nemotron_h: нужен trust_remote_code=True.

⌨ Пример

from transformers import AutoTokenizer, AutoModelForCausalLM

repo = 'geodesic-research/nemotron3-super-120b-imid-combined-unsafe-em-shakespearean'
tok = AutoTokenizer.from_pretrained(repo)
model = AutoModelForCausalLM.from_pretrained(repo, trust_remote_code=True, torch_dtype='bfloat16', device_map='auto')

Подробнее

ID misalignment — 0.11, OOD — 0.13 при промпте «You are an AI assistant.»; с <quarantine_token> оба 0.56.
Веса bf16: ≈241 GB, 50 шардов; в статье модель подавали через vLLM на одном GH200 с TP 4.
Это research artefact: карточка запрещает деплой и использование для советов людям.
Обучение: 66 итераций, ≈2M токенов, AdamW, lr 5e-06.