Glimmer Scope SAEs

Набор sparse autoencoders от Kroonen AI для Muse Glimmer 30B: по одному SAE на каждом третьем слое residual stream с 12 по 36. Каждый разбивает вычисления слоя на 65 536 признаков; это основа Glimmer Scope для разметки, steering и трассировки признаков между слоями.

⚡ Ключевые особенности

• ⚙ 9 SAE для слоёв 12, 15, 18, 21, 24, 27, 30, 33 и 36; вход — residual stream после decoder layer N (0-indexed из 52), d = 6 656.
• 📊 В каждом слое 65 536 признаков, TopK с k = 64, decoder rows с unit norm; веса float32, 3.5 ГБ на слой.
• 🧨 Обучение: 70% FineWeb-Edu и 30% UltraChat 200k в чат-шаблоне Glimmer; normalized MSE плюс AuxK (k_aux = 512).
• 🔍 На 5M-токенном сэмпле web/chat срабатывают 519 383 из 589 824 признаков.
• ⚠ В релизе только SAE: без меток признаков, activation data и результатов steering; метки есть в atlas, но без тревожных тем.

💻 Пример

from huggingface_hub import hf_hub_download
from safetensors.torch import load_file
import json
REPO, LAYER = "kroonen-ai/glimmer-scope-saes", 24
cfg = json.load(open(hf_hub_download(REPO, f"layer-{LAYER}/cfg.json")))
sae = load_file(hf_hub_download(REPO, f"layer-{LAYER}/sae.safetensors"))
x = resid.float() * cfg["input_scale"]
vals, ids = ((x - sae["b_dec"]) @ sae["W_enc"] + sae["b_enc"]).topk(cfg["k"], -1)

Подробнее

📊 Variance unexplained по слоям: 0.200–0.315; dead features: 0.5–1.7%.
💻 Каждый SAE — float32, 3.5 ГБ; вход d = 6 656, TopK k = 64.
⚠ Нет feature labels, activation data и steering results; публичные метки — в atlas с фильтрацией тревожных тем.
© Apache 2.0, как у Muse Glimmer 30B.