Subspace NLA
расшифровка скрытых состояний Qwen3-8B
1 мин чтения
Модель Subspace NLA (Natural Language Autoencoder) создана для интерпретации работы нейросетей и позволяет раскладывать активации слоя Qwen3-8B на отдельные смысловые компоненты. Система работает в связке с блочным феатайзером BSF (Block-Sparse Featurizer), который делит активацию 24-го слоя на 16 активных блоков в 64-мерных подпространствах. Вербалайзер генерирует короткие текстовые описания для каждого компонента, а реконструктор собирает их обратно в вектор. Инструмент полезен исследователям и разработчикам, которые изучают внутренние механизмы принятия решений в LLM (больших языковых моделях).
Ключевые особенности
- Построение автоэнкодера: разбор активаций слоя на независимые подпространства
- Вербализация: генерация текстовых описаний для каждого активного блока
- Реконструкция векторов обратно в пространство модели с помощью обученного проектора
- Обучение методом GRPO (групповая относительная оптимизация политики) с GRPO-наградой за точность проекции
Что можно сделать
- Запустить анализ текстовых токенов с помощью скрипта быстрого старта для модели
- Исследовать внутренние векторные представления и семантические компоненты активаций Qwen3-8B
- Проверить качество восстановления векторов через метрику FVE (Fraction of Variance Explained)
Пример
python scripts/hf_quickstart.py --nla asher577/subspace-nla-qwen3-8b --text "The capital of France is"Подробнее
Бенчмарки: FVE для всей активации составляет 0.489 при косинусном сходстве 0.857Требования: работает поверх базовой модели Qwen/Qwen3-8B
Обучение: GRPO в течение 2400 шагов на смеси чата и веб-текстов
Ограничения: требует обязательного использования парного феатайзера BSF










Комментарии