LFPformer Large

LFPformer Large — MaskPred — 35-тысячный Large-checkpoint от Shubhronyu из сравнения с matched decoder capacity (NeurIPS 2026). Модель инициализирована от facebook/wav2vec2-large и извлекает представления локальных потенциалов поля (LFP) из окон IBL. Это research-checkpoint с фиксированным бюджетом, а не финальная точка обучения.

🦾 Ключевые особенности

• 🦾 MaskPred — masked latent prediction без spatial auxiliary objective; база facebook/wav2vec2-large, 24 слоя, hidden 1024, 16 голов, ~317,5 млн параметров.
• ✅ 35 000 шагов, effective global batch 512; обучен на IBL full-recording LFP windows.
• 🔥 Извлекает 1024-мерные эмбеддинги: helper ресемплит окна до 16 кГц без per-window нормализации и усредняет последние hidden states.
• ⬇ Вход — уже предобработанные одноканальные LFP-окна 3 с при 1250 Гц, массив (N, 3750).
• 💯 Загружается через стандартный Wav2Vec2ForPreTraining; custom remote code не нужен.
• 👁 Не ASR: не применяйте к LFP стандартную waveform-нормализацию audio processor.

👁 Пример

pip install -r requirements.txt
python extract_embeddings.py --model . --input windows.npz --output embeddings.npz --device cpu

Подробнее

35 000 шагов при effective global batch 512 — 17 920 000 предъявлений окон, но не столько уникальных записей.
Вход: окна 3 с при 1250 Гц, shape (N, 3750); helper ресемплит до 16 кГц без нормализации.
auxiliary XYZ head имел xyz_lambda=0 и не является обученным localization decoder; downstream-декодера в пакете нет.
Проверены строгая загрузка и smoke-check (1, 1024), но это не научная метрика. Лицензия весов не указана.