IWM
ЭЭГ-контроллер для видеопредсказания
IWM (Intention World Model) — набор inference-only чекпоинтов от SnoopyFan. Визуальное представление — VideoRAE3D, внутри общий IDM+FDM teacher и EEG-контроллеры CG2-NG/NG-D. По текущему видео и ЭЭГ целевого периода модель предсказывает действие и следующий латент, из которого получается H1-видео: 16 кадров 256×256 при 8 fps.
🔥 Ключевые особенности
- 🎞 Визуальный латент:
[B,1024,64], сетка4×16×16; IDM/FDM — width 512, depth 6, 8 heads. - 💻 EEG:
[B,32,500], 200 Hz, 2.5 с; четыре слоя по 512, 20 упорядоченных time tokens; классыDrink,Eat,Pen,Digital,Manipulation. - ✅ CG2-NG — reference-контроллер; NG-D — exploratory-вариант с независимым motion reader и bounded correction.
- ✨ All-zero EEG возвращает ровно visual prior — это явный fallback, а не доказательство физиологической валидности.
- 📌 Inference-only, не
AutoModel: нужны PyTorch, NumPy, safetensors и полный исходный архив; веса VideoRAE/V-JEPA отдельно.
💻 Пример
from pathlib import Path
from huggingface_hub import snapshot_download
from load_models import load_checkpoint
release = Path(snapshot_download("SnoopyFan/IWM"))
source = Path("/path/to/intention-world-model")
teacher = load_checkpoint(release, "teacher-best87600", source, "cuda")
controller = load_checkpoint(release, "cg2-ng-seed26102751", source, "cuda")
logits, action = controller(z_current, eeg_raw)
Подробнее
CG2-NG: subject-balanced Oracle motion-consistency J = 0.256243 против 0.232376 у visual/zero baseline (148 кейсов, 24 субъекта).NG-D best2400 — 0.258135; это exploratory-альтернатива, не подтверждённый общий апгрейд.
EEG-контроллер не получает future video или истинный класс; oracle IDM использует истинный future latent.
Ограничения: не cross-person generalization, не causal intention reading и не медицинская диагностика; J — не visible-success rate.
VRAM не указан; нужны исходники по закреплённому commit и отдельные веса VideoRAE/V-JEPA.








Комментарии