Alcyone-W
нейросеть на стыке физики частиц, топологии и Lean 4
3 мин чтения
Исследователь Teerth Sharma представил экспериментальную модель Alcyone-W — первую архитектуру семейства JEPA (Joint-Embedding Predictive Architecture — нейросети, предсказывающие скрытую часть входных данных), которая восстанавливает не абстрактные эмбеддинги, а точную топологию скрытого участка. Модель работает с данными столкновений частиц детектора CMS (CERN Open Data): она превращает импульсы частиц в ландшафт на сетке 32×64, скрывает его фрагмент и предсказывает количество «озёр» энергии, их устойчивость и объём. Система объединяет обучаемый свёрточный энкодер W-JEPA на 5,9 млн параметров и замороженную научную языковую модель facebook/galactica-6.7b (6,66 млрд параметров), которая преобразует текстовые описания частиц в дополнительные каналы рельефа. В отличие от классических JEPA, целевые метрики здесь вычисляются строго математически по алгоритмам, формально доказанным в системе верификации Lean 4. Разработка пригодится исследователям в области физического ML, топологического анализа данных и нейросимвольного ИИ.
Ключевые особенности
- Топологические таргеты без коллапса обучения: модель предсказывает число бассейнов (
basins), их персистентность (persistence) и объём энергии (water), которые вычисляются точным гидравлическим алгоритмом без участия нестабильной сети-учителя. - Гибрид зрения, языка и формальной логики: замороженная Galactica-6.7B кодирует текстовые описания частиц (например, мюонов и струй) через PCA в 8 каналов рельефа, а 1 818 лемм в Lean 4 и Haskell гарантируют корректность расчётов.
- Встроенный агент с проверкой чисел: в репозиторий включён рантайм для Galactica с 4 инструментами (
watershed,charge,describe,calc), который принуждает модель вызывать инструменты и помечает любые числа, не подтверждённые кодом. - Честная отчётность об ограничениях: автор опубликовал все заранее заданные критерии проверки — например, указал, что обычный MLP по кинематике всё ещё точнее на задачах множественности струй, а канал заряда в текущей версии отсутствует.
Что можно сделать
- Воспроизвести эксперименты на данных БАК: запустить готовый скрипт на прилагаемом сэмпле из 512 тестовых событий CMS NanoAOD и сравнить предсказания топологии с точным расчётом.
- Изучить формально верифицированный ML: использовать библиотеку
WatershedLemmasна Lean 4 и зеркала на Haskell с тестами QuickCheck как образец интеграции доказательств теорем в пайплайн машинного обучения. - Потестировать нейросимвольного агента: задавать вопросы о свойствах событий столкновений через
agent.py, где вычисления опираются на закон Гаусса и гидравлические леммы вместо галлюцинаций LLM.
Пример
import sys; sys.path.insert(0, "code")
from alcyone import WatershedJEPA, exact_summary, window_mask
m = WatershedJEPA(".", galactica="facebook/galactica-6.7b")
z = m.encode(x) # x: (N, 15, 8) [pT, eta, phi, mass, charge, type, btag, valid]
win = window_mask(12, 24, len(x))
pred = m.predict_summary(x, win)
true = exact_summary(x, win)
Подробнее
Точность определения числа бассейнов на 512 событиях CMS: 0.945 (против 0.572 при выборе самого частого класса) и 0.936 на 4 096 валидационных окнах.Обучено на 2,24 млн событий CMS Open Data (38 155 шагов); веса Galactica-6.7B (CC BY-NC 4.0) в репозиторий не включены и подгружаются отдельно.
Ограничения: модель заточена строго под формат CMS NanoAOD, частично «подглядывает» через края скрытого окна и не учитывает электрический заряд частиц в рельефе.










Комментарии