Laya DOM Full XL

Исследовательский full-encoder файнтюн движка Laya для попарного сравнения DOM-элементов. На вход подаются baseline и candidate версии веб-страницы, на выходе — решение EQUIVALENT или NOT_EQUIVALENT. База — мультиязычный convaiinnovations/laya с энкодером mmBERT-base на архитектуре ModernBERT, 321.9M параметров.

0⃣ Ключевые особенности

• ▶ Сравнивает два описания DOM-элемента и определяет, один ли это функциональный элемент для пользователя.
• 🔤 Энкодер ModernBERT: 22 слоя, hidden size 768, словарь 256k; голова решений — 2 transformer-слоя со scorer.
• 0⃣ 321.9M параметров, в этом чекпоинте обучаются все; model.safetensors — state dict Laya RL-agent, а не обычный save_pretrained из Transformers.
• ➕ Обучение на 9 000 синтетических пар: 7 217 train / 1 783 held out, RLCD, 4 эпохи, bf16, max sequence length 1024.
• ✖ Это не универсальный DOM-парсер и не полная система восстановления локаторов — только исследовательский чекпоинт.

1⃣ Пример

import laya

agent = laya.load("morozovmisha/laya-dom-full-xl-s42", device="cpu")
answer = agent.predict(state, questions, lang="en")
choice = answer["answers"]["is_match"]["choice"]
verdict = "EQUIVALENT" if choice == "same_element" else "NOT_EQUIVALENT"

Подробнее

Accuracy: 98.37% на held-out synthetic Generator A XL (1 783 пары), 96.75% на реальных страницах (770 пар, 13 сайтов), 90.78% на Generator B.
Полный чекпоинт рекомендован для transfer; parameter-efficient top-4 вариант на реальных страницах даёт 42.21%.
Обучение: 1× RTX A4000 16 GB, около 26 минут.
Ограничения: небольшая и коррелированная выборка реальных страниц, нет замеров калибровки и абляций, не тестировались shadow DOM и динамические страницы. Лицензия Apache-2.0, энкодер mmBERT-base — MIT.