К содержимому
Другое

EcoSLM-WebDM

быстрый мини-трансформер для веб-навигации

2 мин чтенияобновлено

Компактная нейросеть на 10,83 млн параметров для локального управления браузером: модель анализирует цель пользователя, текст на странице и список интерактивных DOM-элементов (кнопок, полей ввода, списков), а затем за один проход предсказывает нужное действие и целевой элемент. Она обучена методом дистилляции (переноса знаний от крупной модели-учителя к компактному ученику) на вероятностных распределениях модели TypeSafe Jev (jev-latest) и построена на архитектуре Cross-Element Pointer Transformer. Главное отличие от обращения к крупной облачной модели-учителю — локальная работа на CPU с задержкой 18,57 мс вместо 276,01 мс по API при сохранении высокой согласованности предсказаний. Подойдёт разработчикам автономных веб-агентов и инструментов браузерной автоматизации, которым нужна быстрая предварительная оценка действий на устройстве.

Ключевые особенности

  • Предсказание действия и цели за один проход: модель одновременно выбирает операцию (CLICK, TYPE_TEXT, SELECT, SCROLL_UP, SCROLL_DOWN, WAIT, DONE, BLOCKED) и оценивает до 250 интерактивных DOM-элементов на странице.
  • Сверхнизкая задержка на CPU: медианное время инференса составляет 18,57 мс против 276,01 мс у модели-учителя TypeSafe Jev через API.
  • Архитектура с перекрёстным вниманием: сочетает 4-слойный Context Encoder для цели, URL, истории и текста страницы с 2-слойным Element Encoder и 2-слойным декодером Cross-Attention.
  • Калибровка уверенности: использует пост-тренировочное масштабирование температуры (op_temp_scaler и target_temp_scaler) для передачи управления более крупной модели при низкой уверенности.

Что можно сделать

  • Встроить в локального браузерного агента для быстрого выбора кликов, ввода текста и прокрутки страниц без обращения к облачному API на каждом шаге.
  • Использовать в гибридной схеме speculative fan-out и confidence-gated fallback: модель мгновенно предлагает топ-3 подходящих DOM-элемента на CPU, а к крупной модели обращается только в спорных случаях.

Пример

На вход модель получает текущую цель, заголовок и URL страницы, историю действий, видимый текст и список до 250 DOM-элементов, а на выходе за один проход возвращает тип операции (например, CLICK или TYPE_TEXT) вместе с оценками вероятности для каждого совместимого интерактивного элемента.

ПодробнееПараметры: 10 830 085, обучение на 80 примерах и валидация на 35.
Согласованность с учителем: Operation Top-1 — 80,00%, Target Top-1 — 83,08%, Target Top-3 — 100,00%, Calibrated Operation ECE — 0,0964.
Скорость: медианная задержка на CPU 18,57 мс (против 276,01 мс у Jev API).
Требования к VRAM и лицензия в карточке не указаны.
Обсудить Telegram 0 42

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 0.0 GB · готовые файлы0.5 GB
  • FP8 / INT8рекомендуемвеса 0.0 GB0.5 GB
  • 4-bitвеса 0.0 GB0.5 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 2060 · BF16 — от RTX 2060

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # fragilov/ecoslm-web-dm
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download fragilov/ecoslm-web-dm --local-dir ~/models/ecoslm-web-dm
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к ecoslm-web-dm
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Новые посты про версии ecoslm-web-dm — сжатые, дообучения, LoRA — появятся в колокольчике.

У этой модели пока нет известных родственников. Все производные на Hugging Face

О модели

fragilov/ecoslm-web-dm
Автор
fragilov
Категория
Другое
Дата выхода
На сайте

На сайте

Hugging Face

420

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии