К содержимому
Робототехника

twanghcmut/molmoact2-so101-left-arm-task3

модель управления роборукой

2 мин чтенияобновлено

Эта модель представляет собой полностью дообученную версию (fine-tuned) архитектуры MolmoAct2 для управления левой рукой робота SO101. Чекпоинт объединяет три различные задачи манипуляции с объектами, а нужное поведение выбирается с помощью текстовой инструкции (language instruction). Модель создана с использованием библиотеки LeRobot и нацелена на практическое применение в сфере робототехники и автономных манипуляторов. Она будет полезна исследователям и разработчикам, работающим с роботизированным железом и алгоритмами VLA (Vision-Language-Action).

Ключевые особенности

  • Обучена на трех объединенных задачах манипуляции с кубиками и ящиками.
  • Использует политику molmoact2 из экосистемы LeRobot.
  • Выдает абсолютные целевые положения суставов (absolute joint targets) чанками по 30 шагов.
  • Принимает на вход изображения с двух камер (основная верхняя и запястная).

Что можно сделать

  • Запустить управление левой рукой робота SO101 в симуляторе или на реальном железе.
  • Протестировать выполнение задач по перекладыванию кубиков и открыванию ящиков с помощью текстовых промптов.
  • Интегрировать модель в пайплайны управления через библиотеки LeRobot или VLA-RT.

Пример

from lerobot.policies.molmoact2.modeling_molmoact2 import MolmoAct2Policy
from lerobot.policies.factory import make_pre_post_processors
from lerobot.configs.policies import PreTrainedConfig

repo = "twanghcmut/molmoact2-so101-left-arm-task3"
policy = MolmoAct2Policy.from_pretrained(repo).to("cuda").eval()
pre, post = make_pre_post_processors(PreTrainedConfig.from_pretrained(repo), pretrained_path=repo)

batch = {
    "observation.images.top":   top,     # (1, 3, 360, 640) float in [0, 1]
    "observation.images.wrist": wrist,   # (1, 3, 480, 640) float in [0, 1]
    "observation.state":        state,   # (1, 6) float32, raw joint units
    "task": "Take the red cube out of the steel pot and place it into the orange hollow cube.",
}
actions = post(policy.predict_action_chunk(pre(batch)))  # (1, 30, 6) absolute joint targets
Подробнее• Базовая модель: allenai/MolmoAct2-SO100_101 (полный fine-tune, эмбеддинги заморожены)
• Обучение: 24 000 шагов, батч 32, 1x H100 80GB (потребовалось 23.7 ч)
• Ограничения: 159 эпизодов использованы полностью для обучения (нет отложенного сплита), задача со специфическим открыванием ящика имеет более высокую ошибку
• Данные: 30 fps, размерность состояния и действий 6 (shoulder_pan, shoulder_lift, elbow_flex, wrist_flex, wrist_roll + gripper)
Обсудить Telegram 0 8

Запустится ли?

Запустится в BF16

Влезает без сжатия.

  • BF16веса 11 GB · готовые файлы13 GB
  • FP8 / INT8рекомендуемвеса 5.1 GB6.1 GB
  • 4-bitвеса 2.9 GB3.6 GB

Совет: берите 8-bit.FP8 / INT8 почти не отличается по качеству от полной точности (разница в пределах процента), а памяти занимает вдвое меньше и на RTX 40/50, H100 работает быстрее. Полную точность есть смысл брать только для дообучения.

Что взять под эту модель

Massed ComputeОткрыть Massed Compute

Своя видеокарта: FP8 / INT8 — от RTX 5060 Ti 8GB · BF16 — от RTX 5080

Почасовые цены Massed Compute на ноябрь 2026. Цена со скидкой — с промокодом при оплате.

Оценка: веса плюс рабочая память. Длинные ролики, высокое разрешение и большой контекст требуют больше.

Запуск на Massed Compute

Скрипт скачает модель на арендованную машину. Как её запустить — в карточке модели.

  1. 1. Арендуйте машину с подходящей видеокартой

    Открыть Massed Compute
  2. 2. Вставьте скрипт в терминал машины

    Подключитесь по SSH (команда есть в панели Massed Compute) или откройте терминал на рабочем столе машины.

    HF_TOKEN / CIVITAI_TOKENВ начале скрипта строки для токенов: вставьте свой между кавычками. Токен Hugging Face нужен для закрытых моделей, токен Civitai — для моделей с Civitai.

    # twanghcmut/molmoact2-so101-left-arm-task3
    mkdir -p ~/models
    curl -LsSf https://astral.sh/uv/install.sh | sh
    source "$HOME/.local/bin/env"
    uv tool install "huggingface_hub[cli]"
    hf download twanghcmut/molmoact2-so101-left-arm-task3 --local-dir ~/models/molmoact2-so101-left-arm-task3
    # Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).
    Добавить ещё LoRA к molmoact2-so101-left-arm-task3
  3. 3. Пользуйтесь

    Модель в папке ~/models. Как её запускать, написано в карточке модели (ссылка выше).

Не забудьте остановить машину в панели, когда закончите: оплата идёт поминутно, пока она включена.

Как ускорить

Подобрано под тип модели. Выберите своё железо в блоке выше — покажем то, что подходит именно вам.

  • FlashAttention 44.0.0b40от 18 ноября 2026новая версия

    самое быстрое точное внимание на B200

    Ядра для Blackwell (пока бета). Точное внимание без квантования — подходит для всего, включая LLM.

    Как включить: pip install flash-attn-4; vLLM и SGLang подхватывают сами.

    Предыдущие поколения (2)
    • FlashAttention 3 — Версия для Hopper (H100/H200) с FP8.
    • FlashAttention 2 — Стандарт для RTX 30/40/50 и A100: точное внимание без лишней памяти на длинных контекстах.
  • torch.compile2.15.0от 28 октября 2026новая версия

    10–30% бесплатно

    Компилирует модель под вашу видеокарту. Первый запуск дольше, дальше быстрее.

    Как включить: model = torch.compile(model); в ComfyUI — узел TorchCompileModel.

Семья модели

Дообучение модели

allenai/MolmoAct2-SO100_101

Новые посты про версии MolmoAct2-SO100_101 — сжатые, дообучения, LoRA — появятся в колокольчике.

Сжатые версии 1Все на Hugging Face
Дообучения 12Все на Hugging Face
LoRA и адаптеры 2Все на Hugging Face

О модели

twanghcmut/molmoact2-so101-left-arm-task3
Автор
twanghcmut
Категория
Робототехника
Дата выхода
На сайте

На сайте

Hugging Face

80

Спросить нейросеть об этой модели

Отвечает Gemini 4 · переписка хранится только в этой вкладке

Комментарии