phiba/act_dice
политика управления роботом для броска кубика d6
2 мин чтенияобновлено
Модель представляет собой политику управления роботом-манипулятором so_follower, обученную бросать шестигранный игральный кубик (задача «throwing a d6»). На вход она получает текущее состояние 6 степеней свободы робота и видеопоток с двух камер (arm и top), а на выходе предсказывает короткие последовательности действий для приводов. Модель построена на архитектуре ACT (Action Chunking with Transformers — метод обучения с подражанием, который генерирует сразу группу последовательных шагов вместо одиночных команд) с использованием библиотеки LeRobot версии 0.7.0 от автора phiba. Она пригодится разработчикам и энтузиастам робототехники, работающим с манипуляторами семейства SO-Follower, как готовый пример переноса навыков телеуправления на физическое устройство.
Ключевые особенности
- Предсказание пакетов действий: архитектура ACT формирует короткие серии команд на основе демонстраций телеуправления, что делает движения манипулятора более плавными и точными.
- Мультимодальный вход: политика одновременно анализирует вектор состояния робота (6 параметров) и изображения разрешением 640×480 с двух ракурсов — с камеры на руке и верхней обзорной камеры.
- Компактный размер: модель содержит всего 0.05B (50 млн) параметров, что позволяет запускать её в реальном времени с частотой 30 FPS.
- Открытый датасет обучения: модель обучена на 54 записанных эпизодах (12 650 кадров), опубликованных в репозитории
phiba/dice_20261114_151703.
Что можно сделать
- Запустить на реальном роботе: развернуть политику на манипуляторе
so_followerс двумя подключёнными камерами для автоматического броска кубика. - Использовать как базу для дообучения: взять конфигурацию и пайплайн LeRobot для тренировки собственных политик на похожих задачах манипуляции мелкими предметами.
- Изучить на практике пайплайн ACT: протестировать инференс через CLI-утилиту
lerobot-rollout, сверяясь с открытым тренировочным датасетом автора.
Пример
lerobot-rollout \
--strategy.type=base \
--robot.type=so_follower \
--robot.port= \
--robot.cameras="{ arm: {type: opencv, index_or_path: , width: 640, height: 480, fps: 30}, top: {type: opencv, index_or_path: , width: 640, height: 480, fps: 30}}" \
--policy.path=phiba/act_dice \
--task="throwing a d6" \
--duration=60
Подробнее
Обучение: 50 000 шагов, batch size 32, оптимизатор AdamW, learning rate 1e-05, seed 1000.Датасет: 54 эпизода (12 650 кадров) при частоте 30 FPS.
Бенчмарки и результаты замеров успешности на реальном роботе в карточке пока не представлены.
Требования: подключённый робот
so_follower и две OpenCV-камеры (640×480, 30 FPS) с именами arm и top.









Комментарии