Triz1/act_nw_merged
политика захвата кубика для робота SO-Follower
2 min readupdated
Модель представляет собой политику управления роботом-манипулятором, обученную методом imitation learning (обучение с подражанием на демонстрациях оператора). Она построена на архитектуре Action Chunking with Transformers (ACT — нейросеть, предсказывающая сразу короткие последовательности действий вместо одиночных шагов) в фреймворке LeRobot от автора Triz1. На входе модель получает текущее состояние 6 приводов и видеопоток с двух камер, а на выходе генерирует команды для захвата красного кубика и его подъёма на 5 см. В отличие от общих языковых или визуальных моделей, этот чекпоинт сразу готов к запуску на конкретной аппаратной платформе so_follower. Подойдёт энтузиастам робототехники и разработчикам, использующим LeRobot для тестов манипуляции объектами.
Ключевые особенности
- Архитектура ACT с размером модели около 0.05 млрд параметров (50 млн) на базе LeRobot версии 0.7.0.
- Работает с двумя камерами (
frontиwrist) в разрешении 320×240 пикселей и 6-осевым вектором состояния. - Обучена на датасете
Triz1/so101_nw_mergedиз 96 эпизодов (32 750 кадров при 30 FPS) для задачи захвата и подъёма красного кубика на 5 см.
Что можно сделать
- Запустить готовую политику на совместимом роботе
so_followerс двумя камерами через командуlerobot-rolloutдля автоматического захвата кубика. - Использовать чекпоинт как отправную точку для экспериментов с LeRobot и сравнения с собственными политиками, обученными на аналогичных датасетах.
Пример
lerobot-rollout \
--strategy.type=base \
--robot.type=so_follower \
--robot.port= \
--policy.path=Triz1/act_nw_merged \
--task="Grasp the red cube and lift it 5 cm." \
--duration=60
Подробнее
Обучение: 30 700 шагов, batch size 8, оптимизатор AdamW, learning rate 1e-05, seed 1000.Входы и выходы: 6 параметров состояния и действия, два RGB-потока (3, 240, 320).
Ограничения: результаты оценки на реальном роботе в карточке не опубликованы; лицензия не указана.










Comments