act_lite6_nudge_wp
политика захвата и переноса объектов для робота Lite 6
2 min readupdated
Модель представляет собой политику управления роботом-манипулятором (алгоритм, переводящий данные с камер и датчиков в команды движения), обученную для захвата красного кубика и его перемещения на синий квадрат. Она построена на архитектуре ACT (Action Chunking with Transformers — метод имитационного обучения, предсказывающий короткие последовательности действий вместо одиночных шагов) с использованием библиотеки LeRobot от автора nberezny. В отличие от классических пошаговых контроллеров, модель планирует серию движений сразу, опираясь на видеопоток с двух камер и текущее состояние приводов. Решение пригодится разработчикам и исследователям в области робототехники, работающим с манипуляторами uFactory Lite 6 в симуляции или гибридной среде.
Ключевые особенности
- Архитектура ACT с размером 0.05B параметров, обученная методом имитационного обучения на телеуправляемых демонстрациях.
- Работа с двумя визуальными потоками: верхняя камера (
overhead) и камера на запястье (wrist) в разрешении 320×240. - Принимает 16-мерный вектор состояния робота (
observation.state) и выдает 11-мерный вектор управляющих команд (action). - Обучена на датасете
nberezny/lite6_pick_place_nudge_wp(800 эпизодов, 18 162 кадра при 20 FPS).
Что можно сделать
- Запустить готовую политику на манипуляторе типа
ufactory_lite6_sim_hybrid_wpдля автоматического перекладывания объектов. - Использовать чекпоинт как базовую политику для дообучения (fine-tuning) в LeRobot под новые сценарии захвата и манипуляции предметами.
- Протестировать стабильность работы алгоритма ACT при изменении положения кубика, освещения или добавлении отвлекающих объектов на сцене.
Пример
lerobot-rollout \
--strategy.type=base \
--robot.type=ufactory_lite6_sim_hybrid_wp \
--robot.port= \
--robot.cameras="{ overhead: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, wrist: {type: opencv, index_or_path: 1, width: 640, height: 480, fps: 30}}" \
--policy.path=nberezny/act_lite6_nudge_wp \
--task="Pick up the red cube and place it on the blue square." \
--duration=60
Подробнее
Обучение: 100 000 шагов, batch size 8, оптимизатор adamw, learning rate 1e-05, seed 1000.Версия фреймворка: LeRobot 0.7.0.
Оценка: результаты замеров на реальном роботе в карточке пока не опубликованы.
Лицензия: не указана (More Information Needed).










Comments