boost-bc-flow-policies
политики поведения на базе flow-matching для робототехники
2 мин чтенияобновлено
Этот репозиторий представляет собой набор фиксированных базовых моделей (behavior-cloning policies) с разным уровнем успешности (от 10% до 90%), обученных методом сопоставления потоков (flow-matching) для различных робототехнических симуляций. Модели охватывают задачи манипуляции с кубиками в MimicGen, подвешивания инструментов в robosuite, сборки мебели в FurnitureBench и манипуляции с ручкой в Adroit Pen. Они созданы в качестве стабильных стартовых точек для последующего дообучения с помощью методов обучения с подкреплением (RL fine-tuning). Модели будут полезны исследователям и инженерам, занимающимся робототехникой и симуляцией манипуляторов.
Ключевые особенности
- Готовые чекпоинты с градацией успешности (10, 25, 50, 75, 90%) для пяти сложных робототехнических задач.
- Архитектура на базе flow-matching с использованием кодеров ResNet-18 для обработки изображений с камер и 1D височных U-Net сетей.
- Точно зафиксированные наборы демонстраций для каждой задачи, что критически важно для корректного старта RL-алгоритмов.
- Комплект файлов конфигурации, включая веса EMA-актора (ema_actor.pt), параметры нормализации и метаданные развертывания.
Что можно сделать
- Использовать как базу для RL: применить чекпоинты с разным уровнем успешности для старта обучения с подкреплением на тех же демонстрационных наборах.
- Провести оценку: запустить тестирование политик в средах MimicGen, robosuite, FurnitureBench или Adroit Pen, используя предоставленные файлы конфигурации.
- Исследовать влияние уровня успешности: проверить, как качество базовой политики (например, 25% против 75%) влияет на итоговую скорость и стабильность дообучения RL.
Пример
Для запуска и тестирования политик используется кодовая база `rfm_rl`. В каждой папке задачи содержатся файл весов `ema_actor.pt`, конфигурационный файл `config.yaml` и метаданные `deploy_metadata.json` с описанием ключей наблюдений и действий.
Подробнее
Бенчмарки: успешность выполнения задач от 10% до 89-93% в зависимости от уровня чекпоинта и среды ( MimicGen Stack, robosuite Tool Hang, FurnitureBench, Adroit Pen).Архитектура: для задач с изображениями используется ResNet-18 + пространственный softmax с U-Net flow-головой (около 26.26 млн параметров), для Pen — остаточный MLP flow-хед (около 8.71 млн параметров).
Обучение: оптимизатор AdamW с адаптивным EMA 0.9999. Веса наследуют лицензии исходных датасетов (MimicGen, robomimic, FurnitureBench, D4RL).










Комментарии