Cosmos3-Edge-Policy-DROID RoboLab v2
файнтюн политики управления роботами
2 min readupdated
Полноценный файнтюн (дообучение весов генератора) модели nvidia/Cosmos3-Edge-Policy-DROID объёмом 3.86B параметров от автора joonyeongs. Модель предназначена для управления робототехническими действиями (action policy) в среде RoboLab и предсказывает последовательности из 32 шагов действий. От базовой версии отличается дообучением на 175 успешных эпизодах с добавлением 25 эпизодов задач с коробками (Cartons) и смешиванием с исходными фазами Cosmos3 для сохранения базовых навыков. Пригодится исследователям и разработчикам в области робототехники и воплощённого ИИ (Embodied AI), работающим с фреймворком cosmos и форматом DROID.
Ключевые особенности
- Полный файнтюн генератора: обученные веса трансформера заменены в исходном формате и разрядности
BF16с сохранением замороженных компонентов базы. - Комбинированное обучение (Replay): обучение на 175 эпизодах сочетает 38 508 стартов из целевых фаз (4 задачи) и 28 588 повторов из базового распределения Cosmos3 (6 задач) в пропорции 4:1.
- Готовность к инференсу: репозиторий повторяет структуру оригинального чекпоинта, использует 32-шаговые блоки действий и метаданные политики DROID.
- Совместимость с экосистемой: для запуска, как и для базовой модели, требуется энкодер Wan2.2 VAE.
Что можно сделать
- Поднять локальный сервер инференса для генерации последовательностей действий робота в симуляторе или на стенде RoboLab по JSON-промптам.
- Протестировать поведение политики на задачах манипуляции объектами (включая добавленные в v2 сценарии с коробками) в сравнении с базовой
Cosmos3-Edge-Policy-DROIDи чекпоинтом на 500 шагов.
Пример
python -m cosmos_framework.scripts.action_policy_server_robolab \
--checkpoint-path \
--port 8000 --format-prompt-as-json True --guidance-interval 960 1001Подробнее
Обучение: 1 000 шагов (iter_000001000), глобальный батч 64 (2 GPU × 32), FusedAdam (lr 2e-5, weight decay 0.05), 2-way FSDP в BF16.Валидация: проверены хеши SHA-256 и формы тензоров при экспорте, но закрытые тесты (closed-loop) в симуляции или на реальном роботе для этого чекпоинта ещё не проводились.
Лицензия: OpenMDW-1.1 (унаследована от базовой модели).










Comments