T-WLA Tachin W3 Editor
воспроизведение тактильного редактора действий для роботов
2 мин чтенияобновлено
Чекпоинт воспроизводит работу тактильного редактора Tachin W3 для робототехники (VLA — Vision-Language-Action модели, связывающие зрение, язык и действия робота). Модель принимает базовые запланированные действия и показания тактильных датчиков с обеих рук (по 880 сенсорных ячеек на руку за 8 кадров), после чего уточняет траекторию движения кистей. В отличие от оригинального чекпоинта из статьи, это независимое переобучение на переупорядоченном датасете Tachin paired30, в комплект которого уже включён код загрузки и вспомогательные модули. Релиз пригодится исследователям в области робототехники и мультимодального управления манипуляторами для экспериментов с тактильной обратной связью и воспроизводимости научных результатов.
Ключевые особенности
- Обработка тактильных данных: считывает 8 последовательных кадров давления с 880 сенсоров на каждую руку, учитывая маски валидности ячеек и сэмплов.
- Готовый набор для инференса: файл
best.ptвключает тактильный энкодер, редактор действий, RGB- и тактильные адаптеры, а также статистики нормализации. - Работа без замороженной базы: для инференса самого редактора не требуются тяжёлые замороженные веса базовой VLA-модели, достаточно кэшированных признаков памяти и базовых действий.
- Честная проверка чувствительности: автор сравнил работу модели на реальных и перемешанных тактильных данных, зафиксировав близкие метрики.
Что можно сделать
- Воспроизвести эксперименты из статьи T-WLA: запустить оценку корректировки движений на частоте 80 Гц по протоколу реплея 0/33/67 мс с помощью встроенного загрузчика
load_editor.py. - Исследовать вклад тактильных сенсоров в VLA: протестировать, насколько коррекция траектории кисти зависит от актуальных данных о контакте по сравнению с базовым планом действий.
Пример
import sys
from huggingface_hub import snapshot_download
root = snapshot_download("LeoJiangOR/twla-tachin-editor-reproduction")
sys.path.insert(0, root)
from load_editor import load_editor
model, statistics = load_editor(device="cuda")
Подробнее
Метрики на первых 8 действиях (80 Гц): ошибка переноса 1.3765 см (против 1.4342 см у базы и 1.39 в оригинальной статье), ошибка поворота 4.1918° (база — 4.4381°), Joint MPJPE — 0.4568 см.Обучение: 14 888 базовых планов в train, выбрана 10-я эпоха (шаг 1550) с ранней остановкой; эффективный батч 256, seed 20260923.
Ограничения: требуется свежий процесс Python, CUDA и параметр
weights_only=False при загрузке PyTorch-чекпоинта; замороженный бэкбон мог иметь пересечение с тестовой выборкой.









Комментарии