H^{3}DP : Politique de diffusion triplement hiérarchique pour l'apprentissage visuomoteur

H^{3}DP: Triply-Hierarchical Diffusion Policy for Visuomotor Learning

May 12, 2025

Auteurs: Yiyang Lu, Yufeng Tian, Zhecheng Yuan, Xianbang Wang, Pu Hua, Zhengrong Xue, Huazhe Xu

cs.AI

Résumé

L'apprentissage de politiques visuomotrices a connu des progrès substantiels dans la manipulation robotique, les approches récentes s'appuyant principalement sur des modèles génératifs pour modéliser la distribution des actions. Cependant, ces méthodes négligent souvent le couplage critique entre la perception visuelle et la prédiction des actions. Dans ce travail, nous présentons Triply-Hierarchical Diffusion Policy (H^{\mathbf{3}DP}), un nouveau cadre d'apprentissage visuomoteur qui intègre explicitement des structures hiérarchiques pour renforcer l'intégration entre les caractéristiques visuelles et la génération d'actions. H^{3}DP contient 3 niveaux de hiérarchie : (1) un empilement d'entrées prenant en compte la profondeur qui organise les observations RGB-D en fonction des informations de profondeur ; (2) des représentations visuelles multi-échelles qui encodent des caractéristiques sémantiques à différents niveaux de granularité ; et (3) un processus de diffusion conditionné hiérarchiquement qui aligne la génération d'actions allant du grossier au fin avec les caractéristiques visuelles correspondantes. Des expériences approfondies démontrent que H^{3}DP offre une amélioration relative moyenne de +27,5 % par rapport aux méthodes de référence sur 44 tâches de simulation et obtient des performances supérieures dans 4 tâches de manipulation bimanuelle complexes dans le monde réel. Page du projet : https://lyy-iiis.github.io/h3dp/.

English

Visuomotor policy learning has witnessed substantial progress in robotic manipulation, with recent approaches predominantly relying on generative models to model the action distribution. However, these methods often overlook the critical coupling between visual perception and action prediction. In this work, we introduce Triply-Hierarchical Diffusion Policy~(H^{\mathbf{3}DP}), a novel visuomotor learning framework that explicitly incorporates hierarchical structures to strengthen the integration between visual features and action generation. H^{3}DP contains 3 levels of hierarchy: (1) depth-aware input layering that organizes RGB-D observations based on depth information; (2) multi-scale visual representations that encode semantic features at varying levels of granularity; and (3) a hierarchically conditioned diffusion process that aligns the generation of coarse-to-fine actions with corresponding visual features. Extensive experiments demonstrate that H^{3}DP yields a +27.5% average relative improvement over baselines across 44 simulation tasks and achieves superior performance in 4 challenging bimanual real-world manipulation tasks. Project Page: https://lyy-iiis.github.io/h3dp/.