SafeDiffuser : Planification sécurisée avec des modèles probabilistes de diffusion

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

Auteurs: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

Résumé

Les approches basées sur les modèles de diffusion ont montré des résultats prometteurs en planification pilotée par les données, mais elles ne fournissent aucune garantie de sécurité, ce qui rend leur application difficile dans des contextes critiques. Pour relever ces défis, nous proposons une nouvelle méthode, appelée SafeDiffuser, visant à garantir que les modèles probabilistes de diffusion satisfont des spécifications en utilisant une classe de fonctions de barrière de contrôle. L'idée clé de notre approche est d'intégrer l'invariance de diffusion en temps fini proposée dans le processus de débruitage par diffusion, ce qui permet une génération de données de diffusion fiable. De plus, nous démontrons que notre méthode d'invariance de diffusion en temps fini via des modèles génératifs maintient non seulement les performances de généralisation, mais confère également une robustesse dans la génération de données sécurisées. Nous testons notre méthode sur une série de tâches de planification sécurisées, incluant la génération de chemins dans un labyrinthe, la locomotion de robots à pattes et la manipulation en espace 3D, avec des résultats montrant des avantages en termes de robustesse et de garanties par rapport aux modèles de diffusion classiques.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.