SafeDiffuser: Veilige planning met diffusie probabilistische modellen

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

Auteurs: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

Samenvatting

Diffusiemodelgebaseerde benaderingen hebben potentie getoond in data-gedreven planning, maar er zijn geen veiligheidsgaranties, waardoor het moeilijk is om ze toe te passen in veiligheidskritische toepassingen. Om deze uitdagingen aan te pakken, stellen we een nieuwe methode voor, genaamd SafeDiffuser, om ervoor te zorgen dat diffusie probabilistische modellen specificaties naleven door gebruik te maken van een klasse van controlebarrière-functies. De kern van onze aanpak is het inbedden van de voorgestelde eindige-tijd diffusie-invariantie in het denoiseringsdiffusieproces, wat betrouwbare diffusie-datageneratie mogelijk maakt. Bovendien tonen we aan dat onze eindige-tijd diffusie-invariantiemethode via generatieve modellen niet alleen de generalisatieprestaties behoudt, maar ook robuustheid creëert in veilige datageneratie. We testen onze methode op een reeks veilige plannings taken, waaronder doolhofpadgeneratie, voortbeweging van potenrobots en 3D-ruimtemanipulatie, waarbij de resultaten de voordelen van robuustheid en garanties aantonen ten opzichte van standaard diffusiemodellen.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.