SafeDiffuser: Sicherheitsorientierte Planung mit Diffusionswahrscheinlichkeitsmodellen

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

Autoren: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

Zusammenfassung

Diffusionsmodell-basierte Ansätze haben vielversprechende Ergebnisse in der datengesteuerten Planung gezeigt, bieten jedoch keine Sicherheitsgarantien, was ihre Anwendung in sicherheitskritischen Bereichen erschwert. Um diese Herausforderungen zu bewältigen, schlagen wir eine neue Methode namens SafeDiffuser vor, die sicherstellt, dass Diffusionswahrscheinlichkeitsmodelle Spezifikationen erfüllen, indem eine Klasse von Kontrollbarrierenfunktionen verwendet wird. Der Kernidee unseres Ansatzes besteht darin, die vorgeschlagene endzeitliche Diffusionsinvarianz in den Denoising-Diffusionsprozess einzubetten, was eine vertrauenswürdige Generierung von Diffusionsdaten ermöglicht. Darüber hinaus zeigen wir, dass unsere Methode der endzeitlichen Diffusionsinvarianz durch generative Modelle nicht nur die Generalisierungsleistung beibehält, sondern auch Robustheit bei der sicheren Datengenerierung schafft. Wir testen unsere Methode an einer Reihe von sicheren Planungsaufgaben, einschließlich Labyrinthpfadgenerierung, Fortbewegung von Beinrobotern und 3D-Raummanipulation, wobei die Ergebnisse die Vorteile von Robustheit und Garantien gegenüber herkömmlichen Diffusionsmodellen aufzeigen.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.