SafeDiffuser: Planejamento Seguro com Modelos Probabilísticos de Difusão

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

Autores: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

Resumo

Abordagens baseadas em modelos de difusão têm mostrado potencial no planejamento orientado por dados, mas não oferecem garantias de segurança, o que dificulta sua aplicação em cenários críticos. Para enfrentar esses desafios, propomos um novo método, chamado SafeDiffuser, que assegura que modelos probabilísticos de difusão atendam a especificações por meio de uma classe de funções de barreira de controle. A ideia central de nossa abordagem é incorporar a invariância de difusão em tempo finito proposta no processo de difusão de remoção de ruído, o que possibilita a geração confiável de dados por difusão. Além disso, demonstramos que nosso método de invariância de difusão em tempo finito, aplicado a modelos generativos, não apenas mantém o desempenho de generalização, mas também cria robustez na geração segura de dados. Testamos nosso método em uma série de tarefas de planejamento seguro, incluindo geração de caminhos em labirintos, locomoção de robôs com pernas e manipulação em espaço 3D, com resultados que mostram vantagens em robustez e garantias em comparação com modelos de difusão convencionais.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.