SafeDiffuser: 拡散確率モデルを用いた安全な計画立案

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

著者: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

要旨

拡散モデルに基づくアプローチはデータ駆動型プランニングにおいて有望な成果を示していますが、安全性の保証がないため、安全が重要なアプリケーションへの適用が困難です。これらの課題に対処するため、我々はSafeDiffuserと呼ばれる新しい手法を提案します。この手法は、制御バリア関数のクラスを使用して、拡散確率モデルが仕様を満たすことを保証します。我々のアプローチの鍵となるアイデアは、提案された有限時間拡散不変性をノイズ除去拡散プロセスに組み込むことで、信頼性の高い拡散データ生成を可能にすることです。さらに、生成モデルを通じた有限時間拡散不変性の手法が、一般化性能を維持するだけでなく、安全なデータ生成において堅牢性を生み出すことを実証します。我々の手法を、迷路経路生成、脚式ロボットの移動、3D空間操作を含む一連の安全なプランニングタスクでテストし、その結果、従来の拡散モデルに対する堅牢性と保証の優位性を示しました。

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.