SafeDiffuser: Безопасное планирование с использованием диффузионных вероятностных моделей

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

May 31, 2023

Авторы: Wei Xiao, Tsun-Hsuan Wang, Chuang Gan, Daniela Rus

cs.AI

Аннотация

Методы, основанные на диффузионных моделях, показали перспективность в планировании на основе данных, однако они не обеспечивают гарантий безопасности, что затрудняет их применение в критически важных для безопасности задачах. Для решения этих проблем мы предлагаем новый метод под названием SafeDiffuser, который обеспечивает выполнение спецификаций для диффузионных вероятностных моделей с использованием класса функций управляющих барьеров. Основная идея нашего подхода заключается во внедрении предложенной инвариантности диффузии за конечное время в процедуру денойзинга диффузии, что позволяет генерировать достоверные данные. Более того, мы демонстрируем, что наш метод инвариантности диффузии за конечное время через генеративные модели не только сохраняет обобщающую способность, но и обеспечивает устойчивость в генерации безопасных данных. Мы тестируем наш метод на ряде задач безопасного планирования, включая генерацию путей в лабиринтах, передвижение шагающих роботов и манипуляции в трехмерном пространстве, и результаты показывают преимущества в устойчивости и гарантиях по сравнению с базовыми диффузионными моделями.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.