SafeDiffuser: 확산 확률 모델을 활용한 안전 계획

초록

확산 모델 기반 접근법은 데이터 기반 계획에서 유망한 결과를 보여왔지만, 안전성 보장이 없어 안전이 중요한 응용 분야에 적용하기 어려운 문제가 있습니다. 이러한 문제를 해결하기 위해, 우리는 SafeDiffuser라는 새로운 방법을 제안합니다. 이 방법은 제어 장벽 함수(control barrier function) 클래스를 사용하여 확산 확률 모델이 명세를 만족하도록 보장합니다. 우리 접근법의 핵심 아이디어는 제안된 유한 시간 확산 불변성(finite-time diffusion invariance)을 디노이징 확산 과정에 내재시켜 신뢰할 수 있는 확산 데이터 생성을 가능하게 하는 것입니다. 더 나아가, 우리는 생성 모델을 통한 유한 시간 확산 불변성 방법이 일반화 성능을 유지할 뿐만 아니라 안전한 데이터 생성에서 견고성을 창출함을 입증합니다. 우리는 이 방법을 미로 경로 생성, 다족 보행 로봇 이동, 3D 공간 조작 등 일련의 안전 계획 작업에 테스트했으며, 결과는 기존의 확산 모델 대비 견고성과 보장 측면에서의 우수성을 보여줍니다.

English

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.

SafeDiffuser: 확산 확률 모델을 활용한 안전 계획

SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

초록

Support