DriveZero: 인간 시연을 넘어서는 엔드투엔드 주행

초록

대부분의 종단간 자율주행 시스템은 인간 주행 로그를 모방하여 학습하므로, 학습된 행동이 기록된 궤적의 품질과 행동 커버리지에 의해 제약된다. 본 보고서는 인간 시연을 넘어서는 주행 행동을 학습하는 종단간 시스템인 DriveZero를 제시한다. 이는 주행을 인지 모델과 행동 모델로 분해하고, 각각에 가장 적합한 학습 체제에서 사전학습한 뒤, 이를 하나의 종단간 플래너로 결합한다. 두 모델은 서로 다른 학습 레시피를 요구한다. 인지 모델은 세계를 이해해야 하므로 방대하고 다양한 시각 데이터로부터 이점을 얻고, 행동 모델은 세계와 상호작용해야 하므로 폐루프 피드백을 필요로 한다. 행동 측면에서 우리는 혼합 에이전트 폐루프 강화학습 프레임워크인 DriveRL을 소개한다. 이는 실제 주행 로그를 상호작용 가능한 세계로 변환하고, 그 안에서 특권 교사 정책을 폐루프 롤아웃을 통해 PPO로 학습한다. 인지 모델의 경우, DriveVFM은 DINOv3, SigLIP2, SAM, Depth Anything V2를 포함한 여러 동결된 비전 파운데이션 모델을 원시 이미지만으로 단일 백본으로 통합하며, 작업별 주석을 필요로 하지 않는다. 그런 다음 DriveZero는 이 둘을 통합한다. 즉, 동결된 DriveRL 교사를 롤아웃된 궤적을 통해 증류하는 카메라 전용 플래너이다. 목표 조건부 교사는 더욱이 증강된 주행 의도 하에서 질의될 수 있으며, 이는 로그 데이터가 제공할 수 없는 다양하고 목표 일관적인 감독을 산출한다. nuPlan에서 가치 기반 테스트 시점 행동 탐색을 사용하는 DriveRL은 비반응형 및 반응형 모드 모두에서 Val14, Test14-hard, Test14-random 커뮤니티 분할 전반에 걸쳐 평균 점수 93.57을 달성하며, 세 분할 모두에서 Log-Replay 전문가를 능가한다. DriveZero는 인간 궤적 감독 없이 NAVSIMv1, NAVSIMv2 및 폐루프 HUGSIM 벤치마크에서 최첨단 성능을 달성한다.

English

Most end-to-end autonomous-driving systems learn by imitating human driving logs, leaving their learned behavior constrained by the quality and behavioral coverage of the recorded trajectories. This report presents DriveZero, an end-to-end system that learns driving behavior beyond human demonstrations. It decomposes driving into a perception model and an action model, pretrains each in the regime best suited to it, and combines them into one end-to-end planner. The two models call for different learning recipes: perception must understand the world, and benefits from massive and diverse visual data; action must interact with it, and requires closed-loop feedback. On the action side, we introduce DriveRL, a mixed-agent closed-loop reinforcement-learning framework. It converts real driving logs into interactive worlds, where a privileged teacher policy is trained with PPO through closed-loop rollouts. For the perception model, DriveVFM consolidates multiple frozen vision foundation models, including DINOv3, SigLIP2, SAM and Depth Anything V2, into a single backbone from raw images alone, requiring no task-specific annotations. DriveZero then unifies the two: a camera-only planner that distills the frozen DriveRL teacher through its rolled-out trajectories. The goal-conditioned teacher can moreover be queried under augmented driving intents, yielding diverse, goal-consistent supervision that logged data cannot provide. On nuPlan, DriveRL with value-guided test-time action search achieves a mean score of 93.57 across the Val14, Test14-hard, and Test14-random community splits in both non-reactive and reactive modes, exceeding the Log-Replay expert on all three splits. DriveZero achieves state-of-the-art performance on NAVSIMv1, NAVSIMv2 and the closed-loop HUGSIM benchmark without any human trajectory supervision.