Geo-Align：距離幾何報酬による動画生成アライメント

要旨

近年、カメラ制御による動画生成は目覚ましい進歩を遂げている。しかしながら、既存のビデオ・ツー・ビデオ再レンダリング手法は主に合成データセットを用いた教師ありファインチューニングに依存している。現状、同期された多視点の実世界動画データは極めて不足している。その結果、主流のパラダイムは分布外の実世界動画を処理する際に汎化性能が限定的であり、モデルは物理的スケールやカメラ軌道に正確に従うのに苦労している。このギャップを埋めるため、我々はGeo-Alignを提案する。これはカメラ制御による動画再レンダリングのために特別に設計された初の強化学習フレームワークである。事前学習済みモデルを基盤とし、スケール認識に基づく知覚的報酬メカニズムを通じてモデルを最適化する。具体的には、計量3D推定器を導入し、生成された動画から正確なカメラ軌道を抽出し、回転と並進の偏差を明示的にペナルティとして与える。さらに、実世界の条件動画と合成データから得られた目標カメラ軌道に基づくデータパイプライン戦略を緻密に設計し、ペアデータへの依存を排除した。広範な実験により、Geo-Alignは正確なカメラ制御性と視覚的忠実度の両方において既存の教師あり学習ベースラインを一貫して上回り、本手法の有効性が示された。

English

Camera-controlled video generation has achieved remarkable progress in recent years. However, existing video-to-video re-rendering methods primarily rely on Supervised Fine-Tuning using synthetic datasets. At present, there is an extreme scarcity of synchronized, multi-view real-world video data. Consequently, the prevailing paradigm often exhibits limited generalization when processing out-of-distribution real-world videos, with models struggling to accurately adhere to physical scales and camera trajectories. To bridge this gap, we propose Geo-Align, the first Reinforcement Learning framework specifically designed for camera-controlled video re-rendering. Built upon a pretrained model, we optimize the model through a scale-aware perceptual reward mechanism. Specifically, we introduce a metric 3D estimator to extract precise camera trajectories from generated videos, explicitly penalizing deviations in rotation and translation. Furthermore, we meticulously designed a data pipeline strategy based on real-world conditioning videos and target camera trajectories derived from synthetic data, eliminating the reliance on paired data. Extensive experiments demonstrate that Geo-Align consistently outperforms existing supervised learning baselines in both precise camera controllability and visual fidelity, indicating the effectiveness of our method.