Geo-Align: Uitlijning van videogeneratie via metrische geometriebeloning

Samenvatting

Cameragestuurde videogeneratie heeft de afgelopen jaren opmerkelijke vooruitgang geboekt. Bestaande methoden voor video-naar-video herrenderen zijn echter voornamelijk gebaseerd op begeleide finetuning met synthetische datasets. Momenteel is er een extreem tekort aan gesynchroniseerde, multi-view real-world videogegevens. Als gevolg hiervan vertoont het heersende paradigma vaak beperkte generalisatie bij het verwerken van buiten-de-distributie real-world video's, waarbij modellen moeite hebben om nauwkeurig fysieke schalen en cameratrajecten te volgen. Om deze kloof te overbruggen, stellen we Geo-Align voor, het eerste versterkingsleerframework dat specifiek is ontworpen voor cameragestuurd video-herrenderen. Gebaseerd op een voorgetraind model optimaliseren we het model via een schaalbewust perceptueel beloningsmechanisme. Specifiek introduceren we een metrische 3D-schatter om nauwkeurige cameratrajecten uit gegenereerde video's te extraheren, waarbij afwijkingen in rotatie en translatie expliciet worden bestraft. Daarnaast hebben we een zorgvuldig ontworpen datapijplijnstrategie ontwikkeld op basis van real-world conditioneringsvideo's en doelcameratrajecten afkomstig uit synthetische data, waardoor de afhankelijkheid van gepaarde gegevens wordt geëlimineerd. Uitgebreide experimenten tonen aan dat Geo-Align consequent beter presteert dan bestaande begeleide leermethoden, zowel in nauwkeurige camerabeheersing als visuele getrouwheid, wat de effectiviteit van onze methode aangeeft.

English

Camera-controlled video generation has achieved remarkable progress in recent years. However, existing video-to-video re-rendering methods primarily rely on Supervised Fine-Tuning using synthetic datasets. At present, there is an extreme scarcity of synchronized, multi-view real-world video data. Consequently, the prevailing paradigm often exhibits limited generalization when processing out-of-distribution real-world videos, with models struggling to accurately adhere to physical scales and camera trajectories. To bridge this gap, we propose Geo-Align, the first Reinforcement Learning framework specifically designed for camera-controlled video re-rendering. Built upon a pretrained model, we optimize the model through a scale-aware perceptual reward mechanism. Specifically, we introduce a metric 3D estimator to extract precise camera trajectories from generated videos, explicitly penalizing deviations in rotation and translation. Furthermore, we meticulously designed a data pipeline strategy based on real-world conditioning videos and target camera trajectories derived from synthetic data, eliminating the reliance on paired data. Extensive experiments demonstrate that Geo-Align consistently outperforms existing supervised learning baselines in both precise camera controllability and visual fidelity, indicating the effectiveness of our method.