Geo-Align: Alinhamento de Geração de Vídeo via Recompensa de Geometria Métrica

Resumo

A geração de vídeos controlada por câmera tem alcançado progressos notáveis nos últimos anos. No entanto, os métodos existentes de re-renderização de vídeo para vídeo baseiam-se predominantemente em Ajuste Fino Supervisionado utilizando conjuntos de dados sintéticos. Atualmente, há uma escassez extrema de dados de vídeo do mundo real sincronizados e com múltiplas vistas. Consequentemente, o paradigma vigente frequentemente apresenta generalização limitada ao processar vídeos do mundo real fora da distribuição, com os modelos lutando para aderir com precisão a escalas físicas e trajetórias de câmera. Para preencher essa lacuna, propomos o Geo-Align, o primeiro framework de Aprendizado por Reforço especificamente projetado para re-renderização de vídeos controlada por câmera. Construído sobre um modelo pré-treinado, otimizamos o modelo por meio de um mecanismo de recompensa perceptual ciente de escala. Especificamente, introduzimos um estimador métrico 3D para extrair trajetórias precisas de câmera a partir dos vídeos gerados, penalizando explicitamente desvios em rotação e translação. Além disso, projetamos meticulosamente uma estratégia de pipeline de dados baseada em vídeos condicionantes do mundo real e trajetórias de câmera alvo derivadas de dados sintéticos, eliminando a dependência de dados pareados. Experimentos extensivos demonstram que o Geo-Align supera consistentemente as linhas de base de aprendizado supervisionado existentes tanto em controlabilidade precisa da câmera quanto em fidelidade visual, indicando a eficácia do nosso método.

English

Camera-controlled video generation has achieved remarkable progress in recent years. However, existing video-to-video re-rendering methods primarily rely on Supervised Fine-Tuning using synthetic datasets. At present, there is an extreme scarcity of synchronized, multi-view real-world video data. Consequently, the prevailing paradigm often exhibits limited generalization when processing out-of-distribution real-world videos, with models struggling to accurately adhere to physical scales and camera trajectories. To bridge this gap, we propose Geo-Align, the first Reinforcement Learning framework specifically designed for camera-controlled video re-rendering. Built upon a pretrained model, we optimize the model through a scale-aware perceptual reward mechanism. Specifically, we introduce a metric 3D estimator to extract precise camera trajectories from generated videos, explicitly penalizing deviations in rotation and translation. Furthermore, we meticulously designed a data pipeline strategy based on real-world conditioning videos and target camera trajectories derived from synthetic data, eliminating the reliance on paired data. Extensive experiments demonstrate that Geo-Align consistently outperforms existing supervised learning baselines in both precise camera controllability and visual fidelity, indicating the effectiveness of our method.