UGC-VideoCaptioner : Un modèle omni pour la description détaillée de vidéos UGC et de nouveaux benchmarks

UGC-VideoCaptioner: An Omni UGC Video Detail Caption Model and New Benchmarks

July 15, 2025

papers.authors: Peiran Wu, Yunze Liu, Zhengdong Zhu, Enmin Zhou, Shawn Shen

cs.AI

papers.abstract

Les vidéos générées par les utilisateurs dans le monde réel, en particulier sur des plateformes comme TikTok, présentent souvent un contenu audio-visuel riche et entrelacé. Cependant, les benchmarks et modèles existants pour le sous-titrage vidéo restent principalement centrés sur l'aspect visuel, négligeant le rôle crucial de l'audio dans la transmission de la dynamique des scènes, des intentions des locuteurs et du contexte narratif. Cette absence de jeux de données omni-modaux et de modèles légers et performants entrave les progrès dans la compréhension fine et multimodale des vidéos. Pour relever ces défis, nous présentons UGC-VideoCap, un nouveau benchmark et cadre de modélisation spécialement conçu pour le sous-titrage détaillé et omni-modal des vidéos courtes générées par les utilisateurs. Contrairement aux jeux de données précédents, UGC-VideoCap met l'accent sur l'intégration équilibrée des modalités audio et visuelles, en proposant 1000 vidéos TikTok annotées via un pipeline structuré en trois étapes impliquant l'humain, couvrant la sémantique audio seule, visuelle seule et audio-visuelle conjointe. Le benchmark inclut également 4000 paires de questions-réponses soigneusement élaborées, explorant à la fois la compréhension unimodale et intermodale. Parallèlement au jeu de données, nous proposons UGC-VideoCaptioner(3B), un modèle de sous-titrage de 3 milliards de paramètres distillé à partir de Gemini 2.5 Flash. En utilisant une nouvelle stratégie d'entraînement en deux étapes – fine-tuning supervisé suivi de l'optimisation de politique relative par groupe (GRPO) – notre approche permet une adaptation efficace à partir de données limitées tout en maintenant des performances compétitives. Ensemble, notre benchmark et notre modèle offrent une base de haute qualité et une solution économe en données pour faire progresser le sous-titrage omni-modal des vidéos dans des contextes non contraints de contenus générés par les utilisateurs.

English

Real-world user-generated videos, especially on platforms like TikTok, often feature rich and intertwined audio visual content. However, existing video captioning benchmarks and models remain predominantly visual centric, overlooking the crucial role of audio in conveying scene dynamics, speaker intent, and narrative context. This lack of omni datasets and lightweight, capable models hampers progress in fine grained, multimodal video understanding. To address these challenges, we introduce UGC-VideoCap, a new benchmark and model framework specifically designed for detailed omnimodal captioning of short form user-generated videos. Unlike prior datasets, UGC-VideoCap emphasizes balanced integration of audio and visual modalities, featuring 1000 TikTok videos annotated through a structured three stage human-in-the-loop pipeline covering audio only, visual only, and joint audio visual semantics. The benchmark also includes 4000 carefully crafted QA pairs probing both unimodal and cross modal understanding. Alongside the dataset, we propose UGC-VideoCaptioner(3B), a 3B parameter captioning model distilled from Gemini 2.5 Flash. Using a novel two-stage training strategy supervised fine tuning followed by Group Relative Policy Optimization (GRPO), our approach enables efficient adaptation from limited data while maintaining competitive performance. Together, our benchmark and model offer a high-quality foundation and a data-efficient solution for advancing omnimodal video captioning in unconstrained real-world UGC settings.