Kirin: 야생 영상으로부터의 동물 모션 생성

초록

동물의 움직임을 이해하는 것은 동물 행동 모델링과 생체역학 연구의 기초이지만, 이 분야의 발전은 고품질 모션 데이터의 부족으로 인해 인간 모션 연구에 비해 크게 뒤처져 있다. 인간의 모션은 통제된 환경에서 캡처할 수 있지만, 대부분의 동물 종에는 이를 적용하기 어렵기 때문에 소규모의 도메인 한정 데이터셋만 존재하며, 이는 애니메이션과 같은 하위 응용 분야를 제약한다. 이러한 문제를 해결하기 위해 우리는 Kirin을 소개한다. Kirin은 비디오에서 모션을 재구성하고, 대규모로 모션 사전을 학습하며, 애니메이션 에셋에 직접 적용할 수 있는 사실적인 모션을 생성하는 프레임워크이다. 대규모의 실제 환경 동물 비디오 컬렉션을 활용하여 3D 모션 시퀀스를 재구성하고 캡션을 짝지어, 사족 동물을 위한 정렬된 비디오-텍스트-모션 튜플을 제공하는 최초의 대규모 데이터셋인 AiM3D를 구축했다. 이 데이터셋을 기반으로, 우리는 텍스트와 이미지 모두를 조건으로 사용하여 다양한 동물 종에 걸쳐 사실적인 모션 생성을 유도하는 시각 유도 모션 생성 모델을 개발한다. 마지막으로, 기성 이미지-투-3D 모델을 활용하여 생성된 모션으로 3D 메시를 자동으로 리깅하고 애니메이션화함으로써, 즉시 렌더링 가능한 애니메이션 동물을 제작한다. 우리의 데이터셋과 프레임워크는 대규모의 텍스트 및 이미지 조건 동물 모션 생성과 애니메이션을 위한 새로운 기반을 마련한다. 프로젝트 페이지: https://kirin-ani.github.io/.

English

Understanding animal motion is fundamental to modeling animal behavior and biomechanics, yet progress in this area lags far behind human motion research due to the scarcity of high-quality motion data. While human motion can be captured in controlled environments, it is impractical for most animal species, resulting in small, domain-limited datasets that restrict downstream applications such as animation. To address this challenge, we introduce Kirin, a framework that reconstructs motion from video, learns motion priors at scale, and generates realistic motion that can be directly applied to animated assets. Using large collections of in-the-wild animal videos, we reconstruct 3D motion sequences and pair them with captions to create AiM3D, the first large-scale dataset offering aligned video-text-motion tuples for quadruped animals. Building on this dataset, we develop a visual-guided motion generation model that conditions on both text and image to guide the generation of realistic motion across diverse animal species. Finally, by leveraging an off-the-shelf image-to-3D model, we automatically rig and animate 3D meshes using generated motion, producing ready-to-render animated animals. Together, our dataset and framework establish a new foundation for large-scale, text and image conditioned animal motion generation and animation. Project page: https://kirin-ani.github.io/.