Você Vê Para Onde Estou Apontando? Perguntas e Respostas em Vídeo Egocêntrico Baseadas em Gestos
Do You See What I Am Pointing At? Gesture-Based Egocentric Video Question Answering
March 13, 2026
Autores: Yura Choi, Roy Miles, Rolandos Alexandros Potamias, Ismail Elezi, Jiankang Deng, Stefanos Zafeiriou
cs.AI
Resumo
Compreender e responder a perguntas com base no gesto de apontar de um utilizador é essencial para os assistentes de IA egocêntricos de próxima geração. No entanto, os atuais Modelos de Linguagem de Grande Escala Multimodais (MLLMs) têm dificuldades com essas tarefas devido à falta de dados ricos em gestos e à sua capacidade limitada de inferir intenções de apontar de granularidade fina a partir de vídeo egocêntrico. Para resolver isso, apresentamos o EgoPointVQA, um conjunto de dados e benchmark para resposta a perguntas egocêntricas fundamentadas em gestos, composto por 4000 vídeos sintéticos e 400 vídeos do mundo real, abrangendo múltiplas tarefas de raciocínio déitico. Com base nele, propomos ainda os Tokens de Intenção da Mão (HINT), que codificam *tokens* derivados de pontos-chave 3D da mão usando um modelo de reconstrução disponível e os intercalam com a entrada do modelo para fornecer contexto espacial e temporal explícito para interpretar a intenção de apontar. Mostramos que o nosso modelo supera outros em diferentes arquiteturas base e tamanhos de modelo. Em particular, o HINT-14B atinge 68,1% de precisão, em média, nas 6 tarefas, superando o estado da arte, InternVL3-14B, em 6,6%. Para facilitar ainda mais a investigação aberta, disponibilizaremos o código, o modelo e o conjunto de dados. Página do projeto: https://yuuraa.github.io/papers/choi2026egovqa
English
Understanding and answering questions based on a user's pointing gesture is essential for next-generation egocentric AI assistants. However, current Multimodal Large Language Models (MLLMs) struggle with such tasks due to the lack of gesture-rich data and their limited ability to infer fine-grained pointing intent from egocentric video. To address this, we introduce EgoPointVQA, a dataset and benchmark for gesture-grounded egocentric question answering, comprising 4000 synthetic and 400 real-world videos across multiple deictic reasoning tasks. Built upon it, we further propose Hand Intent Tokens (HINT), which encodes tokens derived from 3D hand keypoints using an off-the-shelf reconstruction model and interleaves them with the model input to provide explicit spatial and temporal context for interpreting pointing intent. We show that our model outperforms others in different backbones and model sizes. In particular, HINT-14B achieves 68.1% accuracy, on average over 6 tasks, surpassing the state-of-the-art, InternVL3-14B, by 6.6%. To further facilitate the open research, we will release the code, model, and dataset. Project page: https://yuuraa.github.io/papers/choi2026egovqa