Ziet u waar ik naar wijs? Gebarengebaseerd egocentrisch video-vraag-antwoorden

Do You See What I Am Pointing At? Gesture-Based Egocentric Video Question Answering

March 13, 2026

Auteurs: Yura Choi, Roy Miles, Rolandos Alexandros Potamias, Ismail Elezi, Jiankang Deng, Stefanos Zafeiriou

cs.AI

Samenvatting

Het begrijpen en beantwoorden van vragen op basis van een aanwijzend gebaar van een gebruiker is essentieel voor next-generation egocentrische AI-assistenten. Huidige Multimodale Large Language Models (MLLM's) hebben echter moeite met dergelijke taken vanwege een gebrek aan data rijk aan gebaren en hun beperkte vermogen om fijnmazige aanwijsintentie af te leiden uit egocentrische video. Om dit aan te pakken, introduceren we EgoPointVQA, een dataset en benchmark voor gebarengestuurd egocentrisch vraag-antwoord, bestaande uit 4000 synthetische en 400 real-world video's verspreid over meerdere deiktische redeneertaken. Hierop voortbordurend stellen we verder Hand Intent Tokens (HINT) voor, die tokens codeert die zijn afgeleid van 3D-handkeypoints met behulp van een kant-en-klare reconstructiemodel en deze interleaved met de modelinvoer aanbiedt om expliciete ruimtelijke en temporele context te bieden voor het interpreteren van aanwijsintentie. We tonen aan dat ons model beter presteert dan andere in verschillende backbones en modelgroottes. In het bijzonder behaalt HINT-14B een nauwkeurigheid van 68,1%, gemiddeld over 6 taken, wat de state-of-the-art, InternVL3-14B, met 6,6% overtreft. Om open onderzoek verder te faciliteren, zullen we de code, het model en de dataset vrijgeven. Projectpagina: https://yuuraa.github.io/papers/choi2026egovqa

English

Understanding and answering questions based on a user's pointing gesture is essential for next-generation egocentric AI assistants. However, current Multimodal Large Language Models (MLLMs) struggle with such tasks due to the lack of gesture-rich data and their limited ability to infer fine-grained pointing intent from egocentric video. To address this, we introduce EgoPointVQA, a dataset and benchmark for gesture-grounded egocentric question answering, comprising 4000 synthetic and 400 real-world videos across multiple deictic reasoning tasks. Built upon it, we further propose Hand Intent Tokens (HINT), which encodes tokens derived from 3D hand keypoints using an off-the-shelf reconstruction model and interleaves them with the model input to provide explicit spatial and temporal context for interpreting pointing intent. We show that our model outperforms others in different backbones and model sizes. In particular, HINT-14B achieves 68.1% accuracy, on average over 6 tasks, surpassing the state-of-the-art, InternVL3-14B, by 6.6%. To further facilitate the open research, we will release the code, model, and dataset. Project page: https://yuuraa.github.io/papers/choi2026egovqa