Abstimmung von VLM-Assistenten mit personalisierter situierter Kognition

Aligning VLM Assistants with Personalized Situated Cognition

June 1, 2025

Autoren: Yongqi Li, Shen Zhou, Xiaohu Li, Xin Miao, Jintao Wen, Mayi Xu, Jianhao Chen, Birong Pan, Hankun Kang, Yuanyuan Zhu, Ming Zhong, Tieyun Qian

cs.AI

Zusammenfassung

Vision-Language-Modelle (VLMs), die mit allgemeinen menschlichen Zielen wie Schadlosigkeit und Halluzinationsfreiheit ausgerichtet sind, haben sich als wertvolle Assistenten bei der Bewältigung visueller Aufgaben erwiesen. Menschen mit unterschiedlichen Hintergründen haben jedoch selbst in derselben Situation unterschiedliche Wahrnehmungen. Folglich können sie personalisierte Erwartungen an VLM-Assistenten haben. Dies unterstreicht die dringende Notwendigkeit, VLM-Assistenten mit personalisierter situativer Wahrnehmung für die reale Unterstützung auszurichten. Um dieses Problem zu untersuchen, vereinfachen wir es zunächst, indem wir Individuen anhand des soziologischen Konzepts der Rollenmenge (Role-Set) charakterisieren. Anschließend schlagen wir vor, die Handlungen der Individuen zu bewerten, um zu prüfen, ob die personalisierte Ausrichtung erreicht wurde. Darüber hinaus erstellen wir einen Benchmark namens PCogAlignBench, der 18.000 Instanzen und 20 Personen mit unterschiedlichen Rollenmengen umfasst. Schließlich präsentieren wir ein Framework namens PCogAlign, das ein wahrnehmungsbewusstes und handlungsbasiertes Belohnungsmodell für die personalisierte Ausrichtung konstruiert. Experimentelle Ergebnisse und menschliche Bewertungen demonstrieren die Zuverlässigkeit des PCogAlignBench und die Effektivität unseres vorgeschlagenen PCogAlign. Wir werden den erstellten Benchmark und den Code unter https://github.com/NLPGM/PCogAlign open-source zur Verfügung stellen.

English

Vision-language models (VLMs) aligned with general human objectives, such as being harmless and hallucination-free, have become valuable assistants of humans in managing visual tasks. However, people with diversified backgrounds have different cognition even in the same situation. Consequently, they may have personalized expectations for VLM assistants. This highlights the urgent need to align VLM assistants with personalized situated cognition for real-world assistance. To study this problem, we first simplify it by characterizing individuals based on the sociological concept of Role-Set. Then, we propose to evaluate the individuals' actions to examine whether the personalized alignment is achieved. Further, we construct a benchmark named PCogAlignBench, which includes 18k instances and 20 individuals with different Role-Sets. Finally, we present a framework called PCogAlign, which constructs a cognition-aware and action-based reward model for personalized alignment. Experimental results and human evaluations demonstrate the reliability of the PCogAlignBench and the effectiveness of our proposed PCogAlign. We will open-source the constructed benchmark and code at https://github.com/NLPGM/PCogAlign.