Feedback por Design: Compreendendo e Superando Barreiras de Feedback do Usuário em Agentes Conversacionais
Feedback by Design: Understanding and Overcoming User Feedback Barriers in Conversational Agents
February 1, 2026
Autores: Nikhil Sharma, Zheng Zhang, Daniel Lee, Namita Krishnan, Guang-Jie Ren, Ziang Xiao, Yunyao Li
cs.AI
Resumo
Um feedback de alta qualidade é essencial para uma interação eficaz entre humanos e IA. Ele preenche lacunas de conhecimento, corrige divagações e molda o comportamento do sistema, tanto durante a interação quanto ao longo do desenvolvimento do modelo. No entanto, apesar de sua importância, o feedback humano para a IA é frequentemente esporádico e de baixa qualidade. Esta lacuna motiva um exame crítico do feedback humano durante as interações com sistemas de IA. Para compreender e superar os desafios que impedem os utilizadores de fornecerem um feedback de alta qualidade, realizámos dois estudos que examinam a dinâmica do feedback entre humanos e agentes conversacionais (AC). O nosso estudo formativo, através da lente dos máximas de Grice, identificou quatro Barreiras ao Feedback — Base Comum, Verificabilidade, Comunicação e Informatividade — que impedem os utilizadores de fornecerem um feedback de alta qualidade. Com base nestas descobertas, derivamos três desideratos de design e demonstramos que sistemas que incorporam suportes alinhados com estes desideratos permitiram que os utilizadores fornecessem um feedback de qualidade superior. Por fim, detalhamos um apelo à ação para a comunidade mais ampla de IA, no sentido de avanços nas capacidades dos Modelos de Linguagem de Grande Escala para superar as Barreiras ao Feedback.
English
High-quality feedback is essential for effective human-AI interaction. It bridges knowledge gaps, corrects digressions, and shapes system behavior; both during interaction and throughout model development. Yet despite its importance, human feedback to AI is often infrequent and low quality. This gap motivates a critical examination of human feedback during interactions with AIs. To understand and overcome the challenges preventing users from giving high-quality feedback, we conducted two studies examining feedback dynamics between humans and conversational agents (CAs). Our formative study, through the lens of Grice's maxims, identified four Feedback Barriers -- Common Ground, Verifiability, Communication, and Informativeness -- that prevent high-quality feedback by users. Building on these findings, we derive three design desiderata and show that systems incorporating scaffolds aligned with these desiderata enabled users to provide higher-quality feedback. Finally, we detail a call for action to the broader AI community for advances in Large Language Models capabilities to overcome Feedback Barriers.