Обратная связь по замыслу: понимание и преодоление барьеров пользовательской обратной связи в разговорных агентах
Feedback by Design: Understanding and Overcoming User Feedback Barriers in Conversational Agents
February 1, 2026
Авторы: Nikhil Sharma, Zheng Zhang, Daniel Lee, Namita Krishnan, Guang-Jie Ren, Ziang Xiao, Yunyao Li
cs.AI
Аннотация
Высококачественная обратная связь необходима для эффективного взаимодействия человека и ИИ. Она устраняет пробелы в знаниях, исправляет отклонения и формирует поведение системы как в процессе взаимодействия, так и на протяжении всей разработки модели. Однако, несмотря на свою важность, обратная связь человека для ИИ часто бывает нерегулярной и низкого качества. Этот разрыв мотивирует критическое изучение человеческой обратной связи во время взаимодействия с системами ИИ. Чтобы понять и преодолеть трудности, мешающие пользователям давать качественную обратную связь, мы провели два исследования, изучающие динамику обратной связи между людьми и диалоговыми агентами. Наше формирующее исследование, через призму максим Грайса, выявило четыре барьера обратной связи — общее основание, проверяемость, коммуникацию и информативность, — которые препятствуют предоставлению пользователями высококачественной обратной связи. Основываясь на этих выводах, мы формулируем три проектных требования и показываем, что системы, включающие поддержку, соответствующую этим требованиям, позволили пользователям предоставлять обратную связь более высокого качества. Наконец, мы подробно излагаем призыв к действию для широкого сообщества ИИ о необходимости развития возможностей больших языковых моделей для преодоления барьеров обратной связи.
English
High-quality feedback is essential for effective human-AI interaction. It bridges knowledge gaps, corrects digressions, and shapes system behavior; both during interaction and throughout model development. Yet despite its importance, human feedback to AI is often infrequent and low quality. This gap motivates a critical examination of human feedback during interactions with AIs. To understand and overcome the challenges preventing users from giving high-quality feedback, we conducted two studies examining feedback dynamics between humans and conversational agents (CAs). Our formative study, through the lens of Grice's maxims, identified four Feedback Barriers -- Common Ground, Verifiability, Communication, and Informativeness -- that prevent high-quality feedback by users. Building on these findings, we derive three design desiderata and show that systems incorporating scaffolds aligned with these desiderata enabled users to provide higher-quality feedback. Finally, we detail a call for action to the broader AI community for advances in Large Language Models capabilities to overcome Feedback Barriers.