«Что ты делаешь?»: Влияние промежуточной обратной связи от агентных LLM-помощников в автомобиле в процессе многошаговой обработки
"What Are You Doing?": Effects of Intermediate Feedback from Agentic LLM In-Car Assistants During Multi-Step Processing
February 17, 2026
Авторы: Johannes Kirmayr, Raphael Wennmacher, Khanh Huynh, Lukas Stappen, Elisabeth André, Florian Alt
cs.AI
Аннотация
Автономные агентные ИИ-ассистенты, выполняющие многошаговые задачи, ставят перед пользовательским опытом открытые вопросы: как такие системы должны сообщать о ходе работы и своих рассуждениях в ходе длительных операций, особенно в контекстах, требующих концентрации внимания, таких как вождение? Мы исследуем время предоставления обратной связи и её детализацию от агентных ИИ-ассистентов в автомобиле на основе больших языковых моделей с помощью контролируемого смешанного исследования (N=45), сравнивая обратную связь о запланированных шагах и промежуточных результатах с молчаливой работой и ответом только по завершении. Используя парадигму двойной задачи с голосовым ассистентом в автомобиле, мы обнаружили, что промежуточная обратная связь значительно повышает воспринимаемую скорость, доверие и пользовательский опыт, одновременно снижая нагрузку — эти эффекты сохранялись при различной сложности задач и контекстах взаимодействия. Интервью дополнительно выявили предпочтение пользователей к адаптивному подходу: высокая начальная прозрачность для установления доверия с последующим постепенным снижением детализации по мере подтверждения надежности системы, с корректировками на основе важности задачи и ситуационного контекста. Мы переводим наши эмпирические выводы в практические рекомендации по проектированию времени и детализации обратной связи для агентных ассистентов, балансируя между прозрачностью и эффективностью.
English
Agentic AI assistants that autonomously perform multi-step tasks raise open questions for user experience: how should such systems communicate progress and reasoning during extended operations, especially in attention-critical contexts such as driving? We investigate feedback timing and verbosity from agentic LLM-based in-car assistants through a controlled, mixed-methods study (N=45) comparing planned steps and intermediate results feedback against silent operation with final-only response. Using a dual-task paradigm with an in-car voice assistant, we found that intermediate feedback significantly improved perceived speed, trust, and user experience while reducing task load - effects that held across varying task complexities and interaction contexts. Interviews further revealed user preferences for an adaptive approach: high initial transparency to establish trust, followed by progressively reducing verbosity as systems prove reliable, with adjustments based on task stakes and situational context. We translate our empirical findings into design implications for feedback timing and verbosity in agentic assistants, balancing transparency and efficiency.