"무엇을 하고 계신가요?": 다단계 처리 과정에서 행동 주도적 LLM 차량 내 비서의 중간 피드백 효과

"What Are You Doing?": Effects of Intermediate Feedback from Agentic LLM In-Car Assistants During Multi-Step Processing

February 17, 2026

저자: Johannes Kirmayr, Raphael Wennmacher, Khanh Huynh, Lukas Stappen, Elisabeth André, Florian Alt

cs.AI

초록

자율적으로 다단계 작업을 수행하는 에이전시 AI 어시스턴트는 사용자 경험 측면에서 여러 가지 열린 질문을 제기한다: 특히 운전과 같은 주의력이 중요한 상황에서 이러한 시스템이 장시간 운영 중 진행 상황과 추론 과정을 어떻게 전달해야 할까? 본 연구는 계획된 단계와 중간 결과 피드백을 최종 결과만 제공하는 무음 운영과 비교하는 통제된 혼합 방법론 연구(N=45)를 통해 에이전시 LLM 기반 차량 내 어시스턴트의 피드백 시점과 상세도를 탐구한다. 차량 내 음성 어시스턴트를 활용한 이중 과제 패러다임을 적용한 결과, 중간 피드백이 인지된 속도, 신뢰도, 사용자 경험을 유의미하게 향상시키고 작업 부하를 감소시키는 것으로 나타났으며, 이러한 효과는 다양한 작업 복잡도와 상호작용 맥락에서 일관되게 관찰되었다. 심층 인터뷰를 통해 사용자들은 적응형 접근법을 선호한다는 점이 추가로 밝혀졌다: 신뢰 형성을 위한 초기 높은 투명성을 바탕으로 시스템이 신뢰성을 입증함에 따라 점차적으로 상세도를 줄여나가며, 작업의 중요도와 상황적 맥락에 따라 조정하는 방식이다. 우리는 이러한 실증적 결과를 바탕으로 투명성과 효율성의 균형을 이루는 에이전시 어시스턴트의 피드백 시점 및 상세도에 대한 설계 시사점을 제안한다.

English

Agentic AI assistants that autonomously perform multi-step tasks raise open questions for user experience: how should such systems communicate progress and reasoning during extended operations, especially in attention-critical contexts such as driving? We investigate feedback timing and verbosity from agentic LLM-based in-car assistants through a controlled, mixed-methods study (N=45) comparing planned steps and intermediate results feedback against silent operation with final-only response. Using a dual-task paradigm with an in-car voice assistant, we found that intermediate feedback significantly improved perceived speed, trust, and user experience while reducing task load - effects that held across varying task complexities and interaction contexts. Interviews further revealed user preferences for an adaptive approach: high initial transparency to establish trust, followed by progressively reducing verbosity as systems prove reliable, with adjustments based on task stakes and situational context. We translate our empirical findings into design implications for feedback timing and verbosity in agentic assistants, balancing transparency and efficiency.