맥락이 LLM 추론을 어떻게 조용히 단축시키는가: 추론 전환의 메커니즘

Reasoning Shift: How Context Silently Shortens LLM Reasoning

April 1, 2026

저자: Gleb Rodionov

cs.AI

초록

테스트 타임 스케일링(예: 확장된 추론 흔적 및 자가 검증)을 보이는 대규모 언어 모델(LLM)은 복잡한 장기 추론 과제에서 놀라운 성능을 입증해왔습니다. 그러나 이러한 추론 행동의 강건성은 아직 충분히 연구되지 않았습니다. 이를 조사하기 위해 우리는 세 가지 시나리오에서 여러 추론 모델에 대한 체계적인 평가를 수행합니다: (1) 길고 무관한 문맥이 추가된 문제, (2) 독립적인 작업을 포함하는 다중 턴 대화 설정, (3) 복잡한 작업 내 하위 작업으로 제시된 문제. 우리는 흥미로운 현상을 관찰했습니다: 추론 모델들은 동일한 문제에 대해 문제가 단독으로 제시될 때 생성된 추론 흔적에 비해 다른 문맥 조건에서 훨씬 짧은 추론 흔적(최대 50%까지)을 생성하는 경향이 있습니다. 보다 세분화된 분석 결과, 이러한 압축은 이중 확인과 같은 자가 검증 및 불확실성 관리 행동의 감소와 연관되어 있음이 밝혀졌습니다. 이러한 행동 변화는 단순한 문제의 성능에는 영향을 미치지 않지만, 더 어려운 과제의 성능에는 영향을 줄 수 있습니다. 우리의 연구 결과가 추론 모델의 강건성과 LLM 및 LLM 기반 에이전트를 위한 문맥 관리 문제에 대한 추가적인 관심을 끌기를 바랍니다.

English

Large language models (LLMs) exhibiting test-time scaling behavior, such as extended reasoning traces and self-verification, have demonstrated remarkable performance on complex, long-term reasoning tasks. However, the robustness of these reasoning behaviors remains underexplored. To investigate this, we conduct a systematic evaluation of multiple reasoning models across three scenarios: (1) problems augmented with lengthy, irrelevant context; (2) multi-turn conversational settings with independent tasks; and (3) problems presented as a subtask within a complex task. We observe an interesting phenomenon: reasoning models tend to produce much shorter reasoning traces (up to 50%) for the same problem under different context conditions compared to the traces produced when the problem is presented in isolation. A finer-grained analysis reveals that this compression is associated with a decrease in self-verification and uncertainty management behaviors, such as double-checking. While this behavioral shift does not compromise performance on straightforward problems, it might affect performance on more challenging tasks. We hope our findings draw additional attention to both the robustness of reasoning models and the problem of context management for LLMs and LLM-based agents.