Time-R1: 대규모 언어 모델을 위한 포괄적 시간 추론 연구

Time-R1: Towards Comprehensive Temporal Reasoning in LLMs

May 16, 2025

저자: Zijia Liu, Peixuan Han, Haofei Yu, Haoru Li, Jiaxuan You

cs.AI

초록

대규모 언어 모델(LLM)은 인상적인 능력을 보여주지만, 과거에 대한 추론을 미래 예측 및 가능성 있는 생성과 통합하는 데 어려움을 겪는 등 강력한 시간적 지능이 부족합니다. 한편, 기존 방법들은 일반적으로 과거 사건에 대한 질문 응답이나 기본적인 예측과 같은 고립된 시간적 기술을 목표로 하며, 특히 지식 한계를 넘는 사건이나 창의적인 통찰력을 요구하는 경우에 일반화 능력이 떨어집니다. 이러한 한계를 해결하기 위해, 우리는 중간 규모(30억 파라미터)의 LLM에 포괄적인 시간적 능력(이해, 예측, 창의적 생성)을 부여하는 첫 번째 프레임워크인 Time-R1을 소개합니다. 우리의 접근 방식은 새로운 3단계 개발 경로를 특징으로 하며, 처음 두 단계는 세심하게 설계된 동적 규칙 기반 보상 시스템에 의해 주도되는 강화 학습(RL) 커리큘럼으로 구성됩니다. 이 프레임워크는 (1) 역사적 데이터로부터 기본적인 시간적 이해와 논리적 사건-시간 매핑을 점진적으로 구축하고, (2) 지식 한계를 넘는 미래 사건 예측 능력을 개발하며, 마지막으로 (3) 미세 조정 없이도 창의적인 미래 시나리오 생성으로의 탁월한 일반화를 가능하게 합니다. 놀랍게도, 실험 결과 Time-R1은 고도로 도전적인 미래 사건 예측 및 창의적 시나리오 생성 벤치마크에서 최첨단 6710억 파라미터의 DeepSeek-R1을 포함해 200배 이상 큰 모델들을 능가하는 성능을 보여줍니다. 이 연구는 신중하게 설계된 점진적인 RL 미세 조전이 더 작고 효율적인 모델이 우수한 시간적 성능을 달성할 수 있게 한다는 강력한 증거를 제공하며, 진정한 시간 인식 AI를 위한 실용적이고 확장 가능한 길을 제시합니다. 추가 연구를 촉진하기 위해, 우리는 10년간의 뉴스 데이터에서 파생된 대규모 다중 작업 시간적 추론 데이터셋인 Time-Bench와 Time-R1 체크포인트 시리즈도 공개합니다.

English

Large Language Models (LLMs) demonstrate impressive capabilities but lack robust temporal intelligence, struggling to integrate reasoning about the past with predictions and plausible generations of the future. Meanwhile, existing methods typically target isolated temporal skills, such as question answering about past events or basic forecasting, and exhibit poor generalization, particularly when dealing with events beyond their knowledge cutoff or requiring creative foresight. To address these limitations, we introduce Time-R1, the first framework to endow a moderate-sized (3B-parameter) LLM with comprehensive temporal abilities: understanding, prediction, and creative generation. Our approach features a novel three-stage development path; the first two constitute a reinforcement learning (RL) curriculum driven by a meticulously designed dynamic rule-based reward system. This framework progressively builds (1) foundational temporal understanding and logical event-time mappings from historical data, (2) future event prediction skills for events beyond its knowledge cutoff, and finally (3) enables remarkable generalization to creative future scenario generation without any fine-tuning. Strikingly, experiments demonstrate that Time-R1 outperforms models over 200 times larger, including the state-of-the-art 671B DeepSeek-R1, on highly challenging future event prediction and creative scenario generation benchmarks. This work provides strong evidence that thoughtfully engineered, progressive RL fine-tuning allows smaller, efficient models to achieve superior temporal performance, offering a practical and scalable path towards truly time-aware AI. To foster further research, we also release Time-Bench, a large-scale multi-task temporal reasoning dataset derived from 10 years of news data, and our series of Time-R1 checkpoints.