ポストトレーニング言語モデルによるコーディングコンテスト金メダル級の性能の実現

要旨

競技プログラミングは、大規模言語モデルの推論能力を測る重要なテストとなっており、IOIやICPCといった国際大会は、その中でも最も困難な舞台を代表する。本稿では、大規模な問題キュレーション、合成推論トレース、教師ありファインチューニング（SFT）、強化学習（RL）を組み合わせたエンドツーエンドの特化パイプラインを提案する。22,000問のキュレーション済み問題を用いて、Nemotron-3-Nano-CC（30B-A3B）をSFTとRLにより訓練し、Nemotron-3-Ultra-CC（550B-A55B）はSFTのみで訓練した。さらに、フィードバック駆動型のテスト時計算戦略であるGenCorrectを導入する。これは、多様な解法を反復的に生成・評価・改良する手法である。IOI 2025において、Nano-CCはポストトレーニング後に130点から291点へ改善し、GenCorrectを用いると468点に達して、金メダル基準の438.3点を上回った。一方、Ultra-CCは502点を達成した。これらの結果に基づき、競技特化型のUltra-CCシステムを開発し、IOI 2026中に前向き評価を行った。人間の参加者と同じ時間、インターネットアクセス、提出制約の下で、本システムは600点満点中535.4点を獲得し、金メダル基準の361.12点と人間の最高得点である498.27点の両方を上回った。我々の知る限り、これはIOIの問題セットにおいて最高得点の人間参加者を上回った初めてのAIシステムである。

English

Competitive programming has become a key test of large language model reasoning, with international competitions such as IOI and ICPC representing its most challenging settings. We present an end-to-end specialization pipeline combining large-scale problem curation, synthetic reasoning traces, supervised fine-tuning (SFT), and reinforcement learning (RL). Using 22,000 curated problems, we train Nemotron-3-Nano-CC (30B-A3B) with SFT and RL and Nemotron-3-Ultra-CC (550B-A55B) with SFT alone. We further introduce GenCorrect, a feedback-driven test-time compute strategy that iteratively generates, evaluates, and refines diverse solutions. On IOI 2025, Nano-CC improves from 130 points to 291 after post-training and to 468 with GenCorrect, exceeding the gold threshold of 438.3 while Ultra-CC reaches 502. Guided by these results, we develop a competition-specific Ultra-CC system and evaluate it prospectively during IOI 2026. Under the same time, internet-access, and submission constraints as human contestants, it scores 535.4 out of 600, exceeding both the gold threshold of 361.12 and the top human score of 498.27. To our knowledge, this is the first AI system to outscore the highest-scoring human contestant on an IOI problem set.