ターミナルベンチ：コマンドラインインターフェースにおける困難で現実的なタスクに対するエージェントのベンチマーキング

Terminal-Bench: Benchmarking Agents on Hard, Realistic Tasks in Command Line Interfaces

January 17, 2026

著者: Mike A. Merrill, Alexander G. Shaw, Nicholas Carlini, Boxuan Li, Harsh Raj, Ivan Bercovich, Lin Shi, Jeong Yeon Shin, Thomas Walshe, E. Kelly Buchanan, Junhong Shen, Guanghao Ye, Haowei Lin, Jason Poulos, Maoyu Wang, Marianna Nezhurina, Jenia Jitsev, Di Lu, Orfeas Menis Mastromichalakis, Zhiwei Xu, Zizhao Chen, Yue Liu, Robert Zhang, Leon Liangyu Chen, Anurag Kashyap, Jan-Lucas Uslu, Jeffrey Li, Jianbo Wu, Minghao Yan, Song Bian, Vedang Sharma, Ke Sun, Steven Dillmann, Akshay Anand, Andrew Lanpouthakoun, Bardia Koopah, Changran Hu, Etash Guha, Gabriel H. S. Dreiman, Jiacheng Zhu, Karl Krauth, Li Zhong, Niklas Muennighoff, Robert Amanfu, Shangyin Tan, Shreyas Pimpalgaonkar, Tushar Aggarwal, Xiangning Lin, Xin Lan, Xuandong Zhao, Yiqing Liang, Yuanli Wang, Zilong Wang, Changzhi Zhou, David Heineman, Hange Liu, Harsh Trivedi, John Yang, Junhong Lin, Manish Shetty, Michael Yang, Nabil Omi, Negin Raoof, Shanda Li, Terry Yue Zhuo, Wuwei Lin, Yiwei Dai, Yuxin Wang, Wenhao Chai, Shang Zhou, Dariush Wahdany, Ziyu She, Jiaming Hu, Zhikang Dong, Yuxuan Zhu, Sasha Cui, Ahson Saiyed, Arinbjörn Kolbeinsson, Jesse Hu, Christopher Michael Rytting, Ryan Marten, Yixin Wang, Alex Dimakis, Andy Konwinski, Ludwig Schmidt

cs.AI

要旨

AIエージェントは近い将来、多様な領域において価値のある長期的タスクを自律的に遂行できるようになる可能性がある。現行のベンチマークは、現実世界のタスクを測定していないか、フロンティアモデルを意味のある形で測定するには十分な難易度に達していない。この課題に対処するため、我々はTerminal-Bench 2.0を提案する。これは実際のワークフローから着想を得た、コンピュータ端末環境における89のタスクで構成される厳選された難易度の高いベンチマークである。各タスクは独自の環境、人間によって記述された解答、検証のための包括的なテストを特徴とする。フロンティアモデルおよびエージェントのベンチマークスコアが65%未満であることを示し、モデルとエージェントの改善点を特定するための誤り分析を実施する。データセットと評価フレームワークをhttps://www.tbench.ai/ で公開し、今後の開発者および研究者の研究を支援する。

English

AI agents may soon become capable of autonomously completing valuable, long-horizon tasks in diverse domains. Current benchmarks either do not measure real-world tasks, or are not sufficiently difficult to meaningfully measure frontier models. To this end, we present Terminal-Bench 2.0: a carefully curated hard benchmark composed of 89 tasks in computer terminal environments inspired by problems from real workflows. Each task features a unique environment, human-written solution, and comprehensive tests for verification. We show that frontier models and agents score less than 65\% on the benchmark and conduct an error analysis to identify areas for model and agent improvement. We publish the dataset and evaluation harness to assist developers and researchers in future work at https://www.tbench.ai/ .