Дайте волю потоку: Агентное конструирование в рок-н-ролле, построение модели ROME в рамках открытой агентной обучающей экосистемы

Let It Flow: Agentic Crafting on Rock and Roll, Building the ROME Model within an Open Agentic Learning Ecosystem

December 31, 2025

Авторы: Weixun Wang, XiaoXiao Xu, Wanhe An, Fangwen Dai, Wei Gao, Yancheng He, Ju Huang, Qiang Ji, Hanqi Jin, Xiaoyang Li, Yang Li, Zhongwen Li, Shirong Lin, Jiashun Liu, Zenan Liu, Tao Luo, Dilxat Muhtar, Yuanbin Qu, Jiaqiang Shi, Qinghui Sun, Yingshui Tan, Hao Tang, Runze Wang, Yi Wang, Zhaoguo Wang, Yanan Wu, Shaopan Xiong, Binchen Xu, Xander Xu, Yuchi Xu, Qipeng Zhang, Xixia Zhang, Haizhou Zhao, Jie Zhao, Shuaibing Zhao, Baihui Zheng, Jianhui Zheng, Suhang Zheng, Yanni Zhu, Mengze Cai, Kerui Cao, Xitong Chen, Yue Dai, Lifan Du, Tao Feng, Tao He, Jin Hu, Yijie Hu, Ziyu Jiang, Cheng Li, Xiang Li, Jing Liang, Chonghuan Liu, ZhenDong Liu, Haodong Mi, Yanhu Mo, Junjia Ni, Shixin Pei, Jingyu Shen, XiaoShuai Song, Cecilia Wang, Chaofan Wang, Kangyu Wang, Pei Wang, Tao Wang, Wei Wang, Ke Xiao, Mingyu Xu, Tiange Xu, Nan Ya, Siran Yang, Jianan Ye, Yaxing Zang, Duo Zhang, Junbo Zhang, Boren Zheng, Wanxi Deng, Ling Pan, Lin Qu, Wenbo Su, Jiamang Wang, Wei Wang, Hu Wei, Minggang Wu, Cheng Yu, Bing Zhao, Zhicheng Zheng, Bo Zheng

cs.AI

Аннотация

Агентное проектирование требует, чтобы большие языковые модели (LLM) функционировали в реальных условиях на протяжении множества шагов, выполняя действия, наблюдая за результатами и итеративно совершенствуя артефакты. Несмотря на важность этой задачи, в сообществе открытого исходного кода отсутствует продуманная сквозная экосистема для упрощения разработки агентов. Мы представляем Агентную Обучающую Экосистему (ALE) — базовую инфраструктуру, оптимизирующую производственный конвейер для агентных LLM. ALE состоит из трёх компонентов: ROLL — фреймворка пост-обучения для оптимизации весов; ROCK — менеджера песочных сред для генерации траекторий; и iFlow CLI — фреймворка для эффективного контекстного инжиниринга агентов. Мы выпускаем ROME (ROME — очевидно, агентная модель), модель с открытым исходным кодом, основанную на ALE и обученную на более чем миллионе траекторий. Наш подход включает протоколы композиции данных для синтеза сложных поведений и новый алгоритм оптимизации политик, Interaction-based Policy Alignment (IPA), который распределяет кредит на основе семантических фрагментов взаимодействия, а не отдельных токенов, чтобы улучшить стабильность обучения на длинных горизонтах. Эмпирически мы оцениваем ROME в структурированной среде и представляем Terminal Bench Pro — бенчмарк с улучшенным масштабом и контролем за контаминацией. ROME демонстрирует высокую производительность на таких бенчмарках, как SWE-bench Verified и Terminal Bench, что доказывает эффективность инфраструктуры ALE.

English

Agentic crafting requires LLMs to operate in real-world environments over multiple turns by taking actions, observing outcomes, and iteratively refining artifacts. Despite its importance, the open-source community lacks a principled, end-to-end ecosystem to streamline agent development. We introduce the Agentic Learning Ecosystem (ALE), a foundational infrastructure that optimizes the production pipeline for agent LLMs. ALE consists of three components: ROLL, a post-training framework for weight optimization; ROCK, a sandbox environment manager for trajectory generation; and iFlow CLI, an agent framework for efficient context engineering. We release ROME (ROME is Obviously an Agentic Model), an open-source agent grounded by ALE and trained on over one million trajectories. Our approach includes data composition protocols for synthesizing complex behaviors and a novel policy optimization algorithm, Interaction-based Policy Alignment (IPA), which assigns credit over semantic interaction chunks rather than individual tokens to improve long-horizon training stability. Empirically, we evaluate ROME within a structured setting and introduce Terminal Bench Pro, a benchmark with improved scale and contamination control. ROME demonstrates strong performance across benchmarks like SWE-bench Verified and Terminal Bench, proving the effectiveness of the ALE infrastructure.