Frontis-MA1: 기계 학습 엔지니어링에서 재귀적 자기 개선을 위한 AI4AI 모델 훈련

초록

재귀적 자기 개선(RSI)은 AI를 구축하는 과정 자체를 개선하는 AI 시스템, 즉 AI4AI를 요구한다. 머신러닝 엔지니어링(MLE)은 이러한 능력을 연구하기 위한 구체적이고 실행 가능한 테스트베드를 제공한다. 본 연구에서는 검증 가능한 작업 환경과 실행 피드백(OpenMLE-Gym), 연산자 학습(OpenMLE-RL), 장기 지평 탐색(OpenMLE-Evo)을 포괄하는 MLE RSI 연구용 오픈 풀스택 시스템인 OpenMLE를 소개한다. 이 스택 위에서 우리는 Frontis-MA1(35B)을 MLE용 메타 진화 에이전트로 후속 학습시키며, 후속 학습과 추론을 네 가지 원자적 프로그램 진화 연산자(Draft, Improve, Debug, Crossover)를 중심으로 정렬한다. 동일한 연산자들은 모든 평가 벤치마크에 대해 중복 제거된 데이터에서 실행 기반 SFT(지도 미세 조정) 및 RL(강화 학습)로 학습된 후 장기 지평 탐색으로 구성되어, 학습과 진화를 단일 루프로 결합한다. 작업당 12시간 예산, 12GB VRAM으로 제한된 단일 RTX 4090 환경의 MLE-Bench Lite에서 Frontis-MA1(35B)은 OpenMLE-Evo를 사용하여 기본 모델 대비 Medal Average를 39.39%에서 60.61%로 향상시키고, OpenMLE-Evo-Max(벤치마크 독립적 경험 사전 및 비동기 탐색)를 사용하면 71.21%에 도달하여 GPT-5.5 + Codex를 능가하며 GPT-5.6 Sol 및 2.8T Kimi K3에 근접한다. 보류된 NatureBench Lite에서도 두 구성 요소 모두 전이된다. 즉, 프레임워크를 고정한 상태에서 학습된 모델로 교체하면 Match-SOTA가 50%에서 70%로 상승하고, 모델을 고정한 상태에서 OpenMLE-Evo로 교체하면 20%에서 50%로 상승한다. 우리는 RSI를 향한 실행 가능한 AI4AI 연구의 재현성을 지원하기 위해 모델 가중치와 전체 OpenMLE 스택을 공개한다. 코드: https://github.com/FrontisAI/OpenRSI

English

Recursive self-improvement (RSI) requires AI systems that improve the process of building AI (i.e., AI4AI); machine learning engineering (MLE) offers a concrete, executable testbed for studying this capability. We introduce OpenMLE, an open full-stack system for RSI research in MLE, spanning verifiable task environments with execution feedback (OpenMLE-Gym), operator learning (OpenMLE-RL), and long-horizon search (OpenMLE-Evo). On this stack we post-train Frontis-MA1 (35B) as a meta-evolution agent for MLE, aligning post-training and inference around four atomic program-evolution operators (Draft, Improve, Debug, Crossover): the same operators are trained via execution-grounded SFT and RL on data deduplicated against all evaluation benchmarks, then composed into long-horizon search, coupling learning and evolution in a single loop. On MLE-Bench Lite under a 12-hour per-task budget on one RTX 4090 capped at 12 GB VRAM, Frontis-MA1 (35B) improves Medal Average from 39.39% to 60.61% over its base model with OpenMLE-Evo, and reaches 71.21% with OpenMLE-Evo-Max (benchmark-independent experience priors and asynchronous search), exceeding GPT-5.5 + Codex and approaching GPT-5.6 Sol and the 2.8T Kimi K3. On held-out NatureBench Lite, both components transfer: with the framework fixed, swapping in the trained model raises Match-SOTA from 50% to 70%; with the model fixed, swapping in OpenMLE-Evo raises it from 20% to 50%. We release the model weights and the full OpenMLE stack to enable reproducible research on executable AI4AI toward RSI. Code: https://github.com/FrontisAI/OpenRSI