일간 논문

기술은 소프트웨어 에이전트에게 유용한 추상화로, 인간과 에이전트의 경험을 재사용 가능한 절차적 지식으로 전환한다. 그러나 기존의 기술 라이브러리는 대부분 수작업으로 작성되거나 텍스트 중심이거나 에이전트 추적에서 파생되어, 튜토리얼 비디오 및 기타 다중 모드 인간 자원이 크게 활용되지 못하고 있다. 우리는 튜토리얼 비디오, 저장소, 기사 및 참조 아티팩트를 포함한 다중 모드 자원을 소프트웨어 에이전트용 실행 가능한 기술로 추출하는 프레임워크인 RESOURCE2SKILL을 제시한다. RESOURCE2SKILL은 이러한 기술을 계층적 다중 모드 Skill Wiki로 구성하며, 각 항목은 구조화된 텍스트, 코드, 시각적 예제, 메타데이터 및 출처를 결합한다. 이 설계는 서로 다른 자원의 상호 보완적 신호를 보존한다. 비디오는 시간적 작업과 시각적 효과를 포착하고, 코드는 실행 가능한 도구 패턴을 포착하며, 기사나 아티팩트는 개념적 및 스타일적 근거를 제공한다. 추론 시 에이전트는 위키에서 관련 기술을 검색하고 구성하며, 적용 범위가 불충분할 경우 동일한 구축 연산자가 온라인으로 새로운 기술을 획득할 수 있다. 7개의 실용적인 저작 도메인에 걸쳐, RESOURCE2SKILL은 기술 없는 에이전트 대비 평균 전체 점수를 +11.9% 포인트 향상시키며, 28개의 주요 집계 모델-도메인 셀 중 26개에서 강력한 하네스 기준선을 능가한다. 제거 실험은 다중 모드 기술 형식, 계층적 구성, 소스 다양성, 선택 전략 및 온라인 획득의 가치를 확인한다.

그래프 검색 증강 생성(GraphRAG)은 대규모 언어 모델에 구조화된 지식을 더해 성능을 높이지만, 기존 시스템은 단일 추출 패스로 지식 그래프를 구축하여 잡음이 많은 엔티티와 취약한 검색을 초래합니다. RAGU는 오픈소스 모듈형 GraphRAG 엔진으로, 추출과 통합을 분리하여 이 문제를 해결합니다. 엔티티와 관계는 두 단계의 유형화된 추출, DBSCAN 기반 중복 제거, LLM 요약, Leiden 커뮤니티 탐지를 거칩니다. 핵심 통찰은 소형 추출기를 뒷받침합니다. 파이프라인 내 LLM에 필요한 역량(이해, 추출, 맥락 추론)은 언어 능력으로, 사실적 세계 지식과 달리 모델 크기에 따라 약하게만 증가합니다. 이에 따라 Meno-Lite-0.1을 학습시켰습니다. 이는 언어 능력에 최적화된 7B 모델로, 지식 그래프 구축에서 Qwen2.5-32B를 능가하고(+12.5% 상대 조화 평균), 영어 GraphRAG 작업에서는 동등한 성능을 보입니다. GraphRAG-Bench(의료)에서 RAGU는 모든 사실 수준에서 가장 완전한 맥락을 검색하며(증거 재현율 최대 0.84 vs. ≤0.76), 합성 작업에서 HippoRAG2를 추월합니다. 다중 홉 사실 기반 QA에서 HippoRAG2의 우위는 대체로 답변 형식의 인공물로 밝혀졌습니다. RAGU는 `pip install graph_ragu`로 설치 가능하며, 단일 GPU에서 실행되고, MIT 라이선스로 배포됩니다. 소스 코드는 https://github.com/RaguTeam/RAGU 에 공개되어 있으며, Meno-Lite-0.1 모델은 https://huggingface.co/bond005/meno-lite-0.1 에서 얻을 수 있습니다.

현재까지 가장 강력한 루프드 트랜스포머인 Loopie를 소개합니다. Loopie 시리즈는 두 개의 Mixture-of-Experts(MoE) 모델로 구성됩니다: 20B 파라미터 중 2B 활성 파라미터를 가진 모델과 6B 파라미터 중 0.6B 활성 파라미터를 가진 모델입니다. 루프드 트랜스포머는 오랫동안 과제에 직면해 왔습니다: 사전 학습 계산량이 N배 증가할 때, 파라미터 수를 N배 늘리는 것이 일반적으로 모델을 N번 루핑하는 것보다 더 나은 성능을 보인다는 점입니다. Loopie는 이 과제를 해결합니다. 바닐라 30B-A3B 모델과의 비교를 포함한 광범위한 절제 연구에서 Loopie가 동일한 계산 예산으로 학습된 바닐라 트랜스포머 기준 모델을 크게 능가하는 것으로 나타났습니다. 당사의 혁신적인 포스트 트레이닝 파이프라인은 Loopie에 강력한 추론 능력을 부여합니다. 2025년 IMO 및 IPhO에서 Loopie는 도구 없이 금메달 수준의 성과를 달성했습니다.

저희는 다양한 언어 명령을 따라 처음 보는 환경에서 즉시 다양한 이동 조작 작업을 수행할 수 있으며, 최소한의 미세 조정 데이터로 새로운 하위 과제에 효율적으로 적응할 수 있는 기초 시각-언어-행동(VLA) 모델인 Xiaomi-Robotics-1을 소개합니다. 저희는 사전 학습과 후속 학습으로 구성된 2단계 학습 방식을 제안합니다. 사전 학습 단계에서는 UMI 장치를 통해 수집된 10만 시간 이상의 실제 세계 조작 궤적 데이터로 모델을 훈련하여 광범위하고 일반화 가능한 행동 생성 능력을 부여합니다. 핵심적으로, 장면 상태 전이를 설명하는 자연어로 궤적 클립에 주석을 달아주는 확장 가능한 자동 레이블링 파이프라인을 개발하여 행동 학습에 풍부하고 정확한 조건을 제공합니다. 후속 학습 단계에서는 이러한 능력을 로봇의 물리적 형태 및 인간이 로봇을 지시할 때 자연스럽게 사용하는 명령형 명령과 정렬하는 것을 목표로 합니다. 광범위한 실험을 통해 강력한 스케일링 동작을 확인했습니다. Xiaomi-Robotics-1은 사전 학습 중 데이터 규모와 모델 크기가 증가함에 따라 지속적으로 성능이 향상됩니다. 이러한 스케일링 동작은 후속 학습에 직접적으로 전이되어, 더 강력한 사전 학습 모델이 처음 보는 환경에서 더 나은 즉시 사용 가능한 실제 로봇 성능을 제공합니다. 또한 Xiaomi-Robotics-1은 강력한 로봇 기반 정책으로 작동하여 복잡하고 정밀한 작업에서도 높은 데이터 효율성으로 효율적으로 미세 조정될 수 있습니다. 여러 시뮬레이션 벤치마크에서 Xiaomi-Robotics-1은 최첨단 방법들을 능가합니다. 특히 RoboCasa365에서 57.6%의 성공률로 기존 최고 성능인 46.6%를 크게 상회하는 새로운 최첨단 성과를 달성했습니다. 또한 RoboDojo에서 평균 점수 20.07을 기록하며 이전 최첨단 성과(13.07)를 현저히 능가했습니다. 코드와 모델 체크포인트는 공개될 예정입니다. 프로젝트 페이지: https://robotics.xiaomi.com/xiaomi-robotics-1.html

하이퍼 연결(HC)은 트랜스포머의 잔차 스트림을 N개의 병렬 스트림으로 확장하여 모델 폭과 깊이를 넘어서는 메모리 스케일링을 제공합니다. 다양체 제약 HC(mHC)는 이러한 공식을 대규모에서 안정화합니다. N=1에서 N=4까지의 큰 성능 향상은 잔차 스트림 확장이 유망한 스케일링 축임을 시사합니다. 그러나 기존 HC 계열 방법은 일반적으로 N=4에서 멈춥니다. 실험 결과 그 이유가 밝혀졌습니다. 이 지점을 넘어 mHC를 확장하면 성능 향상이 감소하고 훈련 비용이 급격히 증가합니다. 이러한 한계는 두 가지 병목 현상, 즉 증가하는 스트림 수에 대한 불충분한 쓰기-백 정보와 N에 따라 비용이 세제곱으로 증가하는 잔차 혼합 생성에 기인합니다. 두 병목 현상을 해결하기 위해, 우리는 N=4를 넘어 유의미한 확장을 달성한 최초의 HC 계열 방법인 xHC(확장된 하이퍼 연결)를 제안합니다. xHC는 더 풍부한 쓰기-백을 위한 시간적 특징 증강과 전체 잔차 상태에 대한 밀집 접근을 유지하면서 N=16개의 스트림 중 k=4개만 업데이트하는 희소 잔차 스트림 구조를 결합합니다. 18B 및 28B MoE 모델 전반에 걸쳐 xHC는 강력하고 일관된 하위 작업 성능 개선을 제공합니다. 18B MoE 모델에서 xHC는 mHC 대비 평균 하위 작업 점수를 4.0포인트 향상시키는 동시에 기본(vanilla) 기준선 대비 훈련 FLOPs를 약간만 증가시킵니다. 스케일링 법칙 실험에 따르면 vanilla과 mHC는 동일한 손실에 도달하기 위해 각각 xHC 대비 1.50배 및 1.19배의 연산이 필요합니다. 실용적인 대규모 N 훈련을 위해서는 확장된 잔차 상태로 인한 메모리 트래픽을 제어해야 합니다. 따라서 우리는 xHC-Flash를 도입합니다. 이는 전체 xHC의 이점을 유지하면서 서브레이어당 메모리 트래픽을 73.5C에서 40C로 줄이며, 이는 N=4에서 mHC가 필요로 하는 34C와 유사한 수준입니다. xHC와 xHC-Flash는 함께 대규모 N 잔차 스트림 확장을 LLM 사전학습에 효과적이고 실용적으로 만듭니다.

의료 분야는 높은 이해관계의 의사소통, 전문가적 추론, 업무 흐름 실행을 포괄하지만, 이러한 사용 사례를 함께 다루는 특화된 LLM은 여전히 제한적입니다. 의료 모델은 환자 상담, 텍스트와 이미지에 기반한 임상 추론, 대화형 진단, 전자 건강 기록(EHR) 도구 사용을 처리할 수 있어야 합니다. 이러한 기능들은 각기 다른 방식으로 실패하며, 한 작업에 대한 좁은 업데이트가 다른 작업의 성능을 저하시킬 수 있습니다. 본 논문에서는 인간이 관여하는 자체 진화 루프(human-gated self-evolution loop)를 통해 학습된 의료 특화 LLM인 Cura 1T를 소개합니다. 각 진화 라운드에서 훈련 에이전트가 목표 역량을 계획하고, 모델을 학습시키며, 벤치마크 궤적을 평가하고, 관찰된 실패로부터 데이터 혼합을 개선합니다. 이 데이터 중심의 루프는 단일한 일반 의료 데이터 업데이트가 아닌, 목표 지향적인 합성 및 선별된 예제를 통해 모델을 향상시킵니다. 의료 평가 제품군 전반에 걸쳐 Cura 1T는 최첨단 베이스라인 중 최상위권에 위치하며, 도메인 외 추론 및 에이전틱 벤치마크에서도 경쟁력을 유지합니다.

온-정책 증류(on-policy distillation)는 강화 학습에서 사용되는 대안적인 사후 학습 방법으로, 교사 모델로부터 토큰 수준의 감독을 제공함으로써 보상 모델이 부과하는 제약을 완화합니다. 온-정책 증류는 다양한 환경에서 연구되고 적용되어 왔지만, 그 근본적인 설계는 아직 충분히 탐구되지 않았습니다. 본 논문에서는 교사 모델의 출력 분포를 직접 모방하는 대신, 델타 신호(delta signal)라고 부르는 새로운 증류 보상을 도입합니다. 델타 신호는 교사 모델과 추론 능력을 위한 명령 튜닝 이전의 기본 모델 간의 차이로 정의됩니다. 따라서 델타 신호는 추론 튜닝에 의해 유도된 변화를 포착하며, 추론 능력을 전이하기 위한 더 직접적인 신호를 제공합니다. 광범위한 실험적 증거를 통해 델타 신호가 온-정책 증류를 크게 개선함을 보여주며, 이 새로운 증류 방법을 온-정책 델타 증류(On-Policy Delta Distillation, OPD²)라고 명명합니다. 수학, 과학, 코드 추론 벤치마크에 걸친 실험은 OPD²가 기존의 온-정책 증류를 일관되게 능가하며, 추론용 LLM이 짧은 사후 학습 기간만으로도 강력한 성능을 달성할 수 있게 함을 입증합니다. 코드는 https://github.com/naver-ai/opd2 에서 제공될 예정입니다.

대규모 언어 모델(LLM)은 추천 시스템을 과거 행동의 동시 발생 패턴 매칭에서 그 행동을 유발하는 의도 추론으로 변환시키고 있습니다. RecGPT-V1은 사용자 이해를 중심으로 타오바오에서 이 패러다임을 개척했으며, RecGPT-V2는 조정된 다중 에이전트 추론을 통해 이를 확장했습니다. 두 모델 모두 실제 운영 환경에 배포되어 사용자 경험과 상업적 성과에서 일관된 개선을 이루고 있습니다. 그러나 RecGPT를 대규모로 운영하면서 세 가지 과제가 드러났습니다: (1) 상태 비저장 행동 모델링 – 각 요청이 사용자의 전체 이력을 다시 처리하여 계산 자원을 낭비하고 이전 분석을 폐기함, (2) 태그-아이템 정보 병목 – 자연어 태그가 사용자 이해와 아이템 기반 간에 손실이 있는 채널을 형성함, (3) 비효율적인 명시적 추론 – 긴 사고 사슬이 감당할 수 없는 지연 시간과 계산 오버헤드를 초래함. 우리는 자연어를 통한 개방형 세계 지식 추론과 구체적인 아이템 기반을 위한 의미론적 ID(SID)를 사용하는 상태 저장 하이브리드 모달 추천기인 RecGPT-V3를 제시합니다. 메모리 허브는 장기적인 행동을 압축된 단위로 증류하는 구조화되고 지속적으로 진화하는 사용자 메모리를 유지하여 사용자 모델링 계산을 55.8% 절감합니다. 하이브리드 모달 기초 모델은 LLM이 텍스트 태그와 SID를 공동으로 추론할 수 있게 하여 아이템 공간으로의 고대역폭 채널을 엽니다. 잠재 의도 추론은 장황한 근거를 읽을 수 있는 설명으로 디코딩 가능한 소형 학습 가능 잠재 토큰으로 내면화하여 출력 토큰 비용을 200배 절감합니다. 타오바오의 '당신이 좋아할 만한 상품' 피드에 배포된 RecGPT-V3는 대규모 온라인 A/B 테스트에서 일관된 개선을 달성했습니다: IPV +1.28%, CTR +1.00%, TC +1.97%, GMV +3.97%, 종단 간 서빙 리소스 소비는 52.4% 절감했습니다.

코드 리뷰는 코드 통합 전 소프트웨어 품질을 유지하는 데 도움이 되지만, 인간 리뷰어에게 상당한 작업 부담을 초래하기도 한다. 생성형 인공지능이 소프트웨어 개발의 일부가 되면서 코드 리뷰는 주로 인간이 수행하던 리뷰 프로세스에서 대규모 언어 모델(LLM) 리뷰어와 AI 에이전트 리뷰어가 인간 리뷰어와 함께 참여하는 AI 지원 리뷰 프로세스로 전환되고 있다. 그러나 이러한 전환이 리뷰 효율성과 리뷰 품질에 어떤 영향을 미치는지에 대한 경험적 증거는 여전히 부족하다. 본 논문에서는 인간 중심 리뷰, LLM 지원 리뷰, 에이전틱 코드 리뷰라는 세 가지 코드 리뷰 시대를 거친 207개 GitHub 프로젝트의 102만 개의 리뷰된 풀 리퀘스트를 연구한다. 우리는 세 가지 AI 리뷰어 도입 관행을 식별했다: 점진적 AI 도입, 빠른 LLM 도입, 빠른 AI 에이전트 도입. 또한 리뷰 프로세스 중 인간, LLM 및 AI 에이전트 리뷰어가 어떻게 협력하는지 특성화하기 위해 풀 리퀘스트 리뷰 토론을 리뷰어 상호작용 시퀀스로 모델링한다. 결과에 따르면 에이전트가 관여된 협업 패턴, 특히 AI 에이전트가 시작한 리뷰 또는 여러 AI 에이전트가 관여된 리뷰는 점진적 AI 도입 및 빠른 AI 에이전트 도입 하에서 더 빠른 리뷰 결정과 관련이 있다. 그러나 이러한 효율성 향상이 더 나은 리뷰 품질로 이어지지는 않는다. 또한 리뷰 활동과 풀 리퀘스트 유형이 시대를 불문하고 중요하게 남아 있는 반면, LLM 및 AI 에이전트 리뷰어가 참여하게 되면 인간-AI 협업 패턴이 리뷰 효율성에 대한 가장 강력한 설명 요인이 된다는 점을 발견했다. 이러한 발견은 리뷰 품질을 약화시키지 않으면서 효율성을 개선하는 AI 지원 코드 리뷰 프로세스 설계를 위한 경험적 지침을 제공한다.

강화 학습(RL)은 복잡한 추론 과제에서 대규모 언어 모델(LLM)의 성능을 향상시키는 데 핵심적인 역할을 하게 되었지만, RL 후속 학습은 그보다 선행되는 사전 학습과 분리된 상태로 주로 연구되고 있다. 그 결과, 두 가지 기본적인 질문이 남아 있다. (1) 사전 학습의 선택(모델 크기, 데이터)이 RL 컴퓨팅의 수익률을 어떻게 결정하는가, (2) RL이 실제로 모델에 무엇을 하는가? 이러한 질문들은 표준 LLM 환경에서 연구하기 어렵다. 사전 학습 코퍼스가 방대하고 통제되지 않아 행동을 사전 학습과 RL 중 어디에 귀속시켜야 할지 파악하기 어렵고, 두 단계에 걸친 체계적인 컴퓨팅 스윕(compute sweep)은 엄청난 비용이 들기 때문이다. 이러한 문제를 해결하기 위해, 우리는 체스를 사전 학습부터 후속 학습까지의 전체 파이프라인을 통해 추론을 연구하기 위한 통제된 테스트베드로 사용한다. 우리는 표준 LLM 훈련 파이프라인을 따라, 인간의 체스 기보로 5M에서 1B 파라미터 크기의 언어 모델을 사전 학습하고, 합성 추론 궤적(synthetic reasoning traces)으로 지도 미세 조정(SFT)한 후, 검증 가능한 보상이 있는 체스 퍼즐에 대해 RL을 실행한다. 이 프레임워크를 사용하여, 우리는 주어진 RL 컴퓨팅 수준에서 RL 이후의 성능이 사전 학습 손실(pre-training loss)로부터 잘 예측되며, RL 보상 곡선의 기울기가 사전 학습 토큰 수에 따라 거의 선형적으로 개선된다는 것을 발견했다. 스케일링 외에도, RL이 단순히 SFT 정책을 강화하는 것이 아님을 발견했다. 쉬운 퍼즐에서는 SFT 정책이 이미 선호했던 올바른 수를 증폭시키는 반면, 어려운 퍼즐에서는 SFT 하에서는 거의 존재하지 않았던 올바른 수를 표면화(surface)한다. 또한 수학 도메인 텍스트로 1B 언어 모델을 훈련시켜 체스 이외의 분야로도 우리의 발견이 전이되는지 추가로 테스트했으며, 동일한 예측 패턴이 나타났다. 즉, 더 오래 사전 학습된 체크포인트가 더 높은 RL 이후 성능에 도달하고 RL에서 더 빠르게 개선되었다. 요약하면, 우리는 사전 학습과 RL 간의 인터페이스에 대한 정량적 설명과 사전 학습부터 후속 학습까지의 전체 파이프라인에서 추론 과학을 연구하기 위한 통제된 테스트베드를 제공한다.

본 보고서에서는 완전한 보컬 창법으로 고음질의 음악성 높은 노래를 생성할 수 있는 강력한 음악 생성 모델인 Qwen-Music을 소개합니다. Qwen-Music은 텍스트 설명, 가사 및 음악적 속성으로부터 완전히 새로운 노래를 창작하는 텍스트-음악 생성(Text to Music Generation)과 기존 노래를 다양한 스타일과 보컬 특성으로 재해석하는 커버곡 생성(Cover Song Generation)이라는 두 가지 핵심 작업을 지원합니다. 아키텍처 측면에서 Qwen-Music은 Qwen-Music-Tokenizer, Qwen-Music-LLM 및 Qwen-Music-Render라는 세 가지 핵심 구성 요소를 통합합니다. Qwen-Music-Tokenizer는 오디오를 25Hz 단일 코드북 스트림의 음악 의미 토큰(Music Semantic Tokens)으로 압축하여 LLM 예측을 위한 의미 및 멜로디 정보를 보존합니다. 이러한 토큰을 기반으로 Qwen-Music-LLM은 자기회귀적 음악 의미 모델링을 수행하며, 핵심 혁신은 전체 노래 생성 전에 멜로디를 계획하는 멜로디 토큰 기반 사고 사슬(Melody-CoT) 메커니즘으로, 창의성, 음악성, 구조적 일관성 및 참조 오디오 기반 멜로디 복제를 개선합니다. 이산적인 의미 토큰의 충실도 한계를 극복하기 위해 Qwen-Music-Render는 생성적 스테레오 렌더링을 수행하여 음향 세부 사항을 풍부하게 하고 고충실도 스테레오 파형을 생성합니다. 마지막으로, 수백 개의 언어를 포함하는 500만 시간 이상의 다국어 음악 데이터로 Qwen-Music-LLM을 학습시킵니다. 먼저 품질 인식 사전 학습 커리큘럼(quality-aware pre-training curriculum)을 적용한 후, 점진적 사후 학습(progressive post-training)을 통해 지도 초기화(supervised initialization), 오프라인 DPO(offline DPO), 온라인 GSPO(online GSPO)를 순차적으로 수행하여 음악성과 명령 수행 능력을 더욱 향상시킵니다. 600개의 중국어 및 영어 프롬프트에 대해 Qwen-Music은 16개 객관적 음악성 및 오디오 품질 지표 중 13개에서 최첨단 결과를 달성했습니다. 전문 평가자들 또한 주요 독점 시스템보다 Qwen-Music을 선호했습니다. 커버곡 생성의 경우, Qwen-Music은 주요 독점 시스템보다 참조 멜로디를 더 정확하게 보존합니다.

모델-하네스 공진화 하에서 하네스는 단순한 추론 시 스캐폴드가 아니라, 실행 추적이 미래의 기반 모델을 형성할 수 있는 데이터 생성 구성 요소입니다. 이는 하네스 인 더 루프 학습, 즉 즉각적인 에이전트 성능과 미래 모델 훈련에 사용되는 추적의 품질 모두를 위해 하네스를 최적화하는 접근법을 동기부여합니다. 그러나 공급자가 구축한 스캐폴드를 지속적으로 업데이트하는 것은 비용이 많이 들고 노동 집약적입니다. 따라서 본 연구에서는 사용자가 구축한 하네스를 작업별 방식으로 최적화하는 것이 계산적으로 가벼우면서도 적은 수의 업데이트 반복만으로 실행 추적 품질을 개선할 수 있는지 조사합니다. 이를 위해 재귀적 하네스 자기 개선(RHI)을 도입합니다. RHI는 하네스를 에이전트 루프의 프롬프트 수준 사양으로 표현하고, 자체 수정 이력에 대한 쌍별 피드백을 사용하여 이를 반복적으로 개선합니다. 정량 금융, 로봇 공학, 약학에 걸친 30개의 합성 머신러닝 연구 작업에서 몇 번의 RHI 반복만으로 낮은 추론 노력 에이전트의 성능 상한선을 실질적으로 높일 수 있었으며, 해당 최대 추론 노력 설정을 초과하면서 추론 비용을 최대 60%까지 줄였습니다. 이러한 이점은 주로 더 긴 추론 추적보다는 더 효과적인 에이전트 간 정보 흐름을 통한 개선된 작업별 컨텍스트 관리에서 비롯됨을 확인했습니다. 마지막으로, 우리는 이 동작을 RHI의 암시적 최적화 목표에 대한 정보 이론적 가설로 공식화하며, 모델-하네스 공진화 패러다임 내에서 지속적 학습을 위한 실용적인 알고리즘으로 RHI를 제안합니다.

Muon은 대규모 사전 학습에서 AdamW와 경쟁력을 보이지만, 강화학습(RL) 사후 학습에서의 가치는 아직 명확하지 않습니다. 우리는 Qwen2.5-0.5B-Instruct를 사용한 ALFWorld에서 일치된 단일 시드 비교를 통해 희소 보상 에이전트 RL에 바닐라 Muon을 적용하여 AdamW와 대조했습니다. Group-in-Group Policy Optimization (GiGPO)에서 Muon을 은닉 가중치 행렬에만 적용하면 최종 윈도우 검증 성공률이 0.290에서 0.546으로 (+88%) 상승했습니다. 반면 고율 AdamW 제어군은 업데이트 이후 성공률이 전혀 유지되지 않았습니다. 이러한 효과는 이점 추정기와 학습률에 따라 달라집니다. 3e-5에서 Muon은 GRPO의 성공률을 0.161에서 0.268로 향상시킨 반면, GraphGPO의 후기 윈도우 격차는 포화점 근처에서 좁혀집니다. 1e-5에서 GraphGPO Muon은 0.901에 도달하고 정규화된 검증 AUC를 0.399에서 0.556으로 높였으며, 성공률 0.5와 0.75에 각각 30회 및 60회 더 일찍 도달했습니다. 이러한 탐색적 결과는 Muon이 에이전트 RL에 이점을 제공할 수 있음을 보여주며, 정책 최적화기, 이점 추정기, 학습률을 함께 연구할 동기를 부여합니다. 다중 시드 및 교차 작업 검증은 여전히 과제로 남아 있습니다.

S1-Omni는 과학적 이해, 예측 및 생성을 위한 통합 멀티모달 추론 모델입니다. 과학을 위한 AI(AI4S)는 도메인 특화 모델, 도구 보강 LLM, 과학 언어 모델을 통해 크게 발전해 왔습니다. 그러나 모델의 기능은 여전히 매우 파편화되어 있어 이질적 데이터, 과학 법칙 및 전문가 지식의 공동 모델링에 한계가 있습니다. S1-Omni는 이러한 격차를 해소하기 위해 이러한 기능들을 하나의 일관된 과학 추론 모델로 통합합니다. S1-Omni의 아키텍처는 과학 데이터의 통합 표현, 자연 세계 지식 정렬, 도메인 특화 태스크를 위한 디코딩이라는 세 가지 핵심 구성 요소를 기반으로 구축되었습니다. 첫째, S1-Omni는 자연어 명령과 CIF, SMILES, 단백질 서열, 스펙트럼, 과학 이미지 등의 과학 객체를 공유 표현 공간으로 매핑합니다. 둘째, 데이터 구축 및 학습에 과학 법칙과 전문가 지식을 통합하여 모델이 과학적 증거를 바탕으로 추론할 수 있도록 합니다. 셋째, 물성 예측, 스펙트럼-분자 생성, 단백질 부위 및 구조 예측, 과학 이미지 생성 및 편집 등 광범위한 응용을 지원하기 위해 태스크별 디코딩을 수행합니다. S1-Omni는 200개의 과학 태스크를 포괄하고 수백만 개의 추론 샘플을 포함하는 S1-Omni-코퍼스로 학습되었으며, 60개 이상의 과학 벤치마크에서 평가되었습니다. 대부분의 벤치마크에서 GPT-5.5 및 Gemini-3.1-Pro를 능가하며, 여러 벤치마크에서는 도메인 특화 모델과 동등하거나 더 나은 성능을 보입니다. 전반적으로 S1-Omni는 통합 과학 모델링을 위한 실용적인 경로를 제공합니다.

검증 가능한 보상이 있는 강화 학습(RLVR)은 일반적으로 어드밴티지 셰이핑에 엔트로피를 사용합니다. 그러나 엔트로피는 유용한 불확실성과 해로운 혼란을 구분하지 못하여 정확도 신호로서의 효과가 제한적입니다. 우리는 대조 정책 최적화(CPO)를 제안합니다. 이 방법은 참조 기반 생성 분포와 기본 생성 분포 간의 토큰 수준 대조적 불일치를 활용하여 정확도 인지 어드밴티지 셰이핑을 수행합니다. 이론적 및 경험적 결과 모두 이러한 불일치가 토큰 수준의 정확성을 신뢰성 있게 나타냄을 보여줍니다. 또한 온-정책 증류가 CPO의 특수한 경우임을 보여줍니다. 이 경우 사후 분포는 외부 교사 모델에 의해 구현됩니다. CPO는 또한 제로 어드밴티지 문제를 해결합니다. 인-도메인 및 아웃-오브-도메인 벤치마크 실험에서 CPO가 엔트로피 기반 RLVR 방법보다 훨씬 뛰어난 성능을 보이면서 강력한 일반화를 유지함을 입증합니다. 추가 분석에 따르면 올바른 응답과 잘못된 응답은 각각 자연스럽게 탐험과 활용을 지원하며, 이 둘의 균형을 맞추는 것이 최고의 성능을 가져옵니다.

비디오 생성 모델은 일반적으로 3D 변분 오토인코더(3D-VAE)로 학습된 잠재 공간에 의존한다. 그러나 기존의 3D-VAE는 주로 픽셀 수준 재구성에 최적화되어 있어, 잠재 변수가 포착하는 의미적 및 시공간적 구조에 한계가 있다. 한편 V-JEPA 2 및 VideoMAEv2와 같은 비디오 기반 모델(VFM)은 강력한 비디오 이해 능력을 보여주지만, 이들의 고정된 표현을 간결하고 재구성 가능하며 생성에 적합한 비디오 잠재 변수로 변환할 수 있는지는 아직 충분히 탐구되지 않았다. 본 연구에서는 이러한 질문에 답하기 위해 VideoRAE를 제안한다. VideoRAE는 고정된 비디오 기반 인코더로부터 다중 스케일 계층적 특징을 활용하고, 이를 경량 1D 자기 주의 투사기로 압축하는 표현 오토인코더이다. VideoRAE는 다중 코드북 고차원 양자화를 통해 확산 트랜스포머(DiT)용 연속 잠재 변수와 자기회귀(AR) 모델용 이산 토큰을 모두 지원한다. 디코딩 과정에서는 고정된 VFM 교사와의 지역-전역 표현 정렬 목표를 통해 의미 보존을 개선하고, KL 정규화 없이도 학습이 가능하다. 실험 결과, VideoRAE는 연속 및 이산 영역 모두에서 강력한 재구성 성능을 달성한다. UCF-101 데이터셋에서 AR 및 DiT 생성기를 사용할 때 각각 40과 93의 최첨단 클래스-비디오 gFVD를 기록했으며, 경쟁 오토인코더 기준 모델 대비 약 5배 빠른 수렴 속도를 보였다. 2B 규모의 제어된 텍스트-비디오 연구에서 LTX-VAE를 VideoRAE로 대체했을 때, 유사한 설정에서 더 빠른 수렴을 확인했다. 이러한 결과는 고정된 VFM 표현이 다양하고 생성에 적합한 비디오 잠재 변수임을 입증한다. 모델과 코드는 https://zhxie0117.github.io/VideoRAE에서 공개될 예정이다.

강력한 데이터 이해 및 의사 결정 능력에도 불구하고, 자율 데이터 사이언스 에이전트는 여전히 값비싼 계산을 수반하는 시행착오 기반 워크플로에 크게 의존합니다. 이러한 병목 현상은 실제 실행 전에 데이터 사이언스 연산의 효과를 예측할 수 있는 모델의 필요성을 제기합니다. 본 논문에서는 데이터 사이언스 실행 환경을 모델링하여 현재 워크플로 상태와 후보 연산에 따른 환경 상태 전이를 예측하는 데이터 사이언스 세계 모델(Data Science World Model) 개념을 소개합니다. 또한 구조화된 상태 구축, 비용 인식 라우팅, 경량 실제 실행 및 고비용 연산을 위한 LLM 기반 시뮬레이터를 결합한 실용적 프레임워크인 DSWorld를 제안합니다. 학습을 지원하기 위해 8K 규모의 전이 궤적 데이터셋을 구축하고, 전이 예측 개선을 위한 오류 인식 강화학습 전략인 반성적 세계 모델 최적화(Reflective World Model Optimization)를 도입합니다. 실험 결과, DSWorld는 경쟁력 있는 성능을 유지하면서 RL 기반 에이전트 학습을 약 14배, 탐색 기반 추론을 약 3~6배 가속화하며, 전이 예측 과제에서 가장 강력한 LLM 기준선보다 35.6% 높은 성능을 보여줍니다. 코드는 https://anonymous.4open.science/r/DSWorld 에서 확인할 수 있습니다.

훈련 없는 인컨텍스트 분할은 단일 주석 참조 이미지로부터 추론 시점에 새로운 객체 범주를 도입할 수 있게 하여, 클래스 점진 학습의 재훈련 및 메모리 오버헤드를 제거합니다. 최근 접근법은 의미론적 대응을 위한 비전 기반 모델과 SAM과 같은 프롬프트 가능 분할 네트워크를 결합하여 이를 달성합니다. 그러나 그 성능은 교차 이미지 유사도 맵의 품질에 근본적으로 제한됩니다. 참조 이미지와 질의 이미지 간의 공유된 맥락적 배경이 비대상 영역에서 유사도를 체계적으로 상승시켜 프롬프트 위치 지정을 저하시킵니다. 본 논문에서는 이러한 허위 맥락적 대응을 명시적으로 억제하는 훈련 없는 프레임워크인 REBASE를 제시합니다. 우리 방법은 참조 이미지로부터 저차원 배경 특징 부분공간을 식별하고, 참조 및 질의 특징을 닫힌 형태로 그 직교 보수에 투영하여 더 깨끗한 의미론적 매칭을 얻습니다. 그런 다음 유사도 가중 최대점 샘플링을 사용하여 긍정 점 프롬프트를 생성하고, 정제된 밀집 유사도 사전을 함께 사용합니다. 어떠한 훈련이나 매개변수 업데이트 없이도, 우리 접근법은 PACO-Part, FSS-1000, 그리고 ISIC2018과 같은 교차 도메인 데이터셋에서 훈련 없는 방법들 중 새로운 최첨단 성능을 달성하여, 명시적 배경 부분공간 제거가 원샷 위치 지정에 매우 효과적인 원리임을 입증합니다.

본 논문에서는 오디오, 이미지, 장시간 동영상을 공동으로 이해하고 추론할 수 있는 완전히 공개된 최첨단 시청각 대규모 언어 모델(AV-LLM)인 Audio-Visual Flamingo(AV-Flamingo)를 소개합니다. 주로 짧은 클립에 초점을 맞춘 기존 AV-LLM과 달리, AV-Flamingo는 길고 복잡한 실제(시청각) 동영상의 이해와 추론을 위해 설계되었습니다. 이를 위해 세 가지 주요 기여를 합니다: (i) 시간적, 구성적, 교차 모달 시청각 추론을 강조하도록 설계된 약 700만 개의 캡션 및 질문-답변 훈련 인스턴스를 포함하는 대규모 실제 동영상 컬렉션인 Audio-Visual-Skills, (ii) 단거리 인식에서 장기 다중 이벤트 추론으로 모델을 점진적으로 훈련시키는 새로운 3단계 커리큘럼, (iii) 긴 시청각 스트림에서 중간 추론 단계를 타임스탬프에 명시적으로 연결하여 시간적 정렬과 해석 가능성을 향상시키는 추론 프레임워크인 Temporal Audio-Visual Interleaved Chain-of-Thought입니다. 15개 이상의 시청각, 옴니모달, 오디오, 비전 벤치마크에 걸친 광범위한 실험 결과, AV-Flamingo는 유사한 크기의 오픈 모델을 확연한 차이로 능가하며, 특히 길고 복잡한 실제 시청각 이해 및 추론 과제에서 훨씬 더 큰 오픈 가중치 모델 및 폐쇄 모델과도 높은 경쟁력을 유지하고 일부 경우에는 이를 능가함을 보여줍니다. 벤치마크 성능을 넘어, AV-Flamingo는 강력한 실제 유용성을 입증하고 보지 못한 작업으로도 잘 전이되어 견고성과 일반화 능력을 부각시킵니다.

검증 가능한 보상으로부터의 강화 학습(예: GRPO)은 오늘날 추론 모델의 엔진이지만, 최종 답변만 채점한다. 어려운 문제에서는 이로 인해 모델이 더 잘 생각하기보다 더 많이 쓰도록 훈련되는데, 그 이유는 과정 자체가 채점되지 않고 좋은 사고에 대한 레이블이 존재하지 않기 때문이다. 우리는 두 경쟁 모델이 서로의 평가자가 되도록 하는 Agon을 소개한다. 두 모델 모두 동일한 문제를 시도한다. 역할을 번갈아 가며, 하나는 해결책을 초안하고 다른 하나는 문제를 풀면서 그 초안을 읽으며, 각 모델은 상대방을 능가하는 해결을 했을 때 보상을 받는다. 승리하기 위해 모델은 자신의 작업을 본 경쟁자보다 더 나은 추론을 해야 하므로, 추론은 과정 레이블이나 보상 모델 없이 훈련 중에 암묵적으로 평가된다. 두 모델 모두 최적화되므로 각 모델은 점차 강해지는 경쟁자와 마주하게 되며, 이는 단일 모델 강화 학습으로는 제공할 수 없는 것이다. 두 모델은 단지 비교 가능한 수준의 강점과 행동적 차이만 있으면 된다. 추론 시에는 훈련할 때처럼 쌍이 배치되는데, 한 모델이 초안을 작성하고 다른 모델이 초안을 읽은 후 답변하는 2단계 계단식 구조이다. Qwen3를 사용한 DeepMath의 난이도 분할에서 이 방법은 GRPO의 pass@1을 두 배로 증가시켰으며, 이는 동일한 베이스에 대해 훈련되지 않은 에이전트 혼합의 향상보다 약 8배 큰 것이다. 이러한 순서는 경쟁 프로그래밍 코드와 다양한 모델 계열(Qwen3.5, Gemma 4)에서도 재현된다. 현재로서는 모델들이 텍스트로 소통한다. 다음 단계는 모델들이 잠재 공간에서 함께 추론하도록 하는 것이다.

자율 협상 에이전트가 보험 및 조달과 같은 고위험 분야에서 점점 더 많이 배치되고 있다. 암호화 기술은 명시적으로 공개된 제약 조건 값을 보호하지만, 행동적 프라이버시 유출이라는 더 미묘한 위협은 해결하지 못한다. 행동적 프라이버시 유출이란 적대자가 양보 궤적, 타이밍, 수렴 패턴과 같은 관찰 가능한 협상 동역학으로부터 개인의 비공개 제약 조건을 추론하는 것을 의미한다. 본 논문은 다중 라운드 협상 프로토콜에서의 행동적 차분 프라이버시를 연구한다. 우리는 (ε, δ)-차분 프라이버시, 제안 수열의 거의 확실한 수렴(상대방의 한계 가치가 허용할 때 합의 도달), 그리고 높은 협상 효용을 동시에 보장하는 적응형 확률적 협상 정책을 설계한다. 3,000건의 합성 양자 협상 실험에서, 제안 메커니즘은 적대적 추론 정확도를 43-50% 감소시키면서도 90% 이상의 협상 성공률과 효용을 유지하여, 강력한 프라이버시 보장이 성능 저하 없이 달성 가능함을 입증한다.

보안 에이전트 평가는 일반적으로 관대한 추론 예산 하에서 최대 공격 능력을 측정하며, 취약점 발견, 익스플로잇 개발, 침투 테스트, CTF 완료를 중점적으로 평가합니다. 이러한 측정은 유용하지만 불완전합니다. 실제 운영 보안에서는 모든 추론 단계, 도구 호출, 텔레메트리 쿼리, 인리치먼트 요청이 예산을 소모하기 때문입니다. 우리는 이 비용-성공 관점을 통해 공격적 Cybench 과제와 방어적 Splunk BOTS v1 조사 과제에서 언어 모델 보안 에이전트를 평가합니다. 최상의 성공 사례만 보고하는 대신, 고정된 비용 수준에서 모델을 비교하고 추론 비용과 도구 비용으로 성능을 분해합니다. 우리의 결과는 레드팀과 블루팀 과제에서 뚜렷한 확장 체계를 보여줍니다. 공격적 CTF 성능은 추가 테스트 시간 연산으로 향상되며, 확장된 오픈웨이트 모델은 비용 경쟁력을 유지하면서 최첨단 독점 시스템에 근접할 수 있습니다. 방어적 SOC 조사는 같은 방식으로 확장되지 않습니다. 성공은 순수한 추론 예산보다는 체계적인 도구 사용, 텔레메트리 탐색, 선택적 인리치먼트에 더 크게 의존합니다. 우리는 보안 에이전트 벤치마크가 과제 성공과 함께 경제적 효율성과 운영 적합성을 측정해야 한다고 주장합니다. 비용 인식적이고 SOC에 특화된 평가는 현재 실질적으로 유용한 모델이 무엇이며 방어적 에이전트가 여전히 개선해야 할 부분이 어디인지에 대한 더 명확한 그림을 제공합니다. 우리는 결과와 함께 대화형 웹사이트(https://evals.frontier.security)를 제공합니다.

비전-언어-행동(VLA) 모델은 시각적 관찰과 언어 명령으로부터 로봇의 행동을 예측한다. 이러한 행동은 로봇 자체의 3차원 좌표 프레임에서 정의되지만, 대부분의 VLA는 카메라 프레임에서 장면을 관찰하므로, 장면이 관찰되는 위치와 행동이 정의되는 위치 사이에 프레임 불일치가 발생한다. 이러한 불일치는 고정된 시점 아래에서는 정책이 단일 관찰-행동 매핑을 기억할 수 있어 문제가 없지만, 대규모 데이터셋이 다양한 카메라 설정에 걸친 시연을 집계하고 정책이 이 매핑을 여러 시점에 걸쳐 일반화해야 할 때 더욱 어려워진다. 우리는 이러한 불일치를 로봇 중심 포인트맵(robot-centric pointmaps)으로 해결한다. 이는 픽셀에 로봇 프레임 상의 장면 점에 대한 3차원 좌표를 저장한 이미지이다. 포인트맵은 로봇 프레임의 3차원 기하학 정보를 제공하면서도 사전 훈련된 2D VLA가 기대하는 밀집된 H × W 격자 구조를 유지하므로, 최소한의 구조적 변경만으로 기존 VLA에 통합될 수 있다. RoboCasa에서 포인트맵은 pi0.5와 SmolVLA 모두를 개선하며, 대표적인 카메라 시점 및 3D 인식 기준선보다 우수한 성능을 보인다. 실제 로봇 실험에서는, 카메라를 훈련 중에 보지 못한 위치로 이동시켰을 때 포인트맵이 RGB 전용 정책보다 더 큰 이점을 나타냈다.

본 논문에서는 SVR-R1(Self-Verified Reasoner)을 소개한다. 이는 모델 자체의 검증을 다중 모달 추론을 위한 학습 신호로 전환하는 다중 턴 강화 학습(RL) 프레임워크이다. 각 질의에 대해 모델은 동일한 가중치를 사용하여 답변을 제안하고 이진 자기 판정(예/아니오)을 내린다. '아니오' 판정은 재검토 기회를 제공하고, '예' 판정 혹은 턴 제한 도달 시 결과 기반 보상을 계산하기 위한 최종 출력이 생성된다. SVR-R1은 GRPO와 비동기 다중 턴 롤아웃 프레임워크로 구현되며, 외부 감독이나 보조 비평가를 필요로 하지 않는다. 시각-언어 추론 벤치마크에서 SVR-R1을 평가한 결과, 강력한 표준 GRPO 기준선 대비 큰 폭의 정확도 향상을 보였다. 훈련 동학을 분석한 결과, 검증에 대한 의존도가 감소하고(더 적은 검증 턴) 오히려 테스트 정확도가 높아지는 경향이 나타났다. 이는 정책이 자기 교정을 내재화하고 본 프레임워크를 통해 가장 자신 있는 답변을 선택함에 따라 검증과 생성 간의 격차가 좁혀짐을 시사한다. SVR-R1은 VLM(시각-언어 모델)을 위한 추론 시간 자기 개선과 RL 훈련이라는 덜 탐구된 교차점을 연결하며, 다중 모달 추론을 부트스트래핑하는 간단하면서도 효과적인 레시피를 제공한다. 향후 VLM 연구 촉진을 위해 SVR-R1을 오픈소스로 공개할 예정이다.

토카막 핵융합 장치용 플라즈마 진단 모델은 거의 보편적으로 깨끗하고 완전한 센서 데이터를 기반으로 평가된다. 그러나 실제로 핵융합 진단 장치는 정기적으로 고장난다. 데이터 수집 시스템이 늦게 시작되거나, 개별 센서가 죽거나, 신호 손실이 플라즈마 방전 파괴(disruption)가 임박한 시점에 정확히 집중된다. 본 연구는 11,573개의 MAST 샷으로 구성된 TokaMark 데이터셋을 사용하여 플라즈마 진단 머신러닝에 대한 최초의 체계적 강건성 벤치마크를 제시한다. XGBoost, LSTM, Transformer, 그리고 TokaMark CNN 기준 모델을 여섯 가지 물리 기반 고장 시나리오와 세 가지 대체(imputation) 전략에 걸쳐 평가한다. 표준화된 교차 아키텍처 비교를 위해 강건성 점수(RS)를 도입한다. 핵심 발견은 방전 파괴 근접 센서 고장(최종 윈도우 시간 단계에서 주입된 오염)이 시퀀스 모델 성능을 급락시키는 반면(LSTM +212% NRMSE), 통계적 특징 모델은 상대적으로 안정적(XGBoost +37%)이라는 점이다. 순방향 채움(forward-fill) 대체는 시퀀스 모델의 무작위 드롭아웃으로 인한 성능 저하를 거의 제거하지만(LSTM +57%에서 ~0%), 윈도우 끝부분이 오염된 경우에는 거의 도움이 되지 않는다. 실제 방전 파괴 타임스탬프를 사용한 샷 수준의 경보 평가 결과, 근접 센서 고장 시 LSTM 경보 탐지가 TPR=0.00으로 붕괴되는 반면, 평균 채움(mean-fill) 대체가 이를 TPR=1.00으로 회복시켜 NRMSE에서 관찰된 패턴과 반대되는 결과를 보였다. 플라즈마 전류는 모든 아키텍처에서 가장 중요한 단일 진단 변수로 나타났다(제거 시 +73% ~ +140%). 코드, 데이터 및 학습된 체크포인트는 https://github.com/Neerav-Gupta/tokamark-robustness에서 확인할 수 있다.