번역이 포함된 일일 선별된 AI 연구 논문
심층 연구 에이전트는 여러 제약 조건을 동시에 충족하는 답변을 찾아야 한다. 이러한 답변을 발견하는 데는 많은 비용이 드는 반면, 후보 답변을 검증하는 것은 개별 제약 조건별로 분해하여 다루기 쉬운 확인 작업으로 수행할 수 있는 경우가 많다. 이러한 발견-검증 비대칭성은 연구 에이전트가 단순히 더 오래 검색하는 것을 넘어, 중간 결과를 검증하고 부분적으로 검증된 상태를 활용하여 후속 개선을 안내함으로써 현재 답변을 재귀적으로 개선해야 함을 시사한다. 우리는 재귀적 자기 개선(RSI) 심층 연구 에이전트 제품군인 AREX를 소개한다. AREX는 증거를 수집하고 잠정적 답변을 구성하는 내부 연구 루프와, 답변을 제약 조건별로 감사하고 확인되지 않은 주장을 식별하며 표적 후속 연구를 수행하는 외부 자기 개선 루프를 번갈아 실행한다. 장기간에 걸친 RSI를 유지하기 위해 AREX는 외부 모델에 의존하지 않고, 증가하는 상호작용 이력을 검증된 증거와 해결되지 않은 제약 조건을 보존하는 간결한 개선 상태로 압축하는 자율적 컨텍스트 업데이트 도구를 학습한다. 우리는 에이전트 중간 훈련과 장기 지평 강화 학습을 통해 검증된 합성 과제와 고품질 궤적을 사용하여 AREX를 훈련한다. 장기 학습 중 드문 최종 보상 문제를 완화하기 위해 결정적 증거가 확보되거나 잘못된 연구 방향이 수정되는 핵심 단계를 강조한다. 우리는 조밀한 4B 모델과 122B-A10B 전문가 혼합 모델을 구현한다. BrowseComp, WideSearch, DeepSearchQA, Humanity's Last Exam(HLE) 및 기타 추론 및 도구 사용 벤치마크에서 AREX는 유사한 규모의 기준 모델을 상당히 능가하며, 실질적으로 더 많은 활성화 파라미터를 사용하는 모델과도 경쟁력을 유지한다.
체화된 시각 추적(EVT)은 모바일 에이전트가 탑재된 카메라만을 이용하여 자연어로 기술된 특정 대상을 지속적으로 따라야 하는 과제이다. 최근의 시각-언어-행동(VLA) 정책은 대상 식별과 궤적 계획을 통합하지만, 이들의 사고 사슬(CoT) 추론은 종종 감독이 어렵고 명시적인 이미지 공간 검출과의 정렬이 약한 추상적인 공간 잠재 변수에서 작동한다. 이를 해결하기 위해 본 논문은 ReferTrack을 제안한다. ReferTrack은 단일 전방 카메라를 사용하여 EVT를 접지하는 지시-후-추적 패러다임으로, 먼저 인덱싱된 경계 상자 집합에서 대상을 선택한 후, 이 이미지 기반 결정에 조건부로 추적 웨이포인트를 디코딩한다. 시간에 따른 대상 움직임 신호를 보존하기 위해 ReferTrack은 이전에 선택된 경계 상자들의 슬라이딩 윈도우 큐를 유지하며, 시간-시점-경계상자 표시자(TVBI) 토큰을 통해 이들의 기하학적 특징을 시각적 기록에 주입한다. 또한 맞춤형 Refer-QA 데이터셋에 대한 공동 훈련을 통해 대상 식별을 더욱 강화한다. EVT-Bench에서 ReferTrack은 단일 대상, 방해 대상, 모호성 추적 분할에서 각각 89.4%, 73.3%, 74.1%의 성공률로 최첨단 단일 시점 성능을 달성하며, 식별이 중요한 작업에서 여러 다중 카메라 기준선과 일치하거나 능가한다. 마지막으로, 보행 로봇과 휴머노이드 로봇에 대한 실제 배치를 통해 강력한 시뮬레이션-실제 전이 능력을 검증한다. 코드는 https://github.com/MedlarTea/referTrack에서 확인할 수 있다.
대규모 언어 모델은 초중등 교육(K-12)에서 점점 더 많이 사용되고 있지만, 기존 벤치마크는 주로 시험 문제 응답 능력을 평가할 뿐 교과 지식이 어떻게 구조화되고 시각적으로 제시되는지에 대한 이해는 평가하지 않습니다. 우리는 이러한 능력을 **커리큘럼 인지(curriculum cognition)** 라고 부릅니다. 이는 전제 조건 체인(prerequisite chains), 개념 분류 체계(concept taxonomies), 실험-개념 연결(experiment-concept links), 교수 순서(pedagogical sequencing), 그리고 시각적 접지(visual grounding)를 포괄합니다. 우리는 중국 인민교육출판사(PEP) 공식 교과서(초등, 중등, 고등학교 수학, 물리, 화학, 생물)에서 추출한 커리큘럼 정렬 지식 그래프인 **K12-KGraph**를 소개합니다. 이 그래프는 9개의 노드 유형과 커리큘럼 구조 및 시각적 접지를 포괄하는 14개의 관계 유형을 포함합니다. 이 그래프로부터 우리는 다섯 가지 작업군( Ground, Prereq, Neighbor, Evidence, Locate)으로 구성된 23,640개의 객관식 문항 벤치마크인 **K12-Bench**를 도출합니다. 또한 그래프 기반 지도 미세 조정을 위한 7,335개 샘플로 구성된 **K12-Train** 코퍼스를 구축했으며, 여기에는 2,267개의 텍스트 전용 QA 쌍과 5,068개의 멀티모달 VQA 쌍이 포함됩니다. K12-Bench에서 Gemini-3-Flash는 정확 일치(exact match) 57%에 불과했고, Gemma-4-31B-IT는 46%를 기록했으며, Prereq와 Neighbor 작업이 가장 어려운 것으로 나타났습니다. 우리의 훈련 실험은 도메인 특화 지도 학습이 이러한 성능 격차를 줄일 수 있음을 보여줍니다. 2,300개 샘플의 동일 예산 조건에서 K12-Train-Text는 GaokaoBench와 EduEval에서 8개의 주요 명령어 튜닝 코퍼스의 동일 크기 부분집합보다 일관되게 우수한 성능을 보였습니다. 시각-언어 모델의 경우, K12-Train-Full은 전체 DataFlow 및 WizardLM 베이스라인보다 적은 샘플을 사용했음에도 불구하고 모든 비교 훈련 구성 중 Gaokao-MM, MDK12-medium, K12Vista에서 최고의 전체 성능을 달성했습니다. 또한 텍스트 전용 및 멀티모달 전용 변형을 모두 능가하여 텍스트 및 시각적 지도 학습이 상호 보완적임을 보여줍니다. 우리는 그래프, 벤치마크, 훈련 데이터 및 완전한 구축 파이프라인을 공개합니다.
온-정책 자기 증류(OPSD)는 온-정책 증류(OPD)에서 요구되는 외부 교사를 제거한다는 점에서 유망하지만, 교사가 학생보다 더 강력한 학습 신호를 제공하도록 보장하기 위해 여전히 교사와 학생 간의 비대칭 정보가 필요하다. 기존 방법들은 특권 답변 또는 시각적 증거를 통해 이러한 비대칭성을 창출한다. 본 논문에서는 이 두 요소를 모두 제거하여, 순전히 입력 조건화에 의해 구동되는 더 간단한 형태의 OPSD가 가능한지 질문한다. 이를 위해 우리는 시각적 대조 자기 증류(VCSD)를 제안하며, 이는 이미지 콘텐츠 제거를 온-정책 자기 증류 신호로 변환한다. 각 학생이 생성한 응답 프리픽스에서, EMA 교사는 동일한 프롬프트와 프리픽스 하에서 두 가지 다음 토큰 분포를 생성한다. 하나는 원본 이미지에 조건화된 분포이고, 다른 하나는 콘텐츠가 삭제된 제어 조건에 조건화된 분포이다. 이들의 토큰별 로그 확률 차이는 인스턴스 수준의 시각적 콘텐츠에 의해 우도가 구체적으로 증가된 후보들을 부각시킨다. 우리는 이 대비를 사용하여 교사의 원본 이미지 분포를 그 가능한 지지 영역 내에서 선명화하고, 결과적으로 얻은 전체 분포 목표를 학생에게 증류한다. ViRL39K 데이터셋을 사용한 결과, VCSD는 Qwen3-VL 및 Qwen3.5 모델 전반에 걸쳐 대응되는 OPSD보다 일관되게 우수한 성능을 보였다. 예를 들어, Qwen3-VL에서 2B는 62.27%에서 67.04%로, 4B는 71.30%에서 73.16%로, 8B는 72.51%에서 76.26%로 7개 벤치마크 종합 점수가 개선되었다. 또한 VCSD는 외부 교사, 특권 답변, 시각적 증거 신호, 추론 궤적 또는 추가적인 추론 시간 비용이 필요하지 않다.
공간 지능은 에이전트가 정적 의미 이해에서 물리적 세계와 상호작용하는 방향으로 나아가는 데 필수적이다. 많은 공간적 과제는 연속적인 시각적 장면에 기반하며, 이러한 장면에서 위치, 영역 및 경로는 정밀한 좌표나 불연속적인 텍스트 기호를 보고하는 것보다는 손가락으로 가리키거나 표시하거나 그림을 그리는 방식으로 더 자연스럽게 표현된다. 그러나 기존의 공간 추론 벤치마크는 일반적으로 좌표, 선택지 또는 텍스트를 요구하므로, 이미지 생성 모델에 대해 답변 인터페이스 불일치를 초래한다. 이는 텍스트 출력 VLM과 동일한 과제 의미론 하에서 이미지 생성 모델을 평가하기 어렵게 만든다. 특히 이미지 생성 모델이 픽셀 공간에서 직접 공간적 판단을 외부화할 수 있는 능력이 있음에도 불구하고 그러하다. 본 연구에서는 ProVisE(Protocolized Visual Evaluation)를 제안한다. 이는 벤치마크에 구애받지 않는 프레임워크로, 이미지 생성 모델로부터 프로토콜에 제약된 시각적 답변을 도출하고, 이를 원래 지표와 호환되는 구조화된 예측으로 파싱한다. ProVisE는 또한 새로운 벤치마크에 대해 과제별 프로토콜을 구축하고 검증하는 에이전틱 빌더(Agentic Builder)를 포함한다. 또한 SpatialGen-Bench를 소개하는데, 이는 14개의 공간적 하위 과제, 4가지 능력 수준, 다양한 답변 형식에 걸쳐 470개의 샘플로 구성된 엄선된 진단 벤치마크이다. 대표적인 텍스트 출력 VLM과 이미지 생성 모델을 통일된 설정에서 평가하고, 6개의 외부 공간 벤치마크에 대해 에이전틱 프로토콜 구축을 검증한다. 결과는 이미지 생성 모델이 공간적 답변을 픽셀 공간에서 직접 외부화할 수 있을 때 경쟁력이 있는 반면, 텍스트 출력 VLM은 구성적 공간 추론에서 명확한 우위를 유지한다는 것을 보여준다. 이러한 발견은 픽셀 공간 표현과 텍스트 기반 추론의 상호 보완적 강점을 드러내며, 이미지 생성 모델의 공간 인지 연구를 위한 지표 호환 테스트베드를 구축한다.
기존 에이전트 개발은 프롬프트 템플릿, 도구 스키마, 콜백 코드, 워크플로우 그래프로 분할되어 있다. 본 논문에서는 신뢰할 수 있는 AI 에이전트를 구축하기 위한 모델-불가지론적 Python 프레임워크인 NVIDIA 객체 지향 에이전트(NOOA)를 제시한다. NOOA는 더 간단한 접근 방식을 취한다. 즉, 에이전트는 Python 객체이다. 해당 객체의 메서드는 모델이 수행할 수 있는 액션이며, 필드는 상태, 독스트링은 프롬프트, 타입 어노테이션은 계약(contract)이다. 코드 본문이 "..."으로 구성된 메서드는 런타임에 LLM 기반 에이전트 루프에 의해 완료되는 반면, 일반적인 본문을 가진 메서드는 표준 결정론적 Python으로 유지된다. 이를 통해 개발자와 에이전트가 동일한 인터페이스를 공유하므로, 에이전트 동작은 다른 소프트웨어와 마찬가지로 테스트, 추적, 리팩터링 및 개선이 가능하다. 본 논문은 세 가지 기여를 한다. (1) 에이전트-As-A-Python-객체 프로그래밍 모델과 그 이면의 설계 원칙을 제시한다. Python에 기존 추상화가 존재하는 경우, 이를 직접 채택한다. 에이전트 특화 기능(컨텍스트, 이벤트, 상태 렌더링, 장기 메모리, 검증된 LLM 루프)은 간단한 Pythonic API를 통해 노출되어, 개발자와 에이전트 모두 하나의 친숙한 프로그래밍 모델을 공유한다. (2) NOOA가 최초로 단일 표면(surface)에 결합한 여섯 가지 모델 지향 개념을 식별한다: 타입화된 입출력, 라이브 객체에 대한 참조 전달(pass-by-reference), 코드로서의 액션, 프로그래밍 가능한 루프 엔지니어링, 명시적 객체 상태, 컨텍스트 및 이벤트를 위한 모델 호출 가능 하네스 API. 커뮤니티가 이미 이러한 개념 중 여러 가지(종종 실험적이거나 부분적인 기능으로)를 수렴하고 있음을 발견하고, 이를 비교하여 추가 채택을 장려한다. (3) 현재 모델들이 SWE-bench Verified, Terminal-Bench 2.0, ARC-AGI-3과 같은 에이전트 및 추론 벤치마크에서 이러한 인터페이스를 효과적으로 사용함을 입증한다.
스마트폰 카메라로 실제 장면을 촬영하여 화면에서 보았을 때, 표시된 이미지는 종종 원본 장면과 색상, 밝기, 대비에서 눈에 띄게 다르다. 이러한 차이는 현대 카메라와 디스플레이 모두에서 상당한 발전이 이루어졌음에도 지속된다. 주요 원인 중 하나는 대부분의 파이프라인이 고차원적인 촬영-디스플레이 과정을 카메라와 디스플레이의 두 단계로 각각 개별 보정한 후, 저차원 색상 변환을 통해 연결함으로써 정보 병목 현상과 불가피한 오류 누적을 초래하기 때문이다. 이러한 시스템적 문제를 해결하기 위해, 우리는 촬영된 이미지에 직접 작동하는 종단 간 학습 프레임워크인 Color Pass-Through를 제안한다. 핵심 통찰은 카메라와 디스플레이를 개별적으로 보정하는 대신 결합된 시스템으로 처리하는 것이다. 카메라와 디스플레이를 결합함으로써 두 가지 실용적 이점이 발생한다: (1) 종단 간 최적화를 통해 실제 장면 전체를 디스플레이로 전달할 수 있고, (2) 완전한 촬영-디스플레이 경로를 통해 각 개별 관찰자에 대해 효율적인 단일 단계 보정이 가능하다. 우리는 디지털 및 인간 관찰자를 모두 사용하여 Color Pass-Through를 검증한다. 대표적인 기준 방법과 비교했을 때, 우리 방법은 5점 척도 사용자 연구에서 평균 +2.0점 향상을 보였고, 정량적 지표에서 2배 이상의 개선을 달성하여 원본 장면의 인지된 색상 재현이 향상되었음을 입증한다.
Tencent WorkBuddy Bench를 소개합니다. 이는 코딩 에이전트를 위한 다중 도메인 평가 제품군으로, 본 보고서는 그 구축 방법론, 채점 프로토콜, 그리고 교차 모델 리더보드를 문서화합니다. 핵심에는 코드, 웹, 오피스, 보안의 네 가지 작업 도메인에 걸쳐 분포 기반 코딩 에이전트 태스크를 구성하고 실행하기 위한 통합 평가 프레임워크가 있습니다. 공개된 이슈 텍스트를 변형하는 대신, 모든 태스크는 실제 커밋, 풀 리퀘스트 또는 비즈니스 시나리오에서 역설계되어 짧고 구어체적인 역할극 요청으로 재작성되므로, 태스크 프롬프트는 기저의 이슈, 풀 리퀘스트 또는 커밋 스레드를 웹 검색으로 복구할 수 없습니다. 데이터셋이 태스크 디렉터리, 환경 이미지, 평가 도구, 테스트, 참조 솔루션 등으로 공개적으로 제공되기 때문에, 오염 저항성은 비밀이 아닌 이러한 구성 방식과 데이터셋 버전 관리에 기반합니다. 네 가지 하위 집합(리포지토리 수준 엔지니어링, 프론트엔드 개발, 오피스 및 비즈니스 워크플로, 레드-/블루팀 보안)은 각각 고유한 검증 방식을 가지며 실제 작업의 상호 보완적인 측면을 탐구합니다. 이 모든 것은 통일된 태스크 디렉터리 형식으로 패키징되어, 통일되고 재현 가능한 프로토콜 하에 두 가지 에이전트 도구(CodeBuddy Code 및 Claude Code)에서 실행됩니다. 전체 공개를 통해 벤치마크는 종단 간 재현 가능하고 직접 감사 가능해집니다. 이는 제3자가 각 태스크를 다시 실행하고 내용을 검사할 수 있기 때문입니다. 각 하위 집합이 서로 다른 채점 도구를 사용하므로 점수는 하위 집합 간에 비교 불가능하며, 제품군 전체 평균은 보고되지 않습니다. 여러 모델 계열에 걸친 교차 모델 리더보드를 보고합니다.
We introduce SANA-Video 2.0, a hybrid video diffusion transformer instantiated at 5B and 14B scales under a unified architecture. Designed to generate high-quality video up to 720p on a single GPU, SANA-Video 2.0 matches full-softmax video DiTs in quality while retaining the favorable long-sequence scaling of linear attention. To avoid quadratic attention throughout, Hybrid Linear-Softmax Attention combines gated linear attention for O(N)-dominated mixing with periodic gated-softmax anchors at a 3:1 ratio, restoring the full-rank token interactions that pure linear attention lacks. To propagate these refreshed representations across depth, Block Attention Residuals (AttnRes) route completed block summaries into later linear layers, enabling anchor-feature reuse and boosting deep-layer effective rank by ~12%. Through from-scratch training, SANA-Video 2.0 learns the complete hybrid directly rather than linearizing pretrained models, with reduced-resolution proxy studies establishing 25% softmax as the optimal quality-efficiency trade-off. With 40-step sampling, SANA-Video 2.0 achieves a VBench score of 84.30 in 13.2s at 480p on a single H100, remaining competitive with far larger softmax video DiTs at a fraction of the latency. Its compiled DiT forward pass is 3.2x faster than a matched full-softmax baseline at 720p/60s, a gap that expands with video duration. Furthermore, full-stack Sol-Engine optimization (kernel fusion, caching, and sparse attention) accelerates this hardware-friendly backbone by a further 3.58x, bringing the 5B pipeline to 13.06s at 720p/5s and making it 120x faster than Wan 2.2-A14B on one H100. Overall, our hybrid design recovers softmax-level expressiveness at substantially reduced cost, unlocking scalable long, high resolution video generation.
대규모 언어 모델(LLM)의 성능이 향상됨에 따라, 이들은 점차 협력적 에이전트로서 배치되어 반복적 상호작용을 통해 사용자로부터 위임받은 작업을 수행하고 있다. 그러나 진정한 상호작용은 본질적으로 역동적이다. 사용자는 대화가 전개됨에 따라 자신의 의도를 점진적으로 드러내고, 수정하며, 재구성할 뿐, 처음부터 완전히 명시하는 경우는 드물다. 이러한 현실에도 불구하고, LLM은 여전히 주로 단일 턴(single-turn)의 완전 명시적(fully-specified) 환경에서 평가되거나 훈련되며, 이는 근본적인 질문을 남긴다: LLM은 대화가 진행됨에 따라 진화하는 사용자의 의도를 얼마나 잘 추적하고 이에 따라 행동할 수 있는가? 이 질문을 연구하기 위해, 우리는 정적이며 단일 턴인 작업을 동적 다중 턴(multi-turn) 대화로 변환하는 프레임워크를 도입한다. 이 프레임워크에서 사용자의 의도는 턴을 거듭하며 진화하는데, 즉 대화 중간에 점진적으로 드러나고, 수정되며, 때로는 방향이 전환되기도 한다. 동시에 각 작업의 원래 평가 프로토콜은 유지되어, 새로운 주석 없이도 기존 벤치마크를 통제된 테스트베드로 재사용할 수 있게 한다. 여러 작업에 걸쳐 우리는 일관된 현상을 발견했다: 정적 환경에서의 강력한 성능이 진화하는 의도(intent) 환경에서는 이어지지 않으며, 모델 제품군 전반에 걸쳐 상당한 성능 저하가 발생한다. 본 연구 결과는 근본적인 격차를 지적한다: 오늘날의 LLM은 사용자의 진화하는 의도를 충실히 추적하고 이에 따라 행동하지 못하며, 이러한 능력은 정적 평가로는 드러나지 않지만 미래의 협력적 에이전트에게는 매우 중요하다.
비디오에서의 움직임 이해는 시각 학습의 근본적인 과제로, 프레임 간 변화는 카메라 움직임과 객체 움직임이라는 두 가지 역학적 원천을 혼합한다. 이러한 분해는 표현 학습에서 충분히 탐구되지 않았으며, 그 이유 중 하나는 이들 요인이 자연 비디오에서 밀접하게 결합되어 있어 개별적으로 감독하기 어렵기 때문이다. 그러나 의미 있는 객체 역학을 카메라 유발 변동과 분리하는 강건한 움직임 표현을 학습하기 위해서는 이러한 복원이 중요하다. 본 연구는 사전 학습된 이미지 비전 트랜스포머의 고정 특징으로부터 이러한 구조화된 움직임 표현을 복원할 수 있는지 조사한다. 우리는 구조화된 역학 모델(Structured Dynamics Model, SDM)을 제안하며, 이는 단일 얽힌 잠재 변수나 구조화되지 않은 공간적으로 조밀한 전이 토큰으로 비디오 변화를 표현하는 대신, 미래 특징 예측을 통해 시간적 변화의 지배적 원천을 잔차 역학으로부터 명시적으로 분리한다. 훈련은 실제 비디오에 대한 자기 지도 학습과 합성 Kubric 데이터의 장면 역학에 대한 약한 감독을 결합한다. 우리는 SDM을 카메라 움직임, 객체 움직임 및 결합 역학을 포함하는 합성 및 실제 비디오에 걸친 새로운 평가 스위트인 ProbeMotion으로 평가한다. SDM은 전역 CLS 또는 평균 풀링 특징을 사용하는 백본 기준선보다 성능이 우수하며, 몇 가지 프로브에서 상당히 약한 감독을 사용함에도 불구하고 VGGT와 같은 강력한 감독 표현에 비해 유리한 성능을 보인다. 이러한 결과는 사전 학습된 이미지 모델이 구조화된 비디오 역학 표현으로 쉽게 활용될 수 있으며, 잠재 비디오 역학의 학습 및 분석에 유용한 귀납적 편향을 제공함을 시사한다.
다중 에이전트 상호작용 세계 모델은 일관된 관측치를 생성할 뿐만 아니라, 에이전트 간에 지속되고 시점에 따라 진화하는 세계 상태를 유지해야 한다. 기존의 자기회귀적 비디오 확산 파이프라인은 관측 내역을 조건부 컨텍스트로 전달하는데, 이는 다중 에이전트 및 다중 시점 환경에서 공유 상태를 유지하기 어렵게 만든다. 본 논문에서는 WorldWeaver (W²)를 제안한다. 이는 스트리밍 방식의 다중 에이전트 비디오 확산 모델로, 롤아웃 과정에 에이전트 간 세계 상태 레지스터(learnable tokens)를 추가한다. 이 레지스터는 공유 세계 정보를 저장하고 개별 에이전트 상태를 추적하며, 각 생성 청크 이후 동적으로 업데이트된다. 우리는 개별 에이전트 상태, 조감도를 포함한 전역 상태 뷰, 장면 텍스트에 걸친 감독 신호를 통해 이러한 레지스터를 학습시킨다. 또한, 세계 상태 모델링과 시각적 프레임 모델링에 별도의 가중치를 사용하는 트랜스포머 혼합(Mixture-of-Transformers) 설계를 통해 아키텍처를 개선한다. 두 에이전트 마인크래프트 비디오 생성에 대한 광범위한 실험은 명시적 세계 상태 모델링이 논리적 일관성과 생성 품질을 향상시킴을 보여준다.
대규모 언어 모델(LLM)을 위한 강화학습은 일반적으로 오프-정책 업데이트를 안정화하기 위해 신뢰 영역 마스크(trust-region mask)에 의존한다. 지배적인 PPO 방식 접근법은 샘플링된 토큰 중요도 비율을 두 가지 기준에 사용한다: 정책이 행동 정책에서 너무 멀리 벗어났는지 확인하는 근접성 기준과, 업데이트가 정책을 더 멀리 밀어내는지 확인하는 방향성 기준이다. 최근 연구인 DPPO는 PPO의 비율 기반 테스트를 행동 정책과 학습 정책 간의 확률 발산으로 대체하여 근접성 기준을 개선했다. 그러나 그 방향성 기준은 여전히 PPO에서 계승되었다. 토큰은 샘플링된 토큰 중요도 비율이 1에서 멀어질 때만 마스킹될 수 있다. 우리는 이러한 비율 기반 방향성 기준이 단일 샘플 근사치(single-sample proxy)이며, 근접성 기준을 정의하는 발산의 변화와 부호가 일치하지 않을 수 있음을 관찰한다. 따라서 우리는 예측 발산 마스크(predictive divergence mask)를 제안하는데, 이는 다음 정책-경사 단계가 신뢰 영역에서 사용하는 동일한 발산을 증가시킬지 감소시킬지를 묻는다. LLM 강화학습에서 사용되는 이산 소프트맥스 정책의 경우, 이 예측을 폐쇄형(closed form)으로 유도한다. 프로덕션 롤아웃 엔진은 어휘의 절단된(top-K) 뷰만 노출하기 때문에, 이 예측을 위해 두 가지 경량 top-K 추정량을 개발한다. 상세 분석 결과, 발산 기반 방향성은 샘플링된 비율보다 발산의 실현된 변화와 더 잘 정렬되며, 결과적인 마스크는 모델 규모 및 정밀도 설정 전반에 걸쳐 강화학습 훈련을 개선한다.
대규모 내비게이션 시스템을 배포하려면 센서 가정을 최소화하고, 다양한 로봇 형태에 일반화되며, 효율적으로 훈련할 수 있는 레시피가 필요합니다. 그러나 현재 최고의 시스템들은 깊이 센서, 다중 카메라 장치, 또는 사전 구축된 맵에 의존하여 지원하는 하드웨어를 제한하고 배포 비용을 증가시킵니다. 우리는 이러한 확장성 목표를 중심으로 구축된 8B 비전-언어 모델인 Robostral Navigate를 소개합니다. 이 모델은 로봇 플랫폼에서 가장 보편적인 센서인 단일 RGB 이미지 스트림만을 입력으로 사용하며, 현재 카메라 뷰에서 다음 목표 위치를 가리켜 경유점을 예측합니다. 로봇 특정 좌표가 아닌 순수하게 이미지 공간에서 작동함으로써, 정책이 카메라 내부 파라미터와 장면 규모 변화에 자연스럽게 강건해지며, 재보정 없이 바퀴형, 보행형, 항공형 로봇에 배포할 수 있습니다. 실제 데이터 수집에 대한 의존도를 줄이고 쉽게 확장하기 위해 35만 개의 시뮬레이션 장면에서 240만 개의 궤적을 생성합니다. 또한 전체 에피소드를 단일 훈련 시퀀스로 압축하는 프리픽스 캐싱 훈련 레시피를 도입하여 훈련 토큰을 22배 줄이고 훈련 시간을 수개월에서 수일로 단축합니다. 트리 기반 어텐션 마스크는 이전 정답 행동에 대한 조건화를 방지하여 시각적 기반 행동 예측을 장려하며, 강화 학습을 사용하여 탐색 및 회복 능력을 더욱 향상시킵니다. 연속 환경에서의 Room-to-Room 및 Room-Across-Room (R2R-CE 및 RxR-CE) 벤치마크에서 Robostral Navigate는 새로운 최첨단 성능을 설정합니다. R2R-CE에서 단일 RGB 카메라만을 사용하면서도 77.4%의 성공률을 달성하여 최고의 단일 카메라 방식보다 10.5포인트, 가장 강력한 깊이 또는 다중 카메라 시스템보다 5.3포인트 더 높은 성능을 보입니다. RxR-CE에서는 75.1%의 성공률에 도달하여 모든 단일 카메라 기준선을 능가합니다.
우리는 에이전트 작업을 위한 온-정책 증류(OPD)를 연구하며, 여기서 LLM 에이전트는 다중 턴에 걸쳐 환경과 상호작용하고, 학생은 이러한 다중 턴 상호작용 이력을 통해 교사를 모방한다. 완전 온라인 OPD는 각 업데이트마다 새로운 학생 롤아웃을 환경에서 수행하고 방문한 이력에서 교사 쿼리를 필요로 하므로 비용이 많이 든다. 우리는 Replayed-Prefix On-Policy Distillation(ReOPD)을 제안한다. 이는 사전 수집된 교사 궤적을 재생된 접두사로 재사용하는 환경 외 대안으로, 학생은 선택된 단계에서 행동하고, 교사는 새로운 환경 상호작용을 실행하지 않고 밀집된 단계별 지도를 제공한다. 우리는 다중 턴 OPD가 접두사 함정을 도입함을 보인다. 즉, 이력을 더 학생-온-정책으로 만드는 것은 학생과의 관련성을 높이지만, 교사의 대상이 신뢰할 수 없는 이력에서 교사를 쿼리할 수 있다. 이는 학생 점유와 교사 신뢰성 사이에 양면 분포 이동을 생성한다. ReOPD는 다중 턴 OPD를 신뢰성 인식 접두사 분포 설계로 취급하고, 초기의 낮은 이동 접두사를 강조하는 간단한 단계 감쇠 샘플링 일정으로 이를 구현함으로써 이 문제를 해결한다. Python을 사용한 수학적 추론 및 검색 환경에서 여러 교사 및 학생 모델 규모에 걸쳐, ReOPD는 OPD 수준의 정확도를 유지하거나 개선하며, 학생 훈련 중 도구 호출을 전혀 사용하지 않고, 롤아웃당 OPD보다 최소 4배 빠르다. 따라서 ReOPD는 비용이 많이 드는 에이전트-환경 상호작용을 재사용 가능한 오프라인 자원으로 전환하여, 도구, 작업 및 환경 전반에 걸친 확장 가능한 증류를 가능하게 한다.
실제 환경에서 에이전트의 학습은 시간 소모적인 실험 수행이나 인간 피드백 획득과 같은 비용이 많이 드는 환경 상호작용에 의해 제약되는 경우가 많다. 맥락 내 학습(in-context learning)은 에이전트가 자신의 상호작용 이력으로부터 학습할 수 있는 매우 샘플 효율적인 방법을 제공하지만, 해당 경험이 맥락에서 제거되면 그 이점이 사라진다. 한편, 맥락 증류(context distillation)는 맥락 정보를 모델 가중치 내부로 내재화하는 메커니즘을 제공한다. 그러나 이를 환경 샘플 효율성을 희생하지 않으면서 에이전트의 상호작용 이력에 적용하는 방법은 아직 충분히 탐구되지 않았다. 우리는 이 문제를 경험 증류(Experience Distillation)라고 명명하고, 수집된 경험 이상의 추가 환경 상호작용이 필요 없는 구현을 개발한다. 749개의 선별된 소프트웨어 엔지니어링 과제와 6개의 텍스트 어드벤처 게임에 대한 실험 결과, 이 방법은 두 도메인 모두에서 맥락 내 학습으로 얻은 이점의 최소 64.8%를 유지한 반면, 수집된 경험에 대한 직접적인 지도 미세 조정(supervised fine-tuning)은 3.8%만 회복했다. 고전적인 강화 학습 기준선과 비교했을 때, 시행착오 경험으로부터의 맥락 내 학습 후 경험 증류를 적용한 방법은 최소 \(9.6\times\) 적은 환경 샘플로 동일한 성능에 도달한다.
본 연구는 암시적 신경 표현(INR)에서 고조파 스펙트럼 강화를 위한 반복적 메커니즘으로서 정현파 순환(sinusoidal recurrence)을 분석한다. 분석 결과, 정현파 활성화는 고조파 선 스펙트럼을 유도하며, 이는 순환적 전개(recurrent unrolling)가 어떻게 유효 스펙트럼 지지(support)를 확장하는지에 대한 스펙트럼적 설명을 제공한다. 이러한 원리를 공유 정현파 블록을 통해 구현하여 잠재 표현을 반복적으로 정제한다. 제안된 스펙트럼 거동을 순방향 INR, 비정현파 순환 변형, 평형 유형의 정현파 모델과 비교하여 경험적으로 검증한다. 이러한 분석을 보완하여, 제안된 아키텍처를 이미지 및 3차원 표현 작업 전반에서 평가한다. RGB 이미지 벤치마크에서 본 방법은 더 적은 파라미터와 최적화 단계로 순방향 기준 모델보다 높은 충실도를 달성하며, 초해상도, NeRF, SDF 작업에도 유리하게 전이된다.
일반화 가능한 로봇 조작 정책의 개발은 본질적으로 대규모 고충실도 장면 데이터의 가용성에 의해 제한된다. 최근의 자동화된 합성 방법들은 텍스트-레이아웃 환각 또는 단순화된 절차적 생성을 통해 이러한 격차를 해소하려 시도하지만, 빈번하게 물리적 비현실성을 겪고 실제 인간 환경의 복잡하고 밀집된 잡동사니를 포착하지 못한다. 본 논문에서는 상상력에 기반한 레이아웃 생성에서 비정형 현장 이미지 데이터의 결정론적 재구성으로 패러다임을 전환하는 완전 자동화된 Real2Sim 파이프라인인 TableVerse를 소개한다. 우리의 프레임워크는 각색되지 않은 인터넷 미디어를 정확한 미터법 스케일, 실제 토폴로지 및 검증된 기계적 안정성을 갖춘 고충실도 시뮬레이션 준비 완료 탁상 환경으로 원활하게 처리한다. 나아가, 고품질의 충돌 없는 픽 앤 플레이스 시연을 합성하기 위해 자동화된 작업 조건부 궤적 생성 프레임워크가 통합된다. 이 완전한 파이프라인을 활용하여, 상호작용형 조작 궤적과 쌍을 이루는 100,000개의 고유하고 물리적으로 일관된 환경으로 구성된 대규모 말뭉치인 TableVerse-100K 데이터셋을 구축한다. 다양한 자산 구성, 현실적인 공간 분포 및 고품질 시연을 포착함으로써, TableVerse-100K는 고도로 확장 가능하고 고충실도의 데이터 기반을 확립하여, 일반화 가능한 로봇 조작 작업에 대한 향후 연구를 촉진하는 데 중요한 가치를 제공한다.
에이전트 추론(Agentic Reasoning)은 대규모 정보를 통합하고 신뢰할 수 있으며 정확한 콘텐츠를 생성하는 능력으로 인해 재무 분석 분야에서 변혁적인 힘으로 자리 잡았다. 그러나 복잡한 실제 문제를 처리할 때 서로 다른 에이전트 간에 여전히 상당한 성능 차이가 나타난다. 본 연구에서는 전문가 지식을 기반으로 복잡한 레이아웃의 금융 문서를 합성하는 스킬인 Finance-LaTeX SKILL을 설계한다. 이 스킬을 기반으로 구축된 에이전트 워크플로우를 활용하여 2,000개의 전문 금융 문서와 6,000개의 고품질 질문-답변 쌍을 생성한다. 에이전트의 전반적 능력을 평가하기 위해 실제 시나리오와 매우 유사한 금융 문서 대상의 포괄적인 개방형 생성 벤치마크인 FinanceComplexQA를 도입한다. 이는 1,009개의 금융 문서를 대상으로 하는 2,026개의 심층 연구 과제를 포함한다. FinanceComplexQA는 8가지 주요 특징을 갖는다: 이중 언어 지원; 6가지 주요 시나리오와 7가지 과제를 포괄함; 전문가 수준의 문서 추론 질문; 복잡한 레이아웃에 대한 심층 연구; 비교적 안정적이고 영구적인 참조 답변; 다중 평가 지표를 이용한 Agent-as-a-Judge 기반의 정밀 평가. FinanceComplexQA를 활용하여 금융 문서 QA를 위한 주요 RAG 시스템과 에이전트 추론 도구에 대한 포괄적 평가를 수행한다. 실패 사례를 식별하고 분석함으로써 수치 계산, 다중 단계 추론, 콘텐츠 요약 및 산업 분석 측면에서 이들의 능력에 대한 심층 연구를 제공한다.
제어 가능한 비디오 생성은 텍스트 프롬프트나 주로 픽셀 이동을 제약하는 모션 제어 입력만으로는 정밀한 다중 객체 상호작용을 명시하기 어렵기 때문에 여전히 도전적인 과제이다. 실제로 궤적 기반 제어는 사용자가 여러 객체에 대해 정확한 트랙을 그리도록 요구하며, 이는 장면 복잡도에 따라 확장성이 떨어지고 폐색이나 중첩 상황에서 모호해진다. 유연하면서도 정밀한 다중 객체 제어를 가능하게 하기 위해, 본 논문에서는 구조화된 상호작용 그래프를 통해 대화형 제어를 구현하는 그래프 조건부 이미지-비디오 생성 모델인 GraphVid를 제안한다. 또한, 상호작용 인식 비디오 생성 모델의 훈련을 가능하게 하기 위해 구조화된 관계형 주석이 포함된 대규모 상호작용 중심 비디오 데이터셋인 GraphVid-Bench를 구축한다. GraphVid는 기존 모션 제어 방법보다 훨씬 적은 학습 데이터와 학습 가능한 파라미터를 사용함에도 불구하고 강력한 제어성과 비디오 품질을 제공한다. Motion-I2V와 비교하여 GraphVid는 FID를 최대 39.9%, FVD를 37.6% 감소시키는 동시에 PSNR(9.87→15.98)과 SSIM(0.38→0.61)을 향상시킨다. 본 연구 결과는 구조화된 의미 인터페이스가 제어 가능한 비디오 생성을 위한 강력한 패러다임이 될 가능성을 강조한다.
현대의 AI 에이전트는 Claude Code, Codex, OpenClaw와 같은 정교한 추론 하네스(inference harness)에 의존하여 다중 턴 추론, 도구 사용, 외부 시스템 접근을 구동합니다. 이러한 복잡한 하네스는 강력하지만, 개방형 인프라로 종단간(end-to-end) 학습을 어렵게 만듭니다. 그 이유는 기존 SFT/RL 스택이 상태 저장형 다중 프로세스 하네스 추론을 기본적으로 표현할 수 없기 때문입니다. 이 문제를 해결하기 위해, 우리는 다양한 환경에서 하네스 기반 에이전트를 종단간 학습할 수 있는 오픈소스 프레임워크인 OpenForgeRL을 제시합니다. OpenForgeRL은 하네스의 모델 호출을 처리하면서 이를 표준 RL 코드베이스(예: veRL)의 학습 데이터로 기록하는 경량 프록시와, 각 롤아웃을 자체 원격 컨테이너에서 실행하는 Kubernetes 오케스트레이터를 통해 이를 달성합니다. 이를 통해 모든 하네스와 환경에서 대규모 학습이 가능합니다. 학습과 추론을 분리함으로써, OpenForgeRL은 연구자들이 에이전트가 실제 배포되는 하네스와 환경 내에서 직접 에이전트를 쉽게 학습, 연구 및 개선할 수 있게 합니다. 우리는 이 프레임워크를 도구/클로 기반 에이전트와 멀티모달 GUI 브라우저 및 컴퓨터 사용 에이전트를 포함하는 다양하고 복잡한 하네스 및 환경에서 검증했습니다. 수백에서 수천 개의 작업만을 사용하여 OpenForgeClaw는 ClawEval에서 pass^3 31.7, pass@3 55.9를, QwenClawBench에서 33.7을 달성했습니다. OpenForgeGUI는 OSWorld-Verified에서 37.7, Online-Mind2Web에서 63.0, WebVoyager에서 72.3을 달성했습니다. 두 모델 모두 거의 모든 벤치마크에서 유사한 크기의 오픈 베이스라인을 능가하며, GUI 설정에서는 몇 배 더 큰 모델과 일치하거나 능가합니다. 벤치마크를 넘어, 우리는 하네스 선택(예: ZeroClaw, OpenClaw, Codex)과 RL이 에이전트 행동을 어떻게 형성하는지 분석합니다. 일부 하네스는 다른 하네스보다 학습하기 훨씬 어렵다는 점과, RL이 자체 검증, 도구 적용 범위, 다단계 계획 완료와 같은 에이전트의 신뢰성을 향상시키지만, 오류 복구와 같은 중요한 능력은 여전히 약하다는 점을 발견했습니다.
데이터셋 증류(data distillation)를 결과 중심 관점에서 재조명한다. 과정 대리자(per-step gradients 또는 training trajectories)를 정렬하는 대신, 영향 일치(Influence Matching, Inf-Match)는 훈련의 최종 결과를 정렬한다. 즉, 수렴된 매개변수에 대한 효과가 전체 데이터셋과 일치하는 소형 합성 세트를 학습한다. 구체적으로, 데이터 추가 또는 제거로 인한 매개변수 변화를 정량화하는 완전 미분 가능한 샘플 수준 영향 추정기를 도입한다. 이 추정기는 시간 소모적인 역헤세 행렬 곱이나 볼록성 가정 없이, 최적화 동역학을 풀고 1차 테일러 근사를 적용하여 선형 시간 내에 작동한다. 그런 다음 합성 세트의 영향과 실제 데이터셋의 영향 간 불일치를 최소화하여 합성 세트를 학습함으로써, 발견적 과정 모방이 아닌 결과 정렬을 달성한다. Inf-Match는 표준 분류 벤치마크에서 최고의 정확도를 제공한다. 예를 들어, Tiny-ImageNet(IPC=10)에서 Inf-Match는 31.5%를 달성하여 NCFM 대비 +4.7% 향상되었다. 분류를 넘어, Inf-Match는 Flickr30K에서의 시각-언어 증류로 확장되어 강력한 과정 일치 기준선을 능가한다. 예를 들어, 200~1000개의 합성 샘플을 사용하여, 본 방법은 이미지/텍스트 검색 작업에서 우수한 평균 성능을 기록했으며, NCFM보다 2.5% 높았다. 코드는 https://github.com/hrtan/infmatch 를 통해 공개될 예정이다.