번역이 포함된 일일 선별된 AI 연구 논문
장기(long-horizon) 에이전트는 기반 모델이 구성 단계들을 해결할 수 있는 경우에도 실패할 수 있다. 이들은 가변 상태(mutable state)를 추적하지 못하고, 이전 실행에서 얻은 교훈을 재활성화하지 못하며, 알려진 절차를 건너뛰거나 조기에 중단할 수 있다. 우리는 모델 가중치를 변경하지 않고 에이전트 주변의 실행 시스템을 개선하는 하네스 스케일링(harness scaling)에 주목한다. 우리는 영속 상태(durable states), 단계 국소 콘텍스트(phase-local context), 검사된 전이(checked transitions), 복구 가능한 런북(recoverable runbooks), 그리고 에이전트와 사용자가 함께 검토할 수 있는 버전화된 절차적 관행(versioned procedural practices)을 중심으로 실행을 조직화하는 에이전트 네이티브 런타임(agent-native runtime)인 StateM을 소개한다. Terminal-Bench 2.1에서 StateM은 GPT-5.5 xhigh를 92.1%로 향상시키며, 이는 83.1%의 기준치와 91.9%를 기록한 GPT-5.6 Sol Ultra보다 높다. 런북은 변경 없이 GPT-5.6에 그대로 적용된다. GPT-5.6 Sol xhigh를 사용할 때, StateM은 445회 시행에서 95.3%의 원시 정확도(raw accuracy)를 달성하고 89개 과제 모두를 각각 한 번 이상 성공시킨다. 동결 프로파일은 GPT-5.6 Luna를 76.7%에서 85.4%로 끌어올리며, 이는 84.9%의 Sol xhigh 기준치를 상회한다. 동일한 런타임, 런북 구조, 황금 규칙을 사용하면 38달러 미만의 적응 비용만으로도 DeepSeek-V4 Flash를 표준 타임아웃에서 82.7%에서 88.1%로, 88개 과제 공통 핵심에서는 89.1%로 향상시킨다. 나머지 대기 시간 민감 과제에 대해서만 타임아웃을 연장하면 보고된 GPT-5.6 Sol 최대 결과인 88.8%와 일치한다. 최종 점수 달성을 위한 API 사용 비용은 약 15달러이며 GPT 기준의 경우 574.68달러였다. DeepSeek 총 지출은 52.22달러이다. BusinessBench에서 개발 세트를 기반으로 구축된 계열별 런북(family-specific runbooks)은 홀드아웃에서 매크로 0.55점과 마이크로 1.34점의 향상을 제공하며, 메커니즘이 일치하는 두 계열은 10.04점 향상된다. 구체적인 규칙은 과제가 실행 구조를 공유할 때 일반화되며, 제어 방법론은 광범위하게 적용된다. StateM은 선별된 사후 분석(postmortem) 결과를 영속적이고 실행 가능한 전제 조건과 관행으로 전환하여, 학습된 제어 수단을 상태 기반 제어(stateful controls)를 통해 명시적이고 강제 가능하게 만든다. 코드는 github.com/henryqin1997/statem에서 확인할 수 있다.
벤치마크는 단순한 스칼라 점수 이상을 제공해야 한다. 평가의 신뢰성을 보장하는 것은 점수를 정당화하는 추론이다. 이는 특히 세계 모델에서 중요한데, 롤아웃을 판단하려면 물리, 인과성, 세계 상태가 올바르게 진화하는지 이해해야 하기 때문이다. 인간은 이러한 위반을 자연스럽게 발견하지만, 기존의 어떤 벤치마크도 이 능력을 자동화하지 못한다. 메트릭은 무차별적으로 계산되며, 검토하거나 검증할 수 있는 추론 체인이 남지 않는다. 우리는 LLM 생태계의 하네스 패러다임을 세계 모델 벤치마킹에 도입한 에이전트화된 평가 파이프라인인 HarnessEval-W를 소개한다. HarnessEval-W는 고정된 루브릭을 적용하는 대신 각 평가 사례의 맥락을 해석하고, 평가 질문을 측정 가능한 하위 문제들로 분해하며, 각각의 하위 문제에 대해 추론할 수 있도록 맞춤화된 맥락과 진단 도구를 갖춘 전문화된 하위 에이전트들을 생성한다. 이후 상위 에이전트는 수집된 증거를 검증하고 이를 최종 판정으로 요약한다. 이러한 계층적 워크플로는 모든 평가를 투명한 증거 트리로 전환하며, 그 완전한 추론 체인이 결과를 정당화한다. 우리는 HarnessEval-W를 330개의 평가 사례에 걸쳐 18개의 대표적인 세계 모델에 적용했다. 이 평가는 생성된 모든 롤아웃에 대해 검증 가능하고 세밀한 진단을 제공하면서 인간의 선호와 밀접하게 일치한다. 우리는 전체 파이프라인을 라이브 벤치마크로 오픈소스화하며, 세계 모델이 진화함에 따라 새로운 기술과 평가 사례를 확장하는 데 기여할 광범위한 커뮤니티의 참여를 환영한다.
그룹 상대적 이점을 사용한 강화 학습(RL)은 언어 모델 추론기의 후속 학습에 있어 사실상의 표준이 되었다. 그러나 여러 보상 목표를 최적화할 때, 기존 방법들은 일반적으로 그룹별 표준화 전에 보상 벡터를 고정된 가중 합으로 스칼라화한다. 우리는 이러한 설계가 두 가지 근본적인 문제를 초래함을 보여준다: 서로 다른 보상 프로파일을 가진 롤아웃들이 동일한 이점을 받을 수 있으며, 모든 목표가 현재의 포화(saturation) 수준과 무관하게 고정된 상대 가중치로 최적화된다는 점이다. 결과적으로 훈련은 더 큰 잔여 개선 여지가 있는 목표에 집중하는 대신, 이미 해결된 목표에 그래디언트 예산을 계속 할당한다. 우리는 다중 보상 정책 최적화를 위한 포화 인지 이점 재가중(SA-MRPO)을 소개한다. 이 방법은 각 보상 목표를 독립적으로 표준화하고, 목표 포화도의 배치 수준 추정치에 따라 해당 목표의 기여도를 적응적으로 할인한다. 이는 이미 충분히 충족된 목표에 대한 성능을 경험적으로 유지하면서, 최적화 노력을 덜 최적화된 목표로 동적으로 재배분한다. 우리는 또한 포화 인지 재가중이 단순히 업데이트의 크기를 재조정하는 것에 그치지 않고, 업데이트의 부호를 반전시킬 수 있음을 보여준다. 두 개 및 세 개의 보상 목표 조합을 사용한 수학적 추론 전반에서, SA-MRPO는 15개의 벤치마크 비교 중 12개에서 GDPO보다 더 어려운 정확성 목표를 개선하며, AIME24에서 최대 5%의 향상을 보인다. 적응형 추론에서는 다섯 가지 벤치마크 모두에서 정확도를 개선하며, 평균 3.8%, AMC23에서 최대 9.2%의 향상을 보인다. 코딩 벤치마크에서는 통과율을 최대 2.3% 향상시키며, 모든 설정에서 더 쉬운 목표를 이미 충족된 수준 근처로 유지한다.
과학적 발견은 종종 분자, 단백질 서열, 컴퓨터 프로그램과 같은 방대하고 구조화된 개방형 가설 공간에 대해 평가 비용이 높은 목적 함수를 최적화하는 것을 수반한다. 대규모 언어 모델(LLM)과 같은 생성 모델은 이러한 공간에 대해 표현력이 풍부한 사전 분포를 제공하지만, 이들의 우도와 자기 평가는 특히 관측된 데이터 분포를 벗어난 새로운 후보에 대해서는 목적 함수와 보정된 인식론적 불확실성에 대한 신뢰할 수 없는 대리 지표이다. 본 연구에서는 생성 모델과 베이즈 비모수 보상 대리 모델을 결합한 경험적으로 기반한 순환 아키텍처인 대형 발견 모델(LDM)을 소개한다. 생성 모델은 후보 설계안을 제안하고 개선하는 반면, 대리 모델은 이들의 성능을 예측하고 불확실성을 정량화하여, 후보 생성, 개선, 선택을 안내하는 불확실성 인지 값을 산출한다. 발견 메모리와 대리 모델은 새로운 실험 관측이 도착할 때마다 지속적으로 갱신된다. 우리는 신경망 훈련, 항체 설계, 분자 최적화를 포함하여 서로 다른 설계 양식과 목적 함수에 걸친 세 가지 시나리오에서 LDM을 평가한다. 이러한 도메인 전반에 걸쳐 LLM 단독 반성이나 전통적인 통계적 탐색과 비교하여, LDM은 검증 BPB에서 2.4배 더 큰 감소, 결합 에너지에서 18.2%의 상대적 감소, 분자 다중 목적 성능에서 60% 이상의 상대적 향상을 달성한다. 이러한 결과는 LDM이 개방형 가설 공간에 대한 효과적인 탐색을 위한 범용 발견 엔진으로 기능할 수 있음을 시사한다.
사용자 질의로부터 인터랙티브 3D 오픈 월드를 구축하는 것은 중요하다. 그러나 기존 방법들은 주로 이상화되고 단순한 질의에 대해 평가되어 왔으며, 이로 인해 멀티모달 에이전트가 사용자 의도를 이해하고, 3D 도구를 사용하며, 텍스트 및 시각적 3D 세계 정보에 대해 추론하는 능력을 체계적으로 분석하고 비교하기 어렵다. 이러한 문제를 해결하기 위해 우리는 VibeWorlding을 제안한다. 이는 바이브 월딩 에이전트를 벤치마킹하고 훈련하기 위한 통합 프레임워크로, 바이브 월딩 에이전트는 사용자 의도를 자율적으로 추론하고, 장면 레이아웃을 계획하며, 3D 도구를 호출하고, 다중 턴 에이전트-환경 상호작용 과정에서 멀티모달 피드백을 반영할 수 있는 멀티모달 에이전트이다. 이를 위해 우리는 먼저 VWE-BENCH를 구축한다. 이 벤치마크는 2,616개의 고품질 3D 자산, 323개의 인간 주석 시드 3D 월드, 6,828개의 역합성 멀티모달 사용자 질의로 구성되며, 정답이 포함된 검증된 질의와 정교하게 설계된 루브릭을 갖춘 미검증 질의로 분할된다. 또한, 우리는 VibeWorlding-Gym을 개발한다. 이는 다음을 통합하는 공동 멀티모달 강화 학습 사후 훈련 프레임워크이다: (1) 자산 검색, 편집, 이미지 렌더링을 MCP 도구로 통합하는 샌드박스 환경, (2) 물리적 실현 가능성 검증과 의도 충족 검증을 결합한 루브릭 기반 검증기로, 공정한 모델 평가와 확장 가능한 멀티모달 강화 학습 보상 서비스를 모두 지원한다. 우리의 실험은 현재 최첨단 멀티모달 대규모 언어 모델들이 바이브 월딩 에이전트 작업을 해결하는 데 여전히 부족하며, GPT-5.5와 Qwen3.8-Max조차도 60% 미만의 성공률을 기록함을 보여준다. 또한, 우리는 그 병목 지점이 정밀한 3D 세계 편집에 있음을 추적한다. 나아가 강화 학습 훈련이 이러한 약점을 완화할 수 있으며, 오픈소스 멀티모달 대규모 언어 모델이 폐쇄형 최첨단 모델을 능가할 수 있게 한다는 것을 발견한다. 우리의 VibeWorlder-8B는 최첨단 멀티모달 대규모 언어 모델과 필적하는 성능을 보이며, 주력 모델인 VibeWorlder-30B-A3B는 평가된 모든 모델 중 최고의 전반적 Pass@1을 달성한다.
우리는 MOSS-VL을 소개한다. 이는 실시간 상호작용, 즉 말하면서 지각하는 것을 일급 기능으로 취급하는 오픈 비전-언어 모델 제품군이다. 이 모델은 스택 전반에 걸쳐 공동 설계되었다. 언어 디코더는 게이트 교차 어텐션을 통해서만 비전에 주의를 기울이므로, 모델은 생성 중에도 들어오는 프레임을 자연스럽게 볼 수 있다. 합성 상호작용 말뭉치는 언제 말하고, 언제 침묵하며, 언제 수정할지를 지도한다. 또한 단계적 커리큘럼은 실시간 특화 훈련을 강력한 오프라인 기반 위의 단 하나의 가벼운 최종 단계에 집중시킨다. 오프라인에서 MOSS-VL-Instruct는 비슷한 규모에서 경쟁력을 가지며 시간적 추론 비디오 데이터셋에서 선두를 차지한다. 네 개의 스트리밍 벤치마크에서 MOSS-VL-Realtime은 오픈소스 스트리밍 모델 중 세 개에서 최고 평균 성능을 기록했고(네 번째에서는 두 번째), 능동적 행동을 직접적으로 시험하는 세 개의 하위 집합을 휩쓸었다(OmniMMI Proactive Alerting에서 최고 기준선 대비 66.0 대 37.5). 113억 개의 매개변수를 가지면서도 시각 토큰이 디코딩 시퀀스 외부에 있기 때문에, MOSS-VL은 동일 백본인 Qwen3-VL-8B 대비 첫 토큰 생성 시간(time-to-first-token) 이점을 시각적 맥락이 커짐에 따라 2.8배에서 5.1배로 확대한다. 우리는 다섯 개의 체크포인트, 훈련 커리큘럼, 실시간 추론 코드를 https://github.com/OpenMOSS/MOSS-VL에 공개한다.
기반 GUI 에이전트는 복잡한 디지털 작업을 자동화할 수 있지만, 배포는 희소하고 편향된 학습 데이터, 모호한 프롬프트, 불안정한 실행으로 인해 저해된다. 일상적인 워크플로는 사용자별 도구와 암묵적 관례에 의존하므로, 명시되지 않은 지시는 실행 간에 임의적인 변동을 초래할 수 있다. 우리는 환경 기반 학습 스택과 맥락 내 데모 학습을 통합한 기반 GUI 에이전트인 UI-Mate를 제시한다. UI-Mate는 세 가지 기여를 한다. 확장 가능한 환경 기반 학습 스택: 폐루프 데이터 엔진은 통합 작업-검증기 번들을 통해 대규모 병렬 환경에서 작업 생성, 환경 구축, 롤아웃, 필터링, 능력 균형 조정, SFT, 온라인 RL을 자동화한다. 맥락 내 데모 학습: 다중 모달 데모를 유연한 하위 작업 수준 워크플로로 변환하고, 관련 데모 단계를 따르며, 실시간 인터페이스에서 재계획하는 메커니즘. OSWorkerBench 벤치마크 및 통찰: 41개 애플리케이션에 걸친 100개의 장기 지평 사무 작업 벤치마크로, 지시문 전용 및 데모 유도 평가를 지원한다. 데모 자원은 동일한 목표에 대한 성공적인 강력한 에이전트 롤아웃으로 구축된 33개 작업의 자체 데모 설정과, 관련되지만 동일하지 않은 작업의 인간 녹화로 구축된 45개 작업의 변형 데모 설정으로 구분된다. 실험 결과 UI-Mate-27B는 일반 컴퓨터 사용 벤치마크에서 새로운 공개 가중치 최고 수준을 달성하여, OSWorld-Verified에서 77.0%, WindowsAgentArena에서 66.2%를 기록했다. OSWorkerBench에서는 엄격 성공 41.0%, 진행률 76.9%를 달성하여 기본 모델인 Qwen3.6-27B보다 각각 17.7포인트와 24.5포인트 앞섰다. 33개 작업의 자체 데모 하위 집합에서 데모 하나를 제공하면 엄격 성공이 17.2%에서 35.4%로, 진행률이 67.9%에서 81.1%로 향상되어 장기 지평 신뢰성을 크게 개선한다. 프로젝트 페이지: https://ui-mate.github.io.
에이전트 하네스는 에이전트와 환경 간의 상호작용을 조정함으로써 장기 지평 작업에서의 성능을 크게 향상시켜 왔다. 그러나 복잡한 하네스를 통한 강화 학습은 여전히 대체로 탐구되지 않은 상태이며, 이러한 훈련을 장기 지평 에이전트 작업으로 확장하는 데는 근본적인 도전 과제가 존재한다. 본 연구에서는 복잡한 하네스를 통한 일반 에이전트의 안정적이고 확장 가능한 최적화를 위한 통합 블랙박스 RL 프레임워크를 제시한다. 구체적으로, 먼저 대규모 동시 롤아웃을 위해 임시 샌드박스 내에 작업 환경과 하네스를 격리하는 샌드박스 기반 실행 인프라를 구축한다. 그런 다음 정책 최적화를 불투명한 하네스 실행으로부터 분리하고, 모델 경계에 서빙 프록시를 배치하여 모델 호출을 포착한다. 다중 턴 궤적을 재구성하고 훈련 효율성을 개선하기 위해, 포착된 호출을 접두사 트리로 구성하고 비평가 기반 PPO와 비평가 없는 GRPO를 모두 적응시켜 복원된 트리 구조에 대해 최적화한다. 한편, 최적화 과정 전반에 걸쳐 훈련-추론 일관성을 유지한다. 마지막으로, 단일 모델이 이종 하네스에 의해 공동 최적화될 수 있도록 하는 믹스 하네스 훈련을 도입한다. Qwen3-30A3B를 사용할 때, 블랙박스 RL은 OpenClaw와 Claude Code를 통해 ClawGym-Bench에서 Pass@1을 각각 9.98점과 14.81점 향상시키며 200-400회의 최적화 단계 동안 안정성을 유지한다. 또한, 이 프레임워크는 JobBench와 OfficeQA와 같은 더 어려운 작업에서도 일관된 성능 향상을 보여준다. 전반적으로, 본 프레임워크는 이종 실행 시스템 전반에 걸친 통합 훈련을 지원하며, 블랙박스 하네스를 통한 일반 에이전트의 효과적이고 안정적이며 확장 가능한 최적화를 가능하게 한다.
본 논문은 생성 모델링에서 점점 더 중요해지고 있는 주제인 픽셀 공간 확산 모델을 연구한다. 다양한 연구들이 이 주제를 탐구해 왔지만, 대부분은 소규모 또는 클래스 조건부 설정에 초점을 맞추고 있다. 그 결과, 확립된 잠재 공간 모델들과 대등하거나 이를 능가하는 픽셀 공간 모델을 훈련시키기 위한 실용적인 방법론은 여전히 확립되지 않은 상태이다. 종합적인 실증 연구를 통해, 우리는 먼저 픽셀 공간에서의 직접적인 대규모 사전 학습이 잠재 공간에서보다 상당히 느리게 수렴한다는 점을 관찰한다. 이러한 관찰은 잠재 공간에서 생성적 사전 지식을 효율적으로 획득하고 사후 학습 단계에서 픽셀 공간으로 전환하는 잠재-픽셀 전략을 동기부여한다. 이후 우리는 가중치 초기화, 데이터 구성, 예측 대상, 디코더 아키텍처, 노이즈 스케줄 등 이 전환을 결정짓는 핵심 설계 선택들을 체계적으로 조사하고, 결과적으로 생성된 픽셀 공간 모델이 잠재 공간 모델과 대등하거나 이를 능가하면서 3.18배에서 4.75배의 종단 간 추론 속도 향상을 제공하는 실용적인 방법론을 식별한다. 우리의 발견이 픽셀 공간 생성에 관한 향후 연구에 유용한 실증적 통찰력과 실용적 지침을 제공할 수 있기를 기대한다.
대규모 언어 모델(LLM) 에이전트는 대화형 어시스턴트에서 추론, 도구 사용, 코드 생성, 작업 공간 조작을 통해 장기 지평 과제를 수행하는 자율 시스템으로 진화하고 있다. 에이전트가 지속적 환경과 다단계 워크플로우에서 점차 더 광범위하게 작동함에 따라, 트랜잭션 데이터베이스 시스템이 해결해 온 과제와 유사한 문제에 직면한다: 신뢰할 수 있는 실행, 일관된 결과, 안전한 동시성, 지속적인 상태 관리가 그것이다. 우리는 에이전트 트랜잭션(agentic transaction)의 개념을 도입하고, 고전적 ACID 속성을 에이전트 실행에 맞게 재해석한 ACID 준수 에이전트 시스템 프레임워크를 제안한다. 이 프레임워크는 의미적 원자성(Semantic Atomicity), 의미적 일관성(Semantic Consistency), 의미적 격리성(Semantic Isolation), 의미적 지속성(Semantic Durability)이라는 네 가지 의미적 보장을 통해 정의된다. 이러한 속성들은 모델 불확실성과 동적 실행 환경에도 불구하고 신뢰할 수 있는 에이전트 시스템을 구축하기 위한 원리적 기반을 함께 제공한다. 이 프레임워크를 구체화하기 위해, 우리는 트랜잭션 탐색-실행-검증 주기, 트랜잭션 스킬 허브, 신뢰도 발산 기반 검증, 의미적 의존성 인지 격리, 트랜잭션 인지 의미 상태 관리를 통해 이러한 보장을 실현하는 ACID 준수 데이터 에이전트를 개발한다. 널리 사용되는 벤치마크에 대한 실험 결과, 우리 시스템은 Claude Code를 포함한 최첨단 에이전트 대비 10.6%의 성능 향상을 달성한다. 본 연구는 트랜잭션 원리와 시스템 아키텍처를 신뢰할 수 있고 확장 가능하며 자가 진화하는 AI 에이전트 시스템 구축으로 확장하는 더 넓은 연구 의제를 연다.
AI는 오랫동안 과학 연구를 지원해 왔지만, 대규모 언어 모델(LLM)과 에이전트형 스캐폴드(agentic scaffolds)의 급속한 발전이 연구 환경을 재편하고 있다. 이제 단일 시스템이 초기 가설 수립부터 최종 논문 게재까지 연구의 전 과정을 수행할 수 있으며, 이러한 패러다임은 AutoResearch라고 불린다. 기존 평가는 이러한 에이전트가 어떻게 작동하는지, 어디에서 실패하는지에 대해 거의 밝혀내지 못한다. 과제의 범위가 좁고, 평가는 과정이 아닌 성과만 측정하며, 실패 진단은 체계적 포괄성이나 산출물 수준의 가시성이 부족하다. 이러한 격차를 해소하기 위해 우리는 AutoResearchEval을 제안한다. AutoResearchEval은 7개 과학 분야의 출판된 최첨단 연구에 기반한 100개 과제로 구성되며, 아이디어 구상, 검색, 실행, 분석, 작성, 검토를 포함한 연구 수명주기 전반을 다룬다. 8가지 하네스-모델 조합을 평가하여 프로세스 수준 주석이 포함된 800개의 AutoResearch 에이전트 궤적을 확보했다. 우리는 이러한 통찰을 45개의 경험적으로 뒷받침된 실패 패턴으로 구성된 프레임워크인 AutoResearch 실패 분류 체계(ARFT)로 체계화했다. 확장 가능한 세밀한 원인 규명을 위해, 인간 보정된 에이전트-판사(agent-as-a-judge) 파이프라인을 활용하여 전체 궤적과 중간 산출물을 검사한다. 실패 패턴은 단일한 포괄적 한계로 수렴한다. 즉, 현재 에이전트는 메타인지 루프가 부족하다는 것이다. 메타인지 루프란 자신이 발견한 내용과 자신이 생성한 결과물을 대조하고, 그것이 타당하지 않을 때 수정하며, 자신이 취한 경로가 건전했는지 의문을 제기하는 능력을 의미한다. 동일한 패턴은 테스트된 가장 강력한 모델을 포함한 8개 하네스-모델 조합 모두에서 반복되며, 이는 결함이 특정 스캐폴드에 있는 것이 아니라 모델 수준에 있음을 보여 준다. 오케스트레이션 수준의 개입이 이를 해결할 수 있는지는 본 연구에서 검증하지 않은 미해결 질문이다. 우리는 자율적 과학 발견에 대한 지속적인 연구와 개발을 촉진하기 위해 AutoResearchEval과 ARFT를 공개적으로 배포한다.
관계형 학습 분야에서 Prior Labs의 이번 첫 릴리스는 개방형 과학(open science)에 대한 지속적인 헌신을 보여줍니다. 우리는 이 분야의 연구가 의미 있는 실질적 영향력으로 나아가는 것을 가속화할 것으로 기대하는 세 가지 소프트웨어를 오픈소스로 공개합니다. 우리는 커뮤니티의 피드백과 협력을 바탕으로 추가 개발 방향을 정하고자 합니다. 개발 초기 단계를 고려하여, 우리의 α-릴리스는 연구자와 조기 도입 실무자를 대상으로 합니다. 지난 몇 년 동안 관계형 학습을 위한 다양한 데이터셋과 작업이 등장했지만, 커뮤니티는 이러한 작업에서 서로 다른 방법들을 비교하는 신뢰할 수 있고 재현 가능한 방식에 합의하지 못했습니다. 우리의 α-릴리스인 RelArena-α는 데이터 로딩, 평가 프로토콜, 튜닝 체계를 표준화하고 맞춤형 튜닝을 지원하는 시스템을 포괄함으로써, TabArena와 같은 기존 테이블 벤치마크에서 영감을 받아 RelBench v1에서 기준 모델을 실행하고 비교할 수 있는 통합 프레임워크를 제공합니다. 우리는 연구 커뮤니티와 협력하여 RelArena-α를 관계형 학습 커뮤니티 발전의 촉매제로 더욱 발전시킬 계획입니다. 우리는 TabPFN-3를 위한 특수 목적의 관계형 하네스인 TabPFN-Rel의 초기 버전을 공개합니다. 현재 RelArena-α에서 모델 중 1위를 차지하고 있는 TabPFN-Rel은 RDBLearn 대비 핵심적인 개선을 이루었습니다. 순위를 넘어서, TabPFN-Rel은 강력한 기준 모델 역할을 하며, 관계형 데이터베이스를 단일 테이블로 평탄화하는 것이 실제 작업에서 특화된 관계형 아키텍처와 여전히 경쟁력을 갖는다는 증가하는 증거를 보강합니다. 관계형 학습 방법의 연구 및 산업 적용을 촉진하기 위해, 우리는 RPI(Relational Predictive Interface)의 초기 α-버전을 공개합니다. RPI는 오픈소스이며 모델에 구애받지 않는 인터페이스로, 조기 도입자가 새 데이터베이스에서 문제를 쉽게 정의하고 RelArena-α에 구현된 모든 모델(예: TabPFN-Rel)을 이러한 문제에 적용할 수 있게 해줍니다.
텍스트-이미지(T2I) 생성 모델의 빠른 발전은 원시 픽셀 합성이라는 근본적 과제를 효과적으로 해결함으로써, 연구 커뮤니티의 관심을 점점 더 정교해지는 사용자 요청을 충족하는 방향으로 전환시켰다. 최근의 에이전트 기반 이미지 생성 워크플로우는 외부 지식 검색 및 반복적 추론과 같은 고급 기능을 통해 정적 추론을 강화하지만, 대부분 고정된 "만능(one-size-fits-all)" 토폴로지를 가진 분리된 실로(silo) 환경에서 작동한다. 이는 필연적으로 심각한 연산 불일치(compute-mismatch)를 초래하며, 단순한 쿼리도 계산량이 많은 파이프라인을 강제로 통과하게 된다. 이러한 격차를 해소하기 위해, 우리는 에이전트 기반 이미지 생성을 위한 최초의 통합 워크플로우 라우팅 프레임워크인 GenRouter를 제시한다. 먼저, 다양한 에이전트 파이프라인을 보편적인 기본 프리미티브(foundational primitives)와 실행 가능한 템플릿 집합으로 표준화하는 GenCanvas를 정식화한다. 이 통합 공간에서 작동하는 GenRouter는 (i) 수요 프로파일링, (ii) 경험 매칭, (iii) 파레토 필터링을 통해 이질적인 프롬프트를 최적의 워크플로우에 적응형으로 라우팅한다. 다양한 벤치마크에 걸친 광범위한 실험을 통해 GenRouter는 우수한 시각적 정합성을 달성하면서도, 대규모 정적 파이프라인 대비 실행 비용을 95% 이상, 지연 시간을 65% 감소시킴을 입증한다. 더 나아가, 이 시스템은 축적된 경험을 통해 지속적으로 자기 진화함으로써, 성능을 향상시키고 계산 오버헤드를 절반으로 줄이는 강력한 제로샷 일반화를 가능하게 한다.
부분 인식 3D 객체 생성은 객체가 의미적 부분들의 일관된 조합으로 표현되는 제어 가능한 모델링, 편집, 관절화(articulation)와 같은 그래픽스 응용 분야에 필수적이다. 그러나 기존의 부분 인식 생성 방법들은 매우 복잡한 객체로의 확장에 한계가 있다. 부분의 수가 증가함에 따라, 상세한 형상 생성을 위한 토큰 길이와 메모리 비용이 감당하기 어려울 정도로 증가하기 때문이다. 본 연구에서는 구조화된 시퀀스 모델링과 토큰 효율적인 벡터 양자화 형상 토크나이저를 결합하여 이 문제를 해결하는 확장 가능한 자기회귀 3D 생성 프레임워크인 MegaParts를 제안한다. 제안하는 토크나이저는 고충실도 재구성을 조건으로 토큰 사용량을 최소화하여 부분 수준 기하학의 이산적 잠재 표현을 학습하며, 이를 통해 기하학적 복잡성에 기반한 적응형 길이 토큰화를 가능하게 한다. 이러한 압축적 표현을 기반으로, 대규모 언어 모델을 학습하여 통합된 구조화 시퀀스 내에서 객체 바운딩 박스, 부분 바운딩 박스, 부분 형상 토큰을 생성한다. 효율적인 장문맥 학습 전략과 결합하여, 제안하는 토큰 효율적 방식은 최대 300개의 부분과 최대 256k 토큰의 시퀀스 길이를 가진 객체로 확장된다. 이는 구성적 구조를 유지하고 세분화된 부분 수준 제어를 가능하게 하면서 부분 인식 3D 생성의 규모를 실질적으로 확장한다. 제안 방법은 기준선(baseline) 자기회귀 모델 및 확산 모델보다 더 높은 메시 품질을 달성하며, 이는 압축된 이산적 부분 토큰이 확장성뿐만 아니라 생성 형상의 달성 가능한 충실도 역시 향상시킴을 보여준다. 이러한 결과는 대규모 부분 인식 3D 생성에 있어 LLM 기반 토큰 효율적 자기회귀 모델링이 확산 모델의 강력한 대안이 될 수 있음을 시사한다. 프로젝트 페이지는 https://expmaster.github.io/megaparts_webpage에서 확인할 수 있다.
최첨단 에이전트 시스템(agentic systems)은 대규모 언어 모델(LLM)을 기반으로 구동되며 인간과 유사한 인지 패턴을 보인다. 이러한 시스템이 다양한 영역에 깊이 통합됨에 따라, 그들의 인지적 개입은 인간 사회에 심각한 우려를 야기하지만 이에 대한 연구는 여전히 충분하지 않다. 이러한 공백을 해소하기 위해, 우리는 인지적 범위에 따라 정의된 3단계 프레임워크, 즉 물리적 인지에서 사회적 인지, 그리고 마지막으로 자기 참조적 인지에 이르는 체계를 따라 인지 능력의 확장으로 유발되는 위험을 체계적으로 분석한다. 우리는 각 인지 수준에 대응하여 인간의 행위 주체성(agency), 자율성(autonomy), 통제 능력(control capability)에 대한 잠재적 위험을 연구한다. 마지막으로, 우리는 이러한 위험을 완화하고 에이전트 AI 시스템의 통제 가능성을 강화하여 장기적인 안전한 발전을 보장하기 위한 전략을 제안한다.
지시 기반 일반 비디오 편집은 다양한 편집 작업을 하나의 직관적인 인터페이스로 통합하고자 한다. 기존 접근법은 종종 무거운 분기(heavyweight branch)나 비용이 많이 드는 소스 연결(concatenation)을 사용하는 자원 집약적인 조건화에 의존한다. 편집 의도를 모델링하는 효율적인 방법이 있을까? 이에 우리는 경량 2단계 프레임워크인 GRNEdit를 제안한다. GRN은 비트 조합을 통해 시각적 의미를 인코딩한다는 점에서 우리의 접근에 영감을 준다. 작업별 미세 조정을 통해 우리는 이러한 표현을 한 단계 더 발전시켜 편집 의미를 개별 비트에 대한 국소적 유지-또는-반전 결정으로 재구성한다. 결과적으로 소스 정보는 관찰된 이진 상태를 뒷받침하는 좌표별 증거로 모델링되며, GRN 백본은 이들의 전역 구성을 일관된 생성 의미로 해석하는 역할을 담당한다. 1단계에서 소형 인코더는 이산 소스 코드를 연속 증거 신호로 변환하고, GRN은 이진 정제 과정 전반에 걸쳐 이를 통합한다. 분류기-없는 유도를 위한 널 프롬프트 훈련에서 영감을 얻어, 우리는 널 조건에 편집 특유의 의미를 부여한다: 빈 지시는 편집 없음을 의미하며 소스 재구성을 통해 지도 학습된다. 이 항등 경로는 1단계에서 증거 활용과 콘텐츠 보존을 암묵적으로 강화할 뿐만 아니라, 편집된 상태와 동일한 표현 공간에서 소스 보존 상태를 생성한다. 따라서 2단계는 각 편집 상태를 소스 보존 대응 상태와 직접 비교하고, 그 차이를 사용하여 해결되지 않은 대상 비트 결정을 수정할 수 있다. 단 0.6M 쌍과 3% 미만의 조건화 매개변수만으로 훈련된 GRNEdit-2B와 GRNEdit-8B는 OpenVE-Bench에서 각각 4.03과 4.18의 점수를 달성한다. 2B 모델은 여러 14B 오픈소스 편집기를 능가하며, 8B 모델은 선도적인 오픈소스 편집기와 대등한 성능을 보인다.
프론티어 대규모 언어 모델(LLM) 안전성 평가는 유해 생성을 분석 대상이 아니라 공격의 결과물로 주로 취급해 왔다. 그 결과, 모델 오작동 중 생성되는 유해 출력에 대해 알려진 바가 거의 없다. 부분적으로는 프론티어 LLM의 오작동을 대규모로 수집한 고품질 데이터셋을 확보하기 어렵기 때문이다. 이러한 공백을 해소하기 위해, 우리는 다양한 유해 범주와 모델 계열에 걸친 모델 오작동을 수집하고, 그로부터 도출된 유해 출력 분포를 모델 수준의 위험 프로파일로 정의하는 내용 중심 벤치마크 데이터셋인 HarmProfile을 소개한다. 기본 전제는 언어 행동이 발화 코퍼스에서 특성화될 수 있듯이, 모델 위험 역시 안전성 실패의 내용, 심각도, 그리고 다양성을 통해 특성화될 수 있다는 것이다. HarmProfile은 13개 모델 계열에 걸친 23개 프론티어 LLM에서 수집한 80,000개 이상의 검증된 산출물을 포함하며, 15개 유해 범주와 57개 하위 범주로 구성된다. 이 코퍼스를 사용하여, 우리는 프론티어 LLM이 대규모로 유해 콘텐츠를 안정적으로 생성하면서도 뚜렷한 위험 프로파일을 나타낸다는 사실을 발견했다. 유해성과 다양성은 모두 모델 능력과 함께 증가하며, 이는 프론티어 LLM이 겉으로는 안전해 보일지라도 정렬 표면 아래에 점점 더 위험한 지식을 숨기고 있을 수 있음을 시사한다. 소스 코드는 https://github.com/fresh-ma/HarmProfile에서 확인할 수 있다.
대규모 언어 모델이 점점 더 널리 보급됨에 따라, 오픈 가중치 모델을 배포하는 제3자 제공업체는 생태계의 중요한 부분이 되었다. 따라서 이들의 추론 API 품질을 감사하는 것은 해결되지 않은 문제이다. 우리는 호스팅된 모델 라우팅을 확률적 과정으로 공식화하고, 대상 API로부터의 확률 정보를 요구하지 않는 복합 블랙박스 감사인 **Ventor-QTest**를 제안한다. 반복 요청 구성 요소는 각 고정된 제약 문맥을 대상에 여러 번 전송하고, 반환된 텍스트 개수에서 범주형 출력 분포를 재구성한 다음, 귀무가설 편향을 보정한 창 내 평균 조악화 KL 통계량으로 평균 충실도 손실(AFL)을 보고한다. 긴 시퀀스 구성 요소는 독립 실행을 사용하여 실행 수준의 참조 중심 서프라이즈 통계량의 경험적 상위 꼬리를 통해 극단적 충실도 손실(EFL)을 보고한다. 로그확률을 제공하는 세 가지 라우팅 조건에서 AFL은 로그확률 기반 조악화 KL 비교값과 강한 선형적 기술 일치를 보여준다. 일곱 가지 라우팅 스냅샷에 걸친 20회 실행 시퀀스 프로브는 라우팅별 EFL 변동을 드러낸다. AFL과 EFL은 GPQA-Diamond 정확도와 라우팅 수준에서 감지 가능한 연관성이 거의 없다. 대조적으로, 뚜렷한 EFL은 작업 노출이 증가함에 따라 Terminal-Bench 통과율 감소와 일치한다. 이러한 패턴은 장기 지평 작업에서 정확성이 극단적 충실도 손실에 더 민감하기 때문에 발생할 수 있다. 이러한 결과는 특히 장기 지평 에이전트 작업을 감사할 때 AFL과 EFL을 함께 보고할 필요성을 시사한다. 오픈소스 구현체는 https://github.com/Tencent/AI-Infra-Guard/tree/main/services/api_checker/ventor_qtest에서 확인할 수 있다.
현재 행렬 곱셈 지수 ω에 대한 최고의 상한은 조합 손실 분석(combination loss analysis)이라 불리는 레이저 방법의 정교화를 통해 얻어진다 (Duan et al., 2022; Williams et al., 2024; Alman et al., 2025). 본 논문에서는 이 접근법의 핵심이 되는 최적화 문제를 다루고 몇 가지 개선 사항을 제안한다. 첫째, 최적화 문제를 재정식화하여 이전에 가능했던 것보다 더 넓은 설정에서 해결할 수 있게 한다. 둘째, 기계 학습의 최근 발전을 활용하여 이 문제를 위한 새로운 최적화 알고리즘을 설계한다. 마지막으로, 결과적인 최적화 알고리즘을 AlphaEvolve로 개선한다. 우리의 결합된 접근법은 ω < 2.371177의 상한을 제공하며, 이는 이전 최고 상한인 2.371339를 개선한 것이다.
인지 과학에서 자원 합리성(resource rationality)은 에이전트가 기대 가치를 최대화하기 위해 제한된 계산을 어떻게 할당해야 하는지를 묻는다. 대부분의 추론 및 에이전트 벤치마크는 작업별 독립 예산을 사용하며, 기존의 공유 예산 연구는 스위트 성능을 동일 모델이 단일 문제에서 입증한 능력과 대비하여 보정하지 않는다. 우리는 수학, 경쟁 프로그래밍, 추상 추론에 걸쳐 도구 미사용 및 에이전트 환경에서 공유 예산 하에 6문제 스위트를 평가하는 R^3-벤치를 도입한다. 정합된 단일 문제 응답 곡선은 관측된 성공들에 대한 오프라인 경험적 오라클을 정의한다. 6개 모델에 대한 72개 주요 표 셀에서 오라클 평균은 모든 셀에서 대회 평균과 같거나 초과하며, 71개 셀에서 엄격히 더 높다. 적당한 도구 미사용 압력 하에서 동등 할당 재실행도 6개 모델 중 4개에서 대회 성능을 초과한다. 궤적 진단은 제한된 전략 갱신과 압력 의존적 실패 패턴을 드러낸다. 강한 에이전트 압력 하의 3모델 진단에서는 9개 셀 중 6개에서 적어도 하나의 고정 스케줄러가 대회 평균을 초과하지만, 어떤 정책도 도메인 전반에서 지배하지 않는다. 이러한 결과는 입증된 능력과 공유 예산 실현 사이의 지속적인 격차를 노출한다.
자기 진화 에이전트는 상호작용 경험을 통해 향후 행동을 개선하지만, 기존 평가는 일반적으로 고정된 실행 조건에서 최적화만 수행할 뿐 그러한 조건이 변경된 이후의 회복 능력은 테스트하지 않는다. 이러한 공백을 해소하기 위해, 우리는 PACE-Bench(코드 진화를 통한 물리 적응, Physics Adaptation via Code Evolution)를 소개한다. 이는 6개 물리 도메인에 걸친 144개의 소스-타깃 적응 쌍으로 구성된 시뮬레이터 기반 벤치마크이다. 각 쌍은 소스 환경을 동일한 목표와 인터페이스를 가진 변이된 타깃 환경에 연결한다. 소스에서 성공하는 코드 기반 설계는 타깃에서 실패하며, 에이전트는 제한된 시도 예산 내에서 진단적 샌드박스 피드백을 사용하여 해당 설계를 반복적으로 작동 가능한 타깃 설계로 적응시켜야 한다. 우리는 네 가지 패러다임에서 비롯된 열 가지 자기 진화 방법을 비교한다. 벤치마크는 포화 상태와는 거리가 멀다. Reflexion + Qwen3-14B는 전체 벤치마크 쌍 중 35.9%에서만 성공하는 반면, GPT-5.5는 전체 예산 하에서 Statics 하위 집합의 66.7%를 해결한다. 종합하면, 이러한 결과는 시뮬레이터에 기반한 반성이 검증되지 않은 자기 수정보다 더 신뢰할 수 있음을 보여주는 한편, 메모리는 에이전트를 초기 설계에 고정시키고 광범위한 트리 탐색은 수렴하지 않은 채 탐색만 수행함을 보여준다. 정확한 물리적 변화를 공개하더라도 성능 상한이 높아지지 않으며, 이는 핵심 병목이 파라미터 추론이 아니라 메커니즘 재설계에 있음을 시사한다. 데이터와 코드는 https://github.com/thunlp/PACE-Bench에서 이용할 수 있다.
최근 다중 참조 이미지 생성을 위한 통합 멀티모달 모델의 발전에도 불구하고, 기존 벤치마크는 사전 정의된 과업 유형(예: '객체 구성')을 중심으로 구성되어 있어, 이러한 조합적 설정에 부적합하며 단편적 커버리지, 통제되지 않은 복잡성, 낮은 진단 가치를 초래한다. 다양한 다중 참조 과업들이 공통된 원자적 연산들을 공유한다는 점에 착안하여, 우리는 능력 중심 관점을 채택하고 네 가지 연산자, 즉 Anchor (f), Disentangle (g), Apply (⊕), Compose (C)를 정식화한다. 그러면 모든 다중 참조 프롬프트는 이 연산자들에 대한 조합 공식으로 표현될 수 있으며, 그 구조적 복잡성은 연산자 슬롯 수로 정량화된다. 이러한 정식화를 바탕으로 우리는 TRACE-Bench를 구축한다. TRACE-Bench는 슬롯 수 1~8에 걸친 약 1,600개의 평가 사례로 구성되며, 631개의 공식 템플릿과 다양한 예술적 스타일 및 실제 세계 객체를 아우르는 약 4,000개의 참조 이미지로 구축된다. 공식 구조는 능력별 점수 산출을 위한 연산자에 맞춘 평가 프로토콜과 재귀적 실패 위치 파악을 위한 진단 트리 분석을 직접 유도한다. 9개의 주요 모델을 평가한 결과, 총체적 점수로는 드러나지 않는 통찰이 얻어진다. 주요 병목은 장면 수준 구성(C)이 아니라 분리(g)와 속성 바인딩(⊕)에 있으며, 최고 성능 모델조차 속성 충실도에서 0.74에 그친다. 프로젝트 페이지: https://amuseum-whr.github.io/TraceBench
비디오 이해는 다중모달 대규모 언어 모델(MLLM)의 역량을 평가하기 위한 기본적인 과제이다. 그러나 기존의 선도 모델들은 이미 Video-MME 리더보드에서 약 90%의 정확도를 달성하여, 기존의 단일 턴 비디오 이해 과제는 점차 포화 상태에 이르렀으며 고급 MLLM의 지능을 평가하기에는 충분하지 않음을 시사한다. 이러한 문제를 해결하기 위해 우리는 범용 인공지능(AI) 어시스턴트를 위한 에이전트적 비디오 이해 벤치마크인 VideoGAIA를 소개한다. VideoGAIA는 일회성 비디오 질의응답을 넘어서, 비디오 이해를 다중 턴, 도구 보강 상호작용 과정으로 정식화한다. 이 과정에서 모델은 반복적으로 비디오를 인지하고, 외부 도구를 호출하며, 보완 정보를 수집하고, 여러 턴에 걸친 다중모달 증거를 통합해야 한다. VideoGAIA는 다양하고 복잡한 실제 세계 시나리오를 포괄하는 271개의 모델-인간 공동 설계 과제를 포함한다. 각 비디오-질문-답변 인스턴스는 정확성과 적절한 난이도를 보장하기 위해 세 명의 인간 전문가가 독립적으로 검증한다. GPT-5.5 및 Kimi-K3와 같은 최첨단 모델을 포함한 모든 평가된 MLLM은 VideoGAIA에서 60% 미만의 정확도를 기록하여, 차세대 MLLM 평가를 위한 고품질의 시기적절한 벤치마크로서의 가치를 강조한다. 우리는 VideoGAIA가 기존의 비디오 이해에서 에이전트적 비디오 이해로의 전환을 촉진하기를 기대한다.
우리는 애니메이션 데이터를 요구하지 않고 임의의 캐릭터에 대한 3D 음성 애니메이션을 생성하는 새로운 방법인 AnyTalk를 제시한다. 기존의 오디오 기반 3D 음성 애니메이션 방법들은 캐릭터별 훈련 데이터나 번거로운 리깅/리메싱에 의존하는 반면, AnyTalk는 대규모 비디오 데이터셋으로 훈련된 최신 비디오 확산 모델을 활용하여 이러한 한계를 우회한다. 우리는 먼저 Character-specific Fine-tuning (CsF) 기법을 통해 사전 훈련된 비디오 확산 모델을 대상 캐릭터에 적응시킨다. 제로화된 오디오 임베딩(‘움직임 없음’을 나타냄)과 짝지어진 3D 캐릭터의 렌더링 이미지에 대해 미세 조정함으로써, 대규모 비디오 확산 모델의 모션 사전을 보존하면서 애니메이션 데이터의 필요성을 제거한다. 그런 다음 제안된 최적화 과정을 통해 블렌드셰이프 매개변수를 추정하여 결과적으로 생성된 토킹헤드 비디오를 3D 음성 애니메이션으로 승격시킨다. AnyTalk는 다양한 얼굴 메시 및 블렌드셰이프 구성에서 립싱크 애니메이션을 가능하게 하여 수동 작업과 데이터 요구 사항을 크게 줄인다. 우리는 AnyTalk를 간소화된 네트워크인 AnyTalk_{RT}로 증류하여 실시간 성능을 구현함으로써 사용성을 한층 더 향상시킨다. 토킹헤드 비디오 생성을 활용함으로써, 우리의 방법은 임의의 캐릭터에 대한 오디오 기반 음성 애니메이션 기술의 접근성을 확장한다. 코드는 https://serin-yoon.github.io/projects/anytalk/에서 공개적으로 이용 가능하다.
다중모달 대규모 언어 모델은 공간적, 시간적, 그리고 체화된 환경에 대해 추론하기 위해 시각적 사고 사슬(Visual CoT)을 점점 더 많이 활용하고 있다. 중간 추론 이미지를 생성함으로써, Visual CoT는 시각적 예측을 위한 직관적 메커니즘을 제공하지만 상당한 추론 오버헤드를 초래하며, 이는 능동적 비디오 추론에서 특히 문제가 된다. 본 연구는 모델이 추론 시에는 직접 추론하면서 훈련 중에는 시각적으로 사고하는 법을 학습할 수 있는지 묻는다. 본 연구는 내재화된 시각적 사고(Internalized Visual Thinking, IVT)를 제안하는데, 이는 레이블이 없는 비디오에 대해 텍스트 예측과 다음 임베딩 예측을 공동으로 최적화하는 사후 훈련 프레임워크이다. 부분적으로 관찰된 비디오가 주어지면, IVT는 대상 텍스트 답변과 함께 미래 프레임의 잠재 표현을 예측하여, 모델이 움직임, 객체 전환, 상호작용, 그리고 잠재적 의도를 포착하도록 유도한다. 추론 시에 IVT는 미래 프레임을 합성하거나 재인코딩하지 않고 답변을 직접 생성한다. 본 연구는 대상 표현, 디코더 설계, 예측 지평, 데이터 혼합, 훈련 커리큘럼, 그리고 예측 목적 함수에 걸쳐 통제된 연구를 수행한다. IVT는 모든 여섯 가지 평가 설정에서 직접 답변 미세 조정보다 우수한 성능을 보이면서도 동일한 추론 경로를 유지한다. 명시적 Visual CoT와 비교하여, IVT는 유사하거나 더 나은 성능을 달성하고 평균 종단 간 지연 시간을 5배 이상 줄인다. 종합하면, 본 연구의 결과는 시각적 사고 사슬에서 사용되는 추론 시점의 명시적 픽셀 공간 생성이 효과적인 능동적 비디오 추론에 반드시 필요한 것은 아님을 시사한다. 예측적 세계 모델링은 훈련 중에 내재화되어 더 정확하면서도 훨씬 더 효율적인 다중모달 추론기를 만들어낼 수 있다.
문서 파싱은 비정형 문서를 구조화되고 기계가 읽을 수 있는 표현으로 변환하는 것을 목표로 한다. 최근 비전-언어 모델(VLM)의 발전은 문서 파싱을 크게 진전시켰다. 그러나 기존 접근 방식은 여전히 두 가지 주요 과제에 직면해 있다. 첫째, 분리된 VLM 기반 방법은 정확한 레이아웃 분석에 크게 의존하며, 카메라로 촬영된 문서의 기하학적 왜곡은 연쇄 오류를 유발할 수 있다. 둘째, 엔드투엔드 VLM 기반 방법은 명시적 레이아웃 탐지에 대한 의존성을 완화하지만, 고해상도 시나리오에서 중복 생성, 환각, 불충분한 구조 추론으로 인해 어려움을 겪는 경우가 많다. 이러한 과제를 해결하기 위해 우리는 문서 파싱을 위한 통합 프레임워크인 NaviDC-OCR을 제안한다. NaviDC-OCR은 변형 인지 학습을 도입하여 기하학적 인식을 VLM에 통합하고, 복잡한 레이아웃 표현을 위한 적응형 샘플링 메커니즘을 제안한다. 또한 콘텐츠-구조 분리 학습 전략을 개발하여 수식 문법과 표 구조를 명시적으로 모델링함으로써 보다 효과적인 구조화된 표현 학습을 가능하게 한다. 광범위한 실험을 통해 NaviDC-OCR이 다양한 문서 파싱 벤치마크에서 최첨단 성능을 달성함을 입증한다. OmniDocBench v1.6, Wild-OmniDocBench, PureDocBench에서 각각 96.87, 88.53, 78.41의 전체 점수를 획득하고, ICDAR 2026 Sci-ImageMiner Challenge에서 1위를 차지한다. 이러한 결과는 복잡한 문서 파싱 시나리오에서 NaviDC-OCR의 효율성과 일반화 능력을 검증한다.
시각 문서 검색은 다중 모달 검색 증강 생성의 핵심 구성 요소로, 텍스트, 레이아웃, 차트, 시각 구조에 걸쳐 증거가 분포된 문서 모음에서 쿼리와 관련된 페이지를 식별하는 것을 목표로 한다. 최근 미세한 수준의 지도 학습을 위한 노력은 주로 텍스트 설명이나 지역화된 시각 영역을 증거 프록시로 활용한다. 그러나 이러한 지도 신호는 복잡한 시각 구조를 간과하거나 근본적인 증거에 대한 불완전하고 부정확한 표현을 제공할 수 있다. 이러한 한계를 해결하기 위해, 우리는 시각 문서 검색을 위한 잠재 개념 표현 학습 프레임워크인 ConceptFormer를 제안한다. ConceptFormer는 쿼리 관련 증거를 연속적이고 쿼리 조건화된 잠재 개념으로 모델링하며, 이는 지역화된 시각 증거와 의미적 관련성을 명시적으로 연결한다. 이 과정에서 텍스트 중간 표현이나 원시 시각 주석에 대한 직접적인 의존이 필요하지 않다. 훈련 중에 ConceptFormer는 강력한 비전-언어 모델을 사용하여 잠재 개념 토큰의 수를 동적으로 결정하고, 이러한 개념을 쿼리와 문서 간의 의미적 격차를 연결하는 중간 표현으로 사용하여 임베딩 공간의 학습을 안내한다. 다양한 시각 문서 검색 벤치마크에 대한 실험에서 ConceptFormer는 가장 강력한 시각 검색 기준선과 가장 강력한 OCR 기반 텍스트 검색 기준선 대비 평균 NDCG@10에서 각각 16.7\% 및 22.1\%의 상대적 개선을 달성함을 보여준다. 추가 분석은 잠재 개념이 지역화된 시각 증거와 의미적 관련성을 효과적으로 연결하여, 검색기가 강력한 검색 정렬을 유지하면서 세밀한 텍스트 단서와 복잡한 문서 수준의 시각 구조를 모두 포착할 수 있게 함을 보여준다. 코드와 데이터는 https://github.com/Neuir/ConceptFormer에서 확인할 수 있다.
기업 질의응답은 내부 문서를 검색하고 근거 기반 답변을 생성하는 작업으로 구성된다. 그러나 일상적인 기업 기록은 업무의 부산물로서, 필요한 조직 관계가 이질적 출처에 걸쳐 암시적으로 남아 있다. 기존 벤치마크는 현실적인 다중 출처 증거를 제공하지만, 종종 미리 정의된 답변 경로를 구체화하여 말뭉치에 존재하지 않는 목표 관계의 복원보다는 명시된 사실의 조합을 평가한다. 우리는 후자의 능력을 잠재 조직 추론이라고 부른다. 우리는 ENTLORE를 소개한다. 이는 일상 문서, 권위 있는 조직 표, 운영 기록에서 검증된 기업 세계를 재구성하는 그래프 기반 벤치마크 구축 프레임워크이다. 버전화된 조직 규약은 진실 그래프에서 파생된 관계를 인증하여 완전한 황금 답변과 증명 인증서를 가능하게 한다. 정렬된 익명화 공개 버전은 문서 말뭉치만 노출하고 개인 구조와 목표 관계는 숨긴다. ENTLORE는 세 가지 출처 유형에서 수집한 2,341개의 문서와 명시적 조회, 교차 출처 구성, 잠재 조직 추론에 걸친 907개의 질문을 포함하며, 56개의 모델 및 접근 구성에 걸쳐 평가되었다. 공개된 세계를 유도된 개체 그래프 또는 탐색 가능한 지식 베이스로 구조화하는 것이 가장 강력한 배포 가능 결과를 제공한다. 그러나 골드 문서를 제공하더라도 잠재 질문의 30.4%는 여전히 답변되지 않으며, 명시적 질문과 구성 질문은 각각 12.6%와 6.2%이다. 따라서 기업 질의응답은 문서 재현율뿐만 아니라 암시적 조직 관계가 실제로 사용 가능해지는지에도 의존한다. 벤치마크, 데이터, 코드는 ENTLORE에서 공개적으로 이용 가능하다.
자동 검사 파이프라인은 점점 더 하나의 언어 모델을 검사기로, 다른(또는 동일한) 모델을 수정기로 배치한다. 우리는 그러한 연결 구조가 검사기가 보고하는 내용을 바꾸는지 묻는다. 현재 과제를 바이트 단위로 동일하게 유지한 채 인간이 검증한 올바른 ProcessBench 트레이스에서 오경보를 측정한 결과, 완료된 감사→수리 에피소드가 이미 모델의 맥락에 있으면 15개의 모델×표현 조합 모두에서 오경보가 낮아졌다. 길이를 맞춘 비감사 대조군과 비교해 2.8~11.5퍼센트 포인트 감소했으며, 이는 해당 대조군 대비 9~25%의 감소에 해당한다. 그 방향은 누적 메시지 문헌이 예측하는 바와 모순된다. 감사가 오류를 보고한 에피소드는 오경보를 더욱 낮추었는데, 그 조작이 온전히 적용된 모델의 다섯 가지 표현 모두에서 그랬다. 부정성 비대칭이 더 많은 플래그 지정을 예측함에도 불구하고 말이다. 에피소드를 분해하면 수리 내용과 감사 판정이 상보적이다. 서로 다른 구성 요소가 서로 다른 모델군에서 그 효과를 담당한다. 신호 탐지 분석은 변화가 변별력이 아니라 역치에 있음을 보여준다. 기준(criterion)은 15개 조합 모두에서 이동했고 보정 후에도 13개에서 유지된 반면, d'는 어느 조합에서도 유지되지 않았다. 다만 d' 검정은 구성상 민감도가 절반이다. 50건의 오경보를 수동으로 점검한 결과 82%는 명백히 잘못된 것이었으므로, 이 작동 지점에서 그 이동이 반드시 해로울 필요는 없다. 추론 기능을 활성화하면 두 테스트 모델 모두에서 효과의 상대적 크기가 유지되었고, 역치 해석도 그 경우에도 성립했다.
대규모 언어 모델(LLM)은 점점 더 합성 설문 응답자로 활용되고 있지만, 기존 평가는 개인 수준에서 응답이 그럴듯해 보이는지 여부만 묻는다. 우리는 올바른 질문은 심리측정적(psychometric)이어야 한다고 주장한다. 즉, LLM이 실제 인간 설문 데이터의 결합 분포, 잠재 구조, 신뢰도, 매개 경로, 인구통계학적 효과를 보존하는가? 우리는 리투아니아 조직심리학 데이터셋(n=263명의 직원; Dunham Attitudes Toward Change, UWES-17, Koopmans IWPQ; 68개 문항, 12개 하위 척도)을 도입하고, OpenAI, Anthropic, Google 및 12개 오픈가중치 계열에 속하는 37개 모델 라인업을 실제 응답자 프로필에 조건화하여, 5단계 페르소나 공개 사다리, 제시 및 추론 노력 제거(ablation) 실험, 반사실적 인구통계 교체(성별, 직무, 교육), 교차 언어 검증, 축어적 회상 암기 탐지 절차를 적용하였다. 그 결과 산출된 심리측정 유사도 점수(PSS)는 5개의 비(非)LLM 통계적 기준선과 홀드아웃 인간-인간 상한선에 기준을 두고, 응답자 부트스트랩 신뢰 구간과 Tucker's phi에 대한 항목 순열 귀무 분포를 사용하여 검증되었다. LLM은 인간의 심리측정 관계에서 질적 방향성은 재현하지만, 가우스 코퓰라 기준선이 표본 기반 PSS 구성 요소에서 모든 LLM을 능가하였다. LLM '집단'은 인간보다 자기 자신과 더 유사하며(LLM 간 평균 PSS 0.73), 암기는 리더보드를 주도하지 않았다(회상-PSS 순위 상관 0.00). 반사실적 교체에서 교육 수준에 따른 효과(평균 |d|=0.56)가 성별(0.12)과 직무(0.18)을 압도하였고, UWES에 대한 Tucker's phi는 37개 모델 중 8개에서 순열 귀무 분포 내에 있었다. 하위 분석에서 모든 LLM은 강한 동의 편향 이동(+0.84 SD)을 보였으며, 합성 데이터로 훈련된 회귀 모델은 홀드아웃 인간 데이터에 대한 예측 타당도를 상실하였고(평균 R^2 -0.18 대 0.28), 10개의 위약 매개 경로 중 3개에서 허위 간접 효과를 생성하였다. LLM 표본은 인간 설문 데이터의 대체 투입물이 될 수 없다.
수집 작업에서 적재량이 누적될수록 차량은 점차 감속되어 경로 효율성에 누적적 패널티가 발생한다. 탑재 드론은 외곽에 위치한 물품을 회수함으로써 이러한 패널티를 상쇄하여 완료 시간을 단축하고 운영 이익을 증대시킬 수 있다. 그러나 이동 시간은 여전히 적재량에 의존하며, 지상 차량이 수집하는 각 물품은 드론의 발진 및 회합 지점을 결정하는 도착 시간을 변화시킨다. 본 논문은 물품 선택, 차량 경로, 비행 동기화를 공동으로 최적화하여 시간 기반 임대 비용을 차감한 수집 이익을 극대화하는 드론 기반 순회 강도 문제(TTP-D)를 소개한다. 우리는 소규모 인스턴스를 최적으로 해결하는 혼합 정수 선형 계획법을 수립하고, 대규모 인스턴스를 위한 메타휴리스틱과 어텐션 기반 심층 강화학습(DRL) 정책을 개발한다. 또한 DRL 정책이 초기 해를 구성하고 이후 짧은 어닐링 실행이 이를 개선하는 학습자 초기화 하이브리드 솔버를 제안한다. 두 벤치마크 집합에서 이 하이브리드는 계산 예산의 극히 일부만으로 메타휴리스틱 기준선 품질의 대부분을 회복하지만, 가장 큰 인스턴스는 여전히 전체 예산을 사용한 기준선이 필요하다. 마지막으로 민감도 분석은 임대 비율이 수익성의 주요 결정 요인인 반면, 차량대 매개변수는 이익에 미미한 영향만 미친다는 것을 보여준다.
언어 모델은 보고할 수 있는 형태로 잠재 수량을 보유하며, 작업이 그 수량을 유연하게 재사용해야 할 때 그 형태에 더 많은 수량이 존재한다. 표현이 그 형태로 들어가게 하는 원인은 미해결 상태이며, 작업 공간(workspace)이라는 단어는 무엇이 들어갈지를 결정하는 게이트라는 진입 이야기를 암시한다. 다섯 개의 갈래가 동일한 문맥을 공유하는 벤치마크에 대해 오픈 가중치 모델에 Jacobian 렌즈를 적용해 테스트한 결과, 게이트가 예측되는 위치에서는 게이트를 발견하지 못했다. 수요는 공급된 값에 연산자를 적용함으로써 생성되는 것 이상으로 개념의 렌즈 가시성을 높인다. 기본 체크포인트에서 백분위 순위로 +0.050 [+0.045, +0.057]이며, 측정한 네 가지 모두에서 양성을 보인다. 다만 그 갈래는 상한에서 답하며, 정확도가 일치된 대비는 그 판독에서 더 강하다. 동시에 하나의 공유 선형 맵이 대조군을 포함한 모든 갈래에서 변수를 선택 보정 하한의 6.4–9.0배 수준으로 디코딩한다. 쿼리된 위치에서 이후 읽을 수 있는 형태를 생성하는 것은 중간 깊이 창 내부의 어텐션 매개 수집이다. 패치 깊이와 판독 깊이를 분리하면 비포화 판독에서 전달이 그 창에서 더 얕은 어느 위치보다 최소 17배 이상이며, 그 창 내부에서 테스트된 MLP 출력 중 긍정적으로 기여하는 것은 없다. 포화 백분위 순위에서는 동일한 격자가 그 창을 국소화하지 않는데, 이는 그 측정 방식에 관한 사실이다. 변수를 전혀 필요로 하지 않는 갈래는 7배 덜 집중시키므로 그 창은 수요 특이적이다. 그 창은 두 개의 측정된 경계를 가지며, 아래는 생존 실패, 위는 파괴로 나타난다. 또한 64층 하이브리드 모델과 다른 계열의 62층 밀집 모델에서 동일한 상대 깊이에 위치한다. 우리는 변수가 설치되고 읽히는 위치를 국소화하며, 통로로부터의 경로는 아무것도 운반하지 않으므로 국소화하지 않는다. 그러나 그 판독은 사용에 대한 보정된 측정은 아니다. 세 구성 요소가 판독값을 서로의 12% 이내로 이동시키지만, 답에 미치는 영향은 7.4배 차이가 난다.
AI 데이터센터가 작동 가능한 GPU를 폐기함에 따라, 여전히 충분한 성능을 갖춘 가속기들이 대량으로 중고 시장에 유입되고 있다. 본 논문은 이러한 폐기 GPU들이 현대 LLM 추론을 서비스할 수 있는 DumpsterCluster로 생산적인 제2의 수명을 찾을 수 있는지, 그리고 어떠한 조건에서 이러한 재활용이 경제적으로 타당하고 환경적으로 지속 가능한지 조사한다. 우리는 중고 부품만을 사용하여 128-GPU DumpsterCluster를 처음부터 물리적으로 구축하고 1년간 운영하였다. 현재 시장 가격(DumpsterCluster 22,000달러 대 8-GPU B200 시스템 600,000달러)을 기준으로 볼 때, 경제적 이점은 상당하다. 파이프라인 병렬화 최적화를 통해 우리의 V100 기반 DumpsterCluster는 LLaMA-70B 추론에서 경쟁력 있는 처리량을 달성하여, 실사용 환경에서의 생산 가능성을 입증하였다. 그러나 우리의 배포 경험은 중요한 맥락 의존성을 드러낸다. 구형 GPU는 토큰당 훨씬 더 많은 에너지를 소비하므로, 총소유비용은 전력 요금이 저렴한 지역에서만 유리하다. 계통 평균 탄소 집약도 기준으로, 중고 시스템은 현재 세대 하드웨어와 비교하여 8B 모델의 경우 토큰당 총 탄소 배출량이 약 4배, 70B 모델의 경우 40배 이상 높을 수 있다. 이러한 발견은 GPU의 제2의 수명이 보편적으로 지속 가능하지 않음을 보여준다 — 하드웨어 재활용은 저탄소 에너지원과 전략적으로 결합되어야 한다. 유리한 에너지 경제성과 청정 전력을 갖춘 지역에 배포될 때, 중고 GPU는 AI 용량을 확장하면서 경제성, 에너지 안보, 환경 책임을 동시에 증진시키는 실행 가능한 경로를 제공한다.
필드별 수락/검토(per-field accept/review) — 수락된 필드들 사이에서 오류율이 통제될 때에만 필드를 수락하는 방식 — 는 문서 추출 시스템이 필요로 하는 신뢰 계약이며, 자연스러운 절차는 실제 문서들에서 이를 조용히 위반한다. 800개의 CORD 영수증에서 추출한 13,859개의 실제 claude-sonnet-5 필드(49.0% 정확)를 대상으로 우리는 세 가지 실패 모드를 진단한다: 문서 클러스터링(설계 효과 1.84–2.45), 점수 재적합 누출(커버리지 0.416, 위험 0.127, 분할의 95%에서 alpha=0.10을 위반), 그리고 동률 질량 병리현상(퇴화 점수가 임계값 그리드를 붕괴시켜 0.030에서 0.001로). 우리는 수정 방안을 타당성 사다리(validity ladder)로 조직화하고, 각 계층별로 보증 형태를 명시한다. 적합/검증 분할 프로토콜은 학습된 퓨전에 대해 기대 선택 위험 통제를 복원한다: 명목 alpha=0.10에서 커버리지 0.318, 위험 0.096, 허용 오차 밴드 없음(프로덕션 변형 0.326) — 이는 재분할의 47.5%에서 실현 위험이 alpha를 초과하는 평균적 지점일 뿐, 인증서는 아니다. 정확 이항 꼬리를 사용한 몬드리안 학습-후-검정(Mondrian Learn-then-Test)은 그룹별 PAC 인증서를 산출한다: 필드-iid 0.171(위험 0.068), 클러스터 보정 0.140, 문서-iid 0.060 — 문서와 일치하는 유일한 계층으로, 솔직히 현재로서는 거의 공허하다. 사전 지정 출처 분류법인 서포트 빈(Support-bin)은 sonnet CORD 캡처의 모든 엄격성 계층에서 승리한다(p<1e-4, 본페로니 보정) — 그러나 이 승리는 동일한 문서에서 haiku 또는 qwen 하에서는 재현되지 않는다 — 반면 더 높은 정확도의 코퍼스에서는 통합 임계값이 승리한다: 조건화는 통합 방법이 인증할 수 없는 바로 그 지점에서 도움이 되며, 다른 곳에서는 학습된 점수에 포섭된다. 선택에 노출되지 않은 claude-haiku-4-5에 대한 고정 구성 확인은 두 위험 수준 모두에서 유지되었고, 블라인드 3인 주석자 인간-골드 감사는 실용 계층의 수락 집합 위험을 10% 예산 대비 1.3%로 검증한다(플라이스 카파=0.83; 라벨은 일방적으로 비관적인 방향으로 오류를 범한다). 시드 고정 및 회귀 게이트 절차와 함께 Apache-2.0으로 출시되었다.
대규모 언어 모델 기반 에이전트는 과학적 발견에 있어 협력자로서 점점 더 많이 배치되고 있지만, 현재 대부분의 연구는 "AI 과학자"의 자율적 역량에 초점을 맞추고 있다. 우리는 이러한 접근이 과학적 팀워크의 사회적 측면을 간과한다고 주장하며, 단위 분석이 인간-에이전트 쌍(human-agent pair)인 인간-에이전트 시스템(HAS)으로서 AI 과학자를 연구하는 것이 충분히 탐구되지 않았고 과소평가되어 왔다고 본다. 우리는 문헌 및 실증 분석을 통해 이러한 주장을 입증하고, 인간-에이전트 역학을 고려하지 않고 과학 분야에 에이전트를 배치할 경우 과학적 탐구의 다양성 감소를 포함한 단기적 위험이 초래된다는 최근 사례와 연구를 조명한다. 실제 사례 연구 분석을 통해 과학자와 에이전트가 서로의 역량을 증강시킬 수 있음을 보여준다. 우리는 과학적 발견에 있어 인간-AI 시너지를 이해하고 촉진하기 위한 수학적 프레임워크를 개발하기 위해 HAS 관점을 채택하는 새로운 연구를 촉구한다.
모션 언어 모델(MoLM)은 일반적으로 3D 모션을 토큰화하고 결과 토큰을 언어 모델로 처리하여 인간의 동작을 이해한다. 그러나 단안 비디오에서 정확한 3D 모션을 얻는 것은 어려워 실제 적용 가능성이 제한된다. 이 문제를 해결하기 위해, 우리는 원래 모델을 수정하거나 미세 조정하지 않고도 3D 사전 훈련된 MoLM이 2D 모션 입력을 받아들일 수 있게 하는 플러그 앤 플레이 2D 모션 인터페이스를 도입한다. 공개 데이터셋에 대한 실험에서 우리의 방법은 여러 MoLM에서 3D 모션 입력과 필적하는 성능을 달성하며, 2D 모션에 대해 MoLM을 처음부터 훈련하는 것보다 우수하다. 나아가 단안 실제 비디오 모션 평가 데이터셋을 구축하고 실제 비디오 어댑터를 도입하여, 평가된 단안 포즈 추정 설정에서 3D 모션보다 2D 모션의 유용성을 입증한다. 이러한 결과는 2D 모션이 실제 동작 이해 환경에서 MoLM을 배포하기 위한 실용적인 인터페이스를 제공함을 시사한다. 코드는 https://github.com/irajisamurai/2D-Motion-Interface에서 확인할 수 있다.
탐험 가능한 세계를 생성하거나 재구성하는 학습은 RGB에 더하여 카메라 모션, 장면 기하 구조, 시간적 대응 관계, 그리고 상호작용 모델의 경우 제어 신호가 함께 제공되는 비디오를 필요로 한다. 실제 촬영은 이러한 신호 중 일부를 제공할 수 있지만, 조밀한 기하 구조와 장기간 대응 관계는 일반적으로 추정이나 특수 계측 장비에 의존한다. 렌더링은 이러한 정보를 직접 제공하지만, 기존의 합성 데이터 자원은 동일한 프레임에 이들을 결합하면서도 시점과 외관의 제어된 변경을 지원하는 경우가 드물다. 아티스트가 제작한 환경에 대한 풍부한 주석이 포함된 장기간 탐험을 생성하는 데이터 엔진인 WorldRover를 소개한다. WorldRover-Engine의 핵심은 언리얼 엔진 파이프라인으로, 분 단위 경로를 실행하여 오프라인으로 렌더링하면서 전체 궤적과 장면 기하 구조를 보존한다. 동일한 탐험은 서로 다른 환경 상태에서 1인칭, 3인칭, 360도 파노라마 카메라로 재생할 수 있다. WorldRover-Engine을 사용하여 WorldRover-10M을 구축하였으며, 이 데이터셋의 시퀀스는 각 탐험 전반에 걸쳐 RGB와 함께 미터 단위 깊이, 카메라 궤적, 궤적에서 파생된 행동 신호를 제공한다. 3인칭 하위 집합은 추가로 조밀한 광류, 가시성 정보를 포함한 장기간 2D/3D 포인트 트랙, 그리고 카메라 궤적과 구별되는 캐릭터 궤적을 제공한다. 엔진은 경로와 장면 기하 구조를 보존하면서, 서로 다른 환경 상태 또는 중립 흰색 재질을 적용한 조건에서 1인칭, 3인칭, 360도 파노라마 시점으로 이동 과정을 렌더링할 수 있다. 따라서 WorldRover는 장기적 세계 탐험을 확장 가능한 데이터 생성 문제로 전환하며, 탐험 가능한 세계에 대한 일관된 표현을 구축·유지·재방문해야 하는 모델에 지도 신호를 제공한다.
객관식 벤치마크는 대규모 언어 모델을 평가하는 데 널리 사용되지만, 객관식 점수는 지식과 선택지 순서에 대한 민감도를 혼동하여 모델 지식의 신뢰할 수 있는 측정 지표가 되지 못한다. 본 논문에서는 모델이 답변을 확정하는 동안 선택지 레이블을 보지 못하게 함으로써 위치 영향력을 제거하고, 그 결과 성능이 향상되는지를 검증한다. 우리는 편향을 완화하기 위한 두 가지 전략을 평가한다. 첫 번째는 생성-후-매칭 접근법을 사용하고, 두 번째는 설계상 위치 편향이 없는 방식으로 선택지를 개별적으로 평가한다. 두 전략 모두 정확도를 안정적으로 향상시키지 못한다. 완전한 분해 분석은 병목 현상이 매칭 단계가 아니라 선택지 제시 생략에 있음을 보여준다. 기준선과 일관되게 일치하는 유일한 구성은 LLM 매처와 함께 모든 선택지를 모델에 제시하는 방식이다. 그러나 위치 영향력을 완전히 제거하더라도 정확도 향상이 안정적으로 나타나지 않으며, 오히려 순환 순열이 정확도를 개선하는 경우가 많다. 2단계 프롬프팅의 경우, 재현율 불균형의 종합 지표와 질문별 순서 민감도의 직접 측정 모두 편향 제거 효과를 안정적으로 입증하지 못한다.
검색 증강 생성(RAG)은 대규모 언어 모델을 향상시키는 데 필수적이다. 그러나 RAG는 점점 더 중독 공격에 취약해지고 있으며, 이러한 공격에서는 적대적 문서가 주입되어 생성기 출력을 조작한다. 기존 방법들은 혼란도(perplexity) 및 일관성 검사와 같은 출력 측 신호에 의존하여 이러한 공격을 탐지한다. 그럼에도 불구하고, 우리의 분석은 의도적인 공격이 종종 거짓 확신을 유도하여, 중독된 출력이 정상 출력보다 오히려 더 낮은 혼란도를 보임으로써 불확실성 기반 탐지를 무력화한다는 것을 밝힌다. 이 문제를 해결하기 위해, 우리는 생성기의 내부 역학을 탐구하고 주의 집중 붕괴(Attention Collapse)라고 불리는 독특한 시그니처를 식별한다. 정상 생성에서의 분산된 주의와 달리, 공격받은 생성은 주의가 중독된 문서에 집중됨에 따라 엔트로피가 감소하는 것을 보인다. 이러한 발견을 바탕으로, 우리는 공격받은 생성을 식별하기 위해 주의 역학을 모니터링하는 경량 탐지 프레임워크인 D-SCAN(문서 수준 신호 붕괴 분석, Document-level Signal Collapse Analysis)을 제안한다. 여러 공격 벤치마크에 대한 광범위한 실험은 우리 방법의 효과성을 입증한다. 더욱이, D-SCAN은 공격이 최종 답변을 변경하지 못하는 경우에도 공격을 탐지할 수 있다. 코드는 https://github.com/yingtaoren/D-Scan.git에서 확인할 수 있다.
경계 표현(B-Rep) 생성은 컴퓨터 지원 설계(CAD)의 기본 작업이지만, 고충실도 및 구조적으로 유효한 B-Rep의 직접 합성은 여전히 주요 과제로 남아 있다. 기존의 딥 생성 방법은 두 가지 형태의 취약성을 겪는다: 잠재 공간에서 패딩 노이즈와 특성 오염으로 인한 표현 취약성, 그리고 순차적 오류 전파와 비미분 가능 타당성 강제로 인한 학습-추론 불일치에서 비롯된 생성 취약성이다. 우리는 이러한 한계를 두 가지 상호 보완적 기여를 통해 해결하는 새로운 프레임워크인 HiFi-BRep을 제안한다. 첫째, 토폴로지 인식 인코더는 학습 가능한 쿼리를 통해 패딩을 제거하고 토폴로지 유도 어텐션으로 특성 오염을 방지하여 고충실도 잠재 표현을 구축한다. 둘째, 단일 단계 디코더는 기하학과 토폴로지를 병렬로 동시에 예측하며, 핵심 다양체 제약 조건을 미분 가능한 학습 목표로 내장한다. 이 설계는 기하학과 토폴로지 간의 상호 유도를 보장하면서 연쇄 오류를 방지한다. 광범위한 실험을 통해 HiFi-BRep은 구조적 타당성과 기하학적 충실도 모두에서 최첨단 방법을 크게 능가하여 고품질 B-Rep 합성을 위한 강력한 솔루션을 제공함을 보여준다. 코드와 모델은 https://github.com/1nnoh/HiFi-BRep에서 공개적으로 이용 가능하다.
스트리밍 비디오 이해는 진행 중인 비디오의 인과적으로 관찰된 접두사(prefix)로부터 직접적인 응답을 요구한다. 기존 시스템들은 추론 시 메모리, 검색, 압축을 추가하지만, 학습이 필요 없는 슬라이딩 윈도우 기준선(baseline)이 이미 이들을 능가한다. 따라서 우리는 메모리가 없는 최근-윈도우 프로토콜을 고정하고, 사후 훈련(post-training)만으로 어느 정도까지 발전할 수 있는지 질문한다. 검증 가능한 보상(verifiable rewards)을 이용한 강화 학습은 긴 "사고 후 응답(think-then-answer)" 생성을 장려하는 방식으로 이 체제에 부적합하며, 온-정책 증류(OPD, on-policy distillation)는 학생 궤적에 대해 토큰 수준의 조밀한 교사 지도 신호를 제공하지만 두 모델 모두 사고 모드(thinking mode)로 훈련될 때만 안정적이다. 이러한 관찰들을 바탕으로, 검증 가능한 스트리밍 비디오 데이터, 사고 모드 OPD, 지시 모드 배포(instruct-mode deployment)를 결합한 레시피인 StreamOPD를 제안한다. StreamOPD는 StreamingBench에서 77.9%에서 83.9%로 성능을 향상시키며, 이는 9B 교사 모델과의 격차를 0.3포인트 이내로 줄인 것이며, 추론 조건을 변경하지 않은 채 환각 탐지 하위 태스크(HLD)를 제외한 OVO-Bench에서 9.1포인트를 향상시킨다. 교사 특권(teacher-privilege) 확장으로서, Spatio-Temporal CueGate(ST-CueGate)는 단서 유무에 따른 교사 우도비(likelihood ratios)를 집계하여 집단-상대 응답 점수(group-relative response score)를 생성하고 OPD의 가중치를 재조정한다. 이 방법은 OVO-Bench(HLD 제외)에서 71.9%, Video-MME에서 64.9%를 달성하며, 네 벤치마크 모두에서 기본 모델보다 높은 성능을 유지하는 유일한 변형이다. 교사를 학생의 초기 정책을 동결한 사본으로 대체하는 온-정책 자기 증류(on-policy self-distillation)는 이러한 성능 향상의 대부분을 유지하면서 HLD를 57.0%로 끌어올려, 훈련 전 학생과 9B 교사 모델을 모두 능가한다. 따라서 기권 손실(abstention loss)은 이 레시피에 내재적이지 않다. 우리는 오픈소스 스트리밍 비디오 연구를 위한 투명하고 재현 가능한 참조 자료를 제공한다.
오디오-텍스트 기반 모델(ATM)은 심한 음향 잡음 하에서 치명적으로 실패하지만, 기존 적응 전략은 신호가 아닌 잡음을 강화하는 경사 기반 테스트-시간 적응(TTA)에 의존하거나, 추론 시점에는 이용할 수 없는 특권적 잡음 주석을 요구하는 프롬프트 튜닝에 의존한다. 우리는 이러한 실패를 PRISM(Prototype-Rectified Iterative Self-supervised Manifold Denoising)으로 해결한다. PRISM은 학습이 필요 없고 소스 데이터도 필요 없는 TTA 프레임워크로, 심한 음향 잡음이 다중 모달 잠재 공간에서 저랭크 아핀 이동을 유도하며 왜곡 에너지의 90% 이상이 상위 60개 주성분에 집중된다는 아핀 잡음 가설에 기반한다. PRISM은 레이블 없는 대상 배치로부터 이 왜곡을 추정하고, 고정된 텍스트 프로토타입을 기하학적 앵커로 사용하여 세 가지 폐쇄형 기하 보정을 통해 왜곡을 역전시킨다. 이 보정들은 아핀 편향 회귀에 의해 단일 정적 투영 행렬로 통합된다. 추론 시 적응은 0.0009ms의 행렬-벡터 곱셈 한 번으로 축소되므로, 경사 기반 TTA보다 훨씬 빠르며 추가 학습이 필요 없다. UrbanSound8K에서 PRISM은 제로샷 기준선보다 12.94퍼센트 포인트 향상되고, 오라클 지원 TTA 기준선이 사용하는 특권적 증강 잡음 프롬프트를 전혀 관찰하지 못했음에도 해당 기준선을 9.41퍼센트 포인트 능가한다. 또한 우리는 부분공간 축소가 광대역 클래스에 대해 갖는 원리적 실패 모드인 폴리포닉 트랩(Polyphonic Trap)을 식별하고, 신뢰 인식 회귀(CAR)를 통해 이를 해결하여 가장 큰 피해를 입은 클래스에서 최대 8.16퍼센트 포인트를 회복한다.