일간 논문

저희는 2.8T 파라미터 Mixture-of-Experts 모델로, 1,040억 개의 활성화된 파라미터, 네이티브 비전 기능, 100만 토큰 컨텍스트 윈도우를 갖춘 Kimi K3를 소개합니다. Kimi K3는 시퀀스 길이와 모델 깊이 전반에 걸친 정보 흐름을 개선하는 Kimi Delta Attention 및 Attention Residuals를 기반으로 구축되었습니다. Stable LatentMoE(토큰 당 896개의 라우팅된 전문가 중 16개를 효과적으로 활성화)와 정제된 훈련 및 데이터 레시피와 함께 이러한 발전은 Kimi K2 대비 전체 스케일링 효율성을 약 2.5배 향상시킵니다. 포스트 트레이닝은 일반, 에이전트, 코딩 영역에 걸친 강화 학습과 여러 추론 노력 수준을 강조하여 구성적 일반화와 강력한 장기 실행을 가능하게 합니다. 2.8T 규모에서 Kimi K3는 여러 영역의 인프라 발전에 의해 지원됩니다: KDA를 위한 알고리즘-시스템 공동 설계, 효율적인 메모리 관리로 완벽하게 균형 잡힌 전문가 병렬 훈련, 지속적인 롤아웃 및 샌드박스 상태를 갖춘 백만 토큰 에이전트 RL, 그리고 배포 혁신입니다. 광범위한 평가 결과, Kimi K3는 장기 코딩, 에이전트, 지식, 추론 및 비전 작업에서 최첨단 수준의 성능을 달성합니다. 전체 성능은 여전히 가장 강력한 독점 모델인 Claude Fable 5 및 GPT-5.6 Sol에 뒤지지만, Kimi K3는 저희 평가 세트에서 평가된 다른 오픈 및 독점 모델을 일관되게 능가합니다. 저희는 향후 연구를 촉진하고 프론티어 지능의 광범위한 배포와 채택을 가속화하기 위해 전체 Kimi K3 모델 가중치를 공개합니다.

창의적 AI는 단일 단계의 자산 생성에서 장기적 멀티모달 생산으로 진화하고 있다. 최근 생성 모델들은 고품질의 이미지, 비디오, 오디오 클립, UI 요소, 스토리보드, 슬라이드 및 기타 창의적 자산을 합성할 수 있지만, 실제 창작 작업은 고립된 프롬프트-출력 상호작용 이상을 요구한다. 창작 작업에는 참고자료, 초안, 대안, 수정, 실패한 시도, 버전 관계, 도구 동작, 평가 신호 및 인간의 피드백이 포함되며, 이 모든 것이 진화하는 프로젝트 상태를 형성한다. 기존의 프롬프트 기반, 채팅 기반, 노드 기반 생성 시스템은 중간 맥락을 폐기하거나 선형적 대화에 의존하거나 수동 작업 흐름을 요구하는 경우가 많아 이러한 상태를 부분적으로만 지원한다. 최근 상용 시스템들은 에이전트 지원 창작 생산으로의 전환을 시사하지만, 폐쇄적 아키텍처로 인해 에이전트가 맥락을 표현하고, 도구를 선택하며, 결과물을 수정하고, 실패에서 복구하며, 시간이 지남에 따라 일관성을 유지하는 방식을 연구하기 어렵다. 이러한 격차를 해소하기 위해 우리는 JarvisHub를 소개한다. 이는 장기적 멀티모달 창작을 위한 캔버스 네이티브 창의적 에이전트 도구이다. JarvisHub는 편집 가능한 캔버스를 사용자 작업 공간, 에이전트의 외부 메모리, 행동 공간 및 공유 프로젝트 상태로 간주하며, 멀티모달 결과물, 의존성, 버전 및 피드백을 타입화된 캔버스 노드와 링크로 표현한다. 캔버스 상태, 프로토콜 브리지, 에이전트 런타임의 3계층 아키텍처를 통해 JarvisHub는 에이전트가 검사 가능하고 편집 가능한 창의적 상태 내에서 작동할 수 있게 한다. 이 설계는 창의적 에이전트를 고립된 도구 사용에서 벗어나 지속적이고 인간이 제어 가능한 창작 자동화로 이끌며, 에이전트가 점진적으로 계획하고, 생성하고, 수정하고, 멀티모달 프로젝트를 구성하는 동안 사용자는 전 과정을 검사하고 안내하며 개입할 수 있게 한다.

로봇 학습은 넓은 행동 공간을 가진 동적 환경에서 이루어집니다. 종료 성공 신호는 로봇에게 과제 완료 여부만을 알려줄 뿐, 현재 행동이 진행 중인지, 변화가 없는지, 아니면 이전 진행 상황을 되돌리고 있는지 설명하지 않습니다. 이러한 이유로 최근 연구들은 작업 실행 중 피드백을 제공하는 진행 보상을 점차 탐구하고 있습니다. 그러나 현재 문헌에는 공유된 프레임워크가 부재합니다. 기존 방법들은 서로 다른 관찰, 목표 명세, 출력 신호, 감독 소스, 평가 프로토콜을 사용합니다. 이로 인해 방법들을 비교하고 그 결과가 실제로 무엇을 검증하는지 이해하기 어렵습니다. 본 서베이에서는 로봇 학습을 위한 진행 보상 모델링에 대한 통합된 관점을 제시합니다. 우리는 이 분야를 세 가지 연결된 단계로 구성합니다. 먼저 진행 모델의 인터페이스를 연구합니다. 이는 모델이 어떤 정보를 수신하고 어떤 형태의 진행 신호를 생성하는지 질문함으로써 문제를 외부에서 정의합니다. 그런 다음 모델 내부로 이동하여 이 신호를 구성하는 데 사용되는 방법들을 연구합니다. 이를 통해 진행 추정 및 보상 생성 이면의 다양한 가정과 메커니즘이 드러납니다. 마지막으로 이러한 방법들을 뒷받침하는 데이터와 벤치마크를 검토합니다. 이를 통해 진행 감독이 어떻게 획득되는지와 서로 다른 평가가 실제로 무엇을 측정하는지 확인할 수 있습니다. 함께, 이 세 가지 관점은 진행 모델이 무엇인지, 어떻게 구축되는지, 그리고 그 품질이 어떻게 검증되는지를 연결합니다. 또한 현재 접근 방식의 주요 한계를 요약하고 향후 연구 방향을 논의합니다.

에이전트 검색은 대규모 언어 모델이 다단계 추론과 검색을 혼합하여 지식 집약적 작업을 해결할 수 있게 하지만, 결과 기반 강화 학습으로 이를 최적화하면 희소한 감독만 제공된다. 지식 증류는 더 조밀한 지침을 제공할 수 있으며, 강력한 추론 능력을 갖춘 고급 독점 모델은 유망한 교사가 된다. 독점 모델로부터 증류하면 이 감독 신호를 조밀하게 만들 수 있지만, 기존의 로짓 매칭은 숨겨진 로짓과 일치하지 않는 토크나이저로 인해 불가능한 반면, 원시 자연어 궤적 모방은 핵심 추론 능력이 아닌 피상적인 문체적 인공물만 전이한다. 이질적 증류 문제를 해결하고 분포 격차를 메우기 위해, 본 논문에서는 구조화되고 스타일이 정규화된 프로토콜을 중간 표현으로 사용하는 공동 증류 및 강화 학습 프레임워크인 다중 에이전트 프로토콜 증류(MAPD)를 제안한다. 오프라인 다중 에이전트 시스템은 각 질의를 분해하고, 지원 증거를 검색하며, 실패한 검색을 복구하고, 결과 탐색 궤적을 작업 유형, 추론 계획 및 추출적 근거 사실을 포함한 JSON 프로토콜로 변환한다. 훈련 중에는 프로토콜이 학생 정책의 특권 분기에만 제공되며, 이 분기의 토큰 분포는 희소 강화 학습 목표와 함께 조밀한 증류 신호를 제공한다. 7개의 QA 벤치마크에 대한 광범위한 평가에서 MAPD가 경쟁력 있는 증류 및 강화 학습을 일관되게 능가하여 Qwen3-1.7B에서 평균 39.4%, Qwen3-4B에서 44.4%의 성공률을 달성함을 보여준다. 결정적으로, 이 프레임워크는 다양한 독점 교사에 걸쳐 강건하게 일반화되면서 학생 정책의 스타일 표류와 장황성 저하를 효과적으로 완화한다.

온-정책 증류(OPD)는 현재 학생이 생성한 궤적을 따라 교사 모델에 질의하여 확산 모델을 적응시키지만, 현대 확산 시스템의 기본 구성 요소인 분류기-없는 유도(CFG) 하에서 어떻게 작동해야 하는지는 아직 충분히 이해되지 않았다. 기존 OPD 방법은 속도 정합을 CFG 구성 예측으로 자연스럽게 확장하여 교사와 학생의 유도 속도를 직접 정합한다. 우리는 이 목적함수가 가지 수준에서 저식별됨을 보인다: 양성 및 음성 가지 오차가 유도 예측에서 상쇄될 수 있다. 두 가지 대조 사례를 통해, 순진한 정합이 공유된 음성 조건화 하에서는 효과적임을 발견한다. 여기서는 두 가지 오차가 함께 감소한다. 그러나 모델의 고유 CFG 스키마가 교사의 음성 가지에 학생이 접근할 수 없는 특권 정보를 유지할 때, 이러한 공동 감소는 무너지고, 구성된 목적함수는 양성 가지 오차를 줄이면서 음성 가지 오차를 증가시키는 대립적 가지-오차 동역학을 유도한다. 우리는 이 실패 모드를 음성 가지 비대칭(NBA)이라 명명한다. NBA를 해결하기 위해, 우리는 양성-방향 정합(PDM)을 소개한다. 이는 양성 예측과 CFG 조건부 방향을 별도로 제약하는 가지 인식 OPD 목적함수이다. 우리는 PDM을 밀집-희소 비디오 제어에 적용한다. 여기서 순진한 유도 정합은 추론 유도 척도에 매우 민감한 반면, 가지 인식 지도 학습은 더 강건하고 효과적인 지식 전이를 가능하게 한다.

컴퓨터 사용 에이전트는 일반적으로 지각 능력(perception)을 강화함으로써 개선된다. 즉, 스크린샷을 더 잘 읽고 클릭할 위치를 선택하는 더 나은 모델을 사용하는 것이다. 그러나 스크린샷은 기본 프로그램 상태(예: 작업 데이터를 보유하는 파일, 애플리케이션 백엔드, DOM)의 손실 렌더링에 불과하다. 동일한 픽셀을 생성할 수 있는 서로 다른 상태가 존재하는 반면, 코드는 해당 상태를 직접 검사하고 수정할 수 있다. StateAct는 이러한 구별을 기반으로 구축된 코드 우선(code-first) 멀티 에이전트 하네스(harness)이다. 주 에이전트는 코드를 사용하여 프로그램 상태와 직접 작업하는 반면, 전용 GUI 하위 에이전트는 이를 필요로 하는 소수의 하위 목표(총 108개 작업 중 28개, 주 에이전트 단계의 1.1%)에 대해 스크린샷 및 클릭 상호작용을 처리한다. 프로그램 상태에 대한 동일한 직접 접근은 검증(verification)도 지원한다. 독립적인 완료 게이트(finish gate)는 저장된 결과에서 누락, 미저장, 잘못된 경로에 기록과 같은 구조적 실패를 재확인한다. 수백 단계에 걸쳐 궤도를 유지하기 위해 주 에이전트는 하위 목표를 새로운 하위 에이전트에 전달하여 자체 컨텍스트를 집중된 상태로 유지한다. OSWorld 2.0에서 StateAct는 Claude Opus 4.8의 이진 성공률을 20.6%에서 26.9%로, 부분 성공률을 54.8%에서 61.6%로 끌어올리며, 동일 모델을 스크린샷만으로 구동했을 때보다 작업당 약 9배 낮은 비용을 달성한다. GUI 하위 에이전트가 없는 코드 전용 변형은 부분 성공률 45.9%에 그쳐, 스크린샷 기반 기준선의 54.8%보다 낮다. 일반적으로 행동, 검증, 기억을 상태에 기반하는 것, 즉 우리가 상태 기반 근거화(state-grounding)라고 부르는 것은 주요 병목 현상을 지각에서 추론으로 이동시킨다. 즉, 실패는 에이전트가 보는 것보다 무엇을 생각하는지에 더 의존한다.

멀티모달 기반 모델들은 인터넷 전체를 소비함으로써 보고 말하는 법을 학습했다. 그러나 신체화된 에이전트(embodied agents)에게는 그러한 지름길이 존재하지 않는다. 이는 관찰과 물리적 상태 및 행동을 결합한 데이터를 필요로 하기 때문이다. 이러한 신호는 다양한 데이터 소스에 의해 정도의 차이는 있지만 제공될 수 있다. 본 연구에서는 신체화된 데이터 생태계를 다섯 가지 상호 보완적 소스(실제 로봇 데이터, UMI 스타일 데이터, 자아 중심적 및 외부 중심적 데이터, 시뮬레이션 데이터, 일반 시각-언어 데이터)를 아우르는 '피라미드'로 조직화한다. 이 피라미드는 확장성과 로봇 정합성(robot alignment) 사이의 긴장을 중심으로 구성되며, 각 소스를 데이터 품질, 다양성, 재사용성, 물리적 충실도 측면에서 추가로 특성화한다. 이후 최근의 신체화된 기반 모델들을 데이터 레시피(data recipe)의 관점에서 분석하여, 사전 훈련 중 각 소스가 어떻게 선택, 정렬, 혼합되는지 살펴본다. 신체화된 두뇌 모델, 시각-언어-행동 모델, 세계-행동 모델 모두에 대해 데이터 구성과 인식, 추론, 계획, 행동 생성, 세계 예측 능력 간의 관계를 정립한다. 마지막으로 여섯 가지 공개 과제, 즉 대규모 촉각 데이터셋 구축, 실패 및 복구 데이터 수집, 확장 가능한 데이터 수집 파이프라인 개발, 신체화 간 행동 정렬, 손재주 조작을 위한 자아 중심적 데이터 활용, 로봇 학습을 위한 원칙적인 데이터 레시피 설계를 논의하며 마무리한다. 본 연구가 차세대 신체화된 시스템 설계의 기초를 마련하기를 기대한다.

확산 트랜스포머는 고품질 비디오 생성에 필수적이지만, 긴 토큰 시퀀스로 인해 어텐션(attention)이 추론의 주요 병목 지점이 된다. 학습 불필요(train-free) 동적 희소 어텐션은 선택된 키-값 블록만 계산함으로써 이 병목을 완화하지만, 두 가지 이유로 인해 기존 방법들은 효율적이면서도 정확하게 어텐션을 희소화하는 데 어려움을 겪는다. (1) 경직되고 예측 불가능하며 비용이 많이 드는 라우팅(routing): 프록시 점수에 따라 상위 순위 블록의 고정된 비율을 선택하는 방식은 고정된 예산을 부과하는 반면, 목표 누적 프록시 확률 질량에 도달할 때까지 블록을 유지하는 방식은 동적이지만 불균형적인 예산을 초래할 수 있다. 두 방식 모두 프록시 점수를 계산하고 구체화하는 데 무시할 수 없는 오버헤드가 발생한다. (2) 손실이 있는 유지-폐기 희소화: 선택되지 않은 블록은 완전히 폐기되어, 공격적인 희소성 하에서 정확도를 저하시킨다. 이러한 한계는 정확도 저하를 제한하면서 더 저렴한 동적 예산 라우팅을 필요로 한다. 본 논문에서는 학습 불필요한 Sol-Attn(Sparsifying online attention)을 소개한다. 이 방법은 동적 라우팅, 희소 계산, 근사 보정을 단일 온라인 소프트맥스 패스(online-softmax pass)에서 통합하여 희소 어텐션에서 더 나은 정확도-효율성 절충을 달성한다. Sol-Attn의 핵심은 프록시 점수 재사용을 통한 즉석 블록 임계값 설정(on-the-fly block thresholding)으로, 온라인 소프트맥스 동안 블록 프록시 점수를 임계값과 비교하여 중요한 블록을 선택한다. 이 설계는 프록시 맵을 구체화하지 않으면서도 동적이면서 제어 가능한 블록 예산을 가능하게 하며, 선택되지 않은 블록의 프록시 점수를 직접 재사용하여 그 기여도를 근사한다. 이미지 및 비디오 생성 작업에 걸친 실험은 Sol-Attn이 학습 불필요 희소 어텐션의 품질-효율성 경계선을 개선하며, 비디오 생성 및 편집에서 각각 2.1배 및 2.3배의 종단간 속도 향상을 시각적 품질을 유지하면서 제공함을 보여준다.

최근 생성 모델들은 무음 비디오나 독립형 오디오 합성을 넘어, 동기화된 오디오와 비디오의 공동 생성을 지향하고 있다. 이러한 발전에도 불구하고, 정밀한 교차 모달 대응을 갖춘 오디오와 비디오의 공동 생성은 두 양식의 근본적인 구조적 차이로 인해 여전히 어려운 과제이다. 대부분의 기존 방법들은 별도로 학습된 오디오 및 비디오 VAE를 사용한다. 그 결과, 두 잠재 공간은 교차 모달 정렬이 부족하여, 다운스트림 생성 모델이 처음부터 교차 모달 동기화를 학습해야 한다. 우리는 오디오와 비디오 잠재 표현 간의 정밀한 의미 정렬을 학습하는 공동 학습 오디오-비디오 VAE인 OmniVAE를 제안한다. OmniVAE는 재구성 외에도, 시간-의미 대응을 포착하고 두 잠재 공간을 정렬하기 위해 세그먼트 수준의 오디오-비디오 대조 목표를 사용한다. 이와 동시에, 사전 학습된 양식별 의미 인코더의 특징을 각 양식에 증류하여 두 잠재 공간의 다운스트림 학습 가능성을 향상시킨다. 광범위한 실험을 통해 두 목표 모두 잠재 공간의 학습 가능성을 일관되게 향상시키며, 이는 다운스트림 텍스트-오디오-비디오 생성에서 더 높은 생성 품질과 더 정확한 교차 모달 동기화로 이어짐을 보여준다. 이러한 발견은 통합 표현 학습이 전모달 모델링의 기초로서 중요함을 강조한다.

우리는 Oxygen-TryOn을 소개한다. 이는 모든 아이템을 대상으로 하는 가상 피팅을 위한 통합 기초 모델이다. 범용 이미지 편집기를 재활용하는 대신, Oxygen-TryOn은 패션 네이티브(fashion-native) 방식으로 설계되어 전용 데이터 엔진과 피팅 특화 학습을 통해 구축되었다. 하나 이상의 참조 아이템(깨끗한 제품 사진 또는 현장에서 촬영된 착용 사진)과 단일 대상 인물 이미지가 주어지면, 거의 모든 패션 카테고리에 걸쳐 대상이 해당 아이템을 착용한 사실적인 이미지를 합성한다. 기존 시스템은 스튜디오 환경에서 단일 의류 카테고리를 처리하며, 최근의 다중 참조 방법도 여전히 의류 중심에 머물러 있다. 반면, Oxygen-TryOn은 전신 및 반신 뷰, 가변적인 참조 수, 자유로운 다중 아이템 구성을 포함한 다양한 아이템과 시나리오를 지원하면서, 대상 인물의 정체성과 아이템 외관을 모두 충실히 보존한다. 마스크 기반 인페인팅 대신, 우리는 피팅을 다중 참조, 이해 기반 생성 작업으로 재정의한다. 대규모로 고품질 피팅 데이터를 수집, 제조, 주석 및 필터링하는 데이터 엔진을 구축하고, 지속적 사전 학습(CPT), 지도 미세 조정(SFT), 강화 학습(RL)의 3단계 레시피를 설계한다. RL 단계는 자체 피팅 보상 모델과 독점적인 루브릭 기반 범용 모델을 결합한 하이브리드 보상을 사용하여, 세부 일관성과 명령 수준 품질을 공동으로 감독한다. 또한 동일한 과정에서 일반 편집 명령(예: 포즈 변경)도 따르도록 한다. 공개 벤치마크와 자체 Oxygen-TryOn Bench에서 단일 아이템 피팅에 대해 최첨단 일관성과 사실성을 달성하고, 다중 아이템 피팅에서 선두를 차지하여 주요 독점 시스템(Nano Banana Pro, GPT-Image-2, Seedream5 Lite)과 오픈소스 모델(FLUX.2) 모두에 필적하거나 능가한다.

다중 턴 장기 계획은 기반 모델 에이전트에 있어 중요하지만, 이를 근본적으로 개선하는 방법은 여전히 불분명하다. 기존 모델은 통제 불가능하고 불투명한 인터넷 데이터로 학습되어, 계획 능력이 어떻게 습득되고 형성되며 통합되는지 파악하기 어렵다. 이러한 문제를 해결하기 위해, 우리는 정밀한 제어가 가능한 통합적이고 통제된 다중 턴 환경을 도입한다. 이를 통해 세 단계에 걸쳐 장기 계획을 체계적으로 연구할 수 있다. (1) 사전 학습 중 계획 능력 습득. 데이터 형식, 분포, 품질을 연구한다. CoT 상태 전이 모델링을 통한 명시적 세계 모델 구축은 더 강력한 장기 일반화를 제공한다. 원자적 기술만으로는 구성적 일반화에 충분하지 않지만, 소량의 장기 데이터는 효과적이다. 또한, 차선의 궤적은 오류가 장기간에 걸쳐 증폭되기 때문에 성능을 심각하게 저하시킨다. (2) GRPO와 OPD 사후 학습을 통한 계획 능력 형성. 상호 정보를 통해 일반 계획 패턴과 작업별 계획 지식을 구분한다. 계획 패턴에 대해 사후 학습의 세 가지 적용 영역(불필요, 효과적, 지원 불가)을 식별한다. OPD는 저품질 및 장기 설정에서 GRPO보다 더 넓은 효과 영역을 가지는데, 이는 보다 일관된 업데이트 방향을 제공하기 때문이다. 계획 지식의 경우, 다른 지식을 가진 교사로부터 보지 못한 절차를 증류하면 새로운 지식을 완전히 확립하지 못하면서 학생의 기존 세계 모델을 손상시킬 수 있다. (3) MOPD 사후 학습을 통한 계획 능력 통합. 다중 교사 온-정책 증류(MOPD)가 환경 간 공유된 계획 패턴으로 수렴함으로써 능력을 통합함을 보여준다. 호환 가능한 패턴은 환경 간 일반화를 가능하게 하고, 부분적으로 공유된 패턴은 지속적 학습을 지원하며, 완전히 충돌하는 패턴은 심각한 간섭을 유발한다.

본 연구에서는 고차원 시각 표현을 이산화하여 언어 모델과의 격차를 해소하는 것을 목표로 한다. 이는 사소하지 않은 과제로, 기존 양자화 방법들은 코드북 붕괴(codebook collapse)를 겪으며 의미적 일관성을 유지하면서 확장하는 데 실패한다. 근본 원인은 지표 불일치(metric mismatch)로 파악된다. 표준 유클리드 코드북 목적 함수는 표현 공간의 이방성 기하학과 근본적으로 정렬되지 않아, 높은 분산 크기 스케일과 고르지 않은 각도 분포를 가진 코드북 임베딩을 초래하여 확장성을 저해한다. 이를 해결하기 위해, 각도 라우팅을 통해 의미 내용과 특징 크기를 분리하는 초구면 양자화(HSQ)를 제안한다. 이는 코드 할당이 의미보다 스케일에 의해 지배되는 것을 방지한다. 결과적으로 얻어진 이산 표현 오토인코더(dRAE)는 의미적 무결성을 유지하고 확장 가능한 코드북 예산을 지원하면서 높은 충실도의 재구성을 달성한다. 광범위한 실험을 통해 어휘 크기가 131,072로 확장됨에 따라 일관된 성능 향상, 100% 코드북 활용, 간소화된 훈련 파이프라인, 그리고 이해 및 생성 작업 전반에서 강력한 성능을 입증한다.

다중 모달 거대 언어 모델(MLLM)은 임상 진료에 혁명을 일으킬 엄청난 잠재력을 지니고 있지만, 이를 의료 영역에 배포하는 것은 근본적으로 시각 중심의 도전 과제이다. 즉, 모델은 이질적인 2D 및 3D 의료 영상으로부터 지식을 흡수해야 하며, 평가 프로토콜은 방사선과 의사의 임상 진료와 일치하고 정확하고 세밀하며 사실성 기반의 평가를 제공해야 한다. 본 논문에서는 이러한 한계점을 체계적으로 해결하기 위해 설계된 시각 중심의 MLLM인 ClinFusion을 소개한다. 우리는 구성적이고 계층적인 비전 인코더 아키텍처를 제안하며, 이는 다양한 2D 및 네이티브 3D 의료 영상 이해를 통합 인코더 내에서 하나로 결합하는 Cascade Spatial-Aware Locality Fusion 연산자를 특징으로 한다. 또한, 지시 수행 평가를 위한 MedIF-Bench와 임상적으로 정렬되고 사실성 기반의 보고서 생성 평가를 위한 관심 영역 기반 방법을 포함하는, 시각에 기반한 평가 프레임워크를 도입한다. ClinFusion은 2D 및 3D 다중 모달 의료 벤치마크(시각 질의응답, 보고서 생성, 지시 수행)와 텍스트 기반 의료 작업을 아우르는 포괄적인 평가 세트에서 최신 기술 수준을 확립하여, 24개 벤치마크 중 20개에서 선도적인 오픈소스 의료 MLLM(예: Hulu-Med, Lingshu)을 능가하고, 16개 벤치마크 중 13개에서 GPT-5.2, Gemini-3-Flash와 같은 강력한 독점 모델보다 뛰어난 다중 모달 성능을 보여준다. 또한, 에이전트 기반 도구 사용을 통해 검색 증강 및 도구 지원 임상 워크플로우로 확장될 수 있다. 전문의 자격을 갖춘 방사선과 의사에 의한 맹검 평가는 ClinFusion이 최고 순위의 보고서를 생성함을 확인하고, 제안된 RoI 기반 평가 지표가 검토된 모든 자동 평가 지표 중에서 전문가 판단과 가장 강한 상관관계를 달성함을 입증한다.

대규모 추론 모델(LRM)은 최종 답변을 생성하기 전에 긴 추론 궤적을 생성한다. 이러한 궤적은 환각 탐지에 유용한 신호를 포함할 수 있지만, 긴 궤적에는 진실성 평가와 관련된 단서를 모호하게 만드는 잡음 단계가 자주 포함되므로 이를 활용하는 것은 간단하지 않다. 본 논문에서는 관련 없는 단계와 반복 단계라는 두 가지 일반적인 추론 잡음 형태를 식별하고, 이 두 가지 모두 환각 탐지 성능을 현저히 저하시킴을 보인다. 기존의 신뢰도 기반 점수와 단순한 임베딩 기반 필터링은 잡음이 있는 단계와 정보가 있는 단계를 안정적으로 분리하지 못한다. 이러한 문제를 해결하기 위해, 우리는 환각 탐지를 위한 추론 궤적 잡음 제거를 위한 새로운 학습 프레임워크인 REDE를 제안한다. 구체적으로, REDE는 최종 답변 주의(attention)를 자동 감독 신호로 활용하여 단계 수준 표현 공간을 형성함으로써, 잡음 단계를 안정적으로 식별하고 필터링할 수 있는 정제된 임베딩을 산출한다. REDE는 잡음 단계를 제거한 후 필터링된 추론 궤적에 적용함으로써 다양한 환각 탐지기에 쉽게 결합될 수 있다. 여러 추론 벤치마크에 대한 광범위한 실험 결과, REDE가 경쟁력 있는 기준 모델에 비해 탐지 성능을 일관되게 향상시킴을 보여준다.

LLM-심판(LLM-as-a-judge)은 자동 평가의 표준으로 자리 잡았지만, 높은 비용, 상당한 지연 시간, 불투명한 결정이라는 한계를 지니며, 이는 확장성과 신뢰성을 저해한다. 우리는 이 문제를 간단하고 효율적인 대안인 프로그램 증류(program distillation)로 해결한다. 평가 시점에 LLM에 프롬프트를 입력하는 대신, 그 결정 논리를 후보를 직접 평가하는 프로그램 위원회(committee of programs)로 증류한다. 이러한 프로그램적 심판은 투명성을 제공하고, 쉽게 검사하거나 편집할 수 있으며, 샘플당 API 비용을 없앤다. 이 개념을 바탕으로, 우리는 심판 역할을 할 프로그램을 합성하고, 그 결정을 집계하여 공동 평결을 내리며, 신뢰도가 낮은 경우 선택적으로 LLM에 회부하는 대체 메커니즘(fallback mechanism)을 통합한 시스템인 PAJAMA를 소개한다. 다섯 개의 데이터셋과 네 개의 모델군에 걸쳐, 프로그램적 심판이 13B 크기의 LLM 심판과 동등한 성능을 낼 수 있음을 보여준다. 프로그램 출력을 라우팅 신호로 사용할 때, PAJAMA는 정확도와 처리량을 모두 개선하며 파레토 프런티어(Pareto frontier)를 향상시킨다. 평가를 넘어, 프로그램적 심판은 저렴하고 효과적인 보상 신호를 생성한다: RewardBench에서, 프로그램의 평결로부터 증류된 보상 모델은 독점 LLM의 레이블로 훈련된 모델보다 두 자릿수 낮은 API 비용으로 더 나은 성능을 보인다.

비전-언어 모델(VLM)을 위한 데이터 큐레이션은 점점 더 활발해지고 있지만, 사전 학습 혼합물을 구성하는 공개적인 관행은 여전히 대체로 경험적(heuristic)입니다. 실무자들은 품질 필터를 통과한 데이터셋을 결합하고, 직관에 따라 도메인 간 비율을 설정하며, 새로운 데이터를 수용하기 위한 원칙적이고 속성 가능한 기준이 부족한 반면, 최첨단 레시피는 공개되지 않은 상태입니다. 우리는 데이터 구성을 체계적인 혼합 최적화 문제로 정식화하고, 혼합물을 능력 간 클래스 비율(inter-class ratios)과 범주 내 클래스 비율(intra-class ratios)이라는 두 개의 직교하는 하위 문제로 분리함으로써 이를 재현 가능한 공학 분야로 전환합니다. 클래스 간 할당을 위해 단일 변수 반복 탐색을 사용하고, 클래스 내 구성을 위해 다차원적 데이터셋 수준의 평가 점수(품질 및 난이도)를 적용하며, 다양성 목표를 가진 제약 조건이 있는 볼록 최적화로 선택을 정식화합니다. DecoupleMix 프레임워크는 다음에 수집할 데이터를 안내하고 데이터셋 검증을 통제되고 속성 가능한 실험으로 만드는 두 가지 핵심 기능을 제공합니다. 실험 결과는 우리의 접근 방식이 경험적 기준선을 일관되게 능가함을 보여줍니다. 또한, 소규모 프록시에서 발견된 최적 비율은 재조정 없이도 대규모로 원활하게 전이됩니다. 800억 개의 추가 멀티모달 계속 사전 학습 토큰을 사용하여, 우리의 VLM은 훨씬 더 큰 멀티모달 예산으로 학습된 강력한 오픈소스 모델과 경쟁력을 갖추게 되었습니다.

비디오 생성 기술의 발전으로 AI가 생성한 영상과 전문적으로 제작된 영상 간의 시각적 격차가 계속 좁혀지고 있지만, 대부분의 벤치마크는 여전히 웹 소스나 LLM 템플릿에서 프롬프트를 가져오고, 훈련되지 않은 범용 멀티모달 모델로 점수를 매기고 있다. 더 근본적으로, 이러한 평가 분류 체계는 영화가 실제로 제작되고 평가되는 전문적인 시네마틱 언어 기준이 아닌 기본적인 수준(전반적 시각 품질, 대략적인 텍스트 정렬, 시간적 매끄러움)에 머물러 있어, 영화 수준의 장인정신이 아닌 기본적인 비디오 개연성만을 평가한다. 이에 우리는 FilmBench를 소개한다. FilmBench는 영화 아카데미 전통의 전문 시네마틱 언어에 기반한 텍스트-투-비디오(T2V) 및 참조-투-비디오(R2V) 벤치마크로, 베이징 영화 아카데미의 감독 및 교수진, 그리고 호징 디지털 미디어 & 엔터테인먼트 그룹 영화 스튜디오와 공동 개발되었다. 이 벤치마크는 세 가지 선택에 기반한다. 첫째, 프롬프트는 전문 감독이 선정한 20개 영화 장르에 걸친 수상작 영화 클립에서 역설계되었으므로, 모든 프롬프트는 검증된 실사 참조 영상에 기반한다. 프롬프트는 실제 촬영 리스트를 따르며, 대부분이 다중 샷(1,169개 프롬프트 중 1,056개가 다중 샷)으로, 이전의 단일 클립 벤치마크와 차별화된다. 둘째, 평가는 3개 축, 12개 구성 요소, 35개(T2V) + 3개(R2V 전용) 하위 지표로 구성된 3단계 시네마틱 분류 체계를 따른다. 셋째, 우리는 사내 전문가 수준의 자동 평가 에이전트를 개발하고, 그 핵심 도구 모음인 시네마틱 언어 연산자(FilmOps)를 오픈소스로 공개한다. 주요 비디오 생성 모델(T2V 9개, R2V 7개)을 벤치마킹한 결과, 평가자는 모델 수준 스피어만 상관계수 ρ = 0.95(T2V) 및 0.96(R2V)으로 인간 모델 순위를 재현했다. 점수는 기존 웹 스타일 벤치마크보다 훨씬 낮았으며, 동적 미학에서 일관된 격차와 단일 샷에서 다중 샷으로의 현저한 성능 저하(약한 모델일수록 더 두드러짐)가 관찰되었다.

오늘날 언어 모델을 개선한다는 것은 재훈련을 의미한다: 막대한 연산, 사이클마다 새로운 불투명 모델, 비결정론적 출력. 우리는 반대 경로를 취한다: 모델은 고정된 상태로 유지되며, 검증된 해결책의 지속적 메모리가 그 옆에서 성장한다. 문제 군이 해결되고 정답지를 참조하지 않는 독립적 검증 단계를 통과하면, 해당 군의 모든 새 인스턴스는 제로 생성 토큰으로 비트 정확하게 결정론적으로 응답된다. 네 공급업체의 네 가지 아키텍처(밀집형 및 전문가 혼합형)에 걸친 9개 문제 군의 180개 새로운 인스턴스에서 각각 답변당 제로 생성 토큰으로 180/180을 기록했다: 매개변수 확장과 분리된 실행 중심 역량이다. 음성 대조군은 그 역량을 전적으로 메모리 탓으로 돌린다: 메모리를 비우면 아무것도 해결하지 못한다. 동일한 저장 전 검증 계약이 개방형 추론에도 적용된다: 네 모델 모두에서 일관성 게이트 수락 88/88, 기계 검증 형식 증명, 추론 방법 전이 77/80. 메모리 선택은 1.4마이크로초가 소요되며, 전체 재사용은 36mWh에서 6-23ms 내에 완료된다. 근사 유사도 검색은 정확한 주소 지정이 오류를 전혀 발생시키지 않는 4,500개 항목의 검증 저장소에서 94.3%의 확률로 잘못된 항목을 선택한다. 이 저장소는 또한 출시된 어떤 엔진도 따라잡지 못하는 규모의 작업 컨텍스트로 기능한다: 단일 46GB GPU에서 플랫 메모리로 6,000,000개 토큰의 이동 가능한 윈도우를 제공하며, vLLM은 30,399개 토큰에서 멈추고 SGLang은 32,000개를 넘어서면 조용히 잘라낸다. 발표된 벤치마크에서 경계 모델은 원시 무작위 추론에서 여전히 어떤 12B보다 훨씬 앞서 있다. 그러나 이 시스템이 해결하고 검증한 모든 것에서는 비교가 역전된다: 경계 API 호출은 모든 쿼리에 대해 영원히 새로운 생성 패스를 지불하는 반면, 검증된 재사용은 제로 토큰 비용으로 매번 동일한 비트를 반환한다. 공개 테스트벤치(무료, 속도 제한 접근)가 본 보고서와 함께 제공된다: https://corbenic-galahad-bench.hf.space

인간 머리의 파라메트릭 모델은 전통적으로 컴퓨터 비전 및 그래픽스 분야에서 애니메이션, 렌더링, 재구성을 위해 사용되는 필수 도구입니다. 최근에는 생성형 대규모 비전 모델 내에서 중요한 조건 신호로 활용되어 생성 이미지의 정밀한 공간 제어를 가능하게 합니다. 그러나 기존에 공개된 모델들은 일반적으로 해부학적 범위가 제한적이어서 외부 형상만 모델링할 뿐 구강 내 구조와 안구 구조는 무시하며, 낮은 충실도의 입력 데이터셋으로 인해 기하학적 품질이 저하되는 경우가 많습니다. 본 보고서에서는 인간 게놈(genome)의 동음이의어로 명명된 새로운 파라메트릭 모델인 생성형 인체측정 모델(GNM)을 소개합니다. GNM은 머리, 얼굴, 목, 안구, 치아, 혀를 포함하며, 고해상도 3D 스캔의 광범위한 데이터베이스와 해부학적으로 정밀한 예술가 제작 샘플을 결합하여 구축되었습니다. 본 보고서는 데이터 원천, 안구 및 구강 내 구조를 위한 특화 하위 모델을 포함한 모델 아키텍처를 상세히 설명하고, 타겟 3D 얼굴 스캔 피팅에서의 최첨단 성능을 보여줍니다. 커뮤니티 혁신을 촉진하기 위해 완전한 GNM 프레임워크를 공개합니다.

역사 문서는 귀중한 지식 아카이브 역할을 하지만, 물리적 노후화와 손상으로 인해 판독이 어려운 경우가 많다. 기존의 마스킹 언어 모델링 기반 복원 방법은 국소적 맥락을 효과적으로 활용하지만, 외부 역사 지식이 필요한 명명된 개체를 복원하는 데는 어려움을 겪는다. 이러한 한계를 해결하기 위해, 본 연구는 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 활용한 대규모 언어 모델 기반의 새로운 역사 문서 복원 프레임워크를 제안한다. 사전 학습된 LLM의 암묵적 지식과 명시적으로 검색된 외부 맥락을 결합함으로써, 제안 모델 ARI는 맥락 의존적 고유 명사 추론의 어려움을 효과적으로 완화한다. 한국 역사 문서에 대한 광범위한 실험 결과, 제안 방법은 일반 문자와 명명된 개체 복원 모두에서 기준 모델들을 현저히 능가하는 성능 향상을 달성함을 보여준다. 또한 전문가 평가를 포함한 종합적 평가는 ARI가 도메인 전문가를 위한 실용적 도구로 기능하여 역사 기록 분석을 가속화할 수 있음을 확인한다.

우리는 하나 이상의 에이전트로 구축된 자동화 연구 시스템의 설계 선택 사항을 보다 쉽게 기술하고 비교할 수 있는 어휘를 소개한다. 이 어휘는 1) 에이전트가 누구인지, 2) 시스템에서 이용 가능한 연산은 무엇인지, 3) 누가 이를 호출할 수 있는지, 4) 에이전트가 어떻게 통신하는지, 5) 실행 내부 및 실행 간에 어떤 정보가 보이는지, 6) 다음 행동이 어떻게 선택되는지, 7) 실행이 어떻게 시작되는지, 8) 출력이 어떻게 평가되는지를 명시한다. 궤적은 입력 작업부터 반환된 결과물까지의 한 번의 실행을 기록한다. 에이전트, 연산, 초기화는 확률적일 수 있으므로, 동일한 작업에 대해 반복된 실행은 단일 행동이 아닌 궤적에 대한 분포를 유도한다. 우리가 제안하는 어휘는 에이전트가 언제 통신해야 하는지, 언제 능력을 획득하거나 상실해야 하는지, 언제 실행 간에 정보를 전달해야 하는지와 같은 구조적 설계 질문을 검증 가능한 선택 사항으로 전환한다. 또한 평가자를 시스템의 구성 요소로 만드는데, 이는 보고된 성능 향상이 대리 점수가 실제 품질과 얼마나 가까운지에 의존하기 때문이다. 이러한 분리는 해당 시스템이 안목이 부족하다는 막연한 불만을 서로 다른 해결책을 가진 두 가지 실패 유형으로 나눈다. 생성적 안목은 점수가 관찰되기 전에 시스템이 새로운 궤적을 제안하는 비율이며, 평가적 안목은 대리 점수와 그것이 일치해야 하는 품질 간의 차이이다. 우리는 최근의 자동 연구 시스템에 이 어휘를 적용하여 구조적으로 크게 다른 설계들을 포괄할 수 있음을 보여준다.

신뢰할 수 있는 시각 문서 이해를 위해서는 모델이 각 답변을 뒷받침하는 증거 영역에 귀인할 수 있어야 한다. 최근의 벤치마크와 시스템들은 좌표 인터페이스를 통해 이 단계를 구현한다. 즉, 모델이 문서 내 증거 영역을 표시하는 경계 상자의 좌표를 출력하는 방식이다. 이 인터페이스 하에서 시각-언어 모델들은 답변은 정확하더라도 올바른 영역을 식별하지 못하는 경우가 빈번한데, 이를 귀인 환각(Attribution Hallucination)이라고 한다. 본 연구는 이러한 실패가 모델이 좌표를 통해 표현할 수 있는 범위에 부분적으로 제한되는지 조사한다. 검증된 이중 언어 CiteVQA 하위 집합을 대상으로, 좌표 인터페이스를 언어 인터페이스와 비교한다. 언어 인터페이스에서는 모델이 텍스트만 출력하며 증거를 그대로 인용하고, 다중 모드 검색기가 레이아웃 분석기(표와 그림은 캡션 또는 주석을 통해 인용됨)가 제안한 페이지 영역으로 각 인용문의 위치를 반환한다. 이 비교는 6개의 공개 시각-언어 모델에 대해 반복 수행된다. 좌표 인터페이스와 비교할 때, 증거 재현율은 최대 8포인트에서 26~47 사이로 상승하고, 환각 비율은 대략 절반으로 감소하며, 답변 품질에는 큰 변화가 없다. 이 비교를 바탕으로 동일한 인용-검색 파이프라인을 훈련용 스캐폴드로 활용한다. 긴 문서에 대해 영역 수준의 증거 레이블을 수집하는 데 비용이 많이 들기 때문에, 보상이 정답과 검색된 영역의 크롭에 대한 판단자의 판독에 기반하는 GRPO 레시피를 도입하여, 영역 레이블 없이도 모델이 더 나은 증거를 인용하도록 훈련시키고, 8B 백본의 엄격한 귀인 정확도를 22.4에서 33.8로 향상시킨다. 이러한 결과는 좌표 인터페이스 없이, 또한 비용이 많이 드는 영역 수준의 감독 없이도 귀인을 개선할 수 있는 실용적인 경로를 제시한다.

대규모 언어 모델(LLMs)은 대화형 AI를 혁신적으로 변화시켰지만, 특히 화자들이 영어와 모국어를 자국어 문자 및 로마자 표기 형태로 자연스럽게 혼용하는 인도 언어의 경우 고품질 다국어 코드 혼합 대화 자원은 여전히 부족한 실정이다. 본 논문에서는 9개의 인도 언어를 아우르는 18개 언어 변종에 걸쳐 1,328,604개 이상의 사건 기반 다중 턴 대화로 구성된, 가장 큰 규모의 다국어 인도 코드 혼합 대화 코퍼스 중 하나인 IndicTalk을 제시한다. 이 코퍼스는 실제 뉴스 기반의 근거 제공, 다국어 LLM을 활용한 페르소나 조건부 대화 생성, 그리고 자동 품질 검증을 결합한 완전 자동화 파이프라인을 통해 생성되었다. 광범위한 언어학적, 자동 및 인간 평가를 통해 IndicTalk이 두 문자 변종 모두에서 유창하고 일관되며 자연스러운 코드 혼합 대화를 생성함을 입증한다. 과소 대표된 인도 언어를 위한 다국어 대화형 AI의 개발 및 평가를 지원하기 위해 IndicTalk을 공개할 예정이다. 데이터셋은 다음 링크에서 확인할 수 있다: https://huggingface.co/datasets/LingoIITGN/IndicTalk

대규모 시각-언어 모델(LVLM)은 막대한 계산 요구량으로 인해 여전히 병목 현상을 겪고 있으며, 이로 인해 자원이 제한된 엣지 디바이스에 배포하는 것이 어렵다. LVLM을 압축하려는 노력은 주로 시각 토큰 축소나 더 작은 언어 모델에 집중되어 있는 반면, 시각 인코더는 대부분 간과되어 전형적으로 단일 구조의 계산 집약적 특징 추출기로 배포된다. 더욱이, 온디바이스 지연 시간에 직접 최적화된 LVLM용 시각 인코더를 설계한 이전 연구는 전무하다. 본 논문에서는 온디바이스 성능을 위해 명시적으로 설계 및 최적화된 LVLM용 시각 인코더인 UltraViT를 제시한다. 구체적으로, 실제 온디바이스 지연 시간을 고려하여 매크로 블록 수준에서 이종 공간 혼합기를 전략적으로 통합 및 적응시키는 피라미드 구조를 체계적으로 설계한다. 또한, UltraViT를 사전 학습하기 위해 새로운 2단계 생성적 사전 학습 전략을 제안한다: 밀집 증류를 통해 풍부한 공간 특징을 배양한 후, 용량 혼합 동결 대규모 언어 모델(LLM)로부터 직접적인 생성적 감독을 받는 방식이다. 표준 대조 학습 및 자기 주도 학습(SSL)과 비교하여, 본 제안 사전 학습 방법이 이후 LVLM 훈련의 생성적 다중 모드 정렬에 필요한 UltraViT의 고수준 의미적 기반을 달성하는 데 훨씬 더 효과적임을 보여준다. 광범위한 실험을 통해 온디바이스 지연 시간을 고려한 설계와 맞춤형 훈련 전략이 효율적인 LVLM 인코딩에서 새로운 최첨단을 수립하며, 기존 인코더 중심 기준선을 크게 능가하면서도 온디바이스에서 거의 1.7배 빠른 속도로 동작함을 입증한다.

파라메트릭 검색은 각 API에 고유한 가상 토큰을 할당하고 제약된 빔 검색을 통해 모델이 이를 생성하도록 훈련함으로써 LLM이 암시적으로 도구를 검색할 수 있게 한다. ToolSense는 이 방식에 두 가지 중요한 단점, 즉 훈련 중에 파라메트릭 도구 지식을 파괴하고 빔 검색 디코딩이 실시간 배포에 비해 너무 느리다는 점을 보여준다. 우리는 TRACE(Tool Retrieval via Augmented Chain-of-thought and Enterprise rules)를 소개한다. 이는 이러한 분리를 해결하는 2단계 커리큘럼이다. 1단계는 ToolSense의 다중 형식 암기 SFT를 재사용하여 LoRA로 도구 지식을 시딩한다. 2단계는 우리의 핵심 기여이다. 모델은 도구 토큰의 JSON 목록을 생성하기 전에 사고 추적을 출력하도록 훈련되며, 두 가지 데이터 소스(ToolSense의 RRB 쌍과 도메인 전문가가 선별한 비즈니스 규칙을 대상으로 합성된 쿼리)를 사용하며, 둘 다 추론 추적으로 증강된다. 이 훈련 목표는 1단계 MCQ 및 QA 프로빙 정확도를 유지하면서 단일 빔 그리디 디코딩을 생산 지연 시간으로 가능하게 한다. 두 개의 엔터프라이즈 제품 라인에 걸친 8,300개 이상의 도구로 구성된 통합 엔터프라이즈 카탈로그에서 평가한 결과, 2단계 TRACE 훈련은 도구 이해력을 유지할 뿐만 아니라 향상시킨다. MCQ 정확도는 1단계 대비 +3.2pp, QA 프로빙은 +9pp 증가한다. 검색에서 TRACE는 도메인 A에서 약 86%, 도메인 B에서 약 60%의 재현율을 달성한다. 이는 임베딩 기준 성능(약 27% 및 52%)과 비교되며, 둘 다 단일 빔 그리디 디코딩을 사용하여 생산 지연 시간에 직접 배포할 수 있다.

최근 많은 로봇 정책들은 대규모 사전 학습된 시각-언어 모델(VLM)을 행동 백본(backbone)으로 활용하여 더 강력한 제어를 추구하고 있다. 본 연구에서는 행동 생성과 시각적 세계 모델링을 결합하는 통합 확산 트랜스포머(transformer) 아키텍처인 WorldDiT를 제안하며, 대규모 사전 학습된 VLM 행동 백본 없이도 강력한 성능을 달성한다. 훈련 단계에서 단일 확산 트랜스포머는 연속적인 행동 청크(chunk)를 생성하고, 미래 카메라 프레임으로부터 정규화된 RGB 패치 타겟을 예측한다. 네 가지 LIBERO 시뮬레이션 제품군에 걸쳐 WorldDiT는 네 가지 제품군 모두를 보고하는 방법론들 중 전체 모델 파라미터와 평균 성공률 측면에서 보고된 파레토 프론티어(Pareto frontier)에 위치한다. 이러한 결과는 향후 규모 확장 연구를 위한 강력한 10억 파라미터 미만의 기준선(baseline)을 제공한다.

Volta가 독립 스레드 스케줄링(ITS)을 도입한 이후, NVIDIA GPU는 워프 분기를 고정된 방식으로 처리한다고 널리 가정되어 왔다. 본 연구에서는 ITS 이전의 Pascal을 기준선으로 삼아 Ampere, Hopper, 그리고 데이터센터 및 소비자용 Blackwell GPU에서 이러한 가정을 검증한다. 사이클 정확한 마이크로벤치마크, 하드웨어 카운터, 그리고 컴파일러가 생성한 SASS의 정적 분석을 결합하여, 안정적인 동작과 아키텍처 변경을 분리한다. 테스트된 모든 세대에서 분기 경로는 경로 수 k에 따라 선형적으로 직렬화되며, T(k) ≈ sk를 따르고 초선형 재수렴 패널티는 나타나지 않는다. 워프 실행 효율은 32/k로 감소하며, 이 패널티는 점유율과 무관하고, 술어화(predication)는 직렬화 비용을 제거한다. 동일한 동작이 Pascal에서도 관찰되어, 이러한 프로그래머가 확인 가능한 비용 모델이 ITS 이전에 존재했음을 보여준다. 그러나 컴파일러가 생성하는 재수렴 메커니즘은 상당히 변경되었다. Pascal은 워프별 SSY/SYNC 명령어 스택을 사용하는 반면, 이후 세대는 배리어 레지스터 명령어를 사용한다. 즉시 후행 지배자(immediate post-dominator)를 넘어선 지연 재수렴은 Ampere에서 29건에서 Blackwell에서 2건으로 감소했다. Blackwell은 또한 이중 계층 수렴 배리어 분류, 균일 분기 명령어, 그리고 명시적 부분 마스크 워프 동기화를 도입했으며, 이 중 어느 것도 Ampere나 Hopper에는 나타나지 않는다. 제어된 비트 플립 실험은 새로운 배리어 클래스가 정적 컴파일러 분류에 해당하며, 우리의 테스트에서 관찰 가능한 런타임 효과가 없음을 나타낸다. 따라서 NVIDIA의 제어 흐름 ISA와 재수렴 메커니즘이 계속 진화함에도 불구하고, 분기는 안정적이고 예측 가능한 성능 비용을 유지한다.

비트코인 가격 예측을 일일 이하 시간 척도에서 수행하는 것은 계산 금융 분야의 난해한 미해결 문제이다. 비트코인은 두꺼운 꼬리 수익률, 비정상적 동역학, 그리고 Reddit과 Twitter의 사회적 담론에 영향을 받는 가격 발견 과정을 보인다. 기존 방법들은 시장 상태와 관계없이 동일한 융합 가중치를 적용하여 OHLCV 기술적 특징과 감성을 정적 연결을 통해 융합한다. 이는 개인 투자자 감성이 변동성이 큰 기간에는 가장 예측력이 높고, 안정적인 기간에는 잡음이 많다는 행동재무학 문헌과 일치하지 않는다. 본 논문은 동적으로 감지된 이진 시장 상황에 따라 감성과 가격 특징의 융합을 조건화하는 상황 인식 다중 모달 학습(RAML)을 제안한다. 롤링 24시간 변동성은 관측치를 안정적 상황과 변동적 상황으로 분할하며, 학습 가능한 시그모이드 게이트가 가격 임베딩 대비 감성 임베딩의 가중치를 조정하여 변동성 기간에는 감성을, 안정적 단계에서는 가격 동역학을 더 신뢰한다. 시스템은 비트코인 OHLCV 데이터와 Reddit /r/Bitcoin FinBERT 감성을 결합하여 3,491개의 시간별 관측치(2024년 7월~2025년 9월)에 대해 평가된다. 가격 전용 BiLSTM, 감성 전용 분류기, 정적 연결 BiLSTM, 그리고 RAML의 네 가지 모델을 3시간 및 6시간 예측 지평에서 비교하며, 감성 가지, 상황 감지, 적응형 융합을 분리한 절제 연구를 수행한다. RAML은 3시간에서 0.5474, 6시간에서 0.5513의 매크로 F1을 달성하며, 3시간에서 가장 높은 AUC(0.5084)를 기록하여 더 나은 교정을 나타낸다. 절제 연구는 모든 구성요소가 필수적임을 확인하며, 적응형 가중치를 연결로 대체할 경우 6시간에서 재현율 붕괴(F1: 0.14)를 초래한다. 이러한 결과는 상황 조건화 적응형 융합이 다중 모달 금융 예측을 위한 필수 설계 원리임을 확립한다.

운전 스타일은 차량이 어떻게 운전되는지에 대한 안정적이고 운전자 특유의 패턴을 포착한다. 그러나 자연주의 데이터에서는 운전자가 다른 차량, 다른 도로, 다른 조건에서 관찰되기 때문에 이 신호를 분리하기 어렵다. 따라서 모델이 차량 또는 상황 특이적 규칙성을 운전자 특유의 스타일로 오인할 수 있다. 본 논문에서는 대규모 자연주의 데이터셋이자 벤치마크인 DriveDNA를 소개한다. DriveDNA는 115개 차량 모델의 465명 운전자로부터 수집된 4,121회 주행 데이터를 포함하며, 총 975시간의 인간 제어 주행 데이터를 10Hz로 수집하였고 전방 비디오도 포함한다. 데이터는 일상적인 사용 환경에서 커뮤니티 운전자들로부터 수집되었다. DriveDNA는 운전 스타일을 유사한 조건에서 차량이 움직이는 방식에 대한 일관된 운전자 특유의 행동 패턴으로 정의한다. 벤치마크는 세 가지 핵심 과제, 즉 few-shot 운전자 재식별, 개인화된 행동 예측, 조건 일치 비교를 통해 이 신호를 평가하며, 행동 주석과 함께 276,248개의 규칙 기반 기동 이벤트를 6개 클래스로 제공하고 대규모 인간 검증을 거쳤다. 고정된 다중 시드 프로토콜 하에서 고전적 기술자, 지도 및 자기지도 시계열 인코더, 다중 모달 융합, 확률론적 예측, 제로샷 기반 모델을 포함한 기준선들을 평가한다. 학습된 표현은 보지 못한 운전자에 대해 고전적 기술자보다 월등히 뛰어난 성능을 보였으며(AUROC .935 대 .707), 일치된 운전 조건에서도 운전자 특유의 정보를 유지한 반면, 기술자의 성능은 우연 수준에 근접했다. 비디오 전용 모델은 비슷한 재식별 정확도를 달성했지만 심각한 경로 누출(route leakage)을 보였으며, 이는 강한 인식 성능이 운전 행동보다 맥락적 지름길에서 비롯될 수 있음을 보여준다. 이러한 발견은 신뢰할 수 있는 운전 스타일 평가가 학습된 표현의 행동적 가치와 차량, 주행 및 조건 혼란 변수에 대한 강건성을 모두 평가해야 함을 시사한다.

최근 강력한 텍스트-이미지 생성 모델의 발전으로 인해, 복잡한 구성적 프롬프트에 더 충실한 이미지를 생성하기 위해 샘플링 궤적을 수정하는 테스트 시점 방법을 개발하는 것이 점점 더 중요해지고 있습니다. 우리는 테스트 시점 보상 정렬을 통한 구성적 텍스트-이미지 생성을 위한 학습 불필요 프레임워크인 TILT를 제시합니다. 우리는 구성적 실패를 결합 분포와 단일 개념 분포 간의 중복 모드로 해석하고, 모든 개념이 함께 존재하는 샘플에 유리한 보상을 정의합니다. 이 보상은 기본 모델에 고유하며 외부 감독이나 보상 모델을 필요로 하지 않습니다. 이는 닫힌 형태의 기울어진 목표 분포와 확산 샘플링을 위한 원칙적인 유도 단계를 갖춘 KL 제약 목적 함수를 생성합니다. 개념 분포와 위 보상의 상호작용은 자연스럽게 두 가지 다른 유도 전략을 이끌어내며, 각각의 이점을 균형 잡는 하이브리드 접근법이 더 강력한 성능을 보입니다. T2ICompBench의 프롬프트에 대한 실험은 우리의 방법이 이전 기준선과 비교하여 이미지 품질을 유지하면서 구성적 정렬을 개선함을 보여줍니다.