일간 논문

Mixture-of-Experts(MoE) 아키텍처는 계산 비용의 비례적 증가 없이 모델 용량을 크게 확장한다. 그러나 모델 크기와 토큰 예산 모두가 극단적인 규모에서 스윕(sweep)을 통한 하이퍼파라미터——특히 학습률——최적화는 계산적으로 불가능하다. 본 논문에서는 계산 효율적인 2단계 하이퍼파라미터 전이 프레임워크를 제안한다. 이 프레임워크는 모델 폭(width) 스케일링에 걸친 전이를 통해 대규모 MoE 모델 학습을 위한 최적 학습률을 추정하고, 이후 조 단위 토큰 수평선(horizon)으로 외삽(extrapolation)한다. 첫째, Multi-head Latent Attention(MLA)과 Muon 최적화기를 활용하는 MoE 아키텍처에 대한 Maximal Update Parameterization(μP) 적응 방식을 정식화하여, 최적 학습률이 폭 스케일링 모델 전반에 걸쳐 일관되게 전이됨을 입증한다. 둘째, 예측적 스케일링 법칙을 수립하여 토큰 차원을 따라 이러한 전이성을 확장한다. 제한된 예산 하에서 소형 프록시 모델로부터 도출된 최적값에 선형 회귀를 적용함으로써, 이상적 학습률을 대규모 학습 수평선(예: 10조 토큰)까지 높은 충실도(R²=0.95)로 성공적으로 외삽한다. 결과적으로 이는 대규모 MoE의 광범위한 학습을 위한 최적 학습률을 결정하는 데 소형 모델에 대한 프록시 학습으로 충분함을 시사한다. 제안된 방법론을 적용하여 파운데이션 모델(총 1,550억 개, 활성 파라미터 170억 개)을 처음부터 사전 학습하였으며, 안정적인 학습 및 평가 결과는 최소한의 제거(ablation) 비용으로 전체 규모 대상 모델의 최적 구성을 정확히 예측할 수 있음을 검증한다.

대규모 사전 학습 모델을 통해 기존 방법들은 지시 기반 비디오 편집을 효과적으로 개선해 왔다. 그러나 대부분의 방법은 제자리 편집 가정에 의존한다. 이들은 편집된 비디오를 주어진 소스 클립과 고정된 시간 범위에 걸쳐 프레임별로 정렬한다. 이러한 패턴은 끝이 없는 스트림, 예를 들어 라이브 게임의 스타일을 변경하거나 진행 중인 샷에 카메라 이동을 적용하는 경우에는 실패한다. 이러한 경우 편집은 정적 입력 클립에 적용되는 대신 도착하는 향후 프레임으로 확장되어야 한다. 본 논문에서는 이러한 설정을 연구하고 이를 무한 비디오 편집이라고 명명한다. 이전 세그먼트와 편집 요청이 주어지면, 모델은 요청된 편집을 적용하면서 스트림을 계속하는 다음 세그먼트를 생성해야 한다. 이 과정은 무한한 편집 지시 시퀀스가 도착함에 따라 반복된다. 이 작업은 두 가지 도전 과제를 제기한다. 편집은 프레임별 재작성이 아니라 충실한 연속이어야 하며, 편집이 누적됨에 따라 생성 품질이 안정적으로 유지되어야 한다. 이를 해결하기 위해, 먼저 무한 비디오 편집을 위한 데이터 수집 파이프라인을 설계한다. 수집된 데이터를 기반으로, 우리는 스트리밍 비디오 생성기에 무한 편집 능력을 부여하는 경량 편집 어댑터인 InfinityEdit를 제안한다. 어댑터는 세 가지 어텐션 모듈을 포함한다. 히스토리 교차 어텐션은 입력 프레임을 사용하여 디노이징 프레임을 안내한다. 시간적 인과 자기 어텐션은 시간적 단서가 이전 프레임에서 이후 프레임으로만 흐르도록 유지한다. 편집 교차 어텐션은 편집 요청을 생성 과정에 주입한다. 추론 중에는 어댑터가 편집 요청이 도착하는 청크에서만 활성화된다. 후속 청크는 리셋된 앵커 프레임을 사용하여 원래 모델에 의해 생성된다. 이 방식은 원래 모델의 무한 생성 능력을 보존하면서 편집을 적용한다. 광범위한 실험을 통해 InfinityEdit가 각 편집 하에서 스트림을 충실히 계속하고, 무한한 편집 시퀀스에서도 안정적으로 유지됨을 보여준다.

LLM은 언어 생성기에서 복잡하고 장기적인 작업을 수행할 수 있는 자율 에이전트로 진화해 왔다. 이러한 진화는 모델 역량을 이끌어내기 위한 프롬프트 엔지니어링(Prompt Engineering), 정보 접근을 관리하기 위한 컨텍스트 엔지니어링(Context Engineering), 외부 도구와 자원을 조직화하기 위한 하네스 엔지니어링(Harness Engineering), 지속적인 성찰과 자기 개선을 지원하기 위한 루프 엔지니어링(Loop Engineering)을 포함한 패러다임들을 탄생시켰다. 그러나 작업이 더욱 복잡해짐에 따라 개별 지능은 근본적인 한계에 직면한다. 많은 작업이 이질적 전문성, 상호의존적 하위 작업, 병렬 실행, 독립적 검증, 그리고 지속적 상태를 요구하며, 이는 단일 에이전트의 조직 역량을 초과한다. 단일 에이전트의 역량이나 컨텍스트를 증강하는 것으로는 이러한 구조적 불일치를 해결할 수 없다. 지능은 대신 전문화된 에이전트들에 분산되고 시스템 수준에서 조직되어야 한다. 우리는 이를 시스템 지능(System Intelligence)이라 명명한다. 즉, 에이전트 시스템이 다수의 지능적 구성 요소를 공동의 목표를 추구하는 응집력 있고 적응적인 전체로 조직하고 조정하는 능력이다. 이를 달성하려면 에이전트를 추가하는 것 이상이 필요하며, 작업을 조직하고 이질적 에이전트를 조정하며 진화하는 실행 상태를 유지하기 위한 명시적 구조가 요구된다. 우리는 차세대 에이전트 시스템을 위한 새로운 패러다임인 그래프 엔지니어링(Graph Engineering)을 소개한다. 주로 개별 상호작용이나 에이전트 수준의 행동을 최적화하는 기존 패러다임들과 달리, 그래프 엔지니어링은 작업, 에이전트, 시스템 상태를 나타내는 명시적이고 역동적이며 진화하는 그래프 구조를 구축한다. 이러한 추상화는 복잡한 목표를 조직하고, 이질적 에이전트를 조율하며, 시스템 역학을 모델링하고, 확장 가능한 에이전트 진화를 가능하게 하는 통합적 기반을 제공한다. 우리는 LLM 에이전트를 위한 그래프 엔지니어링의 원리, 방법론, 응용을 체계적으로 검토한다. 관련 논문, 오픈소스 데이터, 프로젝트는 https://github.com/DEEP-JLU/Awesome-Graph-Engineering에서 확인할 수 있다.

최근 옴니모달 대규모 언어 모델(Omni-LLM)은 환경을 지속적으로 지각하고 사용자가 특정 목표를 달성하도록 안내하는 실시간 비디오 어시스턴트로서 큰 잠재력을 보여주고 있다. 전통적인 수동적 비디오 이해와 달리, 대화형 어시스턴트는 시각 상태, 사용자 목표, 사전 지식을 능동적으로 결합하여 효과적인 도움을 제공해야 한다. 이러한 평가는 모델의 예측 불가능한 응답이 사용자의 후속 행동을 동적으로 변화시키기 때문에 상당히 어려우며, 정적 오프라인 데이터셋으로는 이를 수용할 수 없다. 이 병목 현상을 해결하기 위해 우리는 OmniAssistBench를 소개한다. 동일한 사용자 목표가 다양한 방법으로 달성될 수 있는 상호작용 경로의 분기 문제를 해결하기 위해, 우리는 모델에 원본 비디오에서 파생된 사전 정의된 사전 정보를 제공하여 사용자가 정확히 동일한 경로를 따라 안내받도록 요구한다. 실제 상호작용 비디오는 드물기 때문에, 우리는 기존 인터넷 비디오를 역공학하여 데이터셋을 구축한다. 논리적 사용자 목표를 추론하고 비디오를 다중 턴 클립으로 분할하여 연속적인 상호작용을 시뮬레이션한다. 이러한 엄격한 파이프라인은 데이터셋 구축에 1000시간 이상의 전문가 작업 시간을 요구했다. 결과에 따르면 독점 모델인 Gemini-3-Pro는 100점 만점에 66.4점에 도달했으며, 오픈소스 모델인 Qwen3-Omni-Instruct는 51.2점을 달성했다. 현재 모델은 일반적으로 사용자 입력을 이해하지만, 부정확하거나 불완전한 답변을 자주 제공한다. 구체적으로, 모델은 시각적 프롬프트(예: 손짓)에 어려움을 겪고, 다중 턴 상호작용 중 과거 맥락을 유지하지 못하며, 대상 이벤트가 발생할 때까지 응답을 지연하지 못한다. 이러한 결과는 모델이 신뢰할 수 있는 어시스턴트가 되기 전에 상당한 개선 여지가 있음을 시사한다.

병렬 추론은 여러 솔루션 경로를 탐색함으로써 대규모 추론 모델의 정확성과 견고성을 향상시키지만, 그 계산 비용은 추론 깊이와 분기 수에 따라 증가한다. 이러한 병렬 경로를 관리하기 위한 기존 방법들은 일반적으로 최종 답변 합의, 국소 토큰 신뢰도, 또는 개별 중간 프로브에 의존한다. 그러나 이러한 신호들은 종종 지연되거나, 실제 추론 진행과 약하게 연관되거나, 동적 분기 수준 제어에 너무 잡음이 많다. 이러한 한계를 해결하기 위해 우리는 학습이 필요 없는 비동기 병렬 추론 프레임워크인 ParaTempo를 제안한다. ParaTempo는 답변 공간 수렴의 분기 국소 측정치인 시간적 신뢰도(temporal confidence)에 의해 구동된다. 각 분기는 잠정 답변 확률 분포를 얻기 위해 주기적으로 프로빙되며, 시간적 신뢰도는 최근 중간 프로브들이 지배적 답변에 얼마나 급격히 집중되는지를 정량화한다. 충분한 증거가 축적되면, ParaTempo는 이 단일 신호만으로 전체 제어 프로세스를 구동한다: 낮은 신뢰도의 분기는 가지치기되고, 지배적 답변에 지속적으로 고정된 분기는 조기 퇴역하며, 해제된 계산 자원은 새 분기 생성으로 재할당되고, 신뢰도 가중 투표가 집중되면 생성이 전역적으로 중단된다. 추론 궤적 간 동기화를 요구하지 않으면서, ParaTempo는 분기 수준 수렴에 기반하여 계산을 적응적으로 할당한다. 도전적인 수학 및 과학 추론 벤치마크에 대한 실험은 ParaTempo가 경쟁력 있는 정확성을 유지하면서 평균 지연 시간을 21.8-32.2%, 총 토큰 사용량을 18.1-30.3% 감소시키는 것을 보여준다. 또한, 시간적 신뢰도는 토큰 수준 및 즉각적 신호보다 미래 분기 수렴에 대해 더 강한 시간적 안정성과 예측력을 나타낸다.

하이브리드 사고 멀티모달 대규모 언어 모델(MLLM)은 단일 모델이 숙고적 사고와 지연 시간 효율적인 비사고 추론 간을 전환할 수 있게 한다. 이러한 모드들은 추론 예산에서 차이가 있지만, 산출되는 응답은 동일한 사용자 대면 기준을 충족해야 한다. 정확성만으로는 이러한 응답 품질을 특성화하기에 충분하지 않을 수 있다. 따라서 본 연구에서는 과업 정확도와 응답 패턴 오류를 상호 보완적 결과로 평가한다. 본 연구는 응답 패턴 정렬, 즉 사고 방식과 비사고 방식 인터페이스가 수용 가능한 최종 응답 행동을 유지하는지 여부를 통해 이러한 격차를 분석한다. 본 연구는 시각적 지각 및 그라운딩, 구조화된 이미지 이해, 멀티모달 지식 추론을 포괄하는 2,415개의 멀티모달 프롬프트로 구성된 오류 강화 진단 벤치마크인 PatternEval을 소개한다. PatternEval은 사고 사슬 누출, 응답 반복, 논리적 모순, 수행적 추론이라는 네 가지 반복적 오류를 검증한다. 응답 패턴 오류는 서로 다른 제공업체의 모델 전반에 걸쳐 광범위하게 나타나며, 비사고 추론은 상당히 더 높은 오류율을 보여 사고 방식과 비사고 방식 인터페이스 간의 체계적 정렬 불일치를 초래한다. 이러한 진단에 기반하여 본 연구는 응답 수준 보상 모델인 PatternRM과 강화 학습 중 패턴 특화 페널티를 도입하는 PatternRL을 개발한다. Qwen3-VL-4B 및 Qwen3-VL-8B에 대한 실험은 강화 학습에 패턴 특화 페널티를 통합하면 경미한 과업 성능 상충을 감수하면서 모드 간 정렬 불일치를 완화할 수 있음을 보여준다. PatternEval과 PatternRL은 함께 하이브리드 사고 인터페이스 전반에서 사용자에게 드러나는 응답 패턴을 정렬하기 위한 평가 및 훈련 프레임워크를 제공한다.

온-폴리시 증류(OPD)는 학생 자신의 정책에서 샘플링된 궤적을 통해 교사 능력을 전이하지만, 대부분의 연구가 단일 도메인과 훈련 데이터에 가까운 벤치마크에서 OPD를 평가함에 따라 그 일반화 행동은 여전히 제대로 이해되지 못하고 있다. 본 연구는 도메인 내 분포 변화부터 교차 도메인 전이 및 다중 교사 설정에 이르기까지, 한 번에 하나의 일반화 요인을 변화시키는 통제 연구를 제시한다. 우리는 OPD가 특정 문제에 대한 교사의 답변이 아니라 교사의 추론 행동을 전이한다는 것을 발견했다. 즉, 훈련 난이도는 거의 중요하지 않으며, 교사가 전혀 풀지 못한 문제조차 유용하다. 전이는 교사와 학생 간의 출처 관계에 크게 의존한다. 동일 출처 쌍은 언어, 추론 범위, 나아가 다른 도메인에 걸쳐 학생을 교사에 근접하게 만들지만, 교차 출처 쌍은 대부분 훈련된 분포에 적합할 뿐이다. 이러한 광범위한 영향력은 양날의 검이다. 도메인 전문가에게 프롬프트를 라우팅해도 각 교사의 영향을 국한시킬 수 없으므로, 교사들을 결합하면 그들의 능력 사이에서 혼합 비율에 의존하는 시소 효과가 발생하기 때문이다. 이러한 결과는 OPD가 언제 일반화되는지를 명확히 하며, 다중 교사 OPD를 진단하는 유용한 관점을 제공한다.

실제 이미지 검색 질의는 다중 양식(multimodal)이며 구성적(compositional)이다. "이 셔츠를 분홍색으로 찾아라"는 유지할 개체, 수정할 속성, 무시할 맥락을 명시한다. 그러나 기존 재순위화(re-ranking) 모델은 이러한 다면적 관련성을 불투명한 임베딩으로 압축하거나, 미세한 제약 조건을 쉽게 누락하거나 환각(hallucination)하는 자유 형식의 체인오브소트(chain-of-thought)에 의존한다. 우리는 NLP의 루브릭(rubric) 및 체크리스트 기반 평가에서 착안하여 다중 양식 이미지 재순위화를 의미적 제약 충족 문제로 재정의하고, 텍스트 전용, 이미지 전용, 또는 복합 질의를 통합된 증거 패키지로 파싱하는 EviRank를 제안한다. 증거 패키지는 6개의 의미적 슬롯(예: 개체, 속성, 관계)에 걸친 유형화된 기준으로 구성되며, 각 기준은 필수(required), 금지(forbidden), 무시 가능(ignorable)으로 라벨링된다. 재순위화는 이후 결정적 루브릭 점수 계산과 증거 기반 리스트 단위 비교를 단일 학습 불필요 절차에서 결합한 증거 조건부 검증(evidence-conditioned verification)으로 축소된다. 명시적 증거는 선택적으로 경량 학생 모델을 증류하기 위한 구조적 감독으로도 활용될 수 있다. 텍스트-이미지, 이미지-이미지, 복합 이미지 검색을 포괄하는 5개 벤치마크에서 EviRank는 최고 수준의 성능을 달성하며, 증류된 학생 모델은 교사 모델 성능의 90% 이상을 유지하면서 훨씬 낮은 비용을 보인다.

의미론적 비전 인코더는 이미지 생성에서 다중 모달 이해와 의미론적 조건화를 위한 핵심 시각 인터페이스가 되었다. 그러나 이들의 최종 토큰은 세밀한 시각적 세부 사항을 버려 픽셀 재구성 성능이 낮아지고, 이미지 생성 및 편집과 같은 재구성에 민감한 작업에서의 사용이 제한된다. 본 연구에서는 사전 훈련된 의미론적 ViT로 구축된 단일 시각 표현 공간에서 이해, 생성, 편집을 모델링할 수 있는지 살펴본다. 우리는 의미론적 ViT의 동결된 트랜스포머 블록이 본질적으로 시각적 세부 사항을 보존하지 못하는 것이 아님을 보여준다. 오히려 원래의 패치 파라미터화가 표현을 의미론적 추상화로 이끌어, 최종 토큰에서 세밀한 정보를 복구하기 어렵게 만든다. 이 관찰에 기반하여, 우리는 원래의 의미론적 경로를 보존하면서도 동일한 동결 ViT 블록에 세밀한 시각 정보를 제공하는 재구성 인지 패치 임베딩을 추가하는 패치 재파라미터화(Patch Reparameterization)를 도입한다. 결과적인 통합 표현은 다중 모달 이해를 보존하면서 고충실도 이미지 재구성과 유리한 재구성-생성 트레이드오프를 가능하게 한다. 우리는 이 표현을 별도의 VAE 경로 없이 동일한 시각 공간에서 이해, 생성, 편집을 수행하는 80억(8B) 규모의 Mixture-of-Transformer-Experts 모델인 UniSpace로 확장한다. 시스템 수준 평가는 실용적인 텍스트-이미지 생성과 지시 기반 이미지 편집을 입증하며, 재파라미터화된 사전 훈련 ViT가 확장 가능한 다중 모달 모델링을 위한 통합 시각 인터페이스로 작동할 수 있음을 보여준다.

학습 없는 블록 희소 어텐션은 비디오 트랜스포머를 가속화할 수 있지만, 행 단위 어텐션 집중 자체만으로는 실행 가능한 희소 연산자를 규정하지 못한다. 블록 라우트를 공유하는 쿼리들은 지지 집합의 중첩이 낮을 수 있으며, 유지된 어텐션 질량만으로는 건너뛴 상호작용으로 인한 소프트맥스 후 오차를 결정할 수 없다. 우리는 분할 기하 구조가 통합된 지지 집합과 희소 출력으로부터 남은 잔차의 예측 가능성 모두에 영향을 미친다는 것을 보인다. 우리는 응답 결합 분할(Response-Coupled Partitioning)과 프로브 피팅 잔차 재구성(Probe-Fitted Residual Reconstruction)을 결합한 SparsePR을 제안한다. 샘플링된 쿼리-키 응답은 쌍을 이룬 K/V 그룹을 형성하며, 해당 그룹의 중심점은 공유 라우팅을 위한 쿼리-응답 좌표를 유도한다. 이후 소수의 정확한 쿼리 행은 프로브 잔차에서 관찰된 출력 부분공간 내에서 희소 출력으로부터 유도되는 호출별 아핀 보정을 산출한다. 네 가지 이질적인 비디오 생성 및 세계 모델 전반에 걸쳐 SparsePR은 어텐션 재구성 오차를 일관되게 줄인다. 절제 연구는 프로브 피팅이 이러한 감소의 대부분을 설명하며, 응답 결합 분할은 하드 드롭 오차를 낮추고 유한한 프로브 예산 하에서 재구성을 개선함을 보여준다. SparsePR은 22.0%~26.0%의 실현된 실행 쌍 밀도에서 생성 품질을 유지하면서 1.48배~2.61배의 종단 간 속도 향상을 달성한다. 프로젝트 페이지: https://pardistaghavi.github.io/SparsePR-website/

에이전트는 환경과의 상호작용을 통해 행동을 학습하지만, 훈련에 사용되는 환경은 종종 수동으로 구축되거나 사전에 정의된 작업과 벤치마크를 중심으로 합성된다. 이러한 작업 중심 패러다임은 기본 세계에서 다양한 작업이 자연스럽게 창발할 수 있는 현실적이고 진화하는 워크플로우를 반영하는 환경을 확장하기 어렵게 만든다. 본 논문에서는 고수준 비즈니스 시나리오에서 실행 가능한 환경을 합성하는 확장 가능한 프레임워크인 AgentMercury를 소개한다. AgentMercury는 특정 작업을 위한 환경을 구축하는 대신, 엔티티, 서비스, 도구, 상태, 그리고 실행 가능한 교차 서비스 불변식을 갖춘 지속적인 세계를 먼저 인스턴스화하며, 이후 이로부터 다양한 작업과 상호작용 궤적이 창발할 수 있다. 우리는 14개 산업과 50개 국가에 걸친 4,783개의 실행 가능한 환경을 구축하고, 이를 강화학습을 위한 훈련 기반으로 활용한다. 평가 벤치마크를 겨냥하지 않고 생성되었음에도 불구하고, 이러한 비즈니스 지향적 환경에서 훈련된 정책은 엔터프라이즈 워크플로우와 추론, 코딩, 과학 컴퓨팅, 도구 사용을 포괄하는 도메인 외 벤치마크 모두에서 상당한 성능 향상을 보인다. 실험에서 Qwen3.5-4B는 AgentMercury 환경에서 훈련한 후 EnterpriseOps-GYM에서 12.3에서 15.7로, AIME26에서 45.9에서 56.0으로 성능이 향상되었다. 또한 우리는 구축 과정 자체가 학습될 수 있음을 보여준다. 구축 추적 데이터로 Qwen3.5-35B-A3B를 미세 조정하면 보류된 비즈니스 시나리오에서 실행 가능한 세계 생성 성공률이 3.3%에서 83.3%로 향상된다. 이러한 결과는 시나리오 기반 환경이 벤치마크 특화 훈련을 넘어 유용하고 일반화 가능한 학습 신호를 제공할 수 있으며, 그 구축 자체도 학습 가능한 역량이 될 수 있음을 시사한다.

모바일 기기에 비전-언어 모델(VLM)을 배포하는 것은 상당한 메모리 및 연산 요구로 인해 어려운 과제이다. 우리는 자원이 제한된 하드웨어에서 효율적인 추론을 위해 VLM을 양자화하는 프레임워크를 제시한다. 우리의 접근 방식은 모델 자체를 사용하여 학습 데이터를 생성하고 학습 구성에 대한 접근을 요구하지 않는 양자화 파이프라인과 Arm CPU에서 효율적인 실행을 지원하는 새로운 파라미터당 2.7비트 형식을 결합한다. 우리는 Llama 3.2 11B Vision Instruct 모델을 8비트 활성화와 함께 3.7GB로 압축하여 표준 시각 질의 응답 과제 집합에서 강력한 성능을 유지함으로써 우리의 접근 방식을 검증한다.

소형 언어 모델은 대개 대형 모델과 같은 방식으로 구축된 뒤 나중에 CPU에 맞게 압축된다. 우리는 그 반대로 접근했다. 즉, 한 명의 사용자, 한 번에 하나의 토큰, 4비트 가중치, 일반 CPU라는 목표를 먼저 고정한 뒤 이에 적합한 아키텍처를 선택했다. 그 결과, 전체 어텐션은 18개 블록 중 6개에만 유지된다. 나머지 12개 블록은 짧은 컨볼루션을 사용하는데, 이 컨볼루션의 메모리는 대화가 아무리 길어져도 두 타임스텝 폭에 불과하다. 따라서 네트워크의 3분의 2는 점점 커지는 캐시를 다시 읽지 않는다. 이 모델은 599억 개의 토큰으로 처음부터 훈련되었으며, 훈련 시작 전에 고정된 기준점 42.20을 상대로 5개 과제 벤치마크에서 47.31을 기록했다. 이는 3~6배 많은 데이터로 훈련된 GPT-2 124M, Pythia-160M, OPT-125M, GPT-neo-125M을 능가하는 성적이며, 1조 개의 토큰을 학습한 MobileLLM-125M의 공개 점수도 초과한다. 검증 바이트당 비트는 0.8685이다. 훈련 방식이 아니라 아키텍처 자체를 검증하기 위해, 우리는 동일한 데이터로 동일한 크기의 기존 전체-어텐션 모델을 훈련했고, 어느 쪽도 평가하기 전에 승리 조건을 명시해 두었다. 하이브리드 모델은 선택된 품질 지표에서 0.81% 더 높았고, 다운스트림 태스크에서는 동등한 성능을 보였으며, 4비트 파일은 6.3% 더 작았다. 디코딩 속도는 2048 토큰 컨텍스트에서 1.76배, 유사한 크기의 외부 모델 대비 2.08배 빨랐다. 모든 측정에서 속도 이점은 빈 컨텍스트에서는 거의 0에 가깝다가 길이가 길어질수록 커지는데, 이는 해당 메커니즘이 예측하는 바이며 단순히 더 가벼운 모델이라면 나타나지 않을 패턴이다. 단순한 대역폭 계산은 1.17배만을 예측하므로, 메모리 용량만으로는 그 격차를 설명할 수 없다. 또한 효과가 없었던 점들도 보고한다. 완화되지 않은 4비트 품질 비용, 컨볼루션 채널의 약 절반이 비활성 상태로 남아 제거가 불가능했던 점, 그리고 이 모델 크기에 비해 과도했던 어휘 크기 등이다.

우리는 로봇 행동을 픽셀 모션으로 표현하는 행동 흐름(액션 플로우)에 조건화된 범용 세계 모델인 Hydra-0를 소개한다. 이 공유 시각적 인터페이스는 구현체, 작업, 환경, 비디오 생성 백본 전반에 걸쳐 행동 결과를 학습함으로써 범용 세계 모델링과 제어를 가능하게 한다. 최상의 구성은 우리의 행동 조건화 기준선보다 로봇 모션 오차를 90.4%, 객체 모션 오차를 60.2% 낮추면서 제로샷 구성과 데이터 효율적 적응을 지원한다. RoboLab 벤치마크에서 Hydra-0는 재생된 성공률과 참조 성공률 사이의 Pearson 상관계수 r=0.96을 달성한다. 마지막으로, 우리는 이 인터페이스의 창발적 역모드를 발견하는데, 이는 인간 시연에서 전이된 원하는 객체 흐름으로부터 호환되는 로봇 운동을 예측하는 세계 행동 모델이다. 훈련된 행동 헤드는 결과적인 잠재 특징을 실행 가능한 행동으로 매핑하며, 작업별 전문가 로봇 시연을 요구하지 않는다. 종합적으로, 이러한 결과는 이질적인 훈련 데이터, 개루프 정책 평가, 그리고 로봇 제어를 연결하는 공유 제어 인터페이스로서 행동 흐름의 잠재력을 입증한다.

인간 중심 지능은 기반 모델 시대에 접어들면서 규모, 전이 가능성, 범용 모델링에 대한 중요성이 커지며 진화하고 있다. 그러나 인간 중심 지능은 아직 기반 모델과 완전히 통합되어 기반 모델에서 관찰되는 수준의 비약적 발전을 달성하지 못하고 있다. 더욱 중요하게는, 이 광범위한 연구 영역 전반에 걸친 최근의 진전들이 과업, 양식, 연구 공동체 간에 분절된 채로 남아 있어, 그 내재적 개념적·방법론적 연관성이 불명확하다. 이러한 분절을 해소하고 기반 모델 시대의 인간 중심 지능을 재고하기 위해, 우리는 인간을 시각적 외관과 공간 기하학을 통한 관찰 가능한 주체, 운동학적 역학과 상호작용 모델링을 통한 역동적 행위자, 세계 시뮬레이션과 구현된 행위주체성을 통한 상황적 에이전트로 바라보는 여섯 가지 상호연결된 수준을 통합하는 전 스펙트럼 인간 맥락 분류 체계를 제안한다. 다음으로, 우리는 인간 중심 데이터군, 계산 아키텍처 패러다임, 대표적인 훈련 및 추론 최적화 전략을涵盖하는 이 분야의 방법론적 토대를 제시한다. 그런 다음 이러한 수준들에 걸친 대표적 방법들을 체계적으로 검토하고 관련 데이터셋, 벤치마크, 평가 지표를 정리한다. 또한 확장 가능하고 신뢰할 수 있으며 물리적으로 근거하고 배포 가능한 인간 중심 지능을 향한 공개 과제와 유망한 연구 방향을 논의하여, 이 분야의 발전을 위한 일관된 프레임워크와 실용적 참조 자료를 제공하고자 한다. 마지막으로, 우리는 프로젝트 페이지에서 체계적으로 정리되고 지속적으로 갱신되는 인간 중심 AI 문헌 및 자원 모음을 제공한다.

현실적인 사용자 쇼핑 행동을 시뮬레이션하는 것은 전자상거래 시나리오에서 오프라인 평가와 강화 학습의 기반이 된다. 최근 LLM 및 VLM 기반 시뮬레이터가 고무적인 진전을 이루었지만, 실제 브라우징 세션을 재현하는 것은 여전히 두 가지 이유로 어렵다. (i) 기억 문제: 쇼핑 세션은 수십 개의 페이지에 걸쳐 있지만, 기존 에이전트는 장기 관찰 이력을 폐기하여 진화하는 사용자 상태를 잃어버리거나, 이를 단순히 연결하여 컨텍스트 창을 압도하고 시뮬레이션 품질을 저하시키기도 한다. (ii) 최적화 문제: 현재 사용자 시뮬레이터는 일반적으로 모방이나 단계 수준 보상을 통해 기록된 각 행동을 일치시키도록 지도 학습된다. 그 결과 생성된 세션은 과도한 탐색이나 과도한 수동성과 같은 비현실적인 패턴을 자주 보여주는데, 단계별 지도 학습으로는 이를 감지하거나 수정할 수 없다. 위의 문제를 해결하기 위해, 우리는 스크린샷을 통해 페이지를 인식하고 충실한 다중 턴 궤적을 생성하는 GUI 기반 시뮬레이션 에이전트인 RecVerse를 제시한다. 기억 문제를 해결하기 위해 RecVerse는 인지에서 영감을 얻은 계층적 기억 구조를 채택한다: 단기 집중을 위한 작업 기억(Working Memory), 세션 내 궤적을 위한 일화 기억(Episodic Memory), 고수준 의도를 위한 선호 기억(Preference Memory)으로 구성되며, 기억 업데이트를 행동으로 취급하여 에이전트가 언제 무엇을 기억할지 적응적으로 학습한다. 최적화 문제를 해결하기 위해 RecVerse는 전체 세션을 점수화하는 궤적 수준의 강화 학습 목표로 최적화되어, 거시적 수준의 행동 유형 분포와 미시적 수준의 쇼핑 의도를 실제 사용자와 일치시킨다. 또한 우리는 다중 턴 사용자 시뮬레이션을 위한 대화형 전자상거래 GUI 궤적 데이터셋인 USB(사용자 시뮬레이션 벤치마크)를 공개한다. 실험 결과, RecVerse는 행동 충실도와 의도 일관성 모두에서 기존 베이스라인을 크게 능가하는 것을 보여준다.

대규모 언어 모델(LLM) 에이전트의 집단 수준 행동은 단일 에이전트 벤치마크로는 특성화될 수 없다. 우리는 동료 투표 기반 소셜 플랫폼 테스트베드인 PV-SST를 소개하고, 네 가지 주제, 네 개의 미사용 시드, 네 개의 오픈웨이트 모델 계열, 세 개의 사전 지정된 대형 변형을 포괄하는 별도로 동결된, 사전 등록된 짝지은 노출 실험을 보고한다. 이 실험은 448회의 시행과 112개의 완전한 모델-주제-시드 블록으로 구성된다. 주제만 있는 통제 조건에 비해, 동료가 생성한 좋아요로 순위가 매겨진 이전 라운드 동료 게시물의 피드는 최종 라운드 어휘 유사도를 증가시킨다. 이는 네 계열 핵심 패널(쌍별 평균 차이 +0.0082 TF-IDF 코사인 단위, 95% 블록 부트스트랩 신뢰구간 [0.0043, 0.0121], 무작위화 p=0.000105, n=64 블록)과 세 변형 규모 확장(+0.0109 [0.0069, 0.0151], p=0.000001, n=48) 모두에서 나타난다. 이 대비는 동료 게시물 노출과 순위를 결합하므로 순위만의 효과를 식별하지 못한다. 반대측 생존율은 핵심 패널에서 감소하지만(-3.9% 포인트 [-6.8, -1.6], p=0.0068), 대형 변형에서는 결정적으로 나타나지 않는다(-1.0% 포인트 [-3.1, 0.4], p=0.50). 적대적 노출량을 고정했을 때, 네 개의 분산된 출처는 하나의 출처보다 정직한 에이전트의 입장을 안정적으로 움직이지 못한다. 사전 등록된 분산-단일 대비는 핵심 패널에서 양의 값을 보이나 결론적이지 않으며(+0.057 [-0.009, 0.125], p=0.112), 대형 변형에서는 음의 값을 보인다(-0.040 [-0.113, 0.035], p=0.332). 이는 사전 지정된 교차 모델 및 교차 주제 일관성 기준을 충족하지 못한다. 따라서 강건한 결과는 테스트된 동료 순위 피드에서의 어휘 수렴이지, 일반적인 의견 포획이나 일반적인 조정 이점이 아니다. 이 연구는 합성 LLM 에이전트 집단을 평가하며, 사람이나 실제 운영 플랫폼에 대한 효과를 추정하지 않는다.

대규모 언어 모델(LLM)의 안전성을 개선하는 것은 종종 유용성의 희생을 수반하는데, 이는 전역적으로 적용되는 안전성 튜닝이 유해한 입력과 무해한 입력 모두에 대한 모델 응답에 영향을 미칠 수 있기 때문이다. 본 논문에서는 경량 은닉 상태 게이트를 사용하여 안전성 저랭크 어댑터의 활성화 강도를 연속적으로 제어하는 조건부 안전성 적응 프레임워크인 CLEAR(Continuous LatEnt Adapter Routing)를 제안한다. CLEAR는 유해한 응답을 줄이는 동시에 무해한 프롬프트에 대한 성능 저하를 초래할 수 있는 동결된 백본의 불필요한 변경을 회피하는 것을 목표로 한다. 널리 사용되는 안전성 및 유용성 벤치마크에 대한 실험 결과, CLEAR는 HarmBench에서 강건성을 개선하면서도 SFT 또는 표준 저랭크 적응(LoRA)과 같은 전역적으로 적용되는 안전성 튜닝에서 관찰되는 유용성 저하를 줄이는 것으로 나타났다. Llama-3-8B-Instruct에서 CLEAR는 HarmBench ASR을 32.3%에서 0.5%로 감소시키면서도 기본 모델의 유용성을 대부분 유지하였고, 전역적으로 적용되는 SFT 또는 LoRA 대비 GSM8K 정확도를 최대 7.1퍼센트 포인트 향상시켰다. 이러한 결과는 CLEAR가 LLM 정렬에서 안전성-유용성 트레이드오프를 개선하기 위한 유망한 메커니즘임을 시사한다.

우리는 로봇 조작에서 능동적 지각을 위한 물리 정보 기반 Code-as-Policy 에이전트인 PhysCaP를 제시한다. 시각-언어-행동 정책은 시연을 모방하는 데 뛰어나지만, 수동적 관찰에 의존하며 조작에 중요한 잠재적 물리 속성을 추론하지 못한다. PhysCaP는 Code-as-Policy 프레임워크에 물리 정보 기반 탐색 계층을 추가하여 상호작용을 통한 명시적 정보 탐색을 가능하게 한다. 또한 추가 센서 없이 로봇 고유수용감각(proprioception)만으로 물체의 질량과 강성을 추정하는 훈련 없는 물리 속성 추출 모듈을 도입한다. 탐색 비용과 획득 정보의 효율성 사이의 균형을 위해 PhysCaP는 이중 에이전트 설계를 사용한다. 즉, 언제 탐색하고 언제 중단할지 결정하는 플래너(Planner)와, 비합리적 상호작용을 필터링하고 나머지를 휴리스틱 우선순위 점수로 순위를 매겨 효율적이고 목표 지향적인 탐색을 가능하게 하는 우선순위 지정기(Prioritizer)로 구성된다. 우리는 PhysCaP를 실제 세계의 탁상 조작 작업(숨겨진 물체 탐색, 빈 캔 감지, 잘 익은 아보카도 찾기)과 LIBERO의 시뮬레이션 작업에서 평가한다. 결과는 기존의 수동적 및 단순 상호작용 기준선이 물리적 속성이 숨겨져 있을 때 실패하거나 과도한 탐색을 수행하는 반면, PhysCaP는 더 적은 상호작용과 단축된 실행 시간으로 유사한 성능을 달성함을 보여준다. 절제 연구는 제안된 물리 속성 추출 모듈의 효과를 추가로 검증한다. 프로젝트 페이지: https://physcap.github.io

개방형 언어모델 벤치마크는 일반적으로 인간 선호 패널, 다른 모델, 또는 취약한 정확 일치 키라는 평가자를 계승한다. 우리는 버전화된 요리 시스템이 조밀하고 실행 가능한 실측 자료를 제공하는 자동화된 벤치마크인 FlavourBench를 제안한다. 각 과제는 여덟 가지 재료를 제시하고 세 가지 재료로 구성된 포트폴리오를 요구하며, Epicure는 모델 실행 전에 가능한 56개 포트폴리오 전체를 채점한다. 우리는 대체, 페어링, 제약 조합을 포괄하는 동일한 534개 과제 코어에서 27개 프런티어 엔드포인트를 평가한다. 순위에 오른 모든 모델은 패널 및 계열별로 정확히 89개의 유효 응답을 가지므로(총 14,418개 모델-과제 셀), 리더보드에서 차등적 결측성이 제거된다. FlavourBench 점수는 고정된 과제 점수들의 동일 계열 평균이다. 우리는 동시 95% 점수 구간을 위해 50,000개의 앵커-클러스터 부트스트랩 복제를 사용하고, 홀름 제어 하에 총 351개 모델 쌍 대비를 위해 100,000개의 부호 반전 추출을 사용한다. 독립적으로 작성된 두 패널은 r = 0.89(순위 rho = 0.80)의 상관관계를 보인다. Grok 4.6이 65.1로 가장 큰 점추정치를 보이며(동시 95% 신뢰구간 61.0-69.2), 351개 모델 쌍 중 101개 쌍이 판정된다. 공개 자료에는 프롬프트, 모든 포트폴리오 점수 맵, 원시 응답, 정확한 경로, 콘텐츠 해시, 그리고 모든 결과를 재구성하는 오프라인 검증기가 포함된다.

우리는 하디스 전산과학(hadith computational science)이 트랜스포머 모델, 검색 기반 파이프라인, 대규모 언어 모델(LLM)에 의해 어떻게 재편되고 있는지 살펴본다. 최근의 검토 논문들은 해당 분야 문헌의 성장을 기록하고 있으나, 어떤 진전이 방법론적으로 견고한지, 어떤 것이 여전히 벤치마크에 국한된 것인지, 그리고 어떤 미해결 문제가 학술적 활용을 여전히 제한하는지에 대한 비판적 분석은 아직 제공하지 못하고 있다. 우리는 기존 검토 논문들에 대한 비판, 대표적인 원저 연구에 대한 논문 수준의 평가, 그리고 진정성·권위·책임 있는 사용에 관한 이슬람 학자 및 도메인 전문가 관점의 종합을 결합한 비판적 서술 검토(critical narrative review)를 통해 이러한 공백을 해소하고자 한다. 우리는 불균등한 진전을 발견하였다. 데이터 자원은 확장되었고, 세분화(segmentation) 작업은 성숙해졌으며, 전승자 및 출처 검증 문제는 더 잘 정형화되었고, LLM 보조 워크플로는 이제 코퍼스 규모의 강화, 다국어 접근, 근거 기반 평가를 지원한다. 동시에, 진전은 여전히 협소한 코퍼스, 취약한 벤치마크 비교 가능성, 합성-실제 전이 격차, 전승자 신원 식별, 전처리의 취약성, 제한된 재현성, 그리고 전문가 근거 기반 검증의 부족에 의해 제약을 받는다. 우리는 중요한 공백이 지배적인 벤치마크 너머에 존재함을 보여준다: 비정전적이고 희귀한 코퍼스, 주석 및 해설 문헌, 꾸란 및 시라(seerah)와의 교차 출처 연결, 그리고 피끄(fiqh)를 겨냥한 증거 지원이 그것이다. 우리는 하디스 계산이 고립된 모델 성능으로 평가되어서는 안 되며, 지식 통합, 출처 추적, 전문가 감독을 요구하는 증거 인프라 문제로 평가되어야 한다고 주장한다. 이러한 기반 위에서 우리는 해당 분야를 방법론적으로 더욱 견고하게 만들고 이슬람 학문에 더욱 유용하게 만들기 위한 연구 의제를 정의한다.