每日論文

LLM 代理（LLM agent）日益在大型工具生態系統中運作，現實世界的任務需要發現相關工具、推斷隱含的子目標，並在長時間跨度內適應動態環境。然而，現有的基準測試很少評估在檢索受限的工具可見性下的規劃能力。為了解決這一差距，我們引入了 PlanBench-XL，這是一個包含 327 個零售任務、1,665 個工具的互動式基準測試，旨在測試代理是否能反覆檢索可用的工具，並透過調用這些工具來揭示中間證據，以便後續調用工具最終達成目標。PlanBench-XL 還提供了可選的阻斷機制，透過缺失、失敗或干擾的工具功能來模擬現實世界中的不可預測性，迫使代理在運行時檢測中斷的路徑並進行適應。在十個頂尖 LLM 上的實驗表明，大規模工具規劃仍然具有挑戰性：雖然 GPT-5.4 在無阻斷環境下達到了 51.90% 的準確率，但在最嚴重的阻斷條件下，其準確率驟降至 11.36%。進一步分析顯示，當失敗缺乏明確的錯誤訊號，或恢復需要更長的替代工具使用路徑時，代理尤其脆弱。這些結果將 PlanBench-XL 確立為診斷代理規劃失敗的測試平台，並凸顯了在具有大規模、不完美工具環境的長期任務中，需要強健的自適應規劃能力。

現代代理系統常面臨執行時期狀態碎片化的問題：對話記錄、工具效果、記憶事件、工作區配置、分支溯源及重播證據等資訊各自獨立紀錄，導致難以檢視或重現。OpenRath 透過類似 PyTorch 的編程模型解決此問題，適用於多代理、多工作階段的系統。此處的類比在於核心第一類執行時期抽象層的角色，而非張量運算。其核心抽象概念為 **Session**（工作階段），這是在代理與工作流程之間傳遞的執行時期數值。Session 具備可分支、可檢視、可重播、支援後端及可組合等特性。它記錄對話片段、沙箱配置、溯源元數據、代幣使用量、待辦事項與工具證據，同時定義記憶體互動在何處進入執行時期記錄。由於此狀態由程式執行過程所使用的同一個數值承載，因此分叉（fork）、合併（merge）與重播（replay）成為明確的執行時期操作，而非從外部軌跡重建的狀態。OpenRath 進一步定義了 Sandbox、Tool、Agent、Memory、Workflow 與 Selector 等元件，其中 Selector 將控制流程轉變為由執行時期路由的決策。本報告介紹其程式模型、架構、經審核的里程碑以及證據協議。其論述範圍僅限於受控的執行時期特性，而大範圍的量化比較、即時供應商品質、可選後端可用性以及記憶體品質等主題，則留待後續評估。核心論點為：Session 為代理系統提供了可稽核組合的第一類執行時期數值。

大規模非結構化多模態數據流存在高「數據熵」，既阻礙人類高效知識獲取，也影響高品質AI後訓練。現有的被動式標註範式高度依賴啟發式規則或通用視覺語言模型（VLM），成本高昂、形式單調，且無法釋放原始數據中蘊含的深層程序邏輯。我們將數據處理提升為可學習的能力，提出朝向**代理式數據裁剪**的範式轉移，即主動提煉並結構化數據，以對齊多樣的使用者與下游意圖。為克服訓練此類高階能力時的數據稀缺瓶頸，我們設計了一個兩階段流程，將生成式語義合成錨定於確定性**事實錨點**，進而生成涵蓋五大核心物理與數位領域的大規模數據集。在此基礎上，**DataClaw_0-9B**模型將監督式微調（SFT）與群體相對策略最佳化（GRPO）相結合，實現了對複雜提煉與裁剪意圖的穩健對齊。為系統量化此能力，我們建構了**DataClaw_0-val**，首個專注於數據提煉的評測基準。關鍵的是，我們採用下游後訓練作為最終驗證的試金石。在影片生成、真實世界視覺問答（VQA）與GUI導航上的評估結果證實，**DataClaw_0**能提供高資訊密度的裁剪數據，在有限訓練數據下促進模型高效適應新任務。專案頁面：https://czjdsg.github.io/MakeAnyData

企業級代理日益在實際工作環境中運作：它們讀取異質檔案、呼叫工具、產出商業成果。我們提出EnterpriseClawBench，這是一個基於專有真實代理對話所建構的企業級代理基準。從大量工作環境對話資料庫出發，EnterpriseClawBench 產出了 852 項可重現任務，每項任務都配有還原後的測試資源、改寫後的提示、角色類別、技能子類別、硬性規則與語義評估準則。由於這些對話包含企業內部內容，我們未公開基準資料；相反地，我們可重複使用的貢獻在於其建構流程與評估協議。在 EnterpriseClawBench 上，最佳配置僅達到 0.663（Codex 搭配 GPT-5.5）。這項結果顯示，企業級代理評估必須報告測試框架與模型組合、成果交付、視覺品質、成本、執行時間與技能遷移行為，而不應將效能簡化為單一分數。程式碼：https://github.com/FrontisAI/EnterpriseClawBench

自注意力機制是 Transformer 效能的關鍵，但在長上下文情境下，它常是 Transformer 中最耗費計算的部分，因為其逐對 token 互動的規模與序列長度成二次方增長。標準的密集注意力還會對每個 token 套用相同的一組注意力頭，而不考慮 token 的難度或資訊內容。這種均勻活化會浪費計算資源，尤其在序列變長、注意力成本快速增加時尤為明顯。我們提出「分組查詢專家」（Grouped Query Experts, GQE），這是一種基於分組查詢注意力（Grouped-Query Attention, GQA）之上的混合專家層。在每個 GQA 群組中，路由器會為每個 token 選取 k 個查詢頭專家，而所有鍵值頭（KV heads）保持密集且不變。如此一來，GQE 保留了 GQA 的 KV 快取優勢，並僅減少活躍的查詢頭計算量。在固定 30B token 預算、250M 參數規模下，GQE 在下游準確率上與全活躍的 GQA 基準相當，同時每個 token 僅活化一半的查詢頭。

隨著檢索系統規模擴大，高品質的重排序變得越來越重要。然而，現有的重排序模型 — 無論是基於編碼器還是解碼器 — 大多將查詢與段落聯合編碼，使得運算高度耦合，限制了部署效率與靈活性。我們提出 KaLM-Reranker-V1，一種快速但非延遲交互（FBNL）的重排序器，它在解耦查詢與段落運算的同時，仍保留了具表現力的相關性建模。KaLM-Reranker-V1 採用編碼器-解碼器架構，編碼器透過 Matryoshka 嵌入池化（Matryoshka embedding pooling）預先編碼段落，解碼器則負責處理系統指令、使用者指令與查詢意圖；交叉注意力（cross-attention）機制進一步捕捉查詢上下文與段落表徵之間的相關性。這種設計讓 KaLM-Reranker-V1 藉由解耦的段落編碼達到高效率，同時透過交叉注意力保留豐富的相關性建模，因此並非延遲交互。我們以三種規模實例化 KaLM-Reranker-V1，分別為 Nano（0.27B 激活參數）、Small（1B）與 Large（4B）。在 BEIR、MIRACL 與 LMEB 上的大規模實驗顯示，KaLM-Reranker-V1 在具備優異效率的同時，達到了強大的重排序表現。在 BEIR 上，KaLM-Reranker-V1 達到最先進的效能，與 Qwen3-Reranker 系列等強勁工業模型並駕齊驅；在 MIRACL 上，儘管未經大量多語言資料訓練，KaLM-Reranker-V1 仍展現出極佳的重排序性能。此外，在 LMEB 上，重排序模型展現出明顯優勢，即使是 0.27B 的 Nano 模型也能與 7–12B 的嵌入模型競爭。

世界行動模型（World Action Models, WAMs）是一類具身預測行動模型，能為行動提供對未來的預測。近期WAMs重新利用大型視頻生成模型，而另一條平行研究方向則依賴於語言或視覺語言骨幹網絡，不具備視頻生成核心。這種快速擴展模糊了廣泛世界模型、視頻生成模型、基於行動的視頻世界模型、視覺-語言-行動策略以及WAMs之間的界線。本綜述為該領域提供了統一的架構。首先釐清這些界線，接著透過兩種互補視角組織現有研究。第一種視角關注每種方法需要生成的內容，涵蓋渲染的未來、潛在的未來以及無視頻生成的行動推理。第二種視角則從預測基礎、骨幹網絡、行動耦合與部署模式四個維度拆解每種方法。這種剖析支持對交互性、因果性、持久性、物理合理性與泛化能力的統一討論，隨後探討數據、評估與開放性挑戰。在這些軸線上，一個一致的設計模式浮現：WAMs並非簡單帶有行動頭的視頻生成器，而是預測行動方法，其設計選擇在表徵豐富度與計算、記憶體、延遲及行動標籤成本之間進行權衡。該領域正朝生成更少未來內容、同時保留控制所需資訊的方向發展。本綜述的首頁可於 https://world-action-models.github.io/ 瀏覽。

尽管近期基于大型语言模型的终端代理展现出令人振奋的能力，但高质量、可执行训练数据的匮乏仍是关键瓶颈。现有合成流程通常通过将表层人工产物重构为任务来实现规模扩展，这往往导致指令模糊、执行路径浅显、测试用例脆弱，难以提供有效的学习信号。为突破这一局限，我们提出CLI-Universe——一个构建终端代理任务的原理性合成引擎。该引擎通过在多维能力分类体系（涵盖领域、技能类型、能力维度与工程支柱）中采样组合生成候选任务，随后基于引导式证据对真实世界技术资料进行深度研究，将每个候选任务落地为可执行方案。为确保严格的监督信号，验证通过的任务蓝图会被实例化为Docker化环境，并经过多阶段可执行验证流程：该流程包含基于评估准则的测试用例构建、提示条件过滤以及严格的失败转通过校验。从候选生成到验证的完整流程中，约三分之二的候选任务被淘汰，仅保留那些真实、可验证且具备非平凡挑战性的任务。为验证框架有效性，我们实例化了一个高度精简的数据集CLI-Universe-6K，包含6000条轨迹。值得关注的是，在CLI-Universe-6K上微调Qwen3-32B模型，在Terminal-Bench 2.0基准上达到了33.4%的准确率。这不仅在基于开源数据训练的32B及以下参数模型中树立了新标杆，更超越多个参数规模大一个数量级的模型，充分展现了结构化高保真合成策略在数据效率上的显著优势。

现有的嵌入模型本质上是静态的：它们孤立地编码文本片段，忽略了周围的上下文和时间顺序。本文提出EvoEmbedding，一种创新的嵌入模型，能够生成可演化的检索表示。该模型专为长上下文场景设计，此类场景中的信息具有动态性、序列性，并需要持续的状态追踪。我们的设计简洁明了：EvoEmbedding在顺序处理输入时维护一个持续更新的潜在记忆，并将其与原始内容联合生成可演化的嵌入。因此，对于同一查询，我们的模型能够根据不断演化的上下文调整其表示，以检索不同的目标，超越了静态语义搜索。为使模型具备此能力，我们构建了EvoTrain-180K，一个多样化的数据集，用于潜在记忆与检索的联合优化。此外，我们引入了记忆队列以防止循环编码过程中的表征坍塌，以及分段批处理技术，以应对显著的长度差异并将训练速度提升3.8倍。大量实验表明，我们的模型不仅在多项长上下文检索基准测试中超越了更大规模的专业模型（例如Qwen3-Embedding-8B和KaLM-Embedding-Gemma3-12B），还能很好地泛化到上下文长度为其训练窗口10倍的下游任务（如个性化）。值得注意的是，EvoEmbedding能够无缝集成到智能体工作流中以提升性能。例如，一个配备了我们模型的简单RAG流水线，其表现超过了专门的智能体记忆系统。项目页面：https://clare-nie.github.io/EvoEmbedding。

我們提出 BioMatrix，這是首個在多模態基礎模型中，原生整合分子與蛋白質的序列、結構及自然語言，並採用單一解碼器架構的模型。現有的生物基礎模型分別追求原生多模態與廣泛的實體覆蓋：那些在共享目標下融合多種模態的模型，仍僅限於單一實體類型；而涵蓋多種實體類型的模型，則不是省略了明確的結構建模，就是依賴於適配器設計，使模型無法原生生成其所能讀取的模態。BioMatrix 透過統一分詞方案，將分子序列（支援 SMILES 與 SELFIES 表示法）、分子結構、蛋白質序列、蛋白質結構以及自然語言，映射至共享的離散詞元空間，使得所有模態能在單一的下一個詞元預測目標下，被一致地消費與生成——無需外部編碼器、投影適配器或模態特定的輸出頭。BioMatrix 建立在 Qwen3 語言模型（1.7B 與 4B）之上，在 3044 億個詞元上持續進行預訓練，涵蓋通用與領域特定文本、分子與蛋白質的序列與結構視角，以及跨模態語料庫——這些語料庫將生物分子實體與科學文本交織在一起，並透過分子-蛋白質與蛋白質-蛋白質交互作用數據連結不同實體。在針對涵蓋 6 大類別、共 80 項任務的下游應用綜合套件進行微調後——這些任務涵蓋跨模態與模態內的單實體與多實體理解及生成任務——BioMatrix 在 80 項任務中有 77 項達到最先進或具競爭力的表現，證明了單一、原生多模態的通用模型，能夠有效匹配甚至超越廣泛生物任務中的專門方法。

注意力機制的二次複雜度成為長上下文處理的關鍵瓶頸，促使學界轉而關注混合注意力設計。目前多數開源混合模型採用逐層策略，然而先前研究已指出線性注意力（Linear Attention, LA）與全注意力（Full Attention, FA）整合上的固有困難，顯示注意力混合的設計空間仍有待深入探索。為此，我們透過可解釋性分析觀察到：層與層之間展現區塊式功能相似性，而同一層內不同注意力頭雖共享輸入特徵，卻呈現明確的功能特化。這種頭層級異質性表明，頭維度是融合異質注意力訊號的自然且具原則性的粒度。基於此發現，我們提出HydraHead——一種沿頭軸混合FA與LA的新型架構。HydraHead包含兩項關鍵創新：（1）基於可解釋性驅動的篩選策略，辨識出對檢索至關重要的注意力頭，並僅為其保留FA；（2）尺度歸一化融合模組，用以調和FA與LA頭輸出之間的分佈差異。透過結合參數重複利用與知識蒸餾的三階段遷移流程，我們以最少訓練開銷實現高效能混合模型。在統一訓練設定下，HydraHead在長上下文任務中優於其他混合設計，同時維持強大的通用推理能力。採用可解釋性驅動的頭篩選時，僅以7:1的LA對FA比例，即可達到3:1逐層混合模型的長上下文效能。關鍵的是，HydraHead僅使用150億個詞元的訓練資料，便在512K上下文長度下較基線模型提升超過69%，逼近規模相當且原生上下文長度為256K的領先模型Qwen3.5。這凸顯了頭層級混合的顯著擴展潛力。

電腦使用代理（CUA）日益部署於動態互動環境中，這使得在互動過程中持續學習技能的需求與日俱增。近期研究透過從成功軌跡中學習可重複使用的技能來應對此挑戰。然而，這些技能學習方法大多假設處於靜態且安全的環境，忽略了對抗性互動（例如提示注入）與環境動態變化（例如彈出視窗）的風險。在動態環境中，此類假設可能導致高風險的技能學習與脆弱的執行過程，削弱CUA的可靠性。這引發一個問題：CUA如何在動態環境中安全地學習與使用技能？為解決此問題，我們提出SkillHarness，一個在動態環境中安全運用技能的框架。SkillHarness超越靜態的技能抽象，將技能學習與使用建模為一項安全受限的互動過程。具體而言，我們引入技能邊界，利用多重監督信號從互動軌跡中識別安全技能，並在技能生命週期中建構自我改善的安全限制。此外，SkillHarness引入選擇性技能重複使用，引導任務根據情境進行分解，並透過選擇性啟動技能子集來完成任務。我們的實驗顯示，SkillHarness將所學技能的不安全率顯著降低57.1%，並在動態環境變化下持續提升執行穩定性，優於現有基準方法。

大語言模型（LLMs）的自迴歸生成通常從最後一層解碼，假設更深層的表示能產生更可靠的下一個令牌預測。我們透過揭示一個反覆出現的「猜測-精煉-擾動」動態來重新審視此假設：早期層形成粗略猜測，中間層精煉與推理相關的語義，而最後一層可能將這些精煉後的預測擾動為通用或對齊偏好標記。我們提出「自信解碼」（Confident Decoding），一種無需訓練的解碼策略，透過熵引導的保守反向搜索動態選擇最可靠的接近最後一層。我們進一步將層選擇理論形式化為一個最佳停止問題，證明在有限的投影噪聲與主導性的後期對齊擾動下，我們的搜索規則能過濾擾動，同時相對於理想精煉層的損失保持有界。在密集與專家混合（Mixture-of-Experts）LLMs上的實驗顯示，在具挑戰性的推理基準（包括GPQA-Diamond、Omni-MATH與HLE）上取得一致的提升，且無記憶體開銷，延遲增加低於2%。這些結果表明，動態繞過最後一層的擾動，能從已對齊的LLMs中釋放出更強的推理行為。

自蒸馏通过使用模型自身的采样轨迹作为训练信号来提升大语言模型的推理能力，通常采用隐式logit层面对齐的方式，最小化与特权目标分布之间的KL散度。然而，由于这种监督信号通过无控采样生成，它既无法提供对模型具体错误的诊断性见解，也无法针对其个体失败模式给出修正性指导。因此，模型学习到的是模仿一种特权分布，而非接收细粒度修正——这类修正能够精准定位其推理失败的位置与原因。本文提出轨迹增强策略优化（TAPO），该方法将自蒸馏从隐式分布对齐提升为显式轨迹构建。在强化学习训练中，模型对同一查询同时产生正确与错误的采样轨迹，TAPO利用这种对比结构构建微反射修正：新的训练轨迹保留模型在失败点之前的错误推理，随后插入基于同一采样组中正确参考引导的自然语言诊断与修正推理。由于每条轨迹都锚定在学习者自身的前缀与解答上，相比基于KL散度的方法所施加的位置级对齐，这种修正信号能在更大程度上保留模型在策略分布的完整性。为整合这些轨迹，TAPO在模型能力边界处引入难度感知候选选择，并采用解耦优势估计以防止梯度污染。在AIME 2024、AIME 2025和HMMT 2025上的实验表明，在相同训练步数下，TAPO相较于GRPO取得了持续改进。进一步分析显示，TAPO同时增强了首轮推理能力与错误修正效果。

近期，以 DeepSeek OCR 为代表的端到端 OCR 模型再次让 OCR 技术重回公众视野。一个普遍的观点是，将大语言模型（LLM）作为解码器，能使模型利用语言的先验分布，从而提升 OCR 性能。然而，其缺点同样显而易见：随着输出序列增长，累积的 KV cache 导致内存消耗增加，并逐步减慢生成速度。这与人类在长文本抄写任务中效率不降的特点形成鲜明对比。本技术报告中，我们提出 Unlimited OCR，一种旨在模拟人类解析工作记忆的模型。以 DeepSeek OCR 为基础，我们将解码器中所有注意力层替换为我们提出的参考滑窗注意力（Reference Sliding Window Attention, R-SWA），在降低注意力计算成本的同时，保证整个解码过程中 KV cache 恒定。结合 DeepSeek OCR 编码器的高压缩率与我们恒定的 KV cache 设计，Unlimited OCR 可在标准最大长度 32K 下，单次前向推理即可转录数十页文档。更重要的是，R-SWA 是一种通用的解析注意力机制——除 OCR 外，同样适用于 ASR、翻译等任务。代码和模型权重已在 http://github.com/baidu/Unlimited-OCR 公开。

深度研究代理（Deep Research Agents）是以大型語言模型（LLM）為基礎的系統，專為自主、多步驟的科學推理而設計，在加速物理科學研究方面具有巨大潛力。然而，目前對其在該領域能力的全面深入評估仍有所欠缺。為填補此空白，我們提出 PhySciBench，一個與物理科學研究高度相關的基準，包含 200 道經專家策劃的問題，涵蓋物理與化學兩大學科，分布於反映實際科學工作流程的六個任務類別。在 PhySciBench 上對當前最先進模型與代理系統的評估顯示其表現有限；即使是最強的基線模型 Gemini Deep Research，準確率也僅達 33.5%。對失敗案例的分析揭示了三個反覆出現的缺陷：延展推理鏈的脆弱性、跨步驟知識遷移能力不足，以及缺乏基於物理學的自我驗證機制。基於這些發現，我們開發了 DelveAgent，一個模組化多代理框架，配備自適應規劃循環、雙粒度記憶，以及分層的物理學基礎反思機制。在四個科學基準測試中，DelveAgent 將準確率提升最多 7.5 個百分點，同時將推理成本降至最強基線模型約三分之一。這些結果確立了 PhySciBench 作為評估物理科學中 AI 系統的重要基準，同時證明架構專業化能有效提升自主科學研究的可靠性。

長期時域任務在真實世界的機器人部署中相當常見，然而針對此類任務的故障檢測仍鮮有探討。檢測長期機器人任務中的故障尤其具有挑戰性，因為故障的發生往往難以明確界定，且密集的時間標註通常難以取得。我們提出Foresight，這是一個故障檢測框架，透過動作條件化世界模型的潛在表徵來監控操作軌跡。Foresight僅使用最終任務層級的成功或失敗標籤進行訓練。藉由利用預測性世界模型嵌入，我們的方法為不同策略下的故障檢測提供了統一的框架。我們進一步採用函數共形預測來自適應地校準檢測閾值。我們在模擬環境中，針對LIBERO-Long、ManiSkill-Long和BEHAVIOR-1K，使用最先進的視覺-語言-動作策略來評估Foresight，並與現有的頂尖故障檢測方法進行比較，同時在真實機器人上，於ReactorX-200機械臂執行三項長期任務及Franka機械臂執行一項任務進行驗證。結果顯示，動作條件化世界模型嵌入能為長期操作中的可靠故障監控提供可擴展的表徵。

由思维链和工具调用组成的长代理轨迹会累积陈旧内容，从而锚定后续生成过程，并最终超出上下文窗口的限制。现有的框架通过在达到令牌阈值时触发固定间隔的压缩来缓解这一问题。然而，此类触发机制不考虑轨迹结构，可能导致在推演或搜索中途丢弃部分结果。我们提出SelfCompact——一种让模型自身决定何时以及如何压缩的框架。具体而言，它将两个推理时元素配对：(i) 模型调用的压缩工具，用于总结累积的上下文；以及(ii) 一个轻量级准则，规定何时触发压缩（子任务已完成，或轨迹趋于收敛）以及何时抑制压缩（推演中途，或陷入卡顿）。两者缺一不可。仅靠工具本身，在开源模型中的使用不均，常常在无益的时机被调用，或根本不被调用；而仅凭准则则无法实际执行。两者结合，无需任何微调或外部监督，便能实现有效的自适应压缩。我们在六个基准测试（竞赛数学和智能体搜索）和七个模型上展示了实证结果。结果表明，SelfCompact在显著降低令牌成本的情况下，匹配甚至超越了固定间隔摘要总结，与无摘要基线相比，在数学任务上最高提升18.1个百分点，在智能体搜索任务上提升5-9个百分点，同时每个问题的成本降低30-70%。我们的结果揭示了一个元认知差距：尽管未经提示的模型无法可靠地判断自身上下文何时正在腐化，但一个轻量级准则弥补了这一差距，将何时压缩重新定义为框架无需训练即可提供的能力。

手機正逐漸成為通用型智能體的重要執行平台，但訓練可靠操作手機的開放模型仍具挑戰，因為部署時真正重要的環境——真實裝置上運行的真實應用——速度慢、具狀態、有副作用，且難以重置或驗證，而可擴展的模擬環境僅能近似真實行為。我們提出 PhoneBuddy：一套專為手機智能體操作設計的訓練配方與開放模型系列，其結合了真實應用環境與模擬應用環境 PhoneWorld——後者可從真實 GUI 使用結構中還原出可運行的模擬應用。PhoneBuddy 首先透過在兩種環境中收集的軌跡進行共享的監督式微調階段，接著在純真實應用強化學習與混合兩種環境的強化學習之間進行比較。在一項涵蓋 150 項任務、於真實手機上進行的人類評估中（任務橫跨一般應用、迷你應用及跨應用工作流程），任務成功率從監督式微調後的 36.67% 提升至純真實應用強化學習後的 40.67%，以及混合強化學習後的 45.33%。在 AndroidWorld 上，同樣的進程從 60.3% 上升至 77.2%，再至 83.2%。這些結果顯示，模擬應用訓練並非取代真實應用強化學習，而是提供可擴展、可重置且可自動檢查互動的一種互補來源。其增益在一般應用與迷你應用任務上最為明顯，而長時間跨應用工作流程仍是一項重要的開放性挑戰。

科學發現的工作流程通常包含並高度依賴實驗筆記，研究人員在其中記錄觀察結果、解讀不確定的結果，並規劃後續實驗。這類富含資訊的實驗筆記保留了科學推理的演進過程及作者的疑慮，而非出版成果中所呈現的修飾後最終結果，為人工智慧在更全面、更深入的層面上參與科學探索提供了寶貴機會。然而，過去大多數關於科學文本的研究聚焦於論文、操作協議或結構化資料庫，忽略了非正式的實驗筆記作為科學AI代理輸入的潛力。這一缺口影響重大，因為實驗筆記往往在同一段落中混雜了已驗證的觀察、暫定的判斷及可能的實驗下一步行動。如果這些訊號被混淆，AI代理可能會將不確定的科學判斷誤認為已確認的結論或可執行的行動。為此，我們提出了Notes2Skills，一個將實驗筆記轉化為可驗證技能、同時保留作者確定性的兩階段框架。在七種條件及三次濕實驗室操作的測試中，Notes2Skills是唯一既不會將不確定的筆記誤認為明確指令、也不會捨棄明確指令的配置。我們證明了確定性保留是實驗筆記與可靠代理技能之間缺失的一環，為更安全的AI共同科學家系統開闢了一條道路。

搜索代理（SAs）通常利用大型語言模型（LLMs）來支援複雜的資訊檢索任務，透過自主探索網路資源並整合資訊，產出全面的回應。在評估搜尋代理時，過往的基準測試主要聚焦於專門任務，這些任務在真實使用者場景中較少出現。此外，這些評測依賴粗略的任務層級評分標準，往往限制了評估的可解釋性。為填補此缺口，我們提出 DailyReport，這是一個開放式基準測試，用於評估搜尋代理在日常搜尋任務上的能力。該基準包含150項開放式任務，搭配3,546條相關評分標準，涵蓋真實使用者廣泛討論且具時效性的資訊需求。每項任務被分解為子任務，並透過階層式評分標準在獨立的維度上進行評估。透過階層式效能歸因與以使用者為中心的彙整方法，我們為每個維度導出高度可解釋的分數，以及一個使用者偏好分數。我們在17個代理系統上的結果顯示，現有系統仍未達到使用者期望。為促進未來研究，我們已將資料集與程式碼公開於 https://github.com/AGI-Eval-Official/DailyReport。

終端代理已迅速成為語言模型（LM）最受歡迎的下游應用。儘管其普及程度很高，但學術界對基於強化學習（RL）的此類模型訓練研究相對較少，這可能歸因於困難的基準測試、數據缺乏以及缺乏簡單的基礎配方。我們提出了 Tmax，這是最強大的開源終端代理 RL 配方，將開源數據配方推向前沿。儘管方法簡單，我們的配方僅用 9B 參數就在 Terminal-Bench 2.0 上達到了 27% 的效能，超越了先前工作中規模更大的模型。具體而言，我們使用一種新穎的分類法生成數據，結合了難度控制、角色設定及驗證器多樣性，這使我們能夠低成本地生成大量終端環境，用於 RL 和 SFT 訓練。我們開源了終端數據集，其規模比先前發布的終端代理數據集大 2.5 倍以上。隨後，我們使用 RL 訓練數據訓練開放權重模型，採用純粹基於結果的簡單方法。我們在 https://github.com/hamishivi/tmax 上發布了數據、模型和程式碼，作為未來終端代理開放學術研究的強大基線。

將文本到圖像流匹配模型與人類偏好對齊，透過直接獎勵反向傳播的方法雖然樣本效率高，但卻受到兩個已知病理問題的困擾：在現代模型規模下，無法在整個採樣軌跡中儲存激活值，且跨步驟的鏈式雅可比乘積會放大回傳至早期索引的獎勵梯度。基於連接器的方法（如 LeapAlign）透過以一條短固定路徑取代完整的反向軌跡來解決這些問題，凸顯了採樣與最佳化之間有用的解耦關係。然而，所得梯度的品質取決於這條短路徑對完整展開軌跡的近似精確度，尤其是在長間隔的情況下。我們提出 FlowBP，一個統一的替代軌跡框架，將反向軌跡本身視為設計對象。FlowBP 保留一條無梯度的快取展開軌跡用於採樣，再從快取及選擇性重新前向傳播的速度中建構一個輕量級的反向替代軌跡。此觀點分離了四個選擇：獎勵模型輸入、活躍集、積分權重，以及橋耦合，並將先前的直接梯度方法歸納為特定設定。在此框架內，我們實例化三個變體：FlowBP-Sparse 使用稀疏歐拉重構，FlowBP-Bridge 加入受控橋耦合，而 FlowBP-Lagrange 則提高跳躍求積的階數。三者均將記憶體限制在活躍集大小內，並將梯度鏈限制在最多一個雅可比因子。在 SD3.5-M、FLUX.1-dev 及 FLUX.2-Klein-base 上，針對偏好、品質及組合性指標，這三個變體在多數指標上優於直接梯度基線方法。

流匹配近來已成為最先進文本到圖像（T2I）生成領域中的一個強大範式，能以少量取樣步驟實現高品質生成。隨著這類模型日益融入實際應用，確保生成內容安全且無敏感資訊已成為一項關鍵需求。然而，將安全與概念移除方法適應至這個新生成框架，仍是一項未解挑戰。具體而言，先前方法大多依賴於在多次去噪步驟中進行迭代軌跡導引，或是以CLIP為核心的提示嵌入操作。這些設計假設為基於流匹配的T2I生成安全性帶來了根本瓶頸：有限的取樣步驟限制了迭代修正，而現代上下文感知的文字編碼器則降低了嵌入層級干預的效果。為此，本文提出VESFlow，一種專為極少取樣步驟的流匹配設計的免訓練安全方法。利用流匹配模型學習邊際速度的特性，我們透過安全條件後驗直接編輯速度場。VESFlow在保持條件提示不變的情況下，將軌跡導引至安全輸出。基於VESFlow在良性提示下輸出保持不變的觀察，我們進一步引入基於風險評分的過濾機制，跳過速度編輯以降低計算成本，同時維持良性提示的生成。以此過濾機制為基礎，我們提出VESFlow+，一個更強的VESFlow變體，不僅將速度編輯至安全方向，更將其推離不安全方向。實驗結果顯示，在4步MeanFlow模型上，VESFlow+能移除目標概念，將Ring-A-Bell的NudeNet攻擊成功率降至6.3%，MMA-Diffusion降至6.8%，同時在良性提示上保持生成保真度。

開放權重的大型語言模型（LLMs）促進了科學進展與廣泛部署，但也使得對敏感能力的存取控制變得困難。目前的實務作法，若非在釋出前壓制危險能力，就是透過封閉服務中介存取，這些服務使用專門的模型變體、輸入/輸出監控與API權限。前者容易遭受越獄攻擊，且為了減輕少數使用者帶來的風險而犧牲所有使用者的能力；後者則與開放權重釋出根本不相容。在本文中，我們提出分層語言模型（TLM），其中單一組釋出的權重支援多重能力層級。在預設的公開組態下，TLM表現為傳統LLM。一個緊湊的密鑰指定一小部分參數的排列，從而在相同權重上產生替代的計算圖，進而揭露額外能力。我們開發了一套訓練協議，從零開始聯合預訓練兩種組態，然後在私密資料上對密鑰組態進行微調，並搭配正則化以保留公開模型的行為。我們預訓練了1.8億與6.5億參數的TLM，並證明密鑰組態能夠學習新語言、獲得指令遵循能力，並記憶私密事實知識，而公開組態則完全不具備這些能力。此外，我們展示此方法能自然延伸至多重分層層級。由於授權操作基於模型的權重結構而非輸入空間，此機制能抵抗基於微調的提取與部分密鑰洩漏。總體而言，TLM在協調開放權重釋出與選擇性能力控制上邁出了一步。

潛在動作預訓練透過觀察對學習視覺變化的表徵，但現有方法通常將每個轉變編碼為單一非結構化表示，使得轉變程度與轉變模式相互糾纏。我們提出具有徑向結構的極坐標潛在動作（PoLAR），為潛在動作施加徑向方向結構，促使半徑編碼轉變程度，方向保留轉變模式。PoLAR利用兩個觀察之間的時間偏移作為轉變程度的弱代理，鼓勵時間間隔較大的觀察對所產生的潛在動作佔據較大半徑。我們在雙曲空間中實現此結構，其半徑隨體積擴展的特性，自然而然地適合容納更大程度下更多元的轉變模式。在任務內與大規模預訓練場景中，PoLAR提升了下游策略在模擬與真實機器人實驗中的表現，優於潛在動作基線及強大的預訓練VLA模型。這些結果表明，潛在動作空間的幾何結構是將視覺預訓練遷移至下游機器人策略學習的重要設計選擇。

本研究提出了一個通用框架，用於訓練大型語言模型（LLMs）具備「串連線索」（Connect the Dots, CoD）的能力——這是長期生命週期代理所需的一種後設能力：當基於LLM的AI代理部署在環境中時，它會解決一系列長期任務，同時持續探索環境、從自身經驗中學習，並反覆自我更新關於環境的上下文，從而在更新後的上下文條件下，在未來任務中逐步獲得更好的表現。CoD框架的主要組成部分包括：（1）演算法設計與基礎架構，用於端到端強化學習（RL），其中交錯進行任務解決與上下文更新的長序列展開；（2）任務與環境，用於在訓練過程中激勵並引出LLM中目標後設能力，以及在評估過程中準確衡量進展。我們提供了CoD框架的概念驗證實作，包括具有細粒度信用分配的GRPO風格RL演算法，以及針對目標後設能力（而非特定領域的LLM能力或標準的逐任務RL）量身訂製的任務與環境。實證結果驗證了在CoD設定下進行端到端RL訓練的有效性，並展示了所引出的後設能力在分佈外泛化方面的潛力——包括在訓練領域內、跨不同領域，以及從CoD到Ralph-loop設定。我們對CoD的研究連結了多條先前工作，並為推進LLM與AI代理開創了新的機會。為促進進一步研究與應用，我們在https://github.com/agentscope-ai/Trinity-RFT/tree/research/cod/examples/research_cod 開源了實作。

近期，將大型語言模型（LLMs）與因果發現結合的嘗試，要求模型推斷成對方向、提出圖結構，或將語言模型輸出注入作為先驗知識與約束條件。這些方法雖有望加速分析，卻也模糊了因果證據究竟是來自資料與假設，還是源自文本關聯、提示偽影及幻覺機制。我們主張代理人（agents）在因果發現中應扮演不同的角色。代理人應檢視資料、檢索背景脈絡、解釋方法假設，並釐清圖形輸出，但不應提供邊線、方向、先驗知識、約束條件或因果結論。我們提出一項原則：代理人協助工作流程，而因果主張仍須立基於資料、明確假設、正規演算法、診斷工具，以及使用者或領域專家的決策。我們將此原則具體落實於 causal-learn+ 這個線上平台，該平台圍繞 causal-learn 的演算法生態系統，協調資料分析、前處理、方法推薦、專家知識整合、正規發現與解讀。一項以「大五人格」資料為案例的研究，展示了在因果發現中，如何透過代理人輔助流程，避免將語言模型的不確定性轉化為因果證據。該平台可於 causallearn.com 使用。

現代語言模型（包括Transformer、遞迴及記憶變體）共享同一套基礎架構：由一組相同層級堆疊而成，其中參數均勻分配於各層深度。此設計源自原始Transformer的預設，且至今大致未變。然而，越來越多的證據顯示，各層對最終輸出的貢獻並非均等——後期層主要是在精煉殘差流，而非轉換它。我們因此探討：參數容量是否應反映這種不對稱性。在控制實驗中，我們發現，在固定預算下，將更多容量分配給早期層、較少分配給後期層，能改善困惑度，勝過均勻寬度的基準線；而反向分配則會損害性能。基於此結果，我們提出「錐形語言模型」（Tapered Language Models, TLMs）的架構原則：在固定總預算下，讓含參數的組件在深度方向上呈現單調遞減的錐形。MLP是此實現的自然場域：它在所有現代LM家族中佔據參數多數，並以寬度作為單一、清晰的變異軸。在三個模型規模與四種架構（Transformer、Gated Attention、Hope-attention 與 Titans）上，透過平滑餘弦排程對MLP寬度進行錐形化，無論在困惑度還是下游基準測試表現上，均一致優於均勻寬度的基準線，且無需額外參數或計算成本。這些發現確立了「深度感知容量分配」作為一種簡單、與架構無關的語言模型設計軸——一個隱藏在眼前、無需成本的槓桿。

隨著代理系統處理越來越複雜的多步驟任務，評估其軌跡成為一大瓶頸——在流行的代理基準測試中，對單一軌跡進行人工標註可能需要數小時，使得在衡量效能或整理訓練資料時難以大規模評估。這促使業界廣泛依賴自動化方法，例如將LLM作為評判者（LLMJ），以在流程層級與結果層級大規模評析代理系統；然而，LLMJ評析的可靠性往往未經檢驗。為此，我們推出Counsel，這是首個針對代理任務的後設評估公開資料集。Counsel包含來自開放權重LLMJ在兩個代理基準上的流程層級評析：tau-bench（客戶支援代理）與DA-Code（程式碼代理），以及人類對這些評析的後設評估。人工標註者將每項被標記錯誤的評析歸類為「一針見血」、「位置正確但推論不佳」或「不應標記」，並達到可靠的標註者間一致性（克里本多夫α係數為0.78）。以此產生的資料集根據人類一致性，將LLMJ的評析按錯誤在軌跡中的位置與推論品質分層，成為校準、改進或訓練代理專用LLMJ的寶貴資料。比較開放權重評判模型後，我們發現更強大的評判模型與更多推論投入都能提升與人類的一致性，其中最強的評判模型在位置辨識上達到約88%的一致性，在推論品質上則約為65%。Counsel使用開放權重模型生成，並採用寬鬆授權供社群廣泛使用，我們希望這能促進對基於LLM的代理系統評估者進行嚴謹研究，並進一步提升其與人類的對齊。

多視角3D視覺問答（MV3D-VQA）需要將部分觀測整合為連貫的3D場景表示，並選擇具資訊價值的視角進行多步驟空間推理。然而，當前的多模態大型語言模型通常以稀疏的答案層級監督進行訓練，這往往導致跨視角推理不一致且視角選擇脆弱。我們提出DR-MV3D（為MV3D-VQA設計的稠密獎勵），這是一種基於地圖建構的學習框架，提供稠密且可驗證的獎勵來監督推理過程。我們的方法將MV3D-VQA分解為：(i) 異我中心的全域地圖建構，(ii) 問題條件下的視角軌跡規劃，以及(iii) 自我中心的接地推理以進行答案預測。為了讓中間步驟無需人工標註即可學習，我們引入了兩種獎勵：全域一致性獎勵，用於將預測地圖與來自凍結3D視覺基礎模型（例如VGGT + SAM3）的幾何一致偽目標對齊；以及局部軌跡獎勵，用於監督有序視角選擇。我們通過軌跡層級的策略優化（GRPO）來優化完整流程。在MindCube、VSI-Bench和BLINK (MV)上的實驗結果顯示，DR-MV3D在多強基線多影像方法上持續改進，證實了過程層級稠密監督對多視角3D推理的有效性。

視覺-語言-動作（VLA）模型為機器人操作提供了統一的範式，然而其在現實世界中的部署常因執行效率而受限。現有研究主要聚焦於以計算為中心的效率，以降低每次推論的延遲，但這些模型內在的策略效率仍未被充分探討。策略效率根本上受兩個因素影響：預測動作塊的有效可執行長度，以及完成任務所需的總物理步驟數。這兩個因素共同決定了執行期間前向推論調用的總次數。我們觀察到，當前的VLA策略在規劃可靠性與動作冗餘方面存在問題，其動作塊尾部的預測品質嚴重下降，且傾向於產生不必要的冗餘物理步驟。為解決此問題，我們提出PolicyTrim，這是一個基於強化學習的後訓練框架，能延長可靠動作塊長度並減少冗餘物理步驟。在可靠區塊延伸方面，我們採用動態探索策略，明確獎勵成功完成更長可執行長度的行為，逐步將可信預測範圍推向其實驗極限。在步驟效率方面，我們設計了冗餘感知獎勵，直接獎勵以更少步驟成功完成任務的行為，同時懲罰不可複現的捷徑，從而有效消除冗餘物理動作。在三項基準測試及三種VLA模型上的大量實驗表明，PolicyTrim將動作塊利用率提升3倍，並減少51.4%的物理執行步驟。最終，我們的框架在不影響任務成功率的條件下，實現了高達5.83倍的端到端部署加速。

假設任何可透過簡短程式解決的任務，都能透過鏈式思維教給模型——寫出步驟、微調，模型就會照做——這種假設看似合理。然而，本文指出，對於一類可明確識別的程序，這個假設並不成立。測試平台包含九項推理任務，每項任務都來自確定性生成器；公開與隱藏資料集共用生成器，因此保留的資料可用來代理測試準確率。我將這些生成器逆向工程為 Python 求解器，將其呈現為鏈式思維，並蒸餾到一個基於 Nemotron（300 億參數，其中 35 億活躍參數）的排名 ≤ 32 的 LoRA 模型中。前向可計算的任務很容易安裝：查表/算術任務以及一項 8 位元布林任務的轉移成功率分別達到 ≥ 0.99 與 0.68。但數字謎題（Cryptarithm）卻不行：將其回溯搜索蒸餾出來，無論採用十一種鏈式思維設計、基於可驗證獎勵的強化學習，還是自我訓練，其表現都維持在 0.01–0.07 之間，儘管搜索求解器能回答 71% 的實例。這並非能力差距。模型在 97–100% 的行上都能正確執行算術，並在 71% 的實例中將正確的字母編碼排入前八名；但它無法將搜索視為從左到右的推導持續進行下去。微調學會了可驗證消除步驟的形式，但其判決卻變成了無條件模板，正確率僅有 16–57%（「判決即令牌」）這個天花板在 3B 到 671B 的骨幹模型、微調與提示中都維持不變；一次受控干預找到了原因：揭示密碼金鑰（此舉將推導轉為前向），使相同實例的表現從 0.03 躍升至 0.57。當某個程序的唯一解法是對無資訊結構進行搜索時，就不存在可以模仿的可信前向鏈式思維。要讓任務變得可學習，只能移除搜索，將其組合核心預先計算為目錄，並將軌跡簡化為回憶加驗證；第一名解決方案正是以此方式達到 0.92 的 Private LB 分數。被蒸餾出來的是記憶與驗證，而非搜索。

視頻擴散模型在影片生成與編輯方面已實現顯著進展。然而，內容保留仍是核心挑戰：現有方法會重新生成每一個像素，往往改變本應保持不變的要素，例如角色或背景場景。我們提出Vera，一個用於內容保留影片編輯的分層擴散框架。Vera並非重新生成整個影片，而是生成一個編輯圖層及其對應的Alpha遮罩，用於與原始影片合成，透過設計將創意編輯與內容保留分離開來。為促進與原始影片的一致性合成，我們將文字轉影片DiT擴展為變壓器混合（MoT）架構，每個圖層有各自的DiT，透過聯合自注意力機制進行互動。為支援Vera的訓練，我們進一步建構一個高品質的分層資料集，包含精確的Alpha遮罩、多樣的場景與動態，以及視覺效果。在我們的定量基準與人類偏好研究中，Vera僅使用486K幀的分層訓練資料，即在內容保留方面優於領先的開源影片編輯模型，同時在編輯品質上保持競爭力。

強化學習（RL）是提升大型語言模型（LLM）推理能力的核心方法，其訓練效率關鍵取決於最佳化過程中問題的取樣方式。現有的自適應課程學習方法通常優先選取中等難度的提示詞，將問題選擇視為標準的多臂老虎機問題（各臂獨立），卻忽略了任務空間本身具有結構性與異質性的本質。在本研究中，我們將問題取樣框架化為具備內生非平穩性的流形結構多臂老虎機問題：問題之間透過模型的潛在表徵空間相互關聯，而取樣決策會引導學習訊號在該空間中的演化方向。為落實此觀點，我們提出貝氏流形課程（BMC）——一個具結構感知的框架，將問題組織成階層式任務樹，並運用貝氏學習來引導取樣。實驗結果顯示，不同的取樣策略會在生產力（學習訊號）、多樣性（任務流形覆蓋率）與效用（評估相關性）之間產生非平凡的取捨。這些結果表明，僅優先考慮難度並不足以在最終下游表現上取得優異成果，凸顯了在問題取樣中納入結構性與類型感知的重要性。

線性探針在可解釋性研究中被廣泛使用，且常透過餘弦相似度進行比較。馬氏距離餘弦相似度（MCS）是一種自然的任務感知優化，它透過測試資料共變異數重新加權內積。Ying等人（2026）報告指出，探針的MCS與在分布外（OOD）資料上訓練的參考探針之間，近乎完美地線性預測了該探針的OOD AUROC（R² = 0.98）。在此，我們將這項實證發現擴展至不同模型、層級與概念領域，並以封閉形式證明此普遍現象：對於投影呈高斯分佈的平衡類別，OOD AUROC與參考探針的MCS之所以呈線性關係，是因為兩者皆為測試資料上探針信噪比（SNR）的S形函數。該理論也預測了此線性關係何時失效，我們並以實證驗證之。MCS為比較線性探針提供了一個具理論基礎且實證有效的替代方案，以取代歐幾里得餘弦相似度。

儘管大規模且多樣化的數據集推動了近來大型模型的進展，但如何為預訓練與後訓練找出最佳的數據混合比例，仍是一個重大的開放問題。我們以 FASTMIX 這個新穎框架來應對此挑戰，該框架能在僅訓練單一代理模型的情況下，自動化數據混合的發現過程。與其依賴預設啟發式或耗費資源的模擬，FASTMIX 同時優化混合係數與模型參數，大幅提升效率與可擴展性，超越先前的做法。FASTMIX 的核心在於將混合選擇重新表述為一個雙層優化問題。在這種重新表述下，我們證明優化混合比例在數學上等同於在均勻源採樣下為每個來源分配損失權重。此舉將混合係數直接嵌入可微的迭代優化目標中，從而能透過梯度高效地同時優化混合與模型。為求解此優化問題，FASTMIX 實現了一個近似迭代優化程序，交替進行：(i) 根據當前混合比例對採樣數據更新模型參數（內循環），(ii) 根據驗證反饋更新混合比例（外循環）。無論在預訓練或後訓練階段，FASTMIX 均優於基線方法，同時大幅降低搜尋成本。程式碼（https://github.com/hrtan/fastmix）

视觉Transformer（ViT）主导着计算机视觉领域。然而，它们对刚性补丁投影器的依赖阻碍了向地球观测（EO）的迁移，因为地球观测中的输入模态、尺度和分辨率差异极大。我们提出UniverSat，这是一种基于ViT风格的主干网络，其核心是通用补丁编码器（Universal Patch Encoder），能将来自任意空间、光谱和时间分辨率，以及光学和非光学传感器的补丁，通过一组共享权重映射到共享嵌入空间中。这使得我们能够通过自监督方式在异构多模态语料库上训练单一模型，从而获得鲁棒的、与传感器无关的空间特征。我们在GeoBench、PANGEABench和SpectralEarth等标准地球观测基准上进行的分类和分割任务中，验证了该方法的强劲性能。我们的代码和模型已开源在https://github.com/gastruc/UniverSat。

隨著AI實驗室接近數據上限，計算能力已超越高品質新文本生成的速率，語言模型預訓練正轉向數據受限、計算充裕的階段，這需要在固定語料庫上進行高效的多輪次訓練。標準自回歸（AR）預訓練在這種情況下會嚴重過擬合，在達到最佳點後便持續惡化。我們研究將訓練階段的數據增強作為正則化手段，以減輕此過擬合問題，並能在同一數據上進行數百輪次的有效訓練。我們提出三種正交的AR預訓練增強類別：詞元級噪聲（遮蔽、隨機替換）、序列排列（從右到左預測、填空預測），以及目標偏移預測（對於i > 1，預測x_{t+i}）。通過系統性消融實驗，我們發現個別增強方法能延遲過擬合並降低相對於基線的驗證損失，其中隨機詞元替換在個別方法中達到最佳最低損失。結合不同增強類別則能進一步降低最低驗證損失。我們的實驗證明，數據增強能緩解AR預訓練的數據效率低下問題，並為數據受限的階段提供有前景的解決方案。\footnote{所有代碼與數據均可於 https://github.com/michaelchen-lab/data-augmentations-for-pretraining 取得。}

在知识密集型问答任务中，基于大语言模型的智能体在执行检索和推理行动时，往往无法完整掌握当前答案是否不确定、缺乏支撑或已趋完善，由此引发两种典型失败模式：一是对缺乏依据的答案过度自信，从而降低准确性；二是在已有足够证据的情况下仍然过度检索，造成计算资源浪费。为使智能体更全面地把握其运行状态空间，我们提出**校准验证器遥测（CalVerT）**，通过向智能体状态中注入两类额外遥测数据——校准后的自置信度评分与依据验证器评分——来增强其状态感知能力。实验表明，CalVerT 能在无需训练与基于训练两种场景下提升智能体性能。在四个问答基准测试中，CalVerT 可触发针对智能体过度依赖参数化知识的场景进行检索，从而提升 F1 分数；同时，在智能体已具备足够上下文回答问题的情况下，又能减少冗余检索。我们证明，CalVerT 可在无需训练的前提下增强现有问答框架。此外，CalVerT 同样能改善已训练的系统：仅通过向智能体状态中添加遥测数据，与未添加 CalVerT 遥测但训练方式完全相同的智能体相比，经过强化学习后其性能可观察到显著提升。

離散文本觸發優化——搜尋能夠引導模型朝向特定目標的文本序列——支撐著模型紅隊測試（例如大語言模型越獄）以及審計與可解釋性工作。然而，當前離散優化器的發展與應用面臨阻礙。首先，現有優化器即便開源，也散落在與特定模型、目標及問題領域綁定的研究代碼庫中。其次，優化器變體層出不窮，每個變體都需要額外的工程成本才能使用或擴展，且難以進行直接比較。這些因素共同提高了在現有或新領域採用優化器的門檻，也阻礙了透過新策略推動其進步。 為解決這些問題，我們提出了TROPT——首個將離散優化器的執行統一化，並在單一介面下標準化其開發流程的開源框架。TROPT允許使用者透過更換任何組件（模型、目標與優化器）輕鬆自訂端到端優化配方，從而將應用範圍擴展至多個領域與新場景。目前，TROPT內建超過30種優化配方（涵蓋越獄與探測模型內部結構等應用），這些配方由15種以上的優化器（從白箱到黑箱訪問模式）以及15種以上的損失函數（從基礎方法到最先進技術）組合而成。 為展示其實用性，我們利用TROPT進行了多項研究：（i）在控制條件下進行大規模實驗，比較並改進針對大語言模型越獄的優化策略，從而揭示出強效但未獲廣泛採用的技術；（ii）將優化器從一個領域（如大語言模型越獄）移植到新領域（例如用於語料庫投毒的嵌入模型）。總而言之，TROPT顯著降低了採用與推動離散文本優化技術的門檻。

長時程LLM代理人可能悄悄失敗：它們過早對證據採取單一解讀，隨後花費整個運行階段捍衛該解讀。我們稱此為「過早定論」。最終答案評分無法捕捉此失敗模式，因為它只看答案，而不關注過程是否已塌縮至穩定路徑。我們將「表徵承諾」定義為在固定推理步驟中，跨運行隱藏態的收斂現象，並將其作為軌跡一致性的早期診斷指標。在以Llama-3.1-70B執行ReAct於HotpotQA的實驗中，第4步的隱藏態相似度可預測下游行為一致性（r = -0.35，偏相關r = -0.45），並呈現局部化的時間與層級特徵。此訊號在Qwen-2.5-72B與Phi-3-14B上可複現，在StrategyQA上亦成立（r = -0.83）。該訊號不追蹤正確性：已定論錯誤與已定論正確的問題，在激活相似度上無法區分。此界線正是論點核心。承諾告訴我們代理人是否已定局，而非其是否正確。基於隱藏態的運行時監控器，能以AUROC高達0.97（在較嚴格劃分下為0.85–0.88）檢測不一致軌跡；而一種提示干預手法，在令牌匹配對照組下將行為變異降低28%，同時保持準確率統計上無顯著變化。我們亦測試該訊號能否引導自一致性計算資源分配；在更難的基準測試中，其僅有適度幫助，且表現被更簡單的基於輸出的基線方法所匹敵。最終成果是一種針對隱藏過程失敗的診斷工具，具有明確的適用限制，而非通用的準確率提升槓桿。

计算机使用代理（Computer-use agents, CUAs）现已能够代表用户在电子邮件、日历及待办事项列表等个人应用中执行操作。这种跨应用访问能力虽然实用，却也带来了一个长期被忽视的隐私风险：当代理在一个上下文中工作时，可能会从另一个不合适的上下文中提取信息。为此，我们提出了AgentCIBench，一个将这一风险转化为可执行、可确定性评分场景的评估框架。我们针对CUA中三种常见的失败模式进行了研究：视觉同位置泄露（visual co-location），即代理将任务目标附近UI界面中的禁止内容一并提取；任务模糊过度分享（task-ambiguity overshare），即代理在响应未明确指定的提示时，泄露大量密集的个人状态信息；以及收件人不匹配（recipient misalignment），即代理将内容发送至不适当的收件人。我们评估了15个前沿代理，发现其失败率高得惊人：其中11个代理在超过50%的场景中出现泄露，平均泄露率达67.9%，且当代理以端到端方式在实际环境中完成任务时，同样的失败依然存在。我们发布AgentCIBench，旨在推动更安全的计算机使用代理的开发，并将上下文泄露测试定位为部署前的安全检查环节。

文字與圖像條件之3D模型現已能生成令人信服的資產，但仍難以直接控制物體應佔據或避開的空間。在創作過程中，此類空間意圖通常在生成開始前便已明確：椅子需符合乘坐範圍、道具需預留動作間隙、零件需露出接觸面。提示詞與圖像視角難以有效承載此類約束，凸顯出明確控制介面的必要性。 我們提出 Arbor，一種可附加於文字條件式潛在3D生成的訓練模組。Arbor 引入約束網格作為原生3D控制介面，此介面包含三種區域：物體應存在的「外殼區域」、需保持空曠的「迴避區域」，以及物體需觸及的「接觸區域」。不同於補全或整體物體骨架控制，這些網格並非目標證據，而是局部型態的要求，甚至可包含不應出現表面的區域。Arbor 將約束網格轉換為語意標記，並在凍結去噪器中學習路由附加機制，使此信號以幾何形式保留。因此，每個潛在區域僅接收與其空間位置相關的約束部分。 我們在外殼、迴避與接觸約束條件下，對 Arbor 進行自動化與藝術家策劃之控制基準測試，並將指標趨勢與用戶偏好研究進行比較。即便無專用合規損失函數，Arbor 仍能在固定約束下提升約束遵從度，同時維持物件品質與生成多樣性。

網格是最常見的3D場景表示方式之一，但直接生成網格極具挑戰性，因為此表示法包含重要的對稱性，例如面與頂點的置換不變性。MeshFlow 學習直接將三角形網格生成為三角形集合，避免了將網格序列化為長自迴歸序列的需求。我們採用等變最優傳輸流匹配模型，以尊重三角形集合的關鍵對稱性：面的任意置換以及每個面內頂點的置換。 為此，我們提出了一種簡單而有效的擴散變壓器架構修改，從而得到一個可擴展的網路，能夠在維持所需等變性的同時建模速度場。我們進一步引入基於最優傳輸的訓練目標，透過消除違反這些對稱性的監督信號來改善收斂性。MeshFlow 在網格品質上可與最先進的自迴歸網格生成器相媲美，同時在推理時提供約18倍的加速。專案頁面位於 https://qiisun.github.io/MeshFlow/。

隨著檢索增強生成與語義搜索的迅速普及，選擇合適的嵌入與檢索配置變得日益困難。大型檢索基準雖然全面，但在開發過程中重新運行的負擔過重，並且缺乏在相同條件下比較多個模型的生產環境設置（如維度縮減、量化、重排序）的基礎設施。我們提出HAKARI-Bench，這是一個輕量級基準，將現有檢索套件重構為小型資料集（Nano集）：涵蓋35個基準、551項任務，橫跨43種語言，採用統一格式，支援在相同條件下、無關模型地比較五類檢索家族（BM25、密集檢索、稀疏檢索、後期交互、重排序器）及其效率變體。在55個模型上，其整體排名與官方MTEB檢索v2、MMTEB v2檢索以及英文BEIR（完整版）的斯皮爾曼相關係數均高於0.97。HAKARI-Bench並非取代完整評估；而是實現快速模型選擇、回歸檢測以及識別品質與效率的帕累托前沿。程式碼、資料與排行榜均以MIT許可證釋出。

从单目视频重建动态非刚性物体，需要整合直接观测中的视觉线索与基于数据和先验知识的几何及外观信息。现有方法要么直接从视觉输入学习预测4D表示，要么初始化一个3D表示，随后根据视频证据进行形变与优化。然而，前者受限于4D训练数据的稀缺性，后者仅在初始重建阶段利用先验知识，之后完全依赖视频监督；两者均难以应对包含大幅形变与遮挡的复杂野外场景。我们提出Lift4D，一种测试时优化框架，同时解决上述两类局限。首先，我们通过因果潜在条件化，使现有单视图3D重建模型能生成时间一致的逐帧预测，从而为可变形3D高斯泼溅表示提供连贯的初始化。随后，我们通过遮挡感知优化对该表示进行“雕琢”，在忠实恢复可见表面细节的同时，利用视图条件扩散先验补全未观测区域。实验表明，Lift4D明显优于先前的4D重建方法，尤其是在包含严重遮挡与非刚性运动的挑战性野外序列上。

生成式音乐系统目前能够根据文本提示生成令人印象深刻的音频，但音频输出在音乐结构上的检视、编辑和诊断仍存在困难。我们提出Libretto，一个面向智能体的符号音乐生成与修订框架。该框架采用基于大语言模型的原生语法，明确划分了起始时间片、声部及小节层级组织，随后在经语料库校准的统计空间中，从节奏、和声、旋律、织体、结构形式及变奏维度对每首作品进行评估。同样的结构轴支持检索、诊断、抄袭风险控制及迭代式自我修正。在空缺填充、参考引导的全曲生成、渐进式变形以及教育型音乐生成等任务中，Libretto将符号音乐从原始词元序列转化为可供语言模型智能体测量与编辑的对象。

电影制作要求精确的运动控制与参考图像合成——现有方法将这两项能力分开处理。基于点轨迹条件约束的图像到视频模型将内容插入限制在首帧，而参考图像到视频模型则缺乏对参考内容跨帧整合的细粒度时空控制。 我们提出“随轨迹而动”（Go-with-the-Track），通过联合基于多张参考图像和参考锚定点轨迹的条件控制，将两种能力统一——该模型扩展了传统点轨迹，使其明确建立生成帧与参考图像之间的对应关系，从而实现对视频全程的精确合成与运动控制。 为此，我们引入了空间感知点轨迹嵌入，通过坐标级MLP与时间池化操作，编码完整的点轨迹坐标序列。这种表示方法捕捉了每个点轨迹的空间特征（作为唯一标识符），同时嵌入相似度直接关联空间邻近性，增强了模型区分与关联点轨迹的能力。我们通过轻量级适配器将这些点轨迹注入视频扩散Transformer，解决了像素到补丁的分辨率失配问题，同时避免了朴素点轨迹下采样中固有的运动细节损失。 我们采用混合训练策略，在动态、静态及合成场景视频数据集上联合训练，以提升运动可控性。实验表明，“随轨迹而动”在单一模型中实现了卓越的运动与参考控制，并解锁了新能力：基于多参考条件驱动的点轨迹合成视频生成，以及面向静态与动态场景的摄像机控制。项目页面：https://eyeline-labs.github.io/Go-with-the-Track/

优化预训练数据组合对于大语言模型的泛化能力至关重要。尽管动态混合策略通过捕捉训练过程中的动态变化优于静态策略，但现有方法无法在计算效率、样本效率以及面向多样化管线的结构灵活性之间取得平衡。为此，我们提出了行为者-评论家在线数据混合方法（AC-ODM），该方法从强化学习的视角处理数据混合问题，采用参数化策略，并从理论上证明该策略能够充当动态线性代理，最大化梯度间的相长干涉。为增强实际灵活性，AC-ODM支持两种操作模式：(i) 代理模式，适用于固定的、预先准备好的语料库，将从小模型学到的策略迁移至更大的目标模型；(ii) 非代理模式，支持无先验知识的端到端从头训练。实验表明，AC-ODM在多种架构上的收敛速度与下游准确性均显著优于先前方法。在Pythia-1B模型上，它仅需竞争基线最多66%的训练步数即可达到最优验证困惑度，在MMLU上实现27.5%的相对准确率提升，在HumanEval上的pass@1指标提升2.23倍，而每一步的墙钟时间仅增加微不足道的0.4%，额外内存开销仅2%。代码已开源：https://github.com/DANG-ai/AC-ODM。

隨著自動駕駛汽車持續在全球擴展，並採用如視覺語言模型（VLM）這類多模態系統作為其行為模型的認知核心，這些系統在新的環境中——尤其是在不同地理區域的分佈外（OOD）邊界案例場景——將如何有效泛化？本文探討了這個開放性問題，透過一項全因子分析，比較利馬的人類駕駛員、紐約市的人類駕駛員以及VLM，讓它們觀看來自利馬與紐約市的行車記錄器影片，並在視覺問答（VQA）框架下提出多種問題。我們特別選擇這兩個城市，因為它們都是極具挑戰性的駕駛環境，目前尚無自動駕駛汽車公司在此營運。所提問題涵蓋四大類別：事實性、評分、反事實與推理。我們發現人類與VLM在回應上存在分歧——但此差異受問題類型調節——且人類駕駛員無論來自何處（利馬或紐約），其回答模式相似。出乎意料的是，我們並未觀察到地理因素對回答（無論是人類或VLM）造成顯著差異，這可能源於兩地場景本身的高度分佈外特性。我們的資料集可於此取得：https://huggingface.co/datasets/Artificio/robusto-2

我們提出ShotcreteDepth，這是一個來自建築領域的雙模態數據集，同時捕捉了主動噴射混凝土過程及一般建築環境。該數據集包含在嚴峻現實條件下（如高濁度與低光照）獲取的立體RGB影像與LiDAR點雲。此類條件會對感測器量測造成不利影響，導致不完整且具雜訊的觀測結果，對自動化應用中的感知系統構成重大挑戰。除數據集外，我們還釋出了一套輕量級標註工具，專為高效標註LiDAR點雲而設計。ShotcreteDepth由11,252個時間同步的數據樣本組成，其中220個已為評估目的進行標註。該數據集支持在密切反映工業環境操作複雜度的條件下，進行立體匹配、深度補全及深度估計等研究。專案倉儲：https://github.com/dtu-pas/shotcrete-depth

我們描述了我們在ICME 2026學術文本轉音樂（ATTM）Grand Challenge效率競賽中的參賽方法。除了挑戰協議中的FAD-CLAP和CLAP分數之外，我們還加入了來自TuneJury的學習型人類偏好獎勵，TuneJury是一個基於開放音樂偏好數據集訓練的雙向成對排序器。該獎勵既作為訓練時的條件信號，也作為樣本選擇的標準。該流程結合了五項工程決策，基於一個1.2億參數的FluxAudio-S主幹網路，其中四項在訓練時執行，一項在推理時執行：(i) 訓練時的獎勵條件化，同時作為推理時的CFG軸；(ii) 對五種分數條件化架構進行掃描，訓練和推理使用不同的變體；(iii) 對前十分位樣本進行專家迭代；(iv) 使用短偏好調優（CRPO）進行音頻-文本對齊；(v) 通過聯合CFG、源分離和響度歸一化進行推理後處理。基於100個Song Describer提示的逐階段分解顯示，訓練時的獎勵條件化是一個功能性的條件化軸，專家迭代是主要貢獻因素，偏好調優僅帶來噪聲級別的增益，而推理時的分數標量在流程結束時已經飽和。

大型語言模型（LLMs）日益被用於支援軟體開發，但在實際遊戲開發情境中的實用性仍探索不足，特別是當生成的程式碼必須整合至現有遊戲軟體系統時。本文針對自訂的 Python/Pygame 無盡跑酷遊戲，對 GPT-4o 進行一項探索性實證案例研究。該研究選取六項開發任務：三項局部重構任務與三項涉及遊戲玩法功能生成的任務。其實作結果透過軟體度量、單元測試及人工遊戲體驗評估進行評量。在此案例研究中，三項選取的重構任務在功能層面均成功完成，而三項遊戲玩法功能生成任務中僅有一項達成正確整合的功能。研究發現顯示，在此設定下，GPT-4o 處理局部轉換的可靠度優於需要跨多個現有系統進行新遊戲互動的任務。考量本研究的探索性單案例設計，這些結果最適合解讀為指標性觀察，而非類別層級模型表現的可推廣證據。總體而言，本文針對 LLM 輔助重構與遊戲玩法功能生成在現有遊戲軟體系統中的機會與限制，提供了一個透明且基於案例的記述。

隨著都市區域不斷擴張，停車場的自動監控對於永續城市的效率與管理至關重要。本研究提出一種無需目標停車場標註樣本的自監督式停車位占用辨識方法。基於自監督遷移學習微調架構，所提出的訓練策略包含兩個自監督階段：首先在無標註的一般資料上進行訓練，其次在無標註的特定目標資料上進行訓練，最後僅使用一般停車場的標籤進行監督式微調。我們採用結合ResNet-50編碼器的SimCLR，並在三個公開資料集（PKLot、CNRPark-EXT及PLds）上，以留一交叉環境評估方法進行驗證。此外，我們提出兩階段部署策略：先部署強通用模型，接著利用部署前N天以自監督方式收集的無標註影像，部署專用模型。實驗結果顯示，僅使用強通用模型即超越監督式與自監督式基準方法，平均準確率達97.2%，而採用兩階段策略後進一步提升至97.8%。這些結果證明，自監督學習能為即時停車占用監控提供可擴展且節省標註成本的解決方案。我們訓練好的模型與原始碼已公開於 https://github.com/LoanMaikon/Parking-Spot-Occupancy-Recognition。