每日精選AI研究論文及翻譯
我們提出了 PerceptionRubrics,一個基於評分標準的評估框架,旨在解決飽和基準分數與真實世界脆弱性之間的差距。該框架將評估從整體語義比對轉向嚴格的原子級審查,將 1,038 張資訊密集的圖像與超過 12,000 個特定實例的評分標準配對。這些標準是透過創新的「循環同儕審查共識流程」建構出黃金標題後推導而成,並被提煉為雙流系統:「必須正確」 (基本事實) 和「容易錯誤」 (細粒度細節) 的評分標準。關鍵在於,PerceptionRubrics 實作了「門控評分機制」:不同於線性平均,若在強制性視覺事實(mandatory visual facts)上失敗,會觸發嚴格的二元懲罰。廣泛的評估得出幾項關鍵見解:(1) 可靠性差距:模型往往能正確驗證零散元素,卻在嚴格的合取約束(conjunctive constraints)下失敗,暴露了密集領域的脆弱性;(2) 開源-封閉分層:與推理趨勢相反,我們揭示了開源與專有前沿之間存在持續 8% 的感知差距;(3) 人類對齊的嚴謹性:我們的門控指標在對齊程度上顯著優於傳統基準,驗證了嚴格的感知保真度(perceptual fidelity)是可靠生成的前提。
流式视频生成正逐渐成為一種新興的服務工作負載,用戶透過長時間運行的會話與之互動,系統會逐步、逐區塊地生成影片。不同於離線影片生成或典型的LLM服務,流式視頻生成必須在活躍與空閒期間保存會話狀態,反覆調度正在進行的會話,並在嚴格的延遲目標內交付每個區塊。這在多用戶、多GPU環境中帶來了兩項主要的服務挑戰:會話持續時間異質性(長期運行的會話會使放置決策隨時間推移變得次優),以及時間性用戶需求異質性(活躍會話數量在爆發期與空閒期之間急劇波動)。 我們提出TurboServe,這是第一個專為流式視頻生成工作負載設計的服務系統。TurboServe將服務問題表述為一個在線調度問題,協同協調會話放置與GPU供應。其閉環調度演算法結合了遷移感知的放置控制器(透過跨GPU重新平衡會話以降低最大每區塊延遲)與負載驅動的自動擴縮控制器(根據工作負載變化調整GPU預算以提高成本效率)。為在運行時支援這些決策,TurboServe實現了合併區塊處理(在相同GPU上批次處理並行的活躍會話)、GPU-CPU卸載(用於會話暫停與恢復),以及基於NCCL的GPU-GPU遷移(用於在線重新平衡)。我們基於生數科技的真實生產軌跡,在多種模型規模與最多64塊NVIDIA B300 GPU的集群上評估了TurboServe。與基線服務配置相比,TurboServe平均降低了37.5%的最壞情況每區塊延遲,並節省了37.2%的總GPU營運成本。我們的程式碼已公開於 https://github.com/shengshu-ai/TurboServe。
在预填充-解码(PD)分离式大语言模型(LLM)服务中,每个请求在预填充阶段后被分配至某个解码工作节点。现有解码路由器仅平衡负载;对于混合专家(MoE)模型而言,这并不完备:负载相同的工作节点可能产生不同的延迟,因为每个解码步骤都会加载其批次内所有已激活专家的权重。本文提出ELDR,一种面向PD分离式MoE服务的专家局部性感知解码路由器。ELDR利用请求预填充阶段的专家激活信息,构建用于预测该请求在生成过程中将激活的专家的专家签名。离线阶段,平衡K-means算法在解码工作节点间划分签名空间;在线阶段,局部性带路由将每个请求发送至与其签名匹配最佳且负载最低的工作节点。签名缓存与KV缓存以KV块为粒度联合索引,可在前缀缓存机制下保持签名的精确性。ELDR已在vLLM中实现,并在多达40个GPU的部署上进行评估。相较于四种负载均衡基线中的最强方法,ELDR在三个MoE模型和两种工作负载下,将中位每个输出token生成时间(TPOT)降低了5.9%至13.9%,且模型输出保持不变。
記憶已成為現代基於LLM的智能體的核心基石,支援其從單輪對話助手進化為長期協作夥伴。然而,記憶並非總是帶來益處:檢索到的記憶往往會引發嚴重的諂媚問題,導致智能體過度迎合使用者,犧牲事實準確性或客觀推理。儘管此類風險日益顯現,現有的記憶基準主要評估記憶是否被正確儲存、檢索或更新,卻忽略了檢索到的記憶如何影響下游推理與決策。為填補此缺口,我們提出MemSyco-Bench,一個用於評估智能體系統中記憶誘發諂媚現象的全面基準。MemSyco-Bench衡量記憶何時應影響決策,以及如何正確使用有效的記憶。具體而言,它涵蓋五項任務,評估智能體是否能拒絕將記憶作為事實證據、尊重其適用範圍、解決記憶與客觀證據之間的衝突、追蹤記憶更新,以及利用有效記憶實現個人化。所有相關資源已整理於社群資源頁面:https://github.com/XMUDeepLIT/MemSyco-Bench。
我們推出了Seed2.0模型系列,這是在解決複雜真實世界任務上邁出的重要一步。我們的做法始於辨識用戶的真實需求,並透過選取與抽象化基於這些需求、貼近現實複雜場景的基準,來建構一套可靠且具前瞻性的評估體系。在此評估體系的引導下,Seed2.0針對長尾知識與複雜指令遵循這兩項長期挑戰,大幅提升了模型在複雜、長程任務上的可靠性。除此之外,Seed2.0還提供了世界領先的推理智能、視覺理解與搜尋能力,以滿足廣大用戶最普遍的需求。透過本模型卡中記錄的大量真實世界應用案例,我們證明Seed2.0已開始展現處理初步複雜真實世界任務的能力,為數億用戶創造更大的價值。
多模态大语言模型(MLLMs)常受限于语言空间瓶颈,迫使复杂的视觉推理被压缩为离散词元,从而可能丢失感知细节。一种有前景的替代方案是连续潜在推理,其目标在于发现连接多模态查询与最终答案的隐式推理路径。然而,这引入了严重的训练-推理不匹配:训练阶段依赖于真实答案的后验,能够利用答案相关的捷径。标准变分训练迫使推理阶段的先验去模仿一个在测试时无法获取信息的后验,从而导致性能不佳。为解决这一问题,我们提出非对称互变分学习(AMVL),该框架通过双向校准目标消除这种不匹配。正向KL散度训练与目标无关的先验去匹配后验,而新颖的反向KL散度则同时正则化后验,防止其坍缩至推理不兼容的区域,并缓解这种“答案泄漏”。我们提供了理论分析,将这种泄漏形式化为先验污染,并证明我们的双KL目标能减轻该问题。我们将AMVL实例化于一个潜在集成的MLLM中,实验表明它持续优于强大的离散推理和潜在推理基线,在复杂的BLINK基准测试上平均得分提升+10.83,并在个别推理任务上取得高达+32.00的提升,分析也证实了潜在空间稳定性的改善。
視覺-語言-動作(VLA)模型在面對環境變化時,常無法順利執行已學習的任務,例如攝影機姿態改變,或轉換至不同但相似的機器人(例如從 Panda 到 UR5e)。要使這些模型適應變化後的環境(即目標領域),通常需要針對每個任務收集多個示範資料進行訓練,而這些資料的蒐集成本相當高昂。為減輕資料整理與訓練的負擔,我們提出一種基於類比的方法,透過帶有領域特定資訊的權重向量運算來調整 VLA 模型以適應環境變化,稱之為領域算術(Domain ARiThmetic, DART)。與先前方法不同,DART 僅需收集單一示範即可實現高效適應。為準確分離出欲加入的領域特定資訊,DART 在權重向量中的奇異分量之間進行子空間對齊,以濾除雜訊分量。在模擬與真實世界的實驗中,DART 在多樣的視覺與本體變化情境下,其單次示範的適應表現皆優於現有的 VLA 適應方法。程式碼已公開於 https://github.com/snumprlab/dart。
在大语言模型(LLM)的训练中,数据混合对模型性能起着关键作用。近期的方法通过代理模型优化混合权重,但这类方法依赖于静态数据分布的假设。因此,当底层数据池发生变化时,这些方法需要从零开始进行昂贵的重新训练。这一局限性限制了它们从小规模设置向更大数据池和更大模型规模无缝扩展的能力。在本文中,我们提出CausalMix,通过将数据混合优化视为因果推断问题来解决这一局限性。我们将数据池的统计特征作为协变量,将领域混合作为处理变量。在基于512次Qwen2.5-0.5B模型的运行拟合因果模型以估计条件平均处理效应(CATE)后,我们外推得到一个800K数据池的最优混合方案,并将其应用于7B模型的训练。此外,我们成功将该框架泛化至Qwen3-4B-Base模型的长思维链数据。通过利用因果建模分离混杂偏差,CausalMix能够动态推断依赖状态的最优数据混合方案。大量实验表明,由CausalMix指导的混合方案在多个下游任务中持续提升性能,优于RegMix及其他基线方法。此外,我们使用CATE解释器对学习到的混合策略进行可视化分析。总体而言,CausalMix为优化LLM数据混合提供了一种因果且可解释的框架。
傳統機器人程式設計充滿挑戰:需要組織多模態感知、管理物理接觸動態,並處理多樣化的配置與執行失敗。我們提出 ASPIRE(透過迭代機器人探索的智能技能程式設計),這是一套持續學習系統,能以「程式碼即策略」的範式自主編寫並完善機器人控制程式,同時將經驗累積成可重複使用的技能庫。ASPIRE 能發現跨任務、跨模擬與真實環境、以及跨機器人形態皆能持久存在的技能。系統在開放式循環中運作,包含三個組成部分:(1) 閉環機器人執行引擎,能提供細粒度的多模態軌跡,實現自主故障診斷、修復合成與驗證;(2) 持續擴展的技能庫,將經驗證的修復提煉為可重複使用、可遷移的知識;(3) 演化搜索,生成多樣化的任務序列與控制程式,以探索超越單一軌跡的改進。ASPIRE 在 LIBERO-Pro 擾動操作任務中以高達 77% 的優勢超越先前方法,在 Robosuite 雙臂交接任務中以 72% 領先,在 BEHAVIOR-1K 長時域家務任務中則提升 32%。其累積的技能庫亦能對未見過的長時域任務進行零樣本泛化:在 LIBERO-Pro Long 任務中,儘管先前方法使用了測試時推理與重試,ASPIRE 仍以 31% 的成功率遠勝其 4% 的表現。最後,模擬中發現的技能提供了模擬到真實遷移的初步證據,大幅減少了不同機器人形態與應用程式介面上之真實機器人程式設計的工作量。
細粒度視覺推理對視覺語言模型而言仍是一項挑戰,尤其當微小但關鍵的視覺線索隱藏在高解析度影像中時。現有方法依賴於重複裁剪或測試階段的視覺搜尋來引入局部證據,但通常未能明確區分感知與推理。本文提出感知到推理(Perceive-to-Reason, P2R)的統一框架,將細粒度視覺推理形式化為兩個階段:模型首先作為感知器定位與問題相關的證據,然後作為推理器根據標註影像與裁剪區域來回答問題。為使訓練與此分離式設計更佳對齊,我們進一步引入感知-推理交替GRPO(Perception-Reasoning Alternating GRPO, PRA-GRPO),這是一種角色感知的強化學習策略,僅利用最終答案的監督訊號,在感知聚焦與推理聚焦的更新之間交替進行。基於Qwen3-VL-Instruct-2B/4B/8B建構的P2R在模型規模上持續展現效能提升。特別地,P2R-4B在V-Star上達到93.2%,在HR-Bench-4K上達到81.9%,在HR-Bench-8K上達到80.5%,大幅超越其對應的骨幹模型。進一步實驗顯示,P2R的效益不僅限於高解析度基準,更延伸至更廣泛的多模態推理任務。這些結果表明,明確將感知與推理解耦,為細粒度視覺推理提供了一個有效的框架。
移動操作是通用型機器人的關鍵能力,但對於當前的具身學習方法而言仍具挑戰性。VLA策略通常僅具反應性,缺乏明確的世界建模;現有的世界動作模型(World Action Models, WAMs)在與移動操作的結構對齊上仍有不足:它們在粗略的影片片段上運作,建模糾纏的導航-操作動作,並在不匹配自迴歸推論的監督下訓練反向動力學。因此,它們常遺漏細粒度的接觸動力學,遭受動作分佈衝突,並在長時域展開中累積誤差。我們提出ABot-M0.5,這是一個新的WAM,其基礎洞察為:移動操作需要在三個層級上進行對齊——時間粒度、動作空間以及訓練測試一致性。為了對齊時間粒度,我們引入中間潛在動作,用以捕捉局部視覺狀態轉換,並作為影片潛在變量與具身特定控制之間的橋樑動作空間。為了對齊動作空間,我們設計了一種雙層混合Transformer架構,不僅解耦了模態表示,還區分了異質的動作子空間(例如基座移動與手臂操作)。為了對齊推論條件,我們提出了夢境強制(dream-forcing)訓練策略,逐步在模型預測的影片上訓練反向動力學,從而改善自迴歸預測過程中的訓練測試對齊與魯棒性。在具挑戰性的移動與細粒度操作基準測試上進行的實驗表明,ABot-M0.5在長時域任務成功與細粒度控制準確度上均達到了最先進的性能。這些結果凸顯了粒度對齊、動作解耦與推論一致的世界動作建模的關鍵重要性。
训练语言模型(LMs)仍是一个高度依赖人力的过程,即使前沿语言模型智能体在软件工程及其他长周期任务上变得越来越强大。其中一项核心挑战在于,自主后训练不仅仅是编码问题:它要求智能体反复规划迭代、构建与基准对齐的数据、运行稳定的训练任务、评估检查点,并在长达数小时的交互中保持实验状态。我们提出了AutoTrainess——一种语言模型智能体,它将上述操作公开为一系列智能体-计算机接口,涵盖规划、数据准备、训练、评估和日志记录。AutoTrainess并非让智能体在原始命令行界面环境中以未明确指定的动作空间运作,而是将先前的人类经验外化为显式的工作流程、规则和执行约束,引导智能体实现高效且可靠的训练行为。在PostTrainBench上,AutoTrainess的表现始终优于仅使用命令行界面的基线,使用GPT-5.4(Codex)时平均得分为26.94,而仅命令行界面为23.21。此外,它在不同模型和框架上均具有泛化能力,将DeepSeek-V4-Flash(OpenCode)的得分从12.13提升至19.58。
Transformer 使用相同的前向計算流來同時預測下一個 token 並儲存對未來 token 預測有用的狀態。我們提出了「狀態-預測分離假說」:將這兩個角色分離,能帶來更佳的語言建模表現。我們設計了一種 Transformer 變體,採用兩個計算流來區分這兩項功能,並在不同規模下進行預訓練實驗。實驗結果顯示,狀態-預測分離能一致地提升資料與計算效率,改善驗證損失,並在下游任務上平均優於標準 Transformer 2 到 3 個百分點。我們亦進行了廣泛的實證分析,排除了潛在的混雜因子,並證明我們設計所引入的梯度具有根本性的差異。
生物醫學研究人員越來越多地使用AI生成的分析和報告來解讀蛋白質層級的訊號,但靜態輸出往往不足以支持研究決策——使用者需要檢視證據、評估不確定性、比較機制並調整假說。我們提出BioInsight,這是一個多智能體系統,將靜態的生物醫學報告生成轉變為以證據為中心的互動式介面生成。給定疾病名稱、蛋白質關聯表以及可選的隊列元數據,BioInsight透過類型化的中間產物組織疾病特異性證據,包括排序後的路徑、文獻證據包、蛋白質層級推理筆記、引用支持的報告、儀表板模式以及渲染後的互動式介面。該系統將證據檢索與機制推理分離,通過確定性組件標準化引用引用,並將報告中使用的相同結構化證據轉換為互動式介面。我們在標準化生物醫學問答、具挑戰性的蛋白質功能推理以及端到端生物醫學證據綜述上評估BioInsight。結果顯示,BioInsight達到最佳表現,並表明生物醫學AI系統應超越純文字與靜態報告,轉向保留來源且互動式的證據產物。
世界模型能夠實現模型預測控制(MPC),但這需要動態預測在線上使用時既足夠快速,又能具備足夠的表達力來呈現不確定的未來。擴散模型提供了一種自然的機制來建模不確定動態,然而其迭代推論過程使其難以應用於低延遲的隱空間規劃。我們透過價值擴散世界模型(Value Diffusion World Models, Valdi)來填補這一缺口,將端到端線上訓練的MPC與隱擴散動態模型相結合。在CarRacing環境的初步實驗中,我們展示出Valdi在訓練和推論時僅使用單一步驟擴散,即可媲美確定性MLP基準的表現。我們的實驗揭示了在此設定下,預測的多模態性與控制效能之間的取捨。程式碼可於 https://github.com/Kit115/ValueDiffusionWorldModels 取得。
輕量級機器學習模型因其適用於資源受限的邊緣部署,愈來愈多被提出用於工業物聯網(IIoT)網路中的入侵偵測。大多數報告的結果僅在這些模型所訓練的網路中進行評估,而未驗證其在未見過網路上的行為。本研究在一個IIoT資料集上訓練四種輕量級架構,並在不重新訓練的情況下,使用僅限於三個資料來源共有的屬性所構成的特徵表示,對兩個結構不同的IIoT資料集進行評估。針對兩個表現最佳的模型進行可解釋性分析顯示,兩者均壓倒性地依賴粗略的連接埠類別特徵;最具影響力的類別在來源域攻擊流量中的出現率,是目標域中的96至435倍,這表明細化連接埠解析度並未移除已知的捷徑,而是將其重新定位。在自然不平衡的類別分布下進行評估,揭示了進一步的效應:所使用的評估流程可能反轉哪個目標網路看似構成更大的泛化挑戰。同時也評估了對抗性穩健性與透過少量目標域曝露的恢復能力;對抗性擾動的穩健性與跨網路泛化無關,且透過適應的恢復效果因架構而有顯著差異。這些發現表明,應在真實的類別分布下採用跨網路評估,而非僅依賴域內準確率,來評估部署的可行性。
在仓库级别的性能优化基准测试中,如 GSO、SWE-Perf 和 SWE-fficiency,通过将补丁应用于真实仓库,并将运行时与未优化基线及官方参考补丁进行对比,来评估编码智能体的性能。这些基准的排行榜得分越来越多地被用作编码智能体进展的证据,但这类得分可能混淆运行时的不稳定性、基准特定的评分规则,以及有多少任务已被至少一个公开提交所解决。我们对这三个基准中的这些问题进行了核查。首先,我们在四种常见的谷歌云机器上重放了 740 个代码优化任务的官方参考补丁。大多数基准任务可以重放,但在跨机器重放中,其参考补丁满足原始基准有效性规则的任务数量分别为:GSO 中 102 个任务仅有 39 个,SWE-Perf 中 140 个任务仅有 11 个,SWE-fficiency 中 498 个任务仅有 411 个;SWE-Perf 尤其脆弱,因为许多参考补丁产生的运行时变化接近零。其次,我们证明公开提交的排名在很大程度上取决于基准的评分规则。在 GSO 和 SWE-fficiency 共享的八个公开提交中,官方排名在 28 组两两提交比较中有 9 组存在分歧,而 SWE-fficiency 的排行榜评分规则将最差的十个任务赋予过高的得分权重(58.5%-82.8%)。第三,观察每个任务的十个公开提交,我们发现至少有一个提交在 85.3%(384/450)的可重放有效的 GSO 和 SWE-fficiency 任务中匹配或超越了参考补丁,并在 99.8%(449/450)的任务中超越了未优化的基础代码。我们的研究通过识别具有更可靠性能信号的任务、量化每项任务的得分贡献,以及揭示被汇总排名所掩盖的剩余性能差距,对排行榜得分进行了补充。
加速材料發現需要能透過多步驟、基於領域的推理來生成科學有效假設的AI系統。標準的大型語言模型在面對開放式材料設計問題時,通常會產出流暢但難以追溯的回應,使判斷最終答案是否奠基於連貫的中間推理變得困難。我們開發了Graph-PRefLexOR,這是一系列圖原生推理模型,透過群組相對策略最佳化(GRPO)進行微調,將推理組織為明確的階段:機制探索、圖形建構、模式提取與假設綜合。此設計將神經語言生成與符號關係結構連結,使因果關係得以建構、檢視及重用。在來自材料科學與力學文獻的100個開放式問題上,Graph-PRefLexOR相較對應基礎模型提升了40-65%,其中推理可追溯性的增益最大。嵌入分析顯示,其語義探索範圍更廣,且語義多樣性約為基線的2-3倍。語義回溯與逐層隱藏狀態分析進一步表明,結構化推理與最終答案之間有更強的對齊。最後,測試時圖形擴展揭示,增加的計算資源主要促進有限語義空間內長程概念的重組,而非單純擴展語義覆蓋範圍。這些結果確立了圖原生強化學習作為通往可解釋AI系統的途徑,適用於材料設計及其他科學應用中的科學假設生成。
傳統醫學報告生成(MRG)的評估指標主要依賴表層的n-gram重疊,這種方式無法捕捉臨床事實的準確性,且經常忽略災難性的診斷錯誤。為了解決這一根本局限,我們提出AtomiMed——一個通用且與模態無關的評估框架,能將複雜的醫學敘事分解為標準化的多層級原子臨床事實層次結構,涵蓋疾病級實體及包括位置、形態與嚴重程度在內的屬性級描述符。透過在真實報告與預測報告之間實施智能體交叉驗證循環,AtomiMed模擬了多位放射科醫生的同儕審查流程,以驗證臨床一致性,從而實現診斷檢測與描述準確性的解耦評估。為促進標準化評估,我們推出MRGEvalKit——一個用於自動化階層式提取的開源工具包,並整理出OmniMRG-Bench,一個涵蓋X光、CT、MRI及超音波的全面多模態基準。在多項專家標註的閱讀者研究中進行的大量實驗表明,相較於傳統指標及基於模型的指標,AtomiMed與人類放射科醫生判斷的相關性顯著更高。我們的代碼已發布在 https://github.com/Venn2336/MRGEvalkit。
儘管大型語言模型(LLMs)在表格任務上表現良好,但它們仍會出現資料引用錯誤(DREs),即在理解表格結構的前提下,不正確地引用或遺漏表格中的數值。除了最終答案的準確性外,DREs 直接影響中間推理步驟的正確性與可靠性。然而,先前的研究僅提供了有限且小規模的分析。在本研究中,我們首次針對不同模型與任務,對表格資料引用錯誤進行系統性評估。結果顯示,所有受測模型(參數量為 1.7B 至 20B)均會出現 DREs。此外,我們證明了將資料引用作為評判模型(critic)能顯著提升答案準確率(最高達 12.0%),透過基於評判的過濾與拒絕取樣實現。最後,我們訓練了一個輕量級的 4B 參數評判模型,在檢測分佈內與分佈外 DREs 時,平均 F1 分數達到 78.2%,並能有效協助較大模型的推理。
基準(benchmarks)廣泛用於評估大型語言模型(LLMs)的任務完成能力,但這種方法已累積了構念效度(construction-validity)方面的問題,且通過分數並不一定代表所要求的任務確實被完成。我們針對這兩個問題進行研究。在一個受控的「以程式碼為規格」(code-as-spec)設定中,兩款生產級 Copilot CLI 代理(claude-opus-4.7、gpt-5.5)需要將一個 React Fluent-UI 資料表重新實作成 Angular 的可重用函式庫,並在隱藏包含 222 個測試的 Playwright 測試判官(oracle)下進行 18 次執行,且分為三種測試判官的可用性條件。除了分數之外,我們也執行機械化的函式庫審計,並透過無操作消融實驗(no-op ablation)檢查每個判定結果。在沒有測試判官的情況下,函式庫雖存在但不完整,這點可由分數看出。當測試判官納入流程後,分數接近完美,但從一個直接包含被測試行為的展示範例來看,該函式庫不是被遺留未完成就是完全不存在。我們將此現象稱為「為測試而建構」(building to the test);而背後更廣泛的傾向,我們稱之為「驗證自我意識」(validation self-awareness)。這類代理並不會像使用者一樣,主動驗證其所交付的內容。此情況在其他代理、訊號與模型家族中的普遍性仍有待探討。除了基準分數之外,像「驗證自我意識」這類傾向也值得研究關注。
投影片設計需要同時個性化投影片主題與頁面佈局。然而,現有的基於AI代理的方法在處理細粒度的頁面級設計時仍面臨挑戰。這些方法過度依賴於預先指定的範本或使用者詳細的指令,因而無法捕捉到潛在的設計意圖,導致頁面級投影片個性化(PSP)問題仍未獲解決。為填補此缺口,本研究將PSP形式化為一個反向規劃問題。我們提出在不假設任何特定執行工具(如PowerPoint、Beamer)知識的情況下學習設計意圖。然而,放棄對這些工具的控制使得問題難以透過端到端方式進行最佳化。為克服此困難,我們提出SPIRE,一個近似求解PSP的原則性框架。透過刻意破壞乾淨投影片的視覺結構,SPIRE建立一個可驗證的去噪任務,在此任務中兩個代理經由強化學習(RL)共同學習逐步修正可執行的設計。我們證明了結構去噪是PSP的一個一致替代目標,且多代理公式能嚴格降低RL中的策略梯度變異數。大量實驗結果展現了SPIRE的優越性。
雖然文字生成圖像(Text-to-Image, T2I)模型在生成照片級真實視覺內容方面已展現顯著成功,但它們在處理科學圖像所需的嚴謹語義對齊與邏輯推理時仍面臨挑戰。受皮爾士符號學三元組啟發,我們提出了科學圖像推理(Scientific Image Reasoning, SciIR),這是一個用於訓練與評估科學圖像生成的綜合性資源。我們將科學推理形式化為三個核心維度:實體結構(像似符)、科學過程(指示符)與科學定律(規約符)。具體而言,為克服科學圖像生成中訓練數據稀缺的問題,我們精心建構了SciIR-82k,這是一個大型數據集,包含來自前沿出版物的超過八萬張高品質科學圖像-文字對。該數據集根據符號學維度進行層級化組織,並納入了科學推理思維鏈(Scientific Reasoning Chain-of-Thought, Sci-RCoT),以明確建模潛在的視覺邏輯。在評估方面,我們提出了SciIR-Bench,該基準與上述三個符號學層級對齊,並採用原子清單(Atomic Checklist)將結果導向的科學準確性轉化為過程導向、可驗證且細粒度的問題。我們的大量實驗揭示了當前模型在科學推理能力上的顯著缺陷。此外,透過在SciIR-82k數據集上進行微調,我們開發了Qwen-Image-SciIR模型,該模型在SciIR-Bench上取得了顯著提升,最終分數從35%提高至43%,為未來科學圖像生成的發展奠定了堅實基礎。
自主科學發現系統有望透過自動化假說生成與驗證過程來加速研究進展。然而,現有系統僅能在受限的搜索空間內運作,或需要預先定義研究問題,這限制其進行真正開放式探究的能力。此外,儘管這些系統能反覆疊代生成假說,但它們大多缺乏將自身累積的發現進行明確整合,以揭示複雜且相互關聯現象的能力。我們提出 DiscoPER,這是一個由大型語言模型驅動的自主框架,透過動態生成與執行程式碼來探索資料集,無需預設研究目標,從而進行開放式研究。為確保嚴謹的科學有效性,每項提出的發現都必須通過統計檢定。為克服孤立搜索的限制,我們的框架引入一種二階推理機制,定期分析自身累積的發現。透過將先前發現視為經驗數據,DiscoPER 能夠識別結構模式、混淆因素與認知缺口,主動將假說探索導向搜索空間中尚未探索的區域。透過整合工具使用,搜索空間進一步擴大,使系統能超越結構化元數據的限制,無縫處理並從影像等多模態來源中提取有用資訊,從而探索相關假說。我們在 iNatDisco 上進行評估,這是一個全新的多模態生態知識基準,其模式層級的真實標註來自同儕審查文獻。結果顯示,DiscoPER 以 72.7% 的假說支持率成功還原 9 個已知模式中的 8 個,表現優於傳統因果發現與基於大型語言模型的基準方法。消融實驗顯示,DiscoPER 的效能隨數據量增加而擴展,並驗證了二階後設反思的優勢。
視覺語言資料集蒸餾(VLDD)將大型圖像與文字配對的資料集壓縮成少量合成配對,使對比式視覺語言模型能在嚴格的資料與計算預算下高效訓練。現有方法大多匹配專家軌跡或跨模態統計,但仍強制在歐幾里得嵌入空間中進行全維度對齊。由於圖像與文字之間存在秩虧損相關性,其共享語義集中於低維度範圍,而剩餘變異則分散於弱相關的殘差子空間,因此這種對齊方式往往過於嚴格。LoRS透過低秩分解在相似度層級放寬對齊,但未明確控制表徵空間中的主導對齊能力與結構。為此,我們提出秩感知雙曲對齊(RAHA),結合層級幾何結構與明確的對齊能力控制。RAHA將多模態表徵提升至雙曲空間,並以不對稱目標優化蒸餾配對,在共享範圍內強制測地線對齊,同時正則化殘差子空間以保留模態私有多樣性並提升遷移穩健性。基準實驗顯示,RAHA在固定預算下展現具競爭力的跨模態檢索與改善的遷移指標。
文學作品的人工智慧翻譯日益普遍。雖然內容可能翻譯得尚可,但我們對於讀者在沉浸感與文學效果方面的體驗了解不足,而這些面向是自動機器翻譯指標或針對流暢度與充分性的人類評估難以捕捉到的。我們邀請15位熱愛閱讀的讀者,針對近期出版的15本法語、波蘭語及日語小說(譯入英文),比較人類翻譯(HT)與基於代理式大型語言模型(LLM)流程產生的機器翻譯(MT)。讀者在兩種條件下評估約8,000字的摘錄:沉浸式閱讀完整摘錄(30組比較),以及仔細閱讀386組配對的HT-MT片段(772組比較),每本書由兩位讀者以交替呈現順序進行。整體而言,讀者認為MT「還可以」,但偏好HT(在摘錄層級上略為偏好,19/30;在片段層級上更為明顯,522/772),因其更易讀、清晰且具有沉浸感。讀者的標註顯示,MT在同一本書內的品質變異性高於HT。關鍵的是,讀者無法可靠地區分兩者(30次中僅17次猜對),且傾向偏好他們認為是人類翻譯的版本。自動化指標(包括將LLM作為評審的方法)未能反映讀者偏好,且偏向MT。我們發布LAIT(文學人工智慧翻譯),這是一個以讀者為中心的評估資料集,包含1,000條讀者評論、2,000項判斷與偏好評分、以及7,200個跨度層級的標註,同時提供我們的評估協議與支援介面。
本文探讨了多轮视觉推理问题,并观察到多模态大语言模型(MLLMs)会反复无法准确定位目标,从而导致冗长且重复的推理轨迹。我们将其归因于推理与感知在同一模型中的纠缠——MLLMs在推理的同时进行定位,而定位的不准确会触发额外的推理轮次,使得轨迹变得臃肿。为解决这一问题,我们提出了PixelEyes,一种将推理与感知明确解耦的多轮视觉推理智能体:即推理器决定“寻找什么”,而专门的感知工具回答“它在哪”。具体而言,PixelEyes引入了以下两个关键机制:1)掩码引导的视觉搜索:调用指代分割模型提供精确到掩码级别的定位,使推理器无需再为补偿不精确的指代而额外消耗能力;2)语义区域广度优先搜索(BFS):为消除因反复裁剪错误子区域而导致的冗余循环,我们将探索过程组织为基于语义区域的广度优先搜索。为了将这些能力内化到模型中,我们通过从现有数据中重新合成专家轨迹,构建了PixelEyes-6K数据集,将掩码引导搜索和BFS逻辑显式嵌入其中。此外,我们还提出了Pinpoint基准(Pinpoint-Bench),这是一个零提示的视觉搜索基准——即问题中不提供任何位置线索,并配有实例级掩码和边界框,可将定位失败与推理失败区分开,从而实现对注意力盲视等失败模式的细粒度分析。当前最先进的多模态大语言模型和视觉推理智能体在Pinpoint基准上仍有大量提升空间,这充分证明了该基准的质量与难度。代码和模型均已开源。
經典的3D場景圖生成方法因環境映射計算成本高昂,且需生成中介點雲表示,而無法實現即時運作。為緩解此問題,近期研究捨棄點雲,改用輕量級高斯分布來表示每個物體。此近似方法大幅加速推論,使即時3D場景圖生成成為可能。然而,該表示存在兩項關鍵缺陷:1) 每個物體僅以單一3D高斯近似,導致3D幾何細節嚴重損失;2) 此近似與真實物體幾何間的差異,加劇了在線推論過程中物件候選項合併不準確的問題。為解決上述問題,我們提出NoPA,將每個物體表示為獨立的非參數分布。此表述保留3D幾何資訊,同時維持參數化高斯表述的即時推論能力。為奠基於新穎的物件表示,我們提出客製化合併策略,以恢復連貫的物件實例。具體而言,我們利用核密度估計的最大均值差異,在最小化額外計算複雜度的前提下,實現線上探索中物件候選項的穩健合併。關鍵在於為每個物件維持固定粒子集合。此外,為修正因錯誤分類導致的關係缺失,NoPA透過高親和性在物件間傳播關係。實驗顯示,NoPA在不犧牲即時推論速度的情況下,顯著優於現有方法。
隨著AI代理在處理複雜且長期的推理任務上越來越強大,嚴謹且全面的評估對於衡量其在真實醫療應用中的進展至關重要。我們推出HealthAgentBench,這是一個包含54項醫療代理任務的評測套件,涵蓋7個類別,每個類別都有其獨特的環境。該評測套件涵蓋了病人就醫過程中的多種工作流程以及廣泛的數據模態。每項任務都旨在複製一個端到端的臨床工作流程:在僅給出最小程度指引的情況下,代理必須探索原始醫療數據,在複雜環境中運作,並執行超越簡單提示的多步驟解決方案。最終報告任務成功率,作為HealthAgentBench整體表現的單一可解釋指標。在對前沿代理進行HealthAgentBench評估時,我們發現整體任務成功率仍然偏低,凸顯了該套件的難度。最強且最具成本效益的代理Codex GPT-5.5,僅達到約42%的成功率。除了整體表現,HealthAgentBench還揭示了不同任務類別中細微的優劣勢。前沿代理在自動開發基於EHR數據的研究建模流程方面展現出潛力,但醫學影像處理仍特別具有挑戰性,尤其是對Claude Code模型而言,而Codex GPT-5.5則展現出新興能力。結合大搜索空間與組合推理需求的任務,對當前所有代理來說仍難以應對。綜合這些結果,HealthAgentBench提供了一個具有挑戰性且貼近真實的評測基準,未來仍有很大的進步空間。我們在https://github.com/microsoft/HealthAgentBench 公開發布我們的評測套件。
訓練語言模型進行推理的三種最流行方法,看似是三種不同的技巧,實則不然。這三種方法都調整同一個數值:標準差,反映提示詞所抽樣答案之間的分歧程度。當這類模型接受訓練時,它會多次回答每個問題,並由自動檢查器標記每個答案的對錯。這些標記的標準差衡量了分歧的程度:當答案在對錯之間均勻分佈時最大,當所有答案一致時則為零。群體相對策略最佳化(GRPO)除以這個數值,正確執行的GRPO(Dr. GRPO)省略除法,而解耦裁剪與動態採樣策略最佳化(DAPO)則捨棄標準差為零的群體。每種方法都被當作獨立的解決方案提出,但本文證明了它們其實是一個調節旋鈕的三種設定。這個旋鈕並非無關緊要:對於對錯獎勵而言,分歧正好等於訓練更新的幅度,即群體標準差恆等式。一個存在分歧的群體教得最多,而一個意見一致的群體則學不到任何東西,因此保持沉默。同樣的結果也指出哪些問題應獲得最高權重,以及每個問題需要多少次嘗試。本文在一個大型真實難度數據集(Big-Math)以及一次受控的訓練運作中,確認了這一直覺。看似無害的正規化步驟,正是決定學習發生在哪裡以及強度如何的關鍵調節旋鈕。
盲图像去模糊需要在複雜且未知的退化過程中恢復高保真細節與一致結構。現有的盲圖像去模糊方法難以應對真實世界中空間變化的退化情形,且缺乏必要的語義感知能力來可靠區分有效紋理與偽影。為填補此一缺口,我們提出CogSENet,這是一個受鷹類視覺系統啟發的動態語義對齊重建框架。通過模仿鷹的主動掃視運動,我們設計了語義驅動狀態空間模塊(SDSSM),該模塊利用可微路由實現語義感知的令牌重組,從而支持提示條件下的長程依賴建模。為確保紋理與結構的物理可解釋恢復,雙頻融合塊(BFFB)模仿鷹視網膜的功能分化,通過小波變換將特徵分解為高頻與低頻分量。最後,我們從模糊圖像中估計連續模糊場(CBF),並將其與CLIP語義先驗融合,調控最深層的潛在特徵,以模擬焦點適應機制,實現空間非均勻模糊下的自適應恢復。大量實驗表明,CogSENet在更少參數量的情況下,在視覺質量與結構保真度上均優於現有最先進的去模糊方法,同時在去霧、去雨與去噪任務中也表現出色。
在协作对话中,共享感知并不等同于共享解读。共同理解必须通过交互建立。我们探究视觉-语言模型(VLM)是否能通过共同基础(grounding)区分对话参与者之间"可能共享"与"已经共享"的信息。为此,我们利用 HCRC MapTask 对话语料库中 13,077 个带标注的指称表达式,构建了一个"解释匹配任务",并在对话上下文与地图信息访问的系统性受控操纵条件下评估 VLM。结果表明,提供真实地图图像虽能提升整体性能,但会使模型过度预测对齐。相同的文本化地图内容复现了这一偏差,而无信息量的图像则完全抑制了对齐预测,说明该偏差源于任务相关的地图内容,而非视觉通道本身。这种提升以牺牲非对齐案例的准确率为代价。校准分析与指称链追踪进一步表明,模型依赖地图上静态的指称线索,而非通过对话历史追踪共同基础的建立过程。这些现象在 Qwen3-VL-8B-Instruct 中最为显著,并在两个架构家族的额外四个模型中以不同程度呈现。在表现出这一偏差的模型中,地图内容(无论是视觉还是文本呈现)均被视为共同理解的证据,从而混淆了潜在共同基础与已建立共同基础。
人們想太多;語言模型過度取樣,過多的努力反而可能讓兩者都給出更差的答案。推理系統透過多次取樣來回答難題(測試時擴展),取樣次數越多,正確答案就越常出現,因此覆蓋率——至少有一次正確嘗試的問題比例——會上升,看似有所進展。但部署的系統必須回傳一個答案,而在不知道哪次嘗試正確的情況下選擇答案,這個過程稱為選擇;選擇存在上限,一旦超過某個臨界點,額外的取樣只會讓模型更確信於一個錯誤的答案,同時每次取樣都在增加成本。覆蓋率持續攀升與選擇停滯之間的差距——即可識別性差距——正是模型能得出但無法選出的答案。因此真正的問題不在於是否取樣,而在於取樣到何種程度;答案是:不用太深。就選取答案而言,表決通常在幾十次取樣內便已收斂,達到眾數上限;就評估基準而言,收斂得更快,即相關性上限。超過這個範圍,額外的取樣只會消耗算力卻毫無貢獻,甚至可能使答案更糟。本文將這個截斷點轉化為單一數值——有效取樣數,而任何一次取樣過程都已揭示此數值。瓶頸在於辨識正確答案,而非產生答案。