每日論文

现代图像生成需要一种能够统一多种能力的单一模型，包括文生图（T2I）、局部编辑和全局编辑。然而，这些能力往往难以自然对齐且相互冲突。例如，编辑操作会降低文生图性能，而全局编辑与局部编辑之间也会相互干扰。因此，如何有效整合这些能力已成为图像生成模型训练的核心挑战。为解决这一问题，我们提出DanceOPD——一种面向流匹配模型的同策略生成场蒸馏框架。该框架将每个样本路由至一个能力场，查询一个低噪声的学生诱导状态，并通过简单的速度均方误差目标进行训练。通过将每个能力源定义为共享流状态空间上的速度场，学生模型能够从基于自身展开状态查询的场中学习，从而组合专家能力。该公式还可吸收算子定义的场（如无分类器引导）。我们在文生图、编辑、写实场吸收以及CFG吸收任务上的综合实验表明，我们的方法改进了多能力组合，在增强目标能力的同时保持了锚定生成质量。我们相信这项工作为流匹配模型中的生成场蒸馏建立了一条实用路径。

現代的視覺-語言-動作（VLA）模型常常難以泛化到新的配置環境中，例如改變的攝影機視角或機器人構型，這是因為這些模型通常僅以當前的觀察與語言指令為條件。這些模型忽略了底層系統配置這個變數，隱含地假設訓練時遇到的固定執行環境，導致任何新環境都需要耗費大量數據進行微調。在這項工作中，我們提出了「情境內世界模型」（ICWM），這是一個將系統辨識視為情境內適應問題的框架。ICWM 使機器人策略能夠從一小段自我生成、與任務無關的互動歷史中自主推斷出必要的系統變數。與傳統的情境內學習（利用示範來指定要執行的任務）不同，ICWM 是利用情境視窗來理解系統的運作方式。透過在任務執行前處理這些互動，模型能隱含地捕捉當前系統的世界動態，從而無需更新參數即可適應新的配置。在模擬環境與真實機器人平台上進行的廣泛實驗證明，ICWM 在應對新攝影機視角時，顯著優於標準的 VLA 基準模型。

基於結果的強化學習為語言智能體提供了穩定的優化基礎，但其稀疏的軌跡級獎勵對於哪些中間決策應被強化或抑制提供的引導有限。線上策略自我蒸餾提供了密集的詞元級監督，然而現有的技能條件變體通常依賴於外部技能記憶庫或檢索到的特權上下文，這些不僅維護成本高昂，還可能與當前策略在多輪互動中產生的狀態分佈不匹配。我們提出 OPID（線上策略技能蒸餾），這是一個直接從已完成的線上策略軌跡中提取技能監督的框架。OPID 將軌跡事後視角表示為層級式技能：回合級技能捕捉全域工作流程或失敗規避規則，而步驟級技能則在關鍵時間步捕捉局部決策知識。關鍵優先路由機制在識別出關鍵決策時使用步驟級技能，否則預設以回合級技能作為引導。所選技能被注入互動歷史中，使舊策略能夠同時在原始語境與技能增強的語境下重新評分相同的取樣回應。由此產生的對數概率偏移形成了詞元級自我蒸餾優勢，並與結果優勢結合用於策略優化。因此 OPID 保留了強化學習作為主要訓練目標，同時引入了密集且與分佈匹配的事後監督。在 ALFWorld、WebShop 和基於搜尋的問答實驗中，OPID 在智能體性能、樣本效率與穩健性方面普遍優於僅使用結果的強化學習和現有技能蒸餾基準。我們的代碼已公開於 https://github.com/jinyangwu/OPID/tree/main。

儘管文字轉圖像（T2I）模型已取得顯著進展，但它們在處理現實世界中常存在表述不清、隱含或依賴最新知識的請求時仍有困難。我們將此挑戰定義為「上下文鴻溝」（Context Gap）：使用者上下文與 T2I 模型所需充分生成上下文之間的落差。為彌合此鴻溝，我們提出 Qwen-Image-Agent，一個以上下文為核心的統一代理框架，整合規劃、推理、搜尋、記憶與反饋。Qwen-Image-Agent 將使用者輸入視為部分上下文，並透過「上下文感知規劃」（Context-Aware Planning）與「上下文錨定」（Context Grounding）逐步建構生成上下文。具體而言，上下文感知規劃識別缺失的上下文，並規劃其獲取與使用方式；上下文錨定則透過推理、搜尋、記憶與反饋收集這些上下文。為評估代理式影像生成，我們進一步引入 IA-Bench（Image Agent Bench），該基準涵蓋四項核心影像代理能力：規劃、推理、搜尋與記憶。在 IA-Bench、Mindbench 與 WISE-Verified 上的實驗結果顯示，Qwen-Image-Agent 超越強基線方法，達到最先進的效能。

經典的直覺認為，驗證解決方案比提出方案更容易。但對當今的程式設計代理而言，這種直覺正在被顛覆：隨著基礎模型推理能力持續增強、工程架構日益複雜，生成複雜的候選解決方案已不再困難——真正棘手的反而是可靠地驗證它們。我們所能建構的一切驗證器，都只是人類意圖的代理，而非意圖本身。這使得驗證面臨雙重困境：首先，意圖本質上欠指定，難以忠實地檢驗其是否被滿足；其次，在模型訓練過程中，最佳化會擴大代理與意圖之間的差距——表現為獎勵作弊或信號飽和。為解決此問題，我們沿三個維度——可擴展性、忠實性與穩健性——來刻畫驗證信號的品質，並主張同時達成三者是核心挑戰。我們進一步研究了四種獎勵建構方式：用於通用程式設計任務的測試驗證器、用於前端任務的評分量規驗證器、用於真實世界代理任務的使用者即驗證器，以及用於長時域任務的自動化代理驗證器。針對不同任務類型與策略能力層級，我們深入分析並實驗了獎勵設計的核心難題，以及如何更有效地利用獎勵信號。實驗表明，針對性的驗證設計能有效抑制獎勵作弊、提升任務完成品質，並在多個內部與公開基準測試中取得顯著增益。這些經驗共同指向一個核心觀察：沒有任何固定的獎勵函數能在策略能力持續成長時保持有效；驗證必須與生成器共同演化。

文本与视觉的统一表示是一个自然的追求，因为它能够简化多模态建模并提高训练效率。然而，以与文本相同的方式将图像表示为离散信号不可避免地会引入严重的信息损失。现有工作在平衡离散表示中的低层细节与高层语义方面面临困境：面向重建的表示往往缺乏语义信息，而语义更强的特征则通常会丢失大量细节。我们提出了ViQ（视觉量化表示框架），旨在离散表示中平衡语义与细节，同时支持原生分辨率的输入，从而使其能够作为任意视觉输入的通用离散表示。我们的方法将量化学习分为两个阶段：文本对齐预训练和特征离散化。通过文本对齐预训练，我们借助预训练语言模型增强视觉编码器的语义丰富监督能力，并使其能够处理原生分辨率的视觉输入。在离散化阶段，我们提出了一种邻近表示学习策略，逐步压缩特征空间，并结合位置感知的逐头量化机制，实现任意分辨率的灵活处理。在多模态任务上的大量实验表明，与采用连续高维视觉特征的最先进多模态视觉编码器相比，ViQ在保持低层重建高精度的同时，取得了具有竞争力的性能。我们还证明，使用视觉量化表示进行多模态训练能够大幅提升效率，在不同基座大语言模型和训练配方下可实现20%至70%的加速。

推测解码（Speculative Decoding, SD）通过草拟多个token并并行验证，加速了自回归大语言模型（LLMs），但面临扩展性瓶颈：只有在接受率保持较高且草拟开销较低时，增加草稿预算才能提升速度。这一上限难以突破，因为此前基于预测头的SD方法面临因果性与效率的困境。自回归草拟器生成路径条件化的候选序列，这些序列在树状推测解码中能实现更高的接受长度，但其草拟成本随树深度增长。双向块扩散草拟器可一次性生成所有位置，但其与分支无关的边缘分布可能产生单个合理但彼此不一致的树状结构，浪费预算并降低接受率。我们提出JetSpec，一种基于预测头的SD框架，将单次前向草拟效率与分支级因果条件相结合。JetSpec在冻结目标模型的融合隐藏状态上训练一个因果并行草拟头，生成的候选树得分与目标模型的自回归分解一致。这使得JetSpec能够将更大的草稿预算转化为更长的已接受前缀和更高的端到端加速。在密集型和MoE Qwen3模型上的数学、编程及聊天基准测试中，JetSpec始终优于双向预测头和树状SD基线。在H100 GPU上，JetSpec在MATH-500上实现了高达9.64倍加速，在开放式对话工作负载上达到4.58倍加速，并通过vLLM集成在实际服务负载下进一步降低了延迟。我们的代码和模型已公开在https://github.com/hao-ai-lab/JetSpec。

電腦使用代理可透過圖形介面或程式化指令介面執行軟體任務，但現有的評估方法常將互動模式與任務差異、初始狀態、驗證器及允許的操作混為一談。我們提出一個經匹配的執行層基準測試，涵蓋18個應用程式與12類工作流程中的440項桌面任務。在此基準中，僅限螢幕操作的圖形使用者介面（GUI）代理與以技能為基礎的命令列介面（CLI）代理，在接收相同目標、狀態及最終狀態驗證器的條件下，僅能使用其原生互動模式允許的操作。在此控制環境下，最強的GUI代理達成59.1%的完整通過率，優於最強原始技能CLI代理的48.2%；然而，透過驗證器引導的技能強化，CLI的成功率提升至69.3%，顯示CLI的劣勢大多來自技能覆蓋範圍不足，而非單純的模型能力問題。這些結果表明，GUI與CLI暴露了不同的執行瓶頸：GUI代理受限於長期工作流程中可靠的具身互動，而CLI代理則受限於其技能介面的覆蓋率與可擴展性。

聯合嵌入預測架構（JEPAs，Joint-Embedding Predictive Architectures），包括近期的LeWorldModel（LeWM），已成為一種有前景的無重建視覺世界模型基礎。然而，在視覺規劃中，LeWM透過反覆應用局部單步潛在轉換模型來評估候選動作序列。這種自迴歸滾動（autoregressive rollout）使規劃計算成本高昂，並且隨著預測視野（horizon）的增長，會使預測軌跡暴露於累積的潛在誤差中。我們提出Fast LeWorldModel（Fast-LeWM），這是一種快速潛在世界模型，它以動作前綴預測（action-prefix prediction）取代了重複的局部滾動。給定當前潛在狀態和一組候選動作序列，Fast-LeWM編碼其前綴，並並行預測執行這些前綴後所達到的未來潛在狀態。透過將動作前綴作為基本預測單元，Fast-LeWM直接建模了動作效應在不同視野範圍內不同程度的累積。這種前綴層級的監督迫使模型學習狀態如何在不同的動作前綴下持續演化，而不僅僅是擬合單步狀態轉換。在規劃過程中，預測器可以直接使用編碼動作序列中的最後一個前綴標記來評估對應的未來潛在狀態，而無需明確地滾動經過每個中間的想像狀態。在多個任務中，Fast-LeWM相較於LeWM在平均成功率上有所提升，同時大幅減少了規劃時間，並實現了更低的開環潛在損失（open-loop latent loss），且該損失隨著滾動視野的增加而增長速度顯著變慢。

工具使用使大型語言模型（LLM）能夠執行複雜任務，而近期以代理為基礎的強化學習（RL）方法展現出提升模型能力的潛力。然而，單獨使用RL往往會導致工具使用任務中的不穩定性或效益有限。在我們的實驗中，部分模型出現災難性崩潰，表現突然下降，且工具調用結構失效。分析顯示，這些失敗源於特定控制標記出現意外的機率尖峰，從而破壞了結構化執行，然而底層的工具使用能力仍然完好，只是被特定格式所掩蓋。為了解決這個問題，我們系統性地研究了多種監督信號，包括離策略監督、基於提示的引導、錯誤範例監督等，並在同步與交錯訓練方案下加以應用。我們發現，將監督式微調（SFT）與RL交錯使用能顯著提升穩定性，但在格式與內容分佈外（OOD）評估中表現下降。我們也分析了學習率的影響以及跨設定的泛化情形。這些結果凸顯了理解RL失敗的重要性，並展示了多樣化的監督信號如何引導探索式學習，從而實現對LLM在複雜多步工具使用任務中的穩健訓練。我們的程式碼可於 https://github.com/hypasd-art/Tool-RL-Box 取得。

随着代理系统的持续演进并在实际场景中得到广泛应用，对其能力进行忠实评估的需求日益增长。然而，当前的基准测试通常构建于热门应用之上，任务相对简单，仅聚焦于少数能力维度，而忽视了更广泛的范畴，导致现代代理系统的性能趋于饱和，难以探知其局限性。为此，我们推出GauntletBench——一个基于网页的基准测试，旨在评估代理系统在挑战性场景中的泛化能力，重点关注三个尚未充分探索的能力维度（时间感知、图形理解与3D推理），覆盖五个较少涉及的职业应用领域（视频编辑器、工作流构建器、3D建模师、航班分析员与电路设计师），每个领域包含20项视觉密集型任务（共计100项）。我们的基准测试采用模块化流水线设计：包含兼容开源与闭源代理框架的环境、受控的网页应用、结构化的任务套件，以及配备多种指标的自动化评估引擎。与普遍预期相反，实证结果表明，前沿代理系统远未达到人类水平。即使是最先进的代理系统，在GauntletBench上也仅取得19.1%的成功率，揭示了这些被忽视能力维度及其泛化性的局限。相比之下，非专业人类标注者在我们设计得具有挑战性但切实可行的任务上取得了超过80%的成功率，这凸显了当前代理能力与复杂现实场景要求之间的巨大鸿沟。

当前主流的双分支范式，即训练一个侧网络来编码视觉条件，并将其中间层特征融合到冻结的预训练主网络中，已在视觉条件可控生成领域取得显著成功。尽管这一范式被广泛采用，但侧分支的作用及其训练效率仍未得到充分探究。本文首先从基于分数的生成建模视角重新审视这一主流范式：1）主网络通过提供先验无条件分数来保持视觉感知质量；2）侧网络通过隐式贡献似然分数来引导条件控制。在该视角的指导下，我们提出似然分数对齐（Likelihood Score Alignment, LISA）方法，这是一种有效的正则化技术，能够显式地将侧网络中间层特征与近似似然分数对齐。具体而言，我们首先从侧网络的指定层提取特征，并通过轻量级解码器将其投影到分数潜在空间。随后，构建一个近似似然分数目标，并计算解码器输出与此目标之间的距离作为额外正则化损失。最后，结合标准扩散损失与所提出的正则化损失，联合优化侧网络与解码器。在多种图像/视频任务、网络架构及扩散/流模型上的实验表明，LISA不仅能一致地加速训练收敛并提升最终合成效果，还能促使侧网络的特征在条件建模中更具解耦性，且仅需可忽略的额外训练成本和零额外推理成本。

大语言模型（LLM）的推理能力已取得显著进展，这导致其在预填充（prefilling）和解码（decoding）阶段的键值缓存（KV cache）规模持续增长。现有KV缓存压缩方法主要依赖注意力权重评估Token重要性。尽管注意力机制能有效捕捉上下文相关性，却忽略了与预测不确定性和Token信息量相关的互补性信息论信号。本文从前瞻性视角重新审视Token重要性，提出"前向影响力"（Forward Influence）这一度量指标，用以衡量压缩Token对未来上下文的影响程度。分析表明，注意力分数选取的Token主要影响邻近上下文，而与高预测不确定性相关的Token对远距离未来上下文具有显著更强的影响力。基于这一发现，我们提出信息熵感知的KV缓存压缩框架InfoKV，该框架融合信息论信号，将Token级预测不确定性与层级表征演化相结合，并在推理过程中将生成的熵分数与注意力分数进行集成。在Llama-3.1、Llama-3.2和DeepSeek-R1上的长上下文推理基准测试中，InfoKV在长预填充和解码场景下均持续优于现有基于注意力的KV压缩方法。

视频推理语言模型隐式地假设每一输入帧的可靠性相同。这导致了我们称之为“盲目信任问题”的现象：在面对运动模糊、眩光或遮挡等现实扰动时，前沿视频推理模型在真实世界的具身基准测试中准确率可能下降15至30个百分点，且模型本身对其视觉证据已遭退化毫无察觉。为解决这一挑战，我们提出了Robust-TO，一种将逐帧可信度明确整合到推理各阶段的智能体视频理解框架。Robust-TO将异构的视觉感知工具组织在统一的证据接口下。每个工具接收由原始问题派生出的子查询，以及一组经可靠性-相关性评分筛选出的可信帧，并以共享格式返回证据：具体预测（例如边界框、运动轨迹、识别文本或动作标签）、时间定位以及校准后的可靠性评分。在推理过程中，这些校准后的评分通过三层合成过程（高/中/低）引导证据加权，并定义了一种置信-成本GRPO奖励，以联合优化正确性、证据可靠性与效率。在涵盖八个任务的视频推理基准测试中，Robust-TO在干净输入下平均准确率达到56.4%，超越最强开源基线10.6个百分点，并优于Gemini-2.5-Pro（46.2%）。在五种真实扰动类型下，Robust-TO保持平均准确率54.3%，高出最强开源基线5.8个百分点，且在所有对比方法中展现出最小的干净至扰动数据准确率下降幅度。

我們提出 PhysiFormer，一種用於物理合理的三維物體運動的擴散 Transformer。不同於在視角相關的像素空間中運作的視頻世界模型，PhysiFormer 將物體表示為以世界座標表達的三維網格。給定初始頂點位置與速度，以及物體材料類型（剛性或彈性），該模型會取樣未來的頂點軌跡。雖然相關的神經物理方法依賴於特定的潛在空間或明確強制剛性與因果性，PhysiFormer 顯示，無需任何此類歸納偏置，僅透過將頂點軌跡預測視為直接在世界座標中的單一去噪擴散過程，即可獲得優異結果。這種機率性公式捕捉了學習動力學中的不確定性，能從初始條件產生多樣的合理未來，使此框架可能對存在未觀測不確定性的應用有所幫助。該模型將注意力分解為時間、空間與物體以提升效率，實現排列不變的多物體推理，無需明確的物體編碼。在超過十萬條模擬軌跡上訓練後，PhysiFormer 能生成剛性與彈性力學，並泛化至混合材料設定、未見過的真實幾何形狀以及更大的物體數量。它在軌跡精度、剛性保持與基於動量的物理一致性上大幅優於自回歸基線。我們的結果將座標空間擴散定位為邁向機器人學、圖形學與物理設計中視角不變、幾何感知世界建模的有希望一步。視覺化、程式碼與模型可在 https://yimingc9.github.io/physiformer 取得。

現代生成式世界模型能渲染出愈來愈逼真且可受動作控制的未來場景，但它們經常產生幻覺：雖然生成的序列在視覺上保持流暢，卻偏離了真實動態。我們假設幻覺集中在狀態-動作空間的低覆蓋區域，而輕量級的以數據為中心的信號既能偵測幻覺，也能引導緩解措施。為驗證此假設，我們提出MMBench2，一個包含427小時、210項任務的視覺世界模型資料集，具備真實動作、獎勵及即時模擬器，並在此基礎上訓練了一個3.5億參數的世界模型。我們辨識出三種不同的幻覺模式：感知幻覺、動作邊緣化幻覺與場景發散幻覺——每一種都對應到管線的不同階段，並開發出三種能精確預測模型何時會失敗的信號。為在訓練時填補覆蓋缺口，我們開發了一種覆蓋感知取樣技術；在線上情境中，我們的幻覺預測器則作為好奇心獎勵，引導有目標的數據收集，從而形成一套數據高效的微調策略，使預訓練的世界模型能用最少僅50條真實環境軌跡，適應完全未見過的環境。整體而言，我們的研究發現世界模型中的幻覺本質上是數據覆蓋問題，而用來偵測幻覺的同一組信號也可用於緩解幻覺。 我們論文的互動網頁版可在 https://www.nicklashansen.com/mmbench2 取得。

隨著大型語言模型代理能夠執行越來越長期的任務，評估它們在經濟系統中的表現變得越發重要。有別於現有主要評估單一代理與被動環境互動的基準，經濟系統本質上涉及多個代理，要求自主代理在長期追求自身目標的過程中，進行溝通、協商與交易。我們提出 CoffeeBench，這是一個用於評估大型語言模型代理在由異質企業組成的長期多代理經濟體中的基準。在 CoffeeBench 中，兩名農民、兩名烘焙師與兩名零售商在為期 90 天的模擬中自主經營其業務，各自透過溝通與交易管理現金、庫存與定價，力求最大化累積淨收入。被評估的模型控制一名咖啡烘焙師，其餘企業則由固定的參考代理所控制。在近期多個開源權重與專有的大型語言模型中，所有模型皆優於不採取任何行動的被動基準，大多數模型都能獲得正的淨收入。代理行為分析顯示，長期經濟互動存在顯著差異：表現較佳的模型與其他企業溝通更為積極，而 Claude Haiku 4.5 則表現出「閒置漂移」的失敗模式，即便能產出連貫的評估與計畫，仍反覆選擇不行動。我們釋出程式碼與代理軌跡，以支持未來的研究。

過程獎勵模型能對大型語言模型進行細粒度、逐步層級的評估，然而在智能體場景中建構此類模型仍極度困難：長程互動、不可逆動作以及隨機環境反饋，使得大規模人工標註與蒙地卡羅估計皆不可行。在本研究中，我們證明強化學習後訓練已提供進行有效逐步評分所需的要素，完全無需另外訓練專屬的獎勵模型。具體而言，我們在一般隨機馬可夫決策過程中推導出一種隱含優勢，稱之為「進展優勢」——經強化學習訓練的策略與其參考策略之間的對數機率比值恰好還原了最優優勢函數。此公式使產出的訊號無需標註、與領域無關，且可作為標準強化學習後訓練流程的副產品取得。我們在五個基準測試及四個模型家族上，針對三種不同應用（測試時擴展、不確定性量化與失敗歸因）驗證了進展優勢的有效性。在所有設定中，它一致優於基於信賴度的基準方法，並且雖然無需針對特定任務進行訓練，仍超越了專屬訓練的獎勵模型。我們透過對進展優勢特性的深入分析來補充這些結果，為其在真實世界智能體系統中的採用提供實務指引。

儘管獎勵模型被廣泛使用，但它們在塑造強化學習中的角色仍未被充分理解。獎勵模型提供了一個誘人的承諾：在沒有驗證者或人類評判者的情況下，它們能自動估算回應的品質。與通常產生二元分數的「可驗證獎勵」不同，獎勵模型通常產生連續分數，使其能夠對回應中的細微差異保持敏感。然而，我們表明這一看似優勢實則是一個嚴重弱點：許多流行的獎勵模型過度敏感，對同樣優秀的回應賦予不同分數。理論上，我們表明看似完美的獎勵模型可能極度過度敏感；實證上，這種過度敏感可能導致不良策略。我們提議以「辨別能力」和「特異性」（即過度敏感的補集）這兩個不同的度量來評估獎勵模型，取代現有的「獎勵模型準確性」概念。作為解決方案，我們描述了一種免訓練演算法，該演算法在任何神經獎勵模型上使用蒙地卡羅丟棄法以產生離散獎勵叢集。理論上，我們證明存在一些離散化方法，能以最小的辨別能力損失減少過度敏感；實證上，我們在受控與自然強化學習環境中皆表明，對獎勵進行離散化比直接在原始獎勵上訓練更能減少獎勵破解並產生更好的策略。

儘管生成式AI在解決具有可驗證解法的問題上已取得顯著成功，但生成同時滿足嚴格幾何約束與主觀視覺美學的實體藝術作品仍是一項挑戰。本文提出一種方法，在計算摺紙這個數學上嚴謹的領域中應對這些難題——該領域將藝術設計置於平面可摺疊性方程式的框架內。我們介紹COrigami，一種端到端的AI驅動流程，透過從自然語言生成折痕圖案來輔助設計循環。此流程包含：生成語義骨架圖、計算基礎佈局、求解平面可摺疊的折痕圖案、塑形平面摺疊後的折痕圖案，以及透過基於自主美學評估循環的強化學習來優化生成模型。我們的系統扮演高度有效的協作助手，提供結構化的起點，讓人類藝術家能進一步擴展與雕塑。透過將演算法優化與自主美學評判相結合，本研究展示了AI系統如何滿足多目標物理約束，從而實現可靠且植基於數學的協同創造力。

ABACUS 是一個統一的視覺語言模型，能處理物件計數、人群計數、指涉表達計數與計數忠實影像生成，且無需針對特定基準進行訓練。本模型以現有的 30 億參數統一基礎模型為基礎，並透過三項關鍵創新適應物件定位任務：利用物件性圖譜進行空間定位的密度感知自適應縮放；透過 GRPO 實現的邊界感知計數策略，以消除裁切邊界誤差；以及循環一致 GRPO 策略，讓理解分支自我批評生成的輸出，無需任何外部標註即可縮小理解與生成之間的落差。ABACUS 在七項基準測試中達到最先進的結果，不僅超越任務專屬的專家模型，也勝過規模更大的通用模型。

一个有效的引用看似证据，但链接能够解析并不意味着被引论文支持该主张。我发现，当前的智能体模型很少捏造引用（超过99%可解析），然而约有15.9%的链接指向了错误的论文。现有基准测试未能发现这一失效模式：当问题有固定答案密钥时，模型可以从该密钥中重现期望的源文献，而非独立验证该源文献是否支持其主张。我提出了\openbiorq{}，这是一个基于检索的智能体基准测试，包含12个领域的12,553个未解决的生物医学研究问题，将开放性问题视为忠实性与弃权探针。据我所知，这是首个将智能体设置（模型必须执行多次工具调用）与无答案密钥的未解决问题相结合的生物医学基准。开放性通过真实的后续证据进行验证，而非依赖模型的参数化知识。难度具有实证性：我以三个开放权重参考模型无法回答的问题作为难度锚点，而非依赖主观难度标签。在这个最难子集上，与难度锚点同系列但被排除在外的模型仅能解决约17%的问题，而三个独立的前沿智能体（Gemini-3-Pro、Opus-4.7、GPT-5.5）的表现则横跨29-60%的广阔区间。因此，该基准具有高难度、非饱和性（最佳智能体仍留下约33-40%未解决）以及在不同能力层级间具备区分度的特点。除了难度之外，我观察到在最难问题上出现了智能体崩溃现象——智能体停止使用工具。对于最容易崩溃的模型，完全阻止其使用工具几乎不会改变其得分——因此，工具恰恰在最需要它们的地方失去了效用。一个冻结的每问题检查清单将评判者间一致性从斯皮尔曼相关系数0.35提升至0.82。

多模型LLM系統如路由、投票、級聯、融合與混合智能體，常被用來超越單一模型的準確率。我們發現，這類系統的增益存在一個上界，而這個數值極少被學界報告。對於任何最終輸出為某個成員模型答案的策略，其準確率不可能超過一減去β，其中β是每個模型對同一查詢都犯錯的比率。相比之下，常規診斷指標——平均成對誤差相關性ρ——無法識別β：具有相同邊際分佈與成對相關性的誤差律，可能對應不同的全錯率。對β應用克洛珀-皮爾森（Clopper-Pearson）上界，可在訓練路由之前，為任何路由、投票或級聯系統能達到的最大增益提供有限樣本認證。 在來自21家供應商的67個模型中，經四格相關校正的單因子模型仍然低估了全錯尾部：在開放式數學問題上，觀測到的β為0.052，而完整67模型高斯連接函數下的β為0.023，低估約2.5倍，90%信賴區間為1.7至3.4，k值為17。此效應在執行評分的程式碼問題中重現，β值為0.079。將同樣的GPQA-Diamond問題以自由回答而非選擇題形式重新提問，會重新打開尾部，β值為0.127，由五名評判組成的評審小組的κ值為0.73至0.92，表明共同失敗源於回答格式而非學科本身。在品質匹配的情況下，低ρ異質集成優於高ρ的Self-MoA，但在我們測試庫中可檢查的任務上，若缺乏強查詢級路由訊號，組合模型鮮少能超越單一最佳模型。增益來自於模型在不同問題上失敗，而非單純增加模型數量。

生物學科學推理模型結合了語言模型與基於多模態生物數據（包括DNA、RNA與蛋白質）訓練的基礎模型。這類模型通過後訓練階段構建，然而每個階段如何塑造推理能力與泛化性能，目前仍缺乏深入理解。本研究探討後訓練何時能提升性能，以及何時會導致過度專業化。在基因組學、轉錄組學與蛋白質組學領域，我們在可控變因下（包括主幹模型、持續預訓練、監督微調與強化學習），訓練並評估超過100個生物推理模型，同時衡量其域內與域外表現。研究發現，每個後訓練階段並非帶來均勻的效能提升，而是以不同方式重塑泛化能力：持續預訓練通過使模型與生物語言對齊來改善下游性能；監督微調能穩定提升域內表現，但域外表現會先達到峰值，隨後隨模型過度擬合訓練分佈而下降；當在強監督微調檢查點上結合對齊獎勵進行強化學習時，可改善域外表現並部分恢復泛化能力。這些結果表明，生物推理能力並非隨額外監督或計算資源的增加而單調提升，其表現取決於訓練階段的組合方式。在固定後訓練預算下，最優的域內-域外權衡來自於簡短的監督微調、較多的強化學習配置，以及各階段間不對稱的適應能力。

地球观测（EO）预测旨在根据卫星观测数据，在变化的气象条件下预测未来地球表面动态。本文将这一任务视为部分可观测的、天气驱动的世界建模问题——其中天气作为条件信号，但由于观测稀疏和地表状态不可见，预测结果仍存在不确定性。然而现有方法未能完全捕捉这一设定：确定性模型将不确定性坍缩为单一未来预测，扩散模型通常将天气变量视为无差别条件信号，而现有基准测试主要关注重建精度，而非预测结果是否对变化的天气强迫作出正确响应。 我们提出EO-WM——一种用于多光谱地球观测预测的视频扩散变压器。EO-WM采用物理知识引导的条件框架，通过气候基准线、天气异常和累积物理应力信号来表征气象强迫。具体而言，它通过不同的条件路径分离基准线与异常信号，并随时间累积异常强迫以捕捉持续的热胁迫和干旱胁迫。为超越标准指标评估天气响应行为，我们引入两个诊断基准测试：极端夏季基准测试（用于评估极端天气下植被退化的严重程度感知预测）和季节性匹配对基准测试（用于检验天气强迫变化下的响应保真度）。实验表明，EO-WM将预测归一化植被指数衰减幅度的误差相对降低5.63%，方向命中率相对提升7.80%，同时保持标准像素级指标的竞争力。基准测试和模型将开源发布于 https://github.com/Luo-Z13/EO-WM。