每日論文

我們提出一個針對大語言模型中潛在思維表徵的公理化評估框架，包含獨立於下游基準分數的指標，能夠揭示基準準確率所掩蓋的表徵失敗。現有評估方式將表徵品質與模型能力混為一談，因此無法將失敗歸因於表徵本身，而非處理該表徵的模型。我們形式化定義了四個功能公理（因果性、最小性、可分離性與穩定性），並為每個公理訂定量化衡量指標，這些指標直接在表徵上計算，獨立於下游準確率。我們針對23個推理任務（例如空間推理、事實問答）審查了開放權重的大語言模型。結果發現，沒有任何候選表徵能同時滿足所有四個公理；這些表徵能可靠地區分任務類型，但無法區分同一任務內的兩個問題；且表徵編碼的資訊幾乎未超越輸入嵌入中已有的內容。此失敗在密集模型、推理蒸餾模型及強化學習訓練模型系列中一致存在，顯示這是結構性差距，而非模型規模或訓練過程的屬性。

視頻生成模型已展現出作為具身世界模擬的潛力。然而，無論是通用領域的視頻生成器，還是針對機器人數據微調的模型，仍會產生物理上不合理的操作，包括不連續的運動軌跡與不一致的機器人-物體互動，這限制了其作為世界模擬器的可靠性。透過大量實驗，我們發現此類物理不穩定性主要源自兩個因素：移動物體的形變，以及互動實體之間（特別是在接觸時）不合理的時空關聯性。基於此觀察，我們提出 PhysisForcing，一個可擴展的訓練框架，透過聯合優化像素層級與語義層級特徵，將監督聚焦於物理資訊豐富的區域，從而強化物理一致性。該框架包含一個像素層級的軌跡對齊損失（利用參考點軌跡監督 DiT 特徵），以及一個語義層級的關係對齊損失（將 DiT 特徵與從凍結的視頻理解編碼器中提取的區域間關係進行對齊）。在 R-Bench、PAI-Bench 與 EZS-Bench 上的大量實驗顯示，PhysisForcing 能一致性地提升基於強基線的具身視頻生成效能：在 R-Bench 上，Wan2.2-I2V-A14B 與 Cosmos3-Nano 基礎模型分別提升 22.3% 與 9.2%（相較於標準微調分別提升 7.1% 與 3.7%），其中 Cosmos3-Nano 變體取得最佳整體分數。在生成之外，作為 WorldArena 行動規劃器協定下的世界模型，它將封閉循環成功率從 16.0% 提升至 24.0%，並進一步改善下游策略的成功率，表明物理對齊的視頻模型能為機器人操作提供更強的表徵。

我們提出Qwen-Image-2.0-RL，這是一個後訓練流程，透過基於人類回饋的強化學習（RLHF）與同策略蒸餾（OPD），改善Qwen-Image-2.0擴散模型的視覺品質與指令遵循能力。為提供可靠的獎勵訊號，我們透過微調視覺語言模型，並結合逐點評分範式與思維鏈推理，建構任務特定的複合獎勵模型。對於文字生成影像任務，獎勵模型涵蓋對齊性、美學品質與人像保真度等維度；針對影像編輯任務，獎勵系統則著重於指令遵循準確性與人臉身分保留。在此獎勵系統基礎上，我們開發一套可擴展的基於GRPO的強化學習訓練框架，結合混合無分類器引導（CFG）策略以保留預訓練知識、透過組內獎勵範圍過濾進行提示篩選，以及按類別獎勵權重校正。為融合文字生成影像與編輯兩項任務專用的強化學習策略，我們提出以同策略蒸餾作為最終訓練階段，透過軌跡層級的速度匹配將多個教師模型整合為單一學生模型。廣泛評估結果顯示，Qwen-Image-2.0-RL在Qwen-Image-Bench上取得57.84的總分（較基礎模型提升2.61分），在文字生成影像競技場中獲得1193的Elo評分（+78分），在影像編輯競技場中獲得1349分（+93分），展現出在美學品質、提示遵循與編輯準確性上的一致提升。

我們研究是否能從人類動作中學習新穎的操作技能，並將其遷移至配備平行夾爪的雙臂機器人。人類動作資料成本低廉、豐富且多樣，是擴展機器人學習最具前景的資源之一。然而，將技能從人類遷移至機器人仍具挑戰：多數先前研究將人類視為另一種雙臂六自由度本體，其中手部姿態估計充滿雜訊，且人類手指的接觸模式與平行夾爪存在根本差異。我們認為，從人類資料學習包含旋轉的動作訊號因此並非最佳解，並提出一種橋接動作表徵：初始頭戴攝影機座標系內的相對手腕平移，這是人類與機器人共有的動作空間。為處理不同本體中可能缺失特定動作組件的問題，我們建構了一個類似π_0的視覺-語言-動作模型，採用交錯式動作令牌與注意力遮罩。在一系列新穎的雙臂操作任務中，我們的橋接動作能將人類操作知識遷移至機器人，效果遠優於含雜訊的六自由度人類動作，並能隨人類資料量擴展。

基礎模型在語言與多模態領域通過在統一表徵下對齊異質數據並進行大規模訓練，實現了強大的泛化能力。本報告探討此擴展方法是否可應用於機器人操作以達成真正的泛化。這極具挑戰性，因為與文本不同，操作數據本質上具有異質性、收集成本高昂且多樣性狹窄，使得對齊與規模化同時面臨困難。我們提出Qwen-RobotManip，一種基於Qwen-VL的可泛化視覺-語言-動作基礎模型。Qwen-RobotManip在操作的表徵、運動與行為維度上引入統一對齊框架，使大規模多源訓練協調一致而非相互衝突。此對齊能力進而使Qwen-RobotManip能夠吸收此前訓練機制無法支撐規模的操作數據。一條人機合成流水線將15個平台的以自我為中心的手部演示轉化為機器人軌跡，並通過嚴格的整理流程協調異質數據集。僅使用開源數據集與人類視頻而無需專有數據收集，Qwen-RobotManip構建了約38,100小時的預訓練語料庫，並展現出新興泛化能力，包括零樣本指令遵循、對擾動的魯棒性、反應性錯誤恢復以及跨本體遷移。我們發現標準基準無法捕捉預訓練質量，因此採用分佈外設定，包括RoboCasa365、LIBERO-Plus、EBench、RoboTwin-Clean2Rand、RoboTwin-IF與RoboTwin-XE。Qwen-RobotManip在所有分佈外設定中大幅優於此前最先進模型（包括π0.5），在RoboChallenge中以20%的相對提升排名第一，並在包括AgileX ALOHA、Franka、UR及ARX在內的實體機器人平台上得到驗證。

智能体导航系统需要一个基础导航模型，其观察策略可在推理时通过外部重新配置，这是因为指令跟随、目标搜索、目标追踪和自动驾驶共享相同的感知-规划主干网络，却需要截然不同的策略来消耗视觉流。我们提出Qwen-RobotNav，一个基于Qwen-RobotNav构建的可扩展导航模型，通过一个参数化接口解决该问题，该接口具有两个互补维度：选择导航行为的多种任务模式，以及控制视觉历史编码方式的可调观察参数（例如令牌预算、相机权重）。通过在训练时对所有参数进行随机化处理，Qwen-RobotNav对任何推理时配置均保持鲁棒性，且无需对Qwen-RobotNav主干网络进行任何架构修改。我们在1560万样本上训练Qwen-RobotNav；与视觉-语言数据的联合训练阻止了仅在轨迹数据训练中观察到的向反应式动作序列映射器退化的现象。参数化接口还使Qwen-RobotNav成为智能体系统的天然构建模块：对于长时域场景，上层规划器将目标分解为子任务，并在任务过程中动态切换Qwen-RobotNav的任务模式与上下文策略，通过反复调用同一模型来组合出复杂行为。大量实验表明，Qwen-RobotNav在主要导航基准测试中取得了新的最优结果。模型在参数量从2B扩展到8B时表现出良好的可扩展性，联合多任务训练形成了跨任务家族迁移的共享空间规划基础，并在多样化的真实世界机器人环境中展现出强大的零样本泛化能力。

語言模型（LM）使用嵌入矩陣來表示詞元，該矩陣的大小與詞彙量呈線性關係。為限制參數規模，先前研究提出在僅編碼器模型中將多個詞元哈希至單一向量。雖然這提升了參數效率，但多對一碰撞使其無法用於因果語言模型。本文提出 MultiHashFormer，一個允許基於哈希的自迴歸的新框架。每個詞元被表示為獨特的哈希簽章，即由多個獨立哈希函數產生的離散哈希 ID 短序列。哈希編碼器將此簽章壓縮為單一潛在向量，供 Transformer 解碼器處理；接著哈希解碼器生成下一個詞元的哈希簽章，再將其映射回文字。我們在 100M、1B 及 3B 參數規模下評估此方法，結果顯示 MultiHashFormer 在多項基準測試中持續優於標準 Transformer LM。此外，我們證明該模型能在參數規模恆定且無需任何修改的情況下處理多語言詞彙擴展。

視覺語言模型（VLMs）正逐漸部署於消費、醫療、金融及企業應用中。此類廣泛部署擴大了安全涵蓋面：風險可能源自多模態問答、助理解答回應及跨模態組合，而審核政策可能因產品、地區及部署階段而異。現有多數護欄措施若非依賴固定分類法，便是僅針對狹義互動場景，導致其在部署階段安全規則變動時適應性有限。我們提出SingGuard，一個政策適應性多模態護欄模型系列，專用於多模態對話中的安全評估。SingGuard將現行政策視為運行時輸入：給定自然語言規則後，它逐條比對目標內容是否符合政策規則，並預測安全標籤及觸發的規則。為平衡效率與可解釋性，SingGuard支援快速、混合及慢速三種推論模式，沿著從直接安全判斷到政策基礎審議的快速至慢速推理光譜運行。我們更透過快慢分離強化學習進一步優化此行為。同時，我們推出SingGuard-Bench，一個多模態護欄基準測試，包含56,340個範例，涵蓋80多種細粒度風險類型，橫跨多模態問答、對抗攻擊及動態規則評估情境，包括跨模態聯合風險案例——其中各模態單獨無害，但其組合卻暗示不安全意圖。在六個基準測試系列（共35個數據集）中，SingGuard在每個系列均達到平均F1值的先進水準。動態規則評估更顯示，在運行時政策變動下，政策遵循準確率從0.6465提升至0.7415。我們的程式碼已公開於 https://github.com/inclusionAI/Sing-Guard。

基於大型語言模型（LLM）建構的多智能體系統（MAS）提供了一個有前景的框架，透過角色專業化與結構化互動來解決複雜任務。然而，其表現常受限於協調失靈，更根本的問題在於缺乏跨智能體的細粒度信用分配。現有方法通常依賴粗粒度的回饋，導致難以辨識錯誤源自哪些智能體或互動步驟。我們提出基於梯度的連接（Gradient-Based Connections, GBC），這是一種針對多智能體系統的細粒度歸因與優化方法。GBC將MAS建模為計算圖，並引入基於梯度的連接權重，以量化各智能體輸出對下游智能體在詞元層級的影響力。透過構建歸因圖並將任務特定損失訊號反向傳播，我們的方法能精確識別錯誤來源並進行有針對性的提示優化。我們進一步開發了AgentChord，這是一種利用前綴式梯度計算的高效實現。在MultiWOZ與τ-bench上的實驗顯示，GBC能提升多智能體表現，並優於強大的單智能體與多智能體基準；此外，更高的歸因品質與更佳的優化效果相關聯。程式碼已公開於：https://github.com/yxc-cyber/AgentChord。

在開放世界環境中運作的機器人必須無縫整合定位、空間推理、導航與長程規劃。儘管專精模型在個別任務上表現優異，但部署多模型堆疊不僅計算成本高昂，且容易產生連鎖誤差。我們提出 Vesta，這是一個統一的具身通才模型，將上述能力整合至單一基礎模型中。我們的方法結合了精心設計的大規模多樣化語料庫（旨在誘發空間基礎化）以及一個簡潔的多模態記憶機制，使其能夠在較長的時間跨度內進行推理。在各種基準測試中，Vesta 平均勝過個別 SOTA 基準線超過 20%，並勝過各類別最佳基準線之集成超過 10%——從而證明通用模型能夠匹配甚至超越專精模型。在需要記憶與推理的真實世界機器人任務中，Vesta 將任務成功率提升了超過 35%。因此，我們的研究證明，單一通用模型是結合專精模型的一種可行、可擴展且可論證更佳之替代方案。

文本去毒化，即对攻击性和有害内容进行自动检测与缓解，对于保障在线社区安全及保护用户至关重要。然而，鞑靼语等低资源语言在此领域鲜少受到研究关注。本文提出Tatoxa——一种面向鞑靼语文本去毒化的前沿系统，其性能在关键质量指标上超越了现有开源及专有商用大型语言模型。我们还引入了一个新的鞑靼语文本去毒化数据集，专为低资源环境下的微调与评估而设计。最后，跨语言迁移实验表明，即便拥有大规模的俄语语料库，从包括文化相近的俄语在内的其他语言进行迁移学习，其效果也显著劣于基于原生鞑靼语数据的训练。

知識型視覺問答（KB-VQA）要求模型結合圖像理解與外部知識。多數現有方法採用固定的「檢索-生成」流程，搭配預選的檢索器與靜態的 top-k 設定，在推理過程中缺乏適應性。我們提出 ProMSA，一種用於 KB-VQA 的漸進式多模態搜尋智能體。給定一組圖像-問題配對，該智能體在明確的工具呼叫預算下，反覆選擇「圖像搜尋」、「文字搜尋」或「停止」，並透過去重機制避免冗餘檢索。在訓練方面，我們首先使用拒絕取樣監督微調（拒絕取樣 SFT）學習有效的工具使用格式，接著以 TN-GSPO（一種序列層級強化學習目標，同時根據生成長度與工具互動深度對更新進行正規化）最佳化智能體。在 E-VQA 與 InfoSeek 上的實驗顯示，該方法在強大的檢索增強生成（RAG）與智能體基準方法上取得一致提升，同時改善檢索與端到端準確率。程式碼已公開於 https://github.com/DingWu1021/Promsa。

语音代理面临一个根本性矛盾：使基础模型具备推理、检索和工具使用能力的迭代过程缓慢，而对话交互却要求毫秒级的响应时间。小型实时模型能满足低延迟要求，但在复杂任务上无法媲美基础模型，导致现有语音代理不得不在响应速度与能力之间取舍。我们提出对话填充（conversational infill）方法，通过一个小型对话模型在即时生成上下文相关的响应以隐藏外部推理模型的延迟，同时能在推理过程中将流式传输的推理结果知识无缝整合到其输出中。我们构建了一个涵盖六个领域、包含290,571个样本的合成数据集，并在七个广泛使用的小型语言模型（参数量从1.35亿到17亿）上验证了该任务的可学习性。我们的系统实现ConvFill，在保持毫秒级首响时间的同时，将准确率差距缩小至对应前沿推理模型性能的6.3%以内。在基于Apple M2芯片运行对话模型的实际用户研究（n=18）中，参与者认为ConvFill整体表现与前沿模型相当，在检索密集型任务中更倾向选择它，并认为其响应速度显著更快。这些结果表明，对话填充在延迟-能力帕累托前沿上开辟了新节点，为构建兼具快速响应与高能力的语音代理提供了可行路径。代码、模型和数据集已开源：https://github.com/vysri/conversational-infill。

網頁代理基準測試 overwhelmingly 側重於深度——將一個晦澀的答案埋藏在層層限制之後——而廣度，即窮舉一個封閉集合並逐一填寫每個項目的屬性，則鮮少被評估，尤其是在非英語環境中。此外，廣度的建構十分困難：驗證一個黃金集合的完整性並確保每個儲存格正確無誤，其成本遠高於檢查單一答案。為此，我提出了 Ko-WideSearch，一個基於韓語的廣度搜索基準測試，透過自動化的合成與驗證流程建構而成。每個任務指定一個集合父實體——如電視季、王朝、聯賽、行政區域、選舉——並要求列出其完整成員以及每個項目的屬性表，採用 Item-F1、Column-F1 及 Row-F1 進行評分。該基準測試涵蓋 228 個表格，分佈於 190 個實體與 16 個類別，並根據兩個獨立調整的結構旋鈕（表格寬度與二維複合鍵）劃分為三個難度層級，使得交叉乘積成員數從 0% 逐步上升至 100%。在黃金集合建構與評分過程中，使用一個統一的、具正規化感知的比較器，藉此避免因格式問題而過度剔除穩定的日期與計數欄位。在二十個網頁代理的測試中，結果呈現一致的失敗模式：代理能擷取出集合，卻無法正確提取行（例如 Item-F1 為 92.8，但 Row-F1 僅有 53.7），且隨著旋鈕難度提升，準確率持續下降，無論增加搜索次數或花費更多資源都無法縮小差距。進一步分析各儲存格後發現，困難點在於找出正確的值，而非格式問題：開放式自由文字儲存格的錯誤率最高，而日期或姓名等具有標準答案的儲存格則通常能正確處理。

在现实世界中训练和评估机器人策略成本高昂且难以规模化。我们提出 SimFoundry——一个模块化自动化系统，能够从视频中实现零样本的实到仿场景构建。SimFoundry 可生成可直接用于仿真的数字孪生，并支持物体、场景及任务编辑，从而自动生成多样化的数字变体：即保留功能属性的重构真实世界场景变体。基于 SimFoundry 数据训练的策略可零样本迁移至涉及多步操作、铰接物体交互及双手协作等挑战性真实任务中；其数字变体（原始场景、物体及任务的变种）则有助于泛化至新的现实条件。在 7 项操作任务与 5 种策略架构的测试中，SimFoundry 的仿真评估能强有力地预测真实世界性能，平均皮尔逊相关系数为 0.911，最大排序违规均值仅 0.018。当在真实世界中零样本评估仿真训练的策略时，使用物体变体、场景变体及任务变体在仿真中训练的策略，其平均任务成功率分别提升 17%、21% 及 40%。更多详情请见 https://research.nvidia.com/labs/gear/simfoundry/ 。

為了讓代理（agent）在測試階段能從與世界的持續互動中學習，它們必須具備有效探索、獲取新世界知識與技能、保留相關情節經驗，以及在長時域中規劃的能力。為評估這些測試時持續學習代理的關鍵能力，我們提出AgentOdyssey——一個新穎的評估框架，能程序化生成包含豐富實體、世界動態與長時域任務的開放式文字遊戲。關鍵的是，AgentOdyssey突破了傳統機器學習中「學習不在測試時發生」的假設，將代理置於持續、長時域的設定中，讓學習與推理在整個部署過程中交織進行。我們進一步提出多面向的評估方法，不僅衡量遊戲進展，還提供關於世界知識獲取、情節記憶、物體與行動探索、行動多樣性及模型成本的診斷測試。我們在生成的遊戲中評估了多種代理範式。實驗結果揭示了代理在關鍵能力上的極限，以及影響其有意義時域長度的因素。雖然性能隨著基礎模型增強而提升，但即使是最強的代理仍遠低於人類表現，留下充足的改進空間。在代理機制中，我們發現短期記憶對多種代理範式有益，是代理測試時訓練的重要組成部分。

人工智慧正推動科學發現的革命，從假說生成到數學定理證明的每個環節都因之加速。然而，這種快速推進也帶來系統性挑戰：傳統的人類同行評審無法擴展以應付AI輔助科學帶來的大量稿件。最終，為了解決這個矛盾，我們必須同樣部署AI來加速驗證與評審流程本身。為了框定這一轉型過程的討論，我們提出一個包含四個漸進層級的分類法，用以描述AI與人類在科學評估中的協作，並探討每個層級涉及的各種取捨。 作為邁向該未來的具體步驟，我們推出了論文助手工具（Paper Assistant Tool, PAT），這是一個專為深入科學評審與驗證所設計的智能體AI框架。PAT能完整讀入科學手稿，並產出全面的評估報告，包括檢驗理論結果、驗證實驗、提出改進建議，以及識別潛在缺陷。透過運用推理規模化技術，PAT能比單次模型調用找出更深層的問題，在SPOT基準測試的數學錯誤檢測中，零樣本召回率提升了34%。PAT已在兩個主要計算機科學會議——STOC與ICML——作為作者投稿前的工具進行試點部署，結果顯示它能有效識別關鍵錯誤，並對研究論文提出實質改進建議。透過及早發現錯誤，PAT減輕了審稿人的認知負擔，同時保留其對評審結果的控制權。

視覺-語言-動作（VLA）模型能泛化至多樣化的操作任務，但其基於模仿學習的策略在精確物理互動中仍顯脆弱，原因在於執行誤差的累積；純粹在模擬環境中訓練的強化學習策略，能否零樣本提升真實世界VLA的穩健性？殘差強化學習（Residual RL）——在凍結的VLA之上學習校正策略——提供了自然的框架，但現有方法面臨根本的模擬到真實困境：特權狀態方法需經有損蒸餾才能部署；基於影像的方法受視覺域差距所困；而真實世界強化學習既昂貴又不安全。我們提出以物體為中心的殘差強化學習框架，利用物體姿態精煉VLA動作，從而建構出能在模擬與現實間一致轉換的緊湊觀測空間。為對齊兩域，我們另將相同的遙控示範在模擬中重播，以訓練真實世界VLA的模擬對應版本。殘差強化學習策略僅在模擬中訓練，並加入姿態噪聲注入與隨機丟棄，再零樣本轉移至真實機器人。在真實Franka Research 3（FR3）機器人的五項操作任務中，我們的方法將成功率從42%零樣本提升至76%，且改善後的執行軌跡可進一步用於重新訓練基底VLA，以實現自我改進，無需額外遙控示範。專案頁面：https://www.microsoft.com/en-us/research/articles/object-centric-residual-rl/

我描述了我對LeHome挑戰2026（ICRA 2026的雙臂衣物折疊競賽）的解決方案。該系統在線上（模擬）輪次中，於62支隊伍中獲得第一名，並在真實世界決賽中獲得第二名。該方案透過強化學習循環改進了視覺-語言-動作策略。該策略本身即為其價值函數：同一網絡不僅預測動作，還預測成功與進度，以及若干與任務相關的未來量，而這些預測用於驅動優勢估計、即時故障檢測和候選項選擇。這項工作主要將現有的強化學習思路與工程及優化貢獻重新組合，可作為一套完整方案整體使用，亦可單獨採用：將AWR與RECAP結合應用於流匹配VLA；透過HuggingFace Hub實現異步分佈式訓練/回放管線；利用Thompson抽樣進行推理時的超參數優化；以及一套模擬到真實的配方，包含相機對齊工具、大量數據增強及類似DAgger的人機協作數據收集。

像素空間連續標記自迴歸生成直接將影像建模為原始像素區塊的序列，避免了離散標記化或需另外預訓練的標記器。然而，此方法面臨兩項耦合挑戰：高維度區塊生成導致單步誤差過大，且教師強制訓練造成訓練與推理之間的落差，使這些誤差在自迴歸步驟中逐步累積。現有解決方案如x預測與輸入雜訊注入僅能部分緩解這些問題。精確展開訓練雖更貼近推理時的情境，但由於序列取樣速度過慢而不切實際。我們提出並行展開近似法，這是一個能同時應對上述兩項挑戰的可擴展框架。並行展開近似法會生成低維度中間狀態（而非高維度像素區塊），再透過像素解碼器將其映射回像素空間標記，保留了像素輸入與像素輸出的自迴歸介面。此外，該方法透過與推理時相同的中間狀態到像素路徑，在各位置上獨立建構近似推理的像素輸入，模擬推理階段展開時會遇到的像素回饋介面，同時保留平行教師強制訓練的優勢。在256×256解析度的類別條件式ImageNet-1K生成任務中，參數量為1.35億的PRA-S模型達到了2.58的FID分數，超越了先前十億參數量級像素空間自迴歸模型的3.60分數。進一步擴大至參數量5.11億的PRA-L模型，FID更提升至1.94，創下像素空間自迴歸模型的最新最佳表現。除了生成能力，PRA在ImageNet分類探測準確率上也優於其他自迴歸與擴散模型基準，顯示其在像素空間影像生成與理解整合上的潛力。

在生產環境中高效部署大型語言模型（LLMs）時，必須在準確性與成本之間取得權衡。營運者通常預設使用單一模型，但這可能導致簡單查詢成本過高，或難題查詢效果不足。為解決此挑戰，我們提出了一個兩階段級聯解決方案。第一階段將傳入查詢進行分群，並為每個群組分配其最具成本效益的模型。此路由過程的成本預算由一個可解釋的超參數設定，並透過離線調校。第二階段則加入品質估計（QE）級聯：當第一階段的輸出被判定為低品質時，該查詢將升級至更強的模型。這確保只有困難或低信心的案例才會用到昂貴模型。在測試資料集上，此級聯系統保留了最強模型 97-99% 的準確性，同時降低了每輸出 Token 時間（TPOT）。該方法僅需任務正確性標籤，且能在無需手動重新配置的情況下適應模型池的變化。

影片生成模型旨在模擬動態環境，目前已有數個基準測驗用於評估跨幀的記憶一致性。然而，多數基準僅在目標對象仍處於視野範圍內時評估一致性，少數迫使物體離開視野的測試，也僅針對遮擋期間無任何變化的靜態場景。為填補此缺口，我們提出 MemoBench，這是一個基於「消失與再現」典範的診斷基準，應用於動態變化的環境中：目標物體經歷物理過程，從視野中消失，並必須在重新出現時，準確恢復其更新後的狀態。我們收集了 360 個真實片段，涵蓋合成與真實世界場景，並設計一套評估套件，結合自動化指標與基於視覺問答的評估，涵蓋四大診斷支柱。針對八個最先進模型的評估結果，揭示了在「消失與再現」典範下，關於記憶一致性的關鍵洞見與未解挑戰。

強化學習（RL）後訓練能改善基於流動之生成器的獎勵對齊，但常以獎勵代理無法捕捉的方式降低感知品質。我們發現此偏移的一項簡單結構性特徵：在三種後訓練方法（NFT、AWM、DPO）中，RL微調使每步速度範數|v_θ|相較於參考值膨脹了5%至15%。一種範數膨脹形式已在無分類器引導（CFG）中被研究，該方法在推理時將速度重新縮放回參考範數，可緩解由此產生的偽影。然而，此推理時修正無法直接遷移至RL：在推理時將v_θ重新縮放以匹配|v_{ref}|，既未提升獎勵，也未能修復品質退化，因為膨脹已與模型權重共同適應。此外，伴隨靈敏度分析顯示，速度量級的重新縮放在批次層級不攜帶一致的一階獎勵訊號，這表明抑制範數膨脹不太可能移除一個持續攜帶獎勵訊息的成分。由於推理時重正化失敗，而範數抑制又不帶來獎勵成本，因此訓練時干預是合適的策略。綜合這些發現，我們提出\methodname，這是一種僅在|v_θ|超過|v_{ref}|時啟動的鉸鏈懲罰，並可與任何基於速度局部的損失函數相加組合。在兩種基礎模型、三種後訓練方法及兩種獎勵代理上，\methodname一致地改善了MLLM評判的影像品質與鑑識真實性，同時保留了獎勵，且其增益在少步推理下更為顯著，並無法以早停解釋。

基於大語言模型的程式碼代理透過關鍵字搜尋探索程式碼庫，卻忽略了定義軟體實際運作方式的結構關係，例如呼叫圖、繼承層級與配置依賴。這使得代理的導航具有隨機性，且難以在不同運行之間重現。我們探討輕量級靜態分析是否能為此類代理提供確定性錨點：以純文字註解形式注入穩定的結構事實，藉此約束機率探索，使導航更具可預測性。我們以OpenAI的Codex作為強基線，系統性地注入不同粒度的結構註解，並衡量其對定位、軌跡行為及執行間穩定性的影響。研究發現了所謂的「確定性錨定效應」：靜態結構並非透過讓代理「更聰明」來發揮作用，而是主要透過使導航更有紀律且可重現。三項觀察結果支持此發現：(1) 錨定有效：輕量級呼叫/繼承拓撲提升了函式層級定位（Func@5提升2.2個百分點），並縮短了軌跡（減少1.6個互動回合）；(2) 錨定具有規模敏感性：最佳粒度與方向性取決於程式碼庫特性，密集語意會出現報酬遞減，而樞紐密集型專案則受益於僅包含「誰呼叫我」的單向反向連結，無須前向邊；(3) 錨定具穩定性：標記將連結跟隨率從0.15-0.18提升至0.21-0.24，執行間變異數約減少一半，並在中等規模程式碼庫中提升單次運行的可靠性（Pass@1提升3.4個百分點），代價是輸入令牌約增加10%。這些觀察結果提供了實務指引：在中等專案中預設使用輕量拓撲，在大型程式碼庫中裁剪前向邊，並為隱式依賴場景保留密集標記。

稀疏注意力可降低長上下文推論的成本，但大多數變體會引入新的架構元件。我們提出簡化稀疏注意力（SSA），這是一種無需架構調整的簡潔稀疏注意力方法。具體而言，我們首先對交錯插入要點詞元的序列進行持續預訓練。如同常規方式最佳化標準的下一詞元損失函數，但這些要點詞元透過注意力遮罩限制語言模型能關注的上下文範圍，從而使模型學會將每個區塊的重要資訊壓縮至要點詞元中。在推論階段，SSA 透過當前查詢與少量要點詞元間的注意力計算對區塊進行評分，並透過重新引入對應的原始詞元來選擇性展開前 k 個區塊。由於查詢僅與要點詞元進行比對，我們避免了直接對完整 KV 快取進行評分所導致的記憶體頻寬消耗，亦無需採用稀疏注意力方法所需的輔助 KV 快取機制。在 LongBench 基準上，SSA 在相同壓縮比率下一致優於壓縮式與推論階段稀疏注意力基準方法。更引人注目的是，在檢索增強生成場景中，SSA 經持續預訓練後甚至能比完整注意力方法提升超過 5.7 個百分點。我們將此歸因於 SSA 的選擇性展開能力，其能將注意力集中於與查詢相關的區塊，並有效濾除雜訊。SSA 更進一步擴展為階層式要點詞元變體（H-SSA），在最高達 32 倍壓縮比率下，實現對數線性解碼複雜度，同時維持或提升準確率。程式碼已公開於 https://github.com/yuzhenmao/simplified-sparse-attention/。

分詞化是將科學資料適應於基於Transformer的基礎模型的核心環節，然而其對學習表徵的影響仍未被充分理解。我們在統一的Transformer架構下，針對天文影像比較了四種分詞策略：Affine、AIM、JetFormer與VQ-VAE。使用來自DESI遺產巡天的64萬張星系影像，並以共享的AstroPT為骨幹，我們評估每種方法在重建保真度與物理性質預測上的表現。結果揭示了各種方法之間的取捨：基於流模型的JetFormer實現了更高的重建品質，而VQ-VAE在星系物理性質的探針（probe）表現上表現優異；Affine與AIM則更擅長保留局部型態資訊。我們發現重建品質與表徵品質之間是相互脫鉤的，且在本研究涵蓋的各項任務中，沒有任何一種方法能持續表現最佳。透過將評估建立在獨立測量的物理量上，我們期望本研究能凸顯科學資料作為基礎模型可解釋基準建構基礎的潛力。

基於大型語言模型的程式修復代理，日益建構在「生成-執行-修正」的範式之上，透過反覆執行測試來評估並優化修補程式。此種基於執行的途徑已成為當前最先進系統的標準做法。然而，執行過程既耗時又昂貴，但其對這些代理的影響仍未被充分探討。本文針對LLM導向程式修復中的執行行為，進行了一項兩階段的實證研究。首先，為了大規模描述執行行為的特徵，我們分析了來自SWE-bench排行榜提交資料中的7,745條代理軌跡。其次，我們針對200個SWE-bench實例與三種代理（Claude Code、Codex及開源版OpenCode），在四種執行範式下評估了3,000次端到端的修復嘗試，從而得以進行效能與成本的細緻比較。我們的分析揭示了三個關鍵發現：（1）程式執行在所有分析的代理與模型中均有使用，平均每個任務有8.8次測試運行。不同代理與模型之間的執行行為差異顯著，頻率範圍從每個任務2次到19次不等，且後期階段的執行成功率始終高於早期階段。（2）執行限制對修復成功率的影響甚微：在搭載SOTA模型的商業代理中，「禁止執行」與「無限制」之間的解析率差距僅為1.25個百分點，且不具統計顯著性，而「禁止執行」能大幅節省令牌與實際耗時成本。（3）執行效益具有集中性而非均勻分布。這些模式表明，當前代理對執行採取不加區別的運用，在效益甚微的實例上仍付出其成本。因此，執行應被視為一種具有明確成本效益權衡的資源，而非一項預設能力。

全模态模型能处理视频、音频和文本，但统一接入多种模态并不能保证模型会使用正确的证据。这一差距在社交媒体视频问答中尤为突出，因为答案可能取决于某个手势、语调、时间线索，或者言语与视觉表达之间的不一致。我们提出了 CogniRoute，一种基于模式引导的混合专家框架，用于社交全模态推理。CogniRoute 使用仅在训练时应用的认知模式，将每个示例按跨模态关系、推理需求和时间范围进行分解，并在监督微调过程中将全局路由特征与此结构对齐。我们进一步引入了路径感知强化学习，通过针对答案正确性、模态一致性推理以及认知时间定位的奖励，联合优化生成标记与专家分配。为支持训练和评估，我们构建了 OmniSocialBench，一个包含11.8万条结构化训练样本、有依据的推理轨迹、模式标签、时间证据跨度以及经过人工验证的评估子集的诊断性社交视频问答资源。CogniRoute 在 OmniSocialBench 上实现了59.38%的平均准确率，比最强的闭源基线高出15.33个百分点，比最强的开源全模态基线高出26.77个百分点，其中在需要视听协调、冲突解决以及基于时间的社交推理问题上提升最为显著。

大型語言模型（LLMs）可讓科學軟體更易於使用。然而，通用模型無法自動得知特定感測器支援哪些量測、當前軟體實作了哪些演算法，或計算結果可合理推導出哪些結論。這些區別對於低通道腦電圖（EEG）尤其重要，因為稀疏的空間覆蓋與可變的訊號品質，容易產生看似合理但缺乏證據支持的解釋。我們提出 NeuraDock Agent，這是一個開放原始碼架構，將確定性的本機 EEG 引擎與硬體感知的語言層分離。數值引擎負責解析錄製資料、執行品質控管、執行經審查的頻譜工作流程，並產出機器可讀的成品。LLM 僅接收精簡且經許可清單允許的摘要，以及附版本號的上下文套件。該上下文描述七通道硬體、經審查的工作流程、結果欄位、實作範圍、科學限制與參考案例。原始 EEG 與密集的每樣本陣列仍保留在本機。 我們從三個層級評估該系統。首先，12 筆錄製資料在十次數值重複中產生完全相同的結構化結果，而完整的休息/任務運行在三次重複中產生完全相同的結果、報告與圖形雜湊值。其次，請求擷取與故障注入實驗驗證了測試的資料邊界，以及在 HTTP、格式錯誤輸出與連線故障下，本機成品的保存。第三，一個邊界感知基準測試，在四種上下文消融與兩種 LLM 下測試了 36 個一般性與對抗性問題，產生 288 個輸出。這些結果支持將硬體與實作感知的接地機制，作為校準 EEG 代理接受、評價或拒絕內容的實用方法；但這些結果並未建立臨床有效性，也未建立經驗證的絕對認知負荷指標。