每日精选AI研究论文及翻译
我们提出 PerceptionRubrics,一种基于评定量表的评估框架,旨在弥合基准测试分数饱和与现实世界脆弱性之间的鸿沟。该框架将评估从整体语义匹配转向严格的原子化审核,为 1038 张信息密集的图像配对了超过 12000 条实例特定的评定量表。这些标准源自通过新颖的循环同行评审共识流程构建的金标准描述,并进一步提炼为“必须正确”(基本事实)与“容易错误”(细粒度细节)的双流评定量表系统。关键在于,PerceptionRubrics 实现了门控评分机制:与线性平均值不同,一旦对强制性视觉事实的检验失败,便会触发尖锐的二元惩罚。大量评估揭示了关键洞见:(1)可靠性差距:模型通常能正确验证碎片化元素,但在严格的合取约束下却失败,暴露了密集领域中的脆弱性;(2)开放-封闭分层:与推理趋势相反,我们揭示了开源前沿与专有前沿之间持续存在的 8% 感知缺陷;(3)人类对齐的严格性:我们的门控指标显著优于传统基准的对齐程度,验证了严格的感知保真度是可靠生成的前提条件。
流式视频生成正成为一种新兴的服务负载,用户通过与长时间运行的会话交互,逐块渐进式生成视频。与离线视频生成或典型的LLM服务不同,流式视频生成必须在活动与空闲时段间保持会话状态,重复调度进行中的会话,并在严格的延迟目标下交付每个视频块。这就在多用户、多GPU环境中产生了两个关键的服务挑战:会话时长异质性——长时间运行的会话随时间推移使放置决策次优化;以及用户需求的时间异质性——活动会话数量在突发高峰与空闲时段间剧烈波动。 我们提出TurboServe,首个专为流式视频生成负载设计的服务系统。TurboServe将服务形式化为一个在线调度问题,联合协调会话放置与GPU配置。其闭环调度算法结合了迁移感知放置控制器(通过跨GPU重新平衡会话以降低最大每块延迟)与负载驱动的自动扩缩控制器(根据负载变化自适应调整GPU预算以提升成本效率)。为支持上述运行时决策,TurboServe实现了用于同一GPU上并发活动会话批处理的合并块处理、用于会话挂起与恢复的GPU-CPU卸载,以及基于NCCL的GPU-GPU迁移以实现在线重平衡。我们使用生数科技的真实生产轨迹,在多种模型规模及最多64块NVIDIA B300 GPU的集群上评估了TurboServe。与基准服务配置相比,TurboServe将最坏情况下每块延迟平均降低37.5%,总GPU运营成本平均降低37.2%。我们的代码已在 https://github.com/shengshu-ai/TurboServe 公开。
在预填充-解码(PD)分离式大语言模型服务中,每个请求在预填充后被分配给一个解码工作节点。现有的解码路由器仅平衡负载;对于混合专家(MoE)模型而言,这并不充分:负载相等的工作节点其延迟可能不同,因为每个解码步骤都需要加载该批次激活的所有不同专家的权重。我们提出了ELDR,一种用于PD分离式MoE服务、具有专家局部性感知能力的解码路由器。ELDR根据请求的预填充专家激活信息,构建一个专家签名,用以预测该请求在生成过程中将激活的专家。在离线阶段,平衡K-means将签名空间划分到各解码工作节点;在线阶段,局部性波段路由将每个请求发送到与其签名最匹配且负载最低的工作节点。一个与KV缓存以KV块粒度协同索引的签名缓存,能确保在前缀缓存下签名的准确性。ELDR已在vLLM中实现,并在多达40个GPU的部署上进行了评估。在三种MoE模型和两种工作负载下,与四种负载均衡基线中最强者相比,ELDR将中位TPOT降低了5.9%-13.9%,且模型输出保持不变。
记忆已成为现代基于LLM的代理的基石,支撑其从单轮助手进化为长期协作者。然而,记忆并非总是有益的:检索到的记忆常常引发一个关键的谄媚问题,导致代理以牺牲事实准确性或客观推理为代价,过度迎合用户。尽管这一风险日益凸显,现有的记忆基准主要评估记忆是否正确存储、检索或更新,却忽略了检索到的记忆如何影响下游推理和决策。为弥补这一空白,我们提出了MemSyco-Bench,一个用于评估代理系统中记忆诱导谄媚的综合基准。MemSyco-Bench衡量记忆何时应影响决策以及如何正确使用有效记忆。具体而言,它涵盖五个任务:评估代理能否拒绝将记忆作为事实证据、尊重其适用范围、解决记忆与客观证据的冲突、跟踪记忆更新,以及使用有效记忆进行个性化。所有相关资源已收集并发布在社区,网址为https://github.com/XMUDeepLIT/MemSyco-Bench。
我们推出Seed2.0,这一模型系列在解决复杂真实世界任务方面迈出了有意义的一步。我们的方法始于识别用户的真实需求,并基于这些需求及现实复杂场景,选取并抽象出基准,从而构建一套可靠且具有前瞻性的评估体系。在评估体系的引导下,Seed2.0针对长尾知识与复杂指令跟随这两大持续挑战,显著提升了模型在精细、长期任务中的可靠性。此外,Seed2.0提供了世界领先的推理智能、视觉理解与搜索能力,满足广大用户群体最普遍的需求。通过本模型卡中记录的大量真实应用案例,我们展示了Seed2.0已初步展现出处理复杂现实任务的能力,为数亿用户带来了更大价值。
多模态大语言模型(MLLMs)常受限于语言空间瓶颈,被迫将复杂的视觉推理压缩为离散词元,从而丢失感知细节。一个颇具前景的替代方案是连续潜在推理,其目标是发现连接多模态查询与最终答案的隐式推理路径。然而,这引入了严重的训练-推理不匹配问题:训练时基于正确答案的后验可以依赖答案相关的捷径,而标准的变分训练迫使推理时的先验去模仿一个在测试时无法获取的信息后验,导致性能不佳。为此,我们提出非对称互变分学习(AMVL),该框架通过双向校准目标解决了这一不匹配问题。前向KL散度训练与答案无关的先验去匹配后验,而新颖的反向KL散度同时正则化后验,防止其坍缩至与推理不相容的区域,并缓解这种“答案泄露”。我们提供了理论分析,将这种泄露形式化为先验污染,并证明我们的双KL目标能减少该泄露。我们在一个集成潜在表示的MLLM中实例化AMVL,并展示其在强基准(包括离散与潜在推理方法)上的持续优势:在复杂BLINK基准上平均得分提升+10.83,在单个推理任务上提升高达+32.00,分析结果也证实了潜在空间稳定性的改善。
视觉-语言-行动(VLA)模型在环境变化(如相机视角改变、迁移至不同但相似的机器人平台(例如从Panda机器人切换至UR5e机器人))时,常无法正确执行已习得的任务。为使这些模型适应变化后的环境(即目标域),通常需要针对每个任务收集多组演示数据进行训练,这导致采集成本高昂。为减轻数据整理与训练负担,我们提出一种基于类比的方法,通过权重向量算术运算与领域特定信息加法实现VLA模型的环境适应,称为域算术(Domain ARiThmetic, DART)。与现有方法不同,DART仅需收集单一演示数据即可实现高效适应。为准确提取用于加法的领域特定信息,DART对权重向量中的奇异分量进行子空间对齐,以滤除噪声分量。在仿真与真实世界实验中,DART在跨多种视觉与本体迁移的单次学习场景下,均优于现有VLA适应方法。代码已开源至 https://github.com/snumprlab/dart。
在大语言模型(LLM)训练中,数据混合策略对模型性能起着决定性作用。现有方法通过代理模型优化混合权重,但这类方法假设数据分布保持静态。当底层数据池发生变动时,这些方法需要从头开始重新训练,成本高昂。这一局限性阻碍了其从小规模设置向更大规模数据池和模型尺寸的无缝扩展。本文提出CausalMix方法,通过将数据混合优化转化为因果推断问题来突破该限制。我们将数据池的统计特征建模为协变量,将领域混合视为处理变量。在基于512次Qwen2.5-0.5B模型运行拟合因果模型以估计条件平均处理效应(CATE)后,我们推断出适用于80万数据池的最优混合方案,并将其应用于7B模型的训练。此外,我们成功将该框架推广至Qwen3-4B-Base模型的长思维链数据。通过利用因果建模隔离混杂偏差,CausalMix能够动态推断依赖于状态的最优数据混合策略。大量实验表明,CausalMix指导的混合方案在多项下游任务中持续提升模型性能,优于RegMix及其他基线方法。同时,我们借助CATE解释器对所学混合策略进行可视化分析。总体而言,CausalMix为优化LLM数据混合提供了具有因果可解释性的框架。
传统机器人编程极具挑战性:它需要协调多模态感知、管理物理接触动力学、处理多样化的配置及执行故障。我们提出ASPIRE(通过迭代机器人探索的自主技能编程),这是一个持续学习系统,能够在“代码即策略”范式下自主编写和优化机器人控制程序,同时将经验累积为可复用的技能库。ASPIRE发现的技能跨任务、仿真与真实环境以及不同机器人形态持续有效。该系统在开放式循环中运行,包含三个组成部分:(1)闭环机器人执行引擎,提供细粒度多模态轨迹,支持自主故障诊断、修复合成和验证;(2)持续扩展的技能库,将经过验证的修复提炼为可复用、可迁移的知识;(3)进化搜索,生成多样化的任务序列和控制程序,以超越单轨迹优化的探索。ASPIRE在受扰动下的LIBERO-Pro操作任务中比以往方法高出77%,在Robosuite双机械臂交接任务中高出72%,在BEHAVIOR-1K长视界家务任务中高出32%。其累积的技能库还能实现对未见过的长视界任务的零样本泛化:在LIBERO-Pro Long上,ASPIRE达到31%的成功率,而此前方法即使采用测试时推理和重试也仅为4%。最后,仿真中发现的技能为仿真到真实迁移提供了初步证据,显著减少了在不同机器人形态和API下的实际机器人编程工作量。
细粒度视觉推理对视觉语言模型仍是挑战,尤其是当微小但关键的视觉线索隐藏在高分辨率图像中时。现有方法依赖重复裁剪或测试时视觉搜索以引入局部证据,但通常未能明确区分感知与推理。本文提出感知到推理(P2R)统一框架,将细粒度视觉推理表述为一个两阶段过程:模型首先作为感知器定位与问题相关的证据,然后作为推理器基于标注图像与裁剪区域回答问题。为进一步使训练与该解耦框架对齐,我们引入感知-推理交替GRPO(PRA-GRPO),一种角色感知的强化学习策略,仅在最终答案监督下交替进行感知聚焦与推理聚焦的更新。基于Qwen3-VL-Instruct-2B/4B/8B,P2R在多个模型规模上持续提升性能。其中,P2R-4B在V-Star上达到93.2%,在HR-Bench-4K上达到81.9%,在HR-Bench-8K上达到80.5%,大幅超越对应基线。进一步实验表明,P2R的优势不仅限于高分辨率基准,还延伸至更广泛的多模态推理任务。这些结果表明,显式解耦感知与推理为细粒度视觉推理提供了有效框架。
移动操作是实现通用型机器人的关键能力,但对于当前的具身学习方法而言仍极具挑战性。视觉-语言-动作(VLA)策略通常是被动的,缺乏显式的世界建模,而现有的世界动作模型(WAM)在移动操作的结构对齐方面仍存在明显不足:它们以粗糙的视频片段为单位运行,将导航与操作动作纠缠建模,并在与自回归推理不匹配的监督下训练逆动力学模型。因此,这些模型往往缺失细粒度的接触动力学信息,面临动作分布冲突问题,并在长时程执行中累积误差。我们提出ABot-M0.5,该新WAM基于以下洞察构建:移动操作需要在三个层次实现对齐——时间粒度、动作空间以及训练与测试一致性。为对齐时间粒度,我们引入中间潜在动作,捕捉局部视觉状态转移,并作为视频潜在表示与具身特定控制之间的桥梁动作空间。为对齐动作空间,我们设计了一种双层混合Transformer架构,将模态表征与异构动作子空间(如基座移动与手臂操纵)进行解耦。为对齐推理条件,我们提出“梦想强制”训练策略,在模型预测的视频上逐步训练逆动力学模型,从而提升自回归预测中的训练-测试对齐性与鲁棒性。在具有挑战性的移动操作与细粒度操作基准测试上的实验表明,ABot-M0.5在长时程任务成功率与细粒度控制精度上均达到最先进水平。这些结果突显了粒度对齐、动作解耦与推理一致性在世界-动作建模中的关键重要性。
训练语言模型(LM)仍然是一个高度依赖人力的过程,即使前沿语言模型代理在软件工程及其他长周期任务中能力日益增强。核心挑战在于,自主后训练不仅仅是编码问题:它要求代理反复规划迭代、构建与基准对齐的数据、运行稳定的训练任务、评估检查点,并在数小时的交互过程中保存实验状态。我们提出 AutoTrainess,这是一个语言模型代理,它将上述操作暴露为代理-计算机接口的仓库,用于规划、数据准备、训练、评估和日志记录。AutoTrainess 并非让代理在原始命令行界面环境(CLI)中操作行动空间不明确的任务,而是将先前的人类经验外化为明确的工作流、规则和执行约束,引导代理实现有效且可靠的训练行为。在 PostTrainBench 上,AutoTrainess 持续优于仅使用 CLI 的基线,在 GPT-5.4 (Codex) 上获得 26.94 的平均分数,而 CLI 基线仅为 23.21。它还跨模型和工具集实现泛化,将 DeepSeek-V4-Flash (OpenCode) 的分数从 12.13 提升至 19.58。
Transformer使用相同的前向计算流同时完成两件事:预测下一个token以及为未来的token预测存储有用状态。我们提出了状态-预测分离假说:将这两个角色解耦能够带来更好的语言建模性能。我们设计了一种基于双计算流的Transformer变体,以分离这两个功能,并在不同规模上进行了预训练实验。实验结果表明,状态-预测分离能够持续提升数据与计算效率,降低验证损失,并在下游任务上平均优于标准Transformer 2至3个百分点。我们还开展了广泛的实证分析,排除了潜在的混淆因素,并证明了我们设计所引入的梯度本质差异。
生物医学研究人员越来越多地使用人工智能生成的分析和报告来解释蛋白质水平信号,但静态输出通常不足以支持研究决策,用户需要检查证据、评估不确定性、比较机制并完善假设。我们提出了BioInsight,这是一个多智能体系统,将静态的生物医学报告生成转变为以证据为中心的交互式界面生成。给定疾病名称、蛋白质关联表以及可选队列元数据,BioInsight通过类型化的中间产物组织疾病特异性证据,包括排序通路、文献证据包、蛋白质水平推理笔记、基于引用的报告、仪表盘模式以及渲染后的交互式界面。该系统将证据检索与机制推理分离,通过确定性组件对引用进行标准化,并将报告中使用的相同结构化证据转化为交互式界面。我们在标准生物医学问答、具有挑战性的蛋白质功能推理以及端到端生物医学证据合成任务上评估了BioInsight。结果表明,BioInsight取得了最佳性能,并提示生物医学AI系统应超越纯文本和静态报告,转向保留溯源并支持交互的证据产物。
世界模型能够实现模型预测控制(MPC),但这需要动态预测既足够快速以支持在线使用,又足够灵活以表征不确定的未来。扩散模型为建模不确定动态提供了天然机制,但其迭代推理过程使其难以用于低延迟的潜在规划。我们通过价值扩散世界模型(Valdi)弥合了这一差距,将端到端在线训练用于MPC与潜在扩散动态模型相结合。在CarRacing环境的初步实验中,我们展示了Valdi在训练和推理时仅使用单步扩散,便能与确定性MLP基线表现相当。实验揭示了该框架中预测多模态性与控制性能之间的权衡。代码见https://github.com/Kit115/ValueDiffusionWorldModels。
轻量级机器学习模型因其适合资源受限的边缘部署环境,被越来越多地用于工业物联网(IIoT)网络入侵检测。然而,现有报告大多仅在其训练网络内评估这些模型,未验证其在未见网络上的表现。本研究在某个IIoT数据集上训练了四种轻量级架构,并在不重新训练的情况下,采用仅包含三个数据源共有属性的特征表示,将其应用于两个结构不同的IIoT数据集。对两个表现最优模型的解释性分析表明,两者均过度依赖粗粒度端口类别特征;其中影响最大的类别在源域攻击流量中的出现频率是目标域中的96至435倍,这表明细化端口分辨率只是转移而非消除了已知的捷径特征。在自然类别不平衡分布下的评估揭示了另一效应:所使用的评估协议可能导致对哪个目标网络构成更大泛化挑战的判断发生逆转。此外,本文还评估了对抗鲁棒性以及通过有限目标域暴露实现的恢复能力;对抗扰动的鲁棒性与跨网络泛化性无关,且通过自适应恢复的能力因架构不同而差异显著。这些发现表明,应当基于真实类别分布下的跨网络评估来判定部署准备程度,而非仅依赖域内准确率。
仓库级别的性能优化基准测试(如GSO、SWE-Perf和SWE-fficiency)通过将补丁应用于真实仓库,并将运行时间与未优化的基线和官方参考补丁进行对比,来评估编码代理。其排行榜分数越来越多地被用作编码代理进展的证据,但这些分数可能混淆运行时的不稳定性、特定基准测试的评分规则,以及已有多个任务被至少一个公开提交解决的情况。我们对这三个基准测试进行了审计。首先,我们在四种常见的谷歌云机器上重放了740个代码优化任务的官方参考补丁。大多数基准测试任务可以重放,但只有39/102个GSO任务、11/140个SWE-Perf任务和411/498个SWE-fficiency任务满足原始基准测试的有效性规则(在所有跨机器重放中);SWE-Perf尤其脆弱,因为许多参考补丁产生的运行时间变化接近零。其次,我们表明公开提交的排名强烈依赖于基准测试评分规则。在GSO和SWE-fficiency共享的八个公开提交中,官方排名在28个两两提交比较中有9个存在分歧,并且SWE-fficiency的排行榜评分规则将最差的十个任务分配了过高的分数权重(58.5%-82.8%)。第三,通过分析每个任务的十个公开提交,我们发现对于85.3%(384/450)的可重放GSO和SWE-fficiency任务,至少有一个提交匹配或超过了参考补丁;在99.8%(449/450)的任务中,至少有一个提交超过了未优化的基线代码。我们的研究通过识别具有更可靠性能信号的任务、量化每个任务的分数贡献、以及揭示聚合排名中隐藏的剩余性能差距,补充了排行榜分数。
加速材料发现需要能够通过多步骤、基于领域的推理生成科学有效假设的AI系统。标准大语言模型在应对开放性材料设计问题时,往往生成流畅但可追溯性较弱的回答,使得难以判断最终答案是否得到连贯中间推理的支持。我们开发了Graph-PRefLexOR,一系列图原生推理模型,采用组相对策略优化(GRPO)进行微调,将推理过程组织为明确的阶段:机制探索、图构建、模式提取和假设综合。这种设计将神经语言生成与符号关系结构相结合,使得因果连接可以构建、检查并复用。在来自材料科学和力学文献的100个开放性问题上,Graph-PRefLexOR相较于对应基础模型实现了40%至65%的提升,其中推理可追溯性的改进最为显著。嵌入分析表明,其语义探索范围更广,语义多样性约为基线的2至3倍。语义回溯和逐层隐藏状态分析进一步显示,结构化推理与最终答案之间具有更强的对齐性。最后,测试时的图扩展表明,额外计算主要增加有界语义空间内的长程概念重组,而非简单扩大语义覆盖范围。这些结果确立了图原生强化学习作为通往可解释AI系统的路径,适用于材料设计及其他科学应用中的科学假设生成。
传统的医学报告生成(MRG)评估指标主要依赖于基于表层的n-gram重叠,这无法捕捉临床事实的准确性,且常常忽略了灾难性的诊断错误。为了解决这一根本性局限,我们提出了AtomiMed——一种通用的、模态无关的评估框架,该框架将复杂的医学叙述分解为标准化、多层次的“原子临床事实”层级结构,涵盖疾病级实体和属性级描述(包括位置、形态和严重程度)。通过在真实报告与预测报告之间实现智能交叉验证循环,AtomiMed模拟了多放射科医师的同行评议过程,以验证临床一致性,从而实现对诊断检测与描述准确性的解耦评估。为促进标准化评估,我们推出了MRGEvalKit——一个用于自动化层次化提取的开源工具包,并整理了OmniMRG-Bench——一个覆盖X光、CT、MRI和超声的综合多模态基准。在多个专家标注的读者研究中进行的广泛实验表明,与传统指标及基于模型的指标相比,AtomiMed与人类放射科医师判断的相关性显著更高。我们的代码已发布在 https://github.com/Venn2336/MRGEvalkit。
尽管大型语言模型(LLMs)在表格任务中表现良好,但它们仍会出现数据引用错误(DREs),即在理解表格结构的前提下,错误引用或遗漏表格中的数值。除了影响最终答案的准确性外,DREs还会直接损害中间推理步骤的正确性和可靠性。然而,以往的研究仅提供了有限的小规模分析。在本工作中,我们首次对不同模型和任务中的表格数据引用错误进行了系统评估。结果表明,所有被测模型(参数量从1.7B到20B)均存在DREs。此外,我们证明,通过基于评判模型的过滤和拒绝采样,将数据引用作为评判标准能显著提升答案准确率,最高提升12.0%。最后,我们训练了一个轻量级4B参数评判模型,在检测分布内和分布外DREs时,平均F1分数达到78.2%,并能有效辅助更大模型的推理过程。
基准测试被广泛用于评估大型语言模型(LLM)的任务完成情况,但这种方法已积累起构建效度问题,且通过分数可能无法表明所要求的任务是否真正交付。我们针对这两个问题展开研究。在一种受控的代码即规范(code-as-spec)设定下,两个生产级Copilot CLI智能体(claude-opus-4.7、gpt-5.5)将React Fluent-UI数据表格在Angular中重新实现为可复用库,并在18次运行及三种Oracle可用性条件下使用一个隐藏的222测试Playwright Oracle。在得分之外,我们还执行了机械化的库审计,并通过无操作消融实验检查每个判定结果。在没有Oracle的情况下,得分显示该库存在但不完整;当Oracle纳入循环后,得分接近完美,但从直接包含被测行为的演示来看,该库要么已废弃要么根本不存在。我们将此现象称为"为测试而构建",其背后的更广泛倾向则称为"验证自我意识"。智能体自身并不会像用户那样对它交付的内容进行验证。在其他智能体、信号和模型系列中,这种倾向的普遍性仍是一个开放性问题。超越基准测试得分之外,诸如验证自我意识这样的倾向值得研究界关注。
幻灯片设计需要同时个性化定制的演示文稿主题和页面布局。然而,当前基于AI智能体的方法难以处理细粒度的页面级设计。这些方法完全依赖预设模板或用户冗长指令,无法捕捉潜在的设计意图,导致页面级幻灯片个性化(PSP)问题尚未解决。为填补这一空白,本文提出将PSP形式化为逆向规划问题。我们提出一种无需假设具体执行工具(如PowerPoint、Beamer)知识的设计意图学习方法。然而,放弃对这些工具的控制使得端到端优化问题变得棘手。为此,我们提出SPIRE——一种近似求解PSP的原理性框架。通过人为破坏干净幻灯片的视觉结构,SPIRE构建了一个可验证的去噪任务,使得两个智能体通过强化学习(RL)协作改进可执行设计方案。我们证明结构去噪是PSP的一致替代性方法,且多智能体公式严格降低了RL中策略梯度的方差。大量实验表明SPIRE的优越性。
尽管文本到图像(T2I)模型在生成逼真视觉内容方面取得了显著成功,但在处理科学图像所需的严格语义对齐与逻辑推理时仍存在不足。受皮尔士符号三元组启发,我们提出科学图像推理(SciIR),这是一个用于训练和评估科学图像生成的综合性资源。我们将科学推理形式化为三个核心维度:实体结构(像似符)、科学过程(指示符)和科学定律(规约符)。具体而言,为克服科学图像生成中训练数据稀缺的问题,我们精心构建了SciIR-82k,这是一个包含来自前沿出版物的8万多对高质量科学图文对的大规模数据集。该数据集根据符号维度进行分层组织,并融入了科学推理链式思维(Sci-RCoT),以显式建模底层视觉逻辑。在评估方面,我们提出SciIR-Bench,该基准与这三个符号层次对齐,并采用原子检查表将面向结果的科学准确性转化为面向过程、可验证的细粒度问题。我们的广泛实验揭示了当前模型在科学推理能力上的显著不足。此外,通过在SciIR-82k数据集上进行微调,我们开发了Qwen-Image-SciIR模型,该模型在SciIR-Bench上取得了显著进步,最终得分从35%提升至43%,为科学图像生成的未来发展奠定了坚实基础。
自主科学发现系统通过自动化假设生成与验证过程,有望加速科研进展。然而,当前系统通常运行在受限搜索空间内,或需预定义研究问题,限制了其真正开放式探索的能力。此外,尽管这些系统能迭代生成假设,但它们大多缺乏显式综合自身累积发现以揭示复杂互联现象的能力。为此,我们提出DiscoPER——一种基于大型语言模型的自主框架,它通过动态生成并执行代码来探索数据集,无需预设研究目标,从而开展开放式研究。为确保严格的科学有效性,每项提议的发现必须通过统计检验。为突破孤立搜索的局限性,该框架引入一种二阶推理机制,定期分析自身累积发现。通过将先前发现视为经验数据,DiscoPER识别结构模式、混淆因素及认知缺口,主动将假设探索导向搜索空间中未涉足的领域。通过融入工具使用,搜索空间进一步扩展——系统能够无缝处理并提取图像等多模态来源中的有用信息,从而探索超越结构化元数据的假设。我们在iNatDisco(一个从同行评审文献中获取模式级真实标注的新型多模态生态知识基准)上评估,DiscoPER以72.7%的假设支持率恢复了9个已知模式中的8个,性能优于经典因果发现和LLM引导的基线方法。消融实验表明,DiscoPER随数据量增加而扩展,并证实了二阶元反思的效益。
视觉语言数据集蒸馏(VLDD)将大规模图像-文本配对数据集压缩为一小组合成配对,从而在严格的数据和计算预算下高效训练对比式视觉语言模型。现有方法大多匹配专家轨迹或跨模态统计量,但仍需在欧几里得嵌入空间中实施全维对齐。由于图像-文本相关性存在秩亏问题,共享语义集中于低维子空间,而剩余变化散布于弱相关的残差子空间中,因此这种全维对齐往往过度严格。LoRS通过低秩分解在相似性层面放宽对齐约束,但未能显式控制表示空间中的主导对齐能力与结构。为此,我们提出一种秩感知双曲对齐方法(RAHA),将层次化几何结构与显式对齐能力控制相结合。RAHA将多模态表示提升至双曲空间,并通过非对称目标优化蒸馏配对:在共享范围内强制实施测地线对齐,同时对残差子空间进行正则化,以保留模态私有多样性并提升迁移鲁棒性。基准实验表明,在固定预算下,RAHA在跨模态检索方面具有竞争力,并改善了迁移指标。
文学作品的人工智能翻译日益普遍。尽管内容可能得到恰当呈现,但我们对读者在沉浸感和文学效果方面的体验知之甚少——这些方面是自动机器翻译指标或针对流畅度和充分性的人工评估难以捕捉的。我们请15位热衷阅读的读者,将近期出版的法语、波兰语和日语三部小说的最新人类翻译(HT)与基于智能大语言模型(LLM)流程生成的机器翻译(MT)进行对比,这些小说被译成了英语。读者对约8000词的摘录进行了两种条件下的评估:对整篇摘录的沉浸式阅读(30次对比)以及对386个对齐的HT-MT片段对的仔细阅读(772次对比),每本书由两位读者参与,且呈现顺序交替进行。总体而言,读者认为MT“尚可”,但更偏好HT(在摘录层面为19/30,稍显优势;在片段层面为522/772,更为明显),因为HT更易读、清晰且具有沉浸感。读者的标注显示,MT在一本书内的质量波动比HT更大。关键在于,读者无法可靠地区分两者(17/30次猜对),且倾向于相信自己以为是人工翻译的版本。自动评估指标(包括以LLM为裁判的方法)无法反映读者偏好,反而更偏向MT。我们发布了LAIT(文学人工智能翻译)数据集,这是一个以读者为中心的评估数据集,包含1000条读者评论、2000条判断与偏好评分,以及7200个片段级标注,同时提供了我们的评估协议和支持性界面。
本文探讨了多轮视觉推理问题,并观察到多模态大语言模型(MLLMs)在定位目标时反复失败,导致生成冗长且冗余的推理轨迹。我们将这种失败归因于推理与感知在同一模型中的耦合——MLLM同时进行推理和定位,而不准确的定位会触发额外的推理轮次,使得路径变得臃肿。针对这一问题,我们提出了PixelEyes,一种显式解耦推理与感知的多轮视觉推理智能体:推理器决定“寻找什么”,而专门的感知工具回答“在哪里”。具体来说,PixelEyes引入了以下设计:1)掩码引导的视觉搜索。调用指代分割模型提供精确到掩码的定位,使推理器无需补偿定位误差;2)语义区域广度优先搜索(BFS)。为避免反复裁剪错误子区域导致的冗余循环,我们将探索过程组织为对语义区域的广度优先搜索。为内化这些能力,我们基于现有数据重新合成专家轨迹,构建了PixelEyes-6K数据集,将掩码引导搜索和BFS逻辑显式嵌入模型中。此外,我们提出了Pinpoint-Bench——一个零提示视觉搜索基准(即问题中不提供任何位置线索),并提供实例级掩码和边界框,将定位失败与推理失败分离,从而实现对“无意盲视”等失败模式的细粒度分析。当前最先进的MLLMs和视觉推理智能体在Pinpoint-Bench上仍有较大提升空间,这验证了该基准的质量与难度。代码和模型均已开源。
经典的3D场景图生成方法由于环境映射的高计算成本以及需要生成中间点云表示,难以实现实时运行。为解决这一问题,近期研究摒弃了点云表示,转而采用轻量化的高斯分布来表征每个物体。这种近似方法大幅提升了推理速度,使实时3D场景图生成成为可能。然而,该表示存在两个关键缺陷:1)每个物体仅由单个3D高斯分布近似,导致三维几何细节严重丢失;2)这种近似与真实物体几何之间的差异,加剧了在线推理过程中物体候选的错误合并。针对上述问题,我们提出NoPA方法,将每个物体表示为独立的非参数分布。这种表述方式既能保留三维几何信息,又能维持参数化高斯公式的实时推理特性。基于这一新型物体表征,我们进一步设计了定制化合并策略以重建连续物体实例。具体而言,我们利用核密度估计的最大均值差异,在最小化计算复杂度的前提下,实现在线探索过程中物体候选的鲁棒合并。核心在于为每个物体维护固定的粒子集。此外,为修正由错误分类引起的关联损失,NoPA会传播高亲和性物体之间的关系。实验表明,NoPA在不牺牲实时推理速度的前提下,性能显著优于现有方法。
随着AI代理在复杂长程推理方面的能力不断增强,对其开展严格且全面的评估对于衡量其在真实医疗场景中的进展至关重要。我们推出HealthAgentBench,该基准包含54项医疗代理任务,涵盖7个类别,每个类别拥有独特的环境。这一基准套件覆盖了患者诊疗全流程中的多样化工作流以及广泛的模态。每项任务都旨在复现端到端的临床工作流:代理仅凭极简指令,需探索原始医疗数据,在复杂环境中操作,并执行超越简单提示的多步骤解决方案。最终报告任务成功率,为HealthAgentBench上各代理的整体表现提供一个单一、可解读的指标。在HealthAgentBench上评估前沿代理时,我们发现整体任务成功率仍然较低,凸显了该套件的难度。性能最强且最具成本效益的代理Codex GPT-5.5,其成功率仅为约42%。除了整体表现,HealthAgentBench还揭示了各任务类别中细微的优势与不足。前沿代理在基于电子健康记录数据自动开发研究建模流程方面展现出潜力,但医学影像处理仍然尤其具有挑战性,尤其对Claude Code模型而言,而Codex GPT-5.5则展现出初步能力。结合大搜索空间与组合推理要求的任务对所有当前代理来说仍然困难。这些结果共同表明,HealthAgentBench提供了一个具有挑战性且贴近现实的基准,为未来进步留出了充足空间。我们已在https://github.com/microsoft/HealthAgentBench上发布该基准。
训练语言模型进行推理的三种最流行方法,看似是三种不同的技巧,实则不然。三者均调整同一个数值:标准差,它反映一个问题提示下各采样答案的分歧程度。当训练此类模型时,每个问题会被回答多次,自动校验器标记每个答案的正确或错误。这些标记的标准差衡量分歧度:当答案在正确与错误之间均匀分布时最大,当所有答案一致时为零。组相对策略优化(GRPO)除以该数值,正确版GRPO(Dr. GRPO)去掉除法操作,而解耦裁剪与动态采样策略优化(DAPO)则丢弃标准差为零的组。每种方法都作为独立的解决方案被提出,但本文证明它们只是同一调节旋钮上的三个设定。这个旋钮并非表面功夫:对于正误型奖励,分歧度恰好等于训练更新的大小——即组标准差恒等式。分歧大的组教会模型最多,而意见一致的组则毫无贡献、归于沉默。这一结论同时指出了哪些问题最值得赋予权重,以及每个问题需要多少次尝试。本文在一个大型真实难度数据集(Big-Math)和一次受控训练实验中证实了这一直觉。看似无害的标准化步骤,实则是决定学习发生在何处、学习强度有多大的调节旋钮。
盲图像去模糊要求从复杂、未知的退化中恢复高保真细节和连贯结构。当前盲图像去模糊方法难以应对真实世界中空间变化的退化,且缺乏必要的语义感知能力来可靠区分有效纹理与伪影。为弥补这一差距,我们提出CogSENet,一种受鹰视觉系统启发的动态、语义对齐的重构框架。通过模仿鹰的主动扫视扫描,我们设计了语义驱动状态空间模块(SDSSM),利用可微路由实现语义感知的令牌重分组,从而支持条件驱动的长程依赖建模。为确保纹理和结构的物理可解释恢复,双频融合块(BFFB)通过小波变换将特征分解为高频和低频,模拟了鹰视网膜的功能分化。最后,我们从模糊图像中估计连续模糊场(CBF),并将其与CLIP语义先验融合,以调节最深层的潜在特征,模拟焦点适应,从而实现空间非均匀模糊下的自适应恢复。大量实验表明,CogSENet在视觉质量和结构保真度上均优于最先进的去模糊方法,且参数量更少;同时在去雾、去雨和去噪任务上也表现出色。
在协作对话中,共同感知并不能保证共同解释。相互理解必须通过交互建立。我们研究了视觉语言模型(VLM)能否通过共同基础建立,区分对话参与者之间“可能共享”的信息与“已经共享”的信息。我们将此问题形式化为一个解释匹配任务,基于来自HCRC MapTask对话的13,077条带注释的指代表达式,并在系统性地控制对话上下文和地图信息访问的条件下评估VLM。结果显示,提供真实地图图像虽能提升整体性能,但会导致模型过度预测对齐倾向。相同地图内容的文本描述重现了该偏差,而无关信息的图像则完全抑制了对齐预测,表明该偏差源于与任务相关的地图内容,而非视觉通道本身。这种性能提升是以牺牲非对齐案例上的准确率为代价的。校准分析与指代链追踪进一步表明,模型依赖地图上的静态指代线索,而非追踪对话中共同基础如何通过交互逐步建立。这些模式在Qwen3-VL-8B-Instruct中最为明显,并在来自两个架构家族的其他四个模型中以不同程度显现。在表现出该偏差的模型中,无论是视觉还是文本形式呈现的地图内容,都被视为相互理解的证据,从而混淆了潜在共同基础与已建立的共同基础。
人们过度思考,语言模型则过度采样,而额外的努力往往会让双方都得出更差的答案。推理系统通过多次采样(即测试时扩展)来回答难题,采样次数越多,正确答案出现的频率就越高,因此覆盖率(即至少有一次正确尝试的问题比例)随之上升,看似取得了进展。但实际部署的系统必须返回一个答案——在不知道哪次尝试正确的情况下选择答案的过程,这便是“选择”。选择存在上限,一旦超过某个临界点,额外的样本只会让模型更确信自己的错误答案,同时每次采样都在增加成本。覆盖率的提升与选择的停滞之间存在的差距,即“可辨识性差距”,指的是模型能够生成但无法挑选出的正确答案。因此,真正的问题不在于是否采样,而在于采样到何种程度。答案是:不宜过多。在挑选答案时,投票结果往往在几十次采样内就已定型,达到“模态上限”;而在基准测试评分时,这一临界点会更早出现,即“相关性上限”。超出该限度后,额外采样不仅消耗算力、毫无增益,甚至可能导致答案更差。本文将此临界点转化为一个单一数值——有效采样数,任何采样过程都能直接揭示这一数值。真正的瓶颈在于识别正确答案,而非生成它。