每日精选AI研究论文及翻译
LLM智能体被期望通过多轮交互,使用搜索、浏览界面和终端工具来完成用户目标。然而,并非所有目标都能在现有环境中得到明确定义或实现。在这种情况下,一个可靠的智能体应当认识到进一步的交互难以奏效,并放弃调用额外的工具。我们提出了"智能体自主放弃"(Agentic Abstention)这一概念,即智能体在不确定性下决定何时停止行动的问题。与通常被评估为单轮"回答或放弃"决策的标准LLM自主放弃不同,智能体自主放弃是一个序列决策问题:智能体在每一轮中可以回答、放弃或收集更多信息,而放弃的需求可能只有在与环境交互后才变得明确。我们在网络购物、终端环境和问答任务中研究了这一问题,评估了13个LLM智能体系统和2个智能体脚手架在超过28,000个任务上的表现。结果表明,主要挑战不仅在于智能体能否放弃,还在于它们何时放弃。有些智能体在应当放弃时从未放弃,而另一些则在进行了大量不必要的交互后才放弃。这种差距在那些指令看似可行但环境最终揭示其不可行(例如,没有有效结果匹配指令)的任务中尤为明显。我们进一步发现,模型规模、推理能力和智能体脚手架以不同方式影响自主放弃,其中更大或更强的模型有时在及时放弃方面表现更差。最后,我们提出了CONVOLVE,一种通过将完整交互轨迹蒸馏为可复用的停止规则来改善智能体自主放弃的上下文工程方法。在WebShop上,CONVOLVE在不更新模型参数的情况下显著提高了及时放弃率,将Llama-3.3-70B的及时召回率从26.7提升至57.4。我们的数据集和代码可在 https://lhannnn.github.io/agentic-abstention 获取。
流媒体视频编辑技术虽已取得快速进展,但其实际部署仍受两大核心问题制约:如何长期维持稳定背景与非编辑区域的连贯性,以及如何实现实时交互场景所需的低延迟。与此同时,现有流媒体视频生成方法多针对合成任务开发,因需严格保留原内容并进行区域特异性控制,难以直接应用于编辑场景。本文提出一种全新的流媒体视频编辑框架,以因果、逐帧编辑方式实现强内容保持与实时响应。其核心设计是一种三阶段蒸馏流程,将强大的双向基础模型编辑能力逐步迁移至高效单向流媒体编辑器,在确保视觉保真度的前提下实现稳定长程编辑。为支撑实时部署,我们进一步引入面向增强现实的掩膜缓存机制,跨帧复用区域相关计算,显著减少冗余处理并加速推理。最后,我们为流媒体视频编辑建立了专用基准测试集。大量评估表明,本方法在流媒体基线中实现最优视觉质量,同时将推理速度大幅提升至12.66帧/秒,适用于交互式与增强现实应用场景。
我们提出了Agents-A1,这是一个35B参数的混合专家代理模型,通过扩展代理视野达到万亿参数级别的性能。我们从两个角度研究代理视野缩放:扩展长程轨迹和扩展异构代理能力。为此,我们构建了一个长程知识-行动基础设施,连接外部知识、行动、观察和验证器结果,生成的代理轨迹平均长度为45K tokens。基于此,我们采用三阶段方案训练Agents-A1。首先,进行全领域监督微调,使基础模型与广泛的代理行为对齐。其次,训练领域级教师模型以捕捉每个领域的专业专长。第三,我们提出一种多教师领域路由在线蒸馏方法,结合显著词汇对齐,以提高跨领域知识迁移效率,将六个异构领域统一成一个可部署的学生模型。Agents-A1在长程代理基准测试中实现了强大而广泛的性能。与万亿参数模型如Kimi-K2.6和DeepSeek-V4-pro相比,Agents-A1在SEAL-0 (56.4)、IFBench (80.6)、HiPhO (46.4)、FrontierScience-Olympiad (79.0)和MolBench-Bind (56.8)上取得领先结果,并在SciCode (44.3)、HLE (47.6)和BrowseComp (75.5)上保持高度竞争力。我们希望这项工作为社区提供一条实用路径,即使用35B代理通过扩展视野达到或匹配万亿参数模型在长程任务上的性能。
随着大语言模型和相关框架的持续进步,运行在终端中的智能体正日益具备执行编码任务之外更广泛的通用计算机使用能力。然而,现有基准测试未能充分评估通用终端计算机使用智能体(TUA):通用计算机使用基准主要针对图形用户界面(GUI),而基于终端的基准则主要侧重于历史上与命令行紧密相关的技术和编程工作流程。我们引入了TUA-Bench,这是一个面向终端使用智能体的通用基准测试。TUA-Bench包含五个任务族中的120个真实世界任务,涵盖日常数字活动——包括文档编辑、电子邮件管理和实时网络信息检索——以及与博士级领域专家共同设计的、需要专业软件支持的科研与工程工作流程。这一广度使TUA-Bench区别于以往专注于命令行或特定领域的基准测试。每个任务均为人工设计,在一个配有确定性设置脚本的真实终端中运行,并通过基于执行的评分协议进行评估。我们发现,最强的前沿智能体——使用最大推理努力的Claude Code(基于Claude Opus 4.8)——取得了65.8%的整体性能,在两条轨道上均存在显著差距。通过提供对终端使用能力的广泛且真实的评估,TUA-Bench旨在推动从狭窄、特定任务的助手向能够在多样化数字环境中可靠运行的通用智能体的转变。
为降低大语言模型推理过程中的内存消耗,已有少量方法被提出用于KV缓存剪枝。尽管这些技术能在许多数据集上实现无损内存压缩,但它们通常依赖于一个尚未被充分强调的条件:即需预先设定一个输入/领域特定的KV缓存预算阈值,才能达到最优性能。然而,这种输入敏感的设计在实际场景中可能受到显著限制,因为开放领域的输入涵盖不同领域、长度和难度级别,阈值选择缺乏明确边界。因此,这种对输入敏感阈值的依赖可能成为根本性局限,导致任意输入的性能大幅下降。在本工作中,我们提出一项新目标,旨在解除稳健KV压缩中的阈值约束,倡导采用"无阈值"方法,在保持完整缓存性能的同时自适应调整预算分配。随后,我们提出一种创新方法ReFreeKV,作为该目标的首个实例化方案。在涵盖不同上下文长度、任务类型和模型规模的13个数据集上进行的广泛实验,验证了其有效性与高效性。我们的代码已公开于https://github.com/Patrick-Ni/ReFreeKV。
近年来,面向表格数据的预测性机器学习基础模型已在学术界和工业界引起广泛关注。各学科研究群体正日益在多样化的数据集和任务上对这些表格基础模型进行评估。然而,由于基准测试软件与评估协议分散割裂,这些针对特定任务和学科开展的评估对模型研究人员而言仍难以触及。因此,模型研究者只能依赖标准基准测试,而这些基准测试大多针对表格基础模型已表现优异的任务设定,导致最具挑战性的场景被排除在外。这使得领域进步局限于在独立同分布数据上追求边际改进,而无法聚焦更广泛、更艰巨的挑战。为突破这一瓶颈,我们提出BeyondArena——首个针对表格数据的统一全局基准测试,它支持多样化的任务类型(独立同分布、时序、分组),覆盖不同样本量与特征维度规模,包含来自广泛学科领域的多种特征类型(含文本特征、高基数特征)。为实现超越标准基准的统一评测,我们引入Data Foundry——一个用于整理预测性机器学习表格数据集的Python框架与元数据模式。基于11个模型与142个整理数据集的结果显示,现有表格基础模型在小型至中型独立同分布数据上表现优异,而传统基于树的模型与深度学习模型仍在非独立同分布、大规模及高维数据集上占据主导地位。BeyondArena引导模型研究聚焦表格数据中最具挑战性的难题,推动真正基础性表格模型的进步。
物理交互遵循长尾分布:一组常见且规律的交互主导了人类经验与视觉数据,而广泛多样、罕见且不规律的交互则未得到充分呈现。尽管当前的视觉世界模型(包括图像与视频生成模型)在现有基准测试中展现出惊人的逼真度,但它们主要聚焦于模拟常见的物理交互。这引出一个核心问题:当前的视觉世界模型是否真正内化并泛化了物理原理?在本工作中,我们提出了Tailor-Bench基准,旨在挑战世界模型模拟不规律物理交互的能力。为便于系统评估,我们设计了三种逐步挑战模型推理能力的场景模式:常规场景(Regular)反映常见的工具-任务组合;非常规场景(Unconventional)用属性兼容的替代工具替换传统工具,以测试功能泛化能力;不可能场景(Impossible)则引入违反属性的工具,以探究约束感知能力。此外,我们在统一的评估协议下设计了两种互补设定:预测生成要求在无引导下推断结果,而描述生成则指定目标结果,要求模型忠实实现。实验结果表明,物理世界建模中存在明显的长尾鸿沟:模型性能从常规场景到非常规场景再到不可能场景逐步下降,表明其在常见交互之外的泛化能力有限。失败分析进一步揭示,模型依赖于表面视觉模式:图像模型无法实现正确的状态变化,而视频模型还受限于时间不一致性。
近年来,多模态大语言模型(MLLMs)的研究热潮引发了一个核心问题:它们能否对动态视觉证据进行推理,而不仅仅是识别单帧图像中的物体或事件?我们将这种能力称为视频时序逻辑推理,它要求模型能够随着视觉状态在帧间的演变,维持、更新并组合证据。现有的视频基准测试常将这种能力与场景复杂性、静态识别或不受控的时间变化混为一谈。为了孤立地评估这一能力,我们提出了Video-MME-Logical——一个围绕五种时序逻辑操作构建的受控基准:状态追踪、顺序计数、时间排序、动态空间性和结构组合。该基准包含25个细粒度任务类别,通过受控的对象状态、状态转换、时间依赖关系和逻辑组合生成。它通过改变时间跨度和推理复杂度,支持难度可控的最终答案评估,并通过验证模型在给出最终答案前是否恢复了所需的逻辑推理轨迹,支持中间状态诊断。对最新MLLMs的实验显示,人类与模型之间存在显著差距,尤其是随着时序逻辑复杂度的增加。基于多达50万个生成样本的监督微调虽然提升了性能,但不足以弥合推理差距,这使得Video-MME-Logical成为分析和改进MLLMs时序逻辑推理能力的可扩展测试平台。
同策略蒸馏(OPD)通过引导学生在其自身轨迹上依据教师反馈进行训练,在大语言模型(LLM)后训练中日益重要。然而,与强化学习(RL)类似,OPD面临同策略系统瓶颈——对于推理任务,轨迹生成可能占据训练时间的主导地位。异步训练流水线通过将轨迹生成与学习器更新解耦可缓解该瓶颈,但这会引入陈旧策略数据。虽然已有工作研究了异步RL中的陈旧数据问题,但其在OPD中的影响仍鲜有探索。本文首次系统研究异步OPD中的陈旧性问题,重点关注一种实际场景:教师反馈通过局部KL散度实现,且全词汇教师logits的存储或传输成本过高,需使用有限教师评分缓存。我们首先证明,KL散度方向会改变陈旧数据问题的性质:教师加权前向KL对陈旧轨迹更鲁棒,而学生加权反向KL则较脆弱。其次,针对这种脆弱的反向KL情况,我们考察了为稳定异步RL而设计的方法能否缓解OPD的陈旧性。实验中,这些方法并未优于更简单的OPD专用替代方案——在学习器端利用当前学生重新计算反向KL信号。第三,我们分析了有限教师评分缓存如何对稀疏和采样反向KL OPD估计器产生偏差-方差权衡,这推动采用多样本蒙特卡洛(MC)方法——在降低单样本方差的同时保持MC可纠偏特性。最后,我们提出并开源AsyncOPD——基于上述估计器选择构建的完全异步OPD训练流水线。实验表明,AsyncOPD将训练吞吐量提升至严格同步训练的1.6至3.8倍,同时达到可比精度。
视频理解是多模态智能的基本能力,近期多模态大语言模型(MLLMs)在视频问答(VideoQA)基准测试中取得了卓越性能。然而,现有基准主要评估模型能否感知浅层视觉线索,鲜少检验MLLMs能否从视频教程中学习深层知识或程序性技能,并将其泛化至下游长时程智能体任务。为弥补这一空白,我们提出VG-GUIBench(视频引导的图形用户界面基准测试),这一新型基准专门用于评估基于MLLM的GUI智能体是否能遵循视频教程完成相应的GUI交互任务。此外,我们观察到模型在视频问答和视频引导的智能体任务上的表现关键取决于有效的关键帧提取。基于这一发现,我们提出TASKER(任务驱动且场景感知的关键帧搜索算法),该算法联合考虑任务相关性和场景动态性以提取信息帧。实验结果表明,TASKER在视频问答和视频引导的智能体任务基准上均实现了显著性能提升,在EgoSchema完整集和NExT-QA数据集上分别比最优基线高出2.0%和1.8%。这些结果进一步凸显了通用关键帧提取方法在视频理解任务中的潜力。我们的代码和数据详见https://github.com/VG-GUI-TASKER/VG-GUI-TASKER。
现代大规模LLM预训练得益于流水线并行的应用,但同步实现会导致流水线气泡期间GPU空闲,造成计算资源浪费。异步流水线并行消除了这些气泡,以梯度陈旧性为代价最大化吞吐量。在异步调度方案中,PipeDream-2BW尤为引人注目:不同于原始PipeDream调度,它能够确保梯度延迟恒定为单步,与流水线深度无关。然而,由于普遍认为在陈旧性条件下优化本质上不稳定,该方法的采用仍十分有限。本文挑战这一假设,证明单步延迟下的性能退化主要取决于优化器选择,而非固有局限性。我们首次提供了全面的实证分析,表明尽管PipeDream-2BW提出时的主流优化器AdamW确实遭受严重退化,但近期方法(如Muon)在单步延迟下展现出强鲁棒性。我们引入了一种与优化器无关的、基于误差反馈的修正方案,以进一步缓解延迟影响。我们提供了支持性理论分析,证明了Muon在有无该修正下的收敛性。针对多达100亿参数模型的广泛评估证实,我们的策略弥合了与同步训练的性能差距,突显了异步流水线并行在大规模场景下的实际潜力。
不同的实时语音应用对延迟预算有着严格的要求,通常需要为每种场景单独训练增强模型。本文提出了一种实时通用语音增强模型,能够同时显式控制算法延迟和计算延迟。通过可配置的前瞻帧数灵活调整算法延迟,为避免因不同填充配置导致的学习效率低下问题,我们引入了对应不同前瞻设置的并行卷积层。计算延迟通过早停机制实现控制,允许在不同网络深度进行推理。为缩小专用模型与灵活模型之间的性能差距,我们提出了一种包含共享到多解码器过渡的两阶段训练策略。总体而言,该框架使得单个模型能够在不同延迟预算下部署,无需重新训练独立模型。
近年来,3D高斯泼溅在新视角合成领域取得了前所未有的成功。然而,高阶球谐函数带来的庞大推理与存储开销成为移动平台的主要瓶颈。本文提出Flux-GS——一种面向资源受限移动平台、可实现高保真渲染并显著降低开销的实时高斯泼溅方法。我们首先提出蒙特卡洛镜面能量聚合器,通过采样三阶辐射残差并将镜面能量压缩至紧凑隐空间。该方法能在无需高昂蒸馏或预训练的情况下,有效保留低阶频段中视觉显著的照明特征。为弥补压缩过程中损失的高频细节,我们引入属性自适应球谐增强模块:该模块基于高斯固有属性预测高斯感知偏移量,在推理前增强一阶球谐表示,且不增加额外推理成本。此外,原始单视图梯度驱动致密化策略易产生过量高斯体并导致特定视角过拟合。我们通过提出多视图α驱动致密化与剪枝策略解决上述局限,借助多视图引导确保结构一致性并精确移除冗余基元。大量实验表明,Flux-GS在保持竞争力视觉质量的同时实现大幅参数压缩,为移动端实时渲染提供了稳健且可扩展的解决方案。代码:magenta{https://xiaobiaodu.github.io/flux-gs-project/{https://xiaobiaodu.github.io/flux-gs-project/}}。
具身多模态模型通过代码对图像执行多样化操作,并基于返回的视图进行推理,这成为细粒度视觉问答的有效范式。然而,代码操作可能是有用的、冗余的或具有误导性的。仅依赖结果奖励无法精确区分这些情况,而现有的过程奖励要么无法将最终正确性归因于单个工具调用,要么需要外部评判模型。为解决这一问题,我们提出工具增强信用优化(TACO),这是一种基于两个耦合优势通道的GRPO变体,专为代码工具代理设计。第一个通道是差分答案探测奖励(DAPR),这是一种自监督、无需评判模型的工具贡献优势,通过工具自身对正确回答的影响来评估每次调用的信用。在模型推理中插入探测标记,可分别获取工具存在与缺失时的预测结果,并将结果奖励的差值作为该调用的价值:有用调用为正,误导性调用为负,无影响调用为零。该方法复用了现有答案验证器,无需辅助评判模型,且由于采用差值而非绝对探测分数,自然能抵御探测攻击。第二个通道是通过结果门控优势路由(OGAR)分配的最终答案结果优势:这是一种无参数规则,根据工具调用的结果状态,仅将信用分发给负责的片段,从而在不引入任何成本项的前提下抑制无效工具调用。我们通过两阶段SFT+RL流程训练TACO。在感知、推理及通用多模态基准上的大量实验表明,该方法能持续提升准确率,并学会仅在必要时调用工具。
现有计算机使用基准无法捕捉真实计算机使用的现实性、复杂性和长时域需求,限制了其揭示前沿智能体局限性的能力。我们推出OSWorld 2.0基准,包含108个涵盖日常与专业任务的长时间计算机使用工作流,旨在捕捉复杂且具挑战性的真实世界现象。每个任务代表一个真实端到端工作流,人类用户完成其中位时间约1.6小时,而使用最大思考能力的Claude Opus 4.7平均需调用318次工具(OSWorld 1.0中约30次)。OSWorld 2.0聚焦于真实工作流中常见但此前基准未充分体现的挑战性现象,涵盖交互设计挑战(如流式交互与动态环境)以及智能体模式挑战(如跨源推理、隐状态推断与视觉空间精度)。任务基于真实输入工件,并与有状态用户画像数据进行交叉参照,同时包含独立的安全报告以审计安全敏感的执行过程。在我们500步的主二值完成度指标下,采用最大思考与批量工具调用的Claude Opus 4.8表现最佳,但仅完成20.6%的任务(部分得分54.8%);GPT-5.5令牌效率远高于前者,但得分停滞在13%附近。这些结果表明,当前智能体距离专业级计算机使用仍相去甚远:它们并非在基本图形界面控制或编码上出错,而是会丢失约束条件、忽略任务中途出现的信息、猜测而非询问用户、跳过验证,在需要恢复隐藏状态的关键任务上表现最为挣扎。
大多数编码智能体基准测试是静态的:智能体预先接收完整的任务描述,并且仅根据其最终代码进行评判。而真实的编码辅助是交互式的,用户会在多轮对话中明确目标、添加约束并纠正错误。我们提出了 SWE-Together,这是一个从真实用户与智能体编码会话中重构的多轮基准测试。为了使真实交互可验证,我们从11,260个记录的会话中精选出109个仓库级任务,选取那些具有可恢复仓库状态、清晰用户目标和可观测结果的会话。为了在不同的智能体间重演这些交互,我们构建了一个基于反应式大语言模型的用户模拟器,该模拟器保留了原始用户的意图,并在编码智能体进展需要时提供反馈。为了评估作为协作者的智能体,我们同时衡量最终仓库的正确性以及交互过程中所需的纠正性反馈轮次数量。与前沿编码智能体的实验表明,更强的智能体通常能达到更高的最终成功率,同时需要的干预次数更少,这表明用户体验得到了改善。
语音语言模型(SLM)已被广泛研究,其常见范式是整合文本数据和预训练文本语言模型。一种主流方法是语音文本交错,即模型在包含语音和文本令牌的序列上进行训练,旨在提升甚至仅依赖语音的能力。然而,这两种模态在模型隐空间中的交互方式仍不明确。本研究通过logit透镜的视角,对来自不同模型族和规模的交错语音文本语言模型进行分析,以提供相关见解。我们发现,这些模型经历了一个隐式转录阶段——在此阶段中,口语词汇对应的文本令牌可在中间层被解码,尽管模型并未接受语音识别训练。在多达77%的数据中,该词汇的转录结果会出现在前几位候选词中。在此阶段之后,模型在文本空间中预测下一个单词,然后再转换回语音域。最后,我们分析了交错数据和文本语言模型初始化在引发这一行为中的作用,并探讨了该行为与口语知识能力的相关性。我们的分析揭示了语音与文本模态之间关系的内部机制,可能为SLM优化提供指导。
数据作为现代智能的基础基质,极大推动了当前基础模型的发展。研究者们自然希望将这一范式拓展至图形用户界面(GUI)代理领域,试图通过类似范式构建强大的GUI代理。然而,GUI代理数据无法直接从互联网获取,导致其规模化采集成本高昂且困难重重。因此,当前GUI代理面临跨设备泛化能力弱、细粒度界面元素视觉定位能力不足等困境。为应对GUI代理中的数据挑战,我们提出GUICrafter——一种利用海量无标注截图大幅降低对昂贵人工标注依赖的弱监督GUI代理。GUICrafter探索了通过两个递进阶段训练GUI代理的课程学习框架:首先,模型从大规模无标注截图和网页中学习视觉定位,利用GUI交互中蕴含的丰富上下文信号实现无需人工标注的学习;随后在第二阶段,我们借助少量高质量数据通过强化学习对模型进行校准。实验表明,GUICrafter在仅使用UI-TARS系统0.1%数据量的情况下,即可达到甚至超越该先进系统的性能。此外,在相同标注数据量下,GUICrafter全面超越GUI-R1等此前所有方法。相关代码、数据及模型已开源至https://github.com/fansunqi/GUICrafter。
我们推出DreamForge-World 0.1预览版,这是一个用于实时交互世界模拟的预览级基础世界模型。该系统采用了LongLive 1自回归视频堆栈(其本身源自Wan2.1-T2V-1.3B),并引入了受Matrix-Game系列启发的残差动作路径。DreamForge-World 0.1预览版聚焦于与前沿规模世界模拟器互补的维度:低计算量适配、消费级GPU运行时以及广泛的交互能力覆盖。它支持实时键盘鼠标控制、多模态初始化、流中重提示、双视角操作,并在原生480p分辨率下实现分钟级交互式滚动,在单块RTX 4090上以低内存占用达到每秒14至15帧。通过利用开放视频主干网络并执行定向适配运行,我们以高成本效益构建了该预览系统。DF-World 0.1预览版尚非记忆完整或前沿质量的世界模拟器,但展示了一条在消费级GPU上实现实时可控世界模型预览的实用低计算路径。
尽管图像抠图技术取得了显著进步,但视频抠图仍面临挑战,这源于高级跟踪(需要逐帧理解)与低级抠图(专注于极其精细的细节)之间的固有差距。现有方法依赖昂贵且范围狭窄的视频抠图数据集,这可能限制跨域泛化能力并削弱跟踪的鲁棒性。我们通过SAM2Matting重新思考了这一范式——这是一个从跟踪到抠图的框架,将VOS跟踪器提升为高保真视频抠图系统。具体而言,该框架通过为基础跟踪器(例如SAM2、SAM3)配备区域提议桥接模块和专用抠图头,将任务解耦,使得不受妥协的跟踪器能够处理时间一致性,而抠图组件则负责解析精细细节。值得注意的是,尽管仅在图像上训练,SAM2Matting在视频抠图任务上树立了新的最优性能,支持多种提示类型,保持强时间一致性,并在以人为中心和野外场景中均展现出强大的泛化能力。
归一化流(NFs)是强大的生成模型,能够进行精确的密度估计和采样。然而,其严格的逆变换特性常迫使模型将能力消耗在低层次的像素细节上,从而阻碍对高层语义结构的捕捉。尽管掩码图像建模(MIM)在表示学习领域表现卓越,但其与生成管线的集成仍大多呈模块化且彼此割裂。本文提出MIMFlow,一种统一的端到端框架,联合优化潜在语义、像素重建和生成流。通过采用VAE编码器从掩码图像中推断语义潜在变量,MIMFlow实现了生成任务的原则性解耦:归一化流专注于建模简化的低频语义流形,而专用解码器负责高频合成。该设计有效解决了NFs固有的容量瓶颈,使模型能够优先关注全局结构一致性而非冗余噪声。在ImageNet 256×256上的实验结果表明,MIMFlow-L达到了71.3%的线性探测精度和2.50的FID值。尽管仅使用128个标记(比标准模型少50%),其性能相比同等规模的NF基线仍提升了32.8%。我们的代码开源在https://github.com/MCG-NJU/MIMFlow。
时间序列预测研究正持续转向更大型的架构——从专用Transformer到通用基础模型——其假设是模型容量决定了预测精度。我们持相反观点:通过优化预处理而非扩大模型规模,能够在极低成本下弥合大部分性能差距。我们采用岭回归作为测试平台,因其具有闭式解和可解释的权重,允许直接从搜索过程读取最优超参数。我们在八个标准基准上对上下文长度、局部归一化、正则化和数据增强进行搜索,发现了三种模式。(1)最优回溯长度具有强烈的序列特异性,且通常随预测步长呈非单调变化——拟合的幂律指数从ETTm2数据集的+0.46到Exchange和Traffic数据集的-0.19,挑战了"更长预测步长需要更长历史数据"的传统观点。(2)将归一化应用于所学到的上下文尾部比例(而非整体上下文)几乎普遍更优。(3)同一数据集内的序列对超参数偏好各异;跨序列共享的最优程度从完全共享到完全独立不等。由此得到的模型在大多数数据集-预测步长组合上超越了以往的线性预测器,并在八个基准中的六个上超过了Transformer、MLP和CNN基线。优化后的超参数还可作为数据本身的诊断工具,揭示出大型模型在训练过程中默默吸收到参数中的结构特征。
我们提出了Nemotron-Labs-Diffusion-Image,这是一种用于高分辨率文本到图像合成的最新掩蔽离散扩散模型(MDM)。与先前在掩蔽图像生成方面的工作相比,Nemotron-Labs-Diffusion-Image解决了两个关键挑战。首先,与在整个图像上逐步细化潜在表示的连续扩散模型不同,标准MDM缺乏自我修正能力,因为离散标记一旦被取消掩蔽就无法修改。其次,尽管增加离散图像分词器的词汇量可以提高重建保真度,但由于每个标记的训练信号变得日益稀疏,这给生成建模带来了优化困难。为应对第一个挑战,Nemotron-Labs-Diffusion-Image引入了一种标记编辑机制,使模型能够在推理过程中动态修改已取消掩蔽的标记,类似于雕刻家不断完善其作品。为解决第二个挑战,我们提出了一种分组交叉熵(GCE)目标函数,该函数为嵌入空间中邻近真实值的标记分配正向学习信号,从而缓解信号稀疏性问题。为进一步提升训练效率,我们为GCE实现了一个自定义融合算子,显著减少了大词汇量场景下的显存占用。实验结果表明,这些创新显著提升了掩蔽离散图像生成器的训练效率和图像保真度,在GenEval上达到0.90分,DPG上为86.9分,HPSv3为10.76分。
数学知识围绕陈述及其依赖关系组织,但这种结构的呈现并不均匀:非正式论文大多在文档层面进行引用,而形式化库则记录更小数学领域的细粒度依赖关系。我们引入TheoremGraph,这是一种统一的陈述级依赖关系图,涵盖非正式和形式化数学。在非正式方面,我们解析了来自数学arXiv的1170万个类定理环境,恢复了1830万个候选有向依赖关系,每个依赖关系由提出它的提取器标记,以便下游用户可以根据需要权衡覆盖率和精确度。在形式化方面,我们发布了LeanGraph,这是一个Lean 4细化器级别提取器,在25个Lean项目中生成了388,105个声明节点和1130万个类型化边。我们通过将生成的自然语言标语嵌入到共享语义空间中,将这两个图桥接起来,连接论文之间以及非正式/形式化边界上的相关陈述;一个LLM评估器确认了47,952个这样的匹配,其余弦下限为0.8,评估器接受率从0.8下限处的48%上升到>=0.9级别的87%。在形式化概念检索方面,我们的名称-签名表示结合图展开,在没有LM重新排序器的情况下,其Recall@10(0.775 vs 0.780)与LeanSearch v2的重新排序结果相差不到0.5个百分点。我们将数据集、提取器、HTTP API和MCP接口作为数学搜索、归因和检索增强推理的基础设施发布,可在theoremsearch.com和huggingface.co/datasets/uw-math-ai/theorem-matching获取。
LLM代理通过工具调用代表组织处理用户请求,必须遵循系统提示中规定的公司策略。现有研究将其视为防护问题——通过外部检查阻止不合规的代理行为。我们认为策略遵循是一个更广泛的问题:真实工作流程涉及多轮交互,需要显式用户确认和前置阅读,且依赖于对话内容而非单一参数值。满足这一要求需要三项能力——(i)完整的对话上下文、(ii)基于策略和当前对话的自我推理、以及(iii)针对特定对话的补救措施以引导代理的下一步操作——这三项能力在以往的防护研究中常被低估。我们提出PolicyGuard,一个子代理验证器,与代理共享对话视图,在上下文中推理策略,并为代理的下一步操作提供可操作的反馈。在tau²-BENCH航空基准测试中,针对三个供应商(GPT-5.4、Claude Sonnet 4.6、Gemini 2.5 Pro),每个设置进行四次试验,PolicyGuard将PASS4指标提升了+12.0 / +6.0 / +12.0个百分点。逐次调用分析显示,PolicyGuard在实现更高策略违规召回率的同时,拦截频率约为参数级防护的一半。
面向相机控制的世界探索的交互式视频生成系统,会逐步生成长序列的潜在视频帧,将状态转换与高频观测合成纠缠在一起。我们提出"隐式行走"(Walking in the Implicit),这是一种以场景为中心的范式,将滚动变量从帧潜在表示更改为固定长度、可渲染的隐式状态,称为神经隐式场景(NIS)。该范式将交互式生成分解为紧凑场景状态的随机转换,以及给定采样状态下基于姿态的条件确定性渲染。我们将这一范式实例化为NeuWorld:一个变换器VAE从稀疏的带姿态帧中学习局部锚定的NIS,而一个扩散变换器则根据未来相机轨迹和基于几何感知检索的历史信息来演化NIS。通过复用VAE编码器作为统一条件器,NeuWorld将相机、参考图像和历史线索映射到同一NIS模态中,避免了外部异构编码器。NeuWorld在公开的带姿态视角数据上从头训练,无需预训练的视频骨干网络或辅助的3D重建器,在实现强长期一致性的同时,保持了良好的推理效率。
RocketSmith 是一种智能代理系统,可自动执行适用于高功率火箭开发的增材制造设计(DFAM)流程。该系统利用大型语言模型协调软件工具的执行,以验证飞行稳定性等设计特性,并生成火箭组件的参数化设计部件。通过零样本与人在回路工作流程的迭代优化,子代理与技能集合可实现对飞行参数的优化。利用该系统的独特增材制造设计能力,开发了四种不同发动机与组件配置的高功率火箭。这些组件通过多种FDM打印机完成制造,经人工评估具备飞行条件后,在发射活动中进行了飞行测试。试验结果显示,所有火箭均实现稳定发射,其中两枚火箭成功回收至可重新飞行的状态。高度计数据验证了实际飞行高度达到代理系统预测理论远地点高度的80%,确立了仿真与实验间的一致性。
预测人类题目难度是教育评估的核心,可靠的难度估计能支撑公平性和有效试题构建。现有方法常依赖昂贵的人工校准或基于题目文本的表征,对导致题目难度的认知过程提供的证据有限。我们认为难度不应仅被视为题目文本的属性,更应作为题目引发解题负担的可观测结果。大型推理模型(LRMs)通过推理轨迹提供可扩展的过程证据,但此类证据需结构化以支持可解释建模。为此,我们提出Epi2Diff(从情节到难度)框架,该框架将LRM推理轨迹映射为基于认知的情结序列。这些情节将轨迹片段分组为功能性解题状态,从而通过推理规模、努力分配和状态转换对难度进行建模。Epi2Diff提取紧凑的情结动态特征,并将其与语义题目表征结合用于人类难度预测。在四个真实人类难度数据集上的实验表明,Epi2Diff持续优于强基线方法,包括微调的小型语言模型、大语言模型上下文学习和有监督大语言模型适配。在基于SAT的分类基准上,Epi2Diff相较于有监督大语言模型微调基线实现了8.1%的平均相对提升。进一步分析显示,较难题目会引发更费力、更迭代且以执行过程为中心的情结动态,而不仅仅是更长的回答。这些结果表明,LRM推理轨迹中的认知情结能为人类题目难度提供具预测性和可解释性的过程表征,为推理模型在教育测量中的应用提供了新视角。
基于MLLM的GUI定位方法通常将目标定位建模为自回归坐标生成,从而使模型能够利用MLLM强大的指令遵循和语义理解能力。然而,这种范式要求模型在解码坐标标记时,既要保留区域级的目标证据,又要达到GUI点击所需的空间精度。我们的诊断分析表明,目标区域感知能力会在解码器中间层出现,但既无法保留,也无法转化为最终的坐标预测。现有的ZoomIn类方法通过外部裁剪并重新运行的方式来解决这个问题,虽然提升了定位精度,但增加了端到端延迟和计算成本。为了在不增加额外成本的情况下保留两阶段缩放方法的精度优势,我们提出InnerZoom——一种用于跨层证据桥接的单次前向传播框架。InnerZoom将原始前向传播中与目标相关的线索转化为紧凑的跨层证据状态,然后在后续解码层中保留、精炼并重新注入该状态,以指导坐标预测。大量实验结果表明,InnerZoom-4B在所有六个GUI定位基准测试中均达到最优性能,在OSWorld-G、UI-Vision、OSWorld-GR和MMBench-GUI上分别取得64.7、40.2、73.1和87.6的成绩,分别超过此前最优结果4.1、3.2、2.9和2.3个百分点。在受控的4B设置下,InnerZoom相比相同的SFT+RL基线平均提升5.3个百分点,并且平均超过两阶段ZoomIn方法1.3个百分点,同时端到端延迟最高降低31.8%,TFLOPs降低约29%。代码和模型将公开提供。
将基础视觉语言编码器适配到专门的检索任务会产生一个根本性的权衡:目标分布上的性能提升以牺牲基础模型的广泛泛化能力为代价,而时尚检索正是这一问题的典型实例。我们提出的ZooClaw-FashionSigLIP2模型是一种专用于时尚领域的SigLIP2-base模型,通过一种简洁的方案解决了这一权衡——在精心设计的领域内数据上结合知识蒸馏进行全参数微调,随后与基础模型进行 WiseFT 权重插值——其性能超越了LoRA、更大规模的主干网络(参数高达1B)以及外部训练数据。在公平评估下,ZooClaw-FashionSigLIP2在所有基准测试中均优于所有基线方法。此外,我们发布了ZooClaw-Fashion——一个高质量的新型时尚检索基准,并对其广泛使用的基准进行了系统性质量分析,揭示并缓解了其公开真实数据中的结构性偏差。我们开源了模型权重及所有评估工具,以促进未来研究。
生成式分子设计目前依赖于针对类药性质的简单代理基准以及在大规模制药数据集上预训练的模型。这种组合虽然能产生强大的基准指标,但限制了向与药物发现结构不同领域的可迁移性。为突破这一局限,推动发现走向真实且具有科学依据的目标,我们提出了纳米技术分子优化(NMO)基准,该基准架起了机器学习(ML)与量子材料科学之间的桥梁。NMO既充当了机器学习领域的严格测试平台,也作为纳米技术研究的发现引擎。该套件用量子模拟替代了代理预言机,并引入了严格的协议,优先考虑科学实用性而非以排行榜为导向的过拟合。基于物理的NMO任务施加了严格的结构约束和崎岖的适应度景观,对生成模型提出了全新的要求。值得注意的是,先进的分子优化方法在NMO任务上的表现远不如更简单的方法。我们开发了一种新的基线方法,识别出了解决NMO任务的关键组件,包括用于建模结构约束的新型表示和消除制药数据集偏差的领域无关预训练策略。我们的结果超越了最先进的物理性质,并揭示了以前未知的结构基序,为纳米技术社区提供了新见解,证明了机器学习能够驱动真正的科学发现。
在实际应用中,护栏通常需要依据具体应用的安全策略来识别用户与模型之间的不安全交互,而非依赖预定义的风险分类体系。本研究在上下文策略护栏范式下探讨这一场景,即护栏根据上下文提供的策略规范预测安全违规行为。为系统评估这一能力,我们提出SafePyramid安全基准测试,包含覆盖10个领域的1,000轮多轮对话及3,000条对应的应用特定策略,共计61,699条自然语言规则。SafePyramid将评估划分为三个难度层级:L0评估单条规则理解能力,L1评估规则间的依赖推理能力,L2评估上下文中定义的全新策略框架的适应能力。为确保基准质量,我们通过严格的多阶段流程构建并验证该测试集。基于SafePyramid对10个前沿大语言模型和5个策略可配置护栏的评估表明,上下文策略护栏仍面临严峻挑战:即使表现最佳的GPT-5.5,在L0、L1和L2层级上能准确识别所有违规规则的案例比例也分别仅为54.0%、35.3%和12.9%。这些结果揭示了当前护栏的局限性,亟需开发更强的上下文策略护栏,使其能够可靠执行策略、解决规则依赖关系并适应新型策略框架。
大型推理模型的出现引入了异常冗长的思维链痕迹,形成了信息透明负担——关键逻辑常常被淹没在大量程序性文本之中。针对这一问题,我们提出ReasoningLens这一开源框架,专为复杂推理链的分层可视化与诊断审计而设计。ReasoningLens通过以下方式实现信息剖析:(1)将推理痕迹组织为交互式分层结构,将高层策略与低层执行相分离;(2)利用智能代理审计器进行自动化错误检测及增强型工具验证;(3)综合系统化推理特征轮廓,揭示模型特有盲区。通过将无结构的文本壁垒转化为可操作洞察,ReasoningLens为解读、调试并优化下一代以推理为核心的AI提供了模块化基础。
混合专家(MoE)架构已成为扩展视觉生成扩散模型的强大范式。近年来的研究主要聚焦于跨多样令牌自适应分配计算资源,以提升效率与性能。然而,我们发现现有扩散MoE框架存在路由分配问题:路由无法准确为显著令牌分配更多计算资源。我们的分析将此归因于路由在去噪过程中依赖于受噪声污染的潜在特征。此类随机噪声掩盖了关键的结构与纹理信息,从而阻碍路由有效区分显著令牌。为解决此问题,我们提出SharpMoE——一种基于后训练框架的显著性感知精准路由机制,该机制利用清洁潜在特征作为无噪声的引导信号进行路由。通过绕过噪声失真的输入,SharpMoE为路由提供清晰的显著性引导,使其即使在高度噪声阶段也能识别显著令牌。此外,我们引入轨迹路由损失来约束多步去噪轨迹中的计算分配,确保生成过程沿展开路径的精准资源分配。大量实验表明,SharpMoE作为一种通用即插即用方案,可进一步增强预训练且已收敛的MoE模型,在视觉生成任务中实现最先进性能。
从自我中心视频中进行4D手部运动重建受到现有方法的明显限制:基于图像的管线依赖在严重遮挡下失效的检测器,而基于视频的方法则依赖仅从稀缺的手部姿态标注中学习的时间模块,这些标注信号过于狭窄,不足以建模运动动态、遮挡推理和手物交互。然而,这些能力恰恰是视频生成模型在互联网规模上训练合成连贯视频时必须隐式获得的。受此启发,我们提出ViDiHand,利用预训练视频扩散模型的表征来重建4D双手姿态。我们通过手部叠加渲染目标来调整该模型,使其特征专门化于手部,同时保留其世界先验。随后,一个解码器从调整后的特征中恢复公制尺度的姿态。整个管线直接在完整帧上运行——无需检测器、无需填充器、无需测试时优化。在ARCTIC、HOT3D和HOI4D数据集上,ViDiHand显著优于先前方法,将视频扩散模型确立为手部运动重建的强大新基础,并为具身AI的可扩展野外数据收集提供了有前景的路径。项目页面:https://vidihand.github.io。
视觉-语言-动作(VLA)模型实现了指令驱动的机器人操控,但它们继承了预训练VLM中庞大的语言主干网络,其容量远超简短机器人指令所需。这引出一个基本问题:VLA模型中有多少部分对闭环控制是真正必要的?在本研究中,我们通过将Transformer模块移除作为受控干预手段,探讨VLA模型中的架构冗余性。我们提出"丢弃-恢复"协议(DTR),该分析流程从预训练VLA模型中移除选定模块,随后对所得模型进行微调,以衡量被移除容量对下游控制是否必要。为提升该干预的可靠性,我们提出GateProbe——一种一次性虚拟门控敏感度指标,用于按模块对下游动作损失贡献度进行排序。在多种VLA架构、操控基准测试乃至真实机器人工厂场景中,我们发现在移除后恢复能力存在显著不对称性:语言主干网络对标准机器人操控任务高度冗余,而视觉和动作路径对移除的容忍度则显著较低。在LIBERO数据集上,移除半数大语言模型模块后,在相同下游微调预算下甚至将OpenVLA-OFT性能从95.0%提升至98.3%,且仅保留两个语言模块仍能恢复基线性能。这些结果表明,当前VLA基准测试可能对深度语言基础与组合指令理解施加的压力有限,未来VLA架构应在语言、视觉与动作组件之间更审慎地分配容量。代码已开源:https://github.com/s1ghhh/VLADrop。
多智能体大语言模型(LLM)系统通常依赖验证与批评智能体来抑制幻觉,但验证过程存在延迟。在此延迟期间,错误主张可能通过智能体网络传播扩散。我们将该过程建模为带接地校正器节点的图上的延迟共识。通过接地拉普拉斯矩阵的谱分解,我们得出验证剂量的闭式稳定性阈值:过强或过度延迟的校正可能使共识转为振荡。当通信延迟与验证延迟重合时,系统处于最不稳定的状态;延迟为2时,阈值等于黄金分割比例的倒数。同一框架还给出了超模放置目标函数,以及针对有限校正器预算分配到影响力节点时的贪心(1-1/e)近似规则。在五个开源模型上的实验证实了预测的剂量-延迟振荡现象。相比之下,基于事实的接地回答将真相设为吸收边界并消除了该效应,表明这种不稳定性是符号信念任务的特性,而接地验证仍保持稳定作用。
近期研究展示了大型语言模型(LLMs)在程序优化方面的潜力,这是编程语言领域的一项关键挑战。我们提出了一种称为检索增强搜索(RAS)的黑盒自适应方法,该方法对候选优化方案执行束搜索;在每一步中,它从给定的慢速-快速程序对训练数据集中检索上下文示例,以引导LLM。关键的是,我们发现基于LLM生成的自然语言描述进行上下文检索,其效果显著优于基于源代码的检索。此外,我们还提出了AEGIS方法,通过将训练示例分解为本质上更具增量性的“原子编辑”来提高可解释性。实验表明,在优化C++程序时,RAS的性能比先前最先进的黑盒自适应策略高出2.06倍,而AEGIS在实现更小规模编辑的同时,性能提升可达1.37倍。我们还证明,使用RAS可将Python程序的平均运行时间百分位数相比基线提升10.27。
生成文本与图像的生成式AI模型的进步,标志着多模态智能领域迈出关键一步,尤其适用于涉及两种模态交错的任务。为将这一智能推向下一阶段,模型需能自主生成自由形式的交错图文序列。本文提出ILLUME-X,一种先进的统一多模态范式,通过提升多模态数据效率并稳定多模态训练过程,实现高质量的自由形式图文交错生成。ILLUME-X包含三大核心组件:(i)专为交错图文生成优化的扩展训练数据管道;(ii)针对自由长度多模态标记序列的自适应目标渐进式训练策略;(iii)用于评估交错图文序列的客观全面评估方法ILScore。值得注意的是,我们的ILLUME-X在风格转换、图像分解和故事叙述等多项交错图文生成任务中,均优于先前统一模型。
在基于 SMPL 的人体姿态估计与运动生成中,自碰撞问题始终是持续存在的挑战。在极端关节弯曲或随机运动合成条件下,生成的网格频繁出现自穿透现象,导致物理上不合理的输出结果。我们提出 PoseShield,一种直接在 SMPL 姿态空间中定义的神经碰撞约束。我们将碰撞校正问题形式化为约束优化问题,并将学习到的约束与 Eikonal 方程相关联。通过实施 Eikonal 正则化,确保碰撞边界附近梯度非零,从而提升优化过程的数值稳定性与鲁棒性。与先前在网格空间操作或依赖启发式惩罚项的方法不同,我们的方法直接在人体姿态的低维空间中运行,并具有理论依据。该学习到的约束可进一步扩展至人体运动序列,提供一种与生成模型无关的事后碰撞校正机制,无需重新训练底层运动模型。在一项新构建的 SMPL 姿态基准上的实验表明,我们的方法实现了 95.8% 的成功率,并优于当前最优基线方法。
当前神经群体表征可靠性的模型主要聚焦于时间稳定性:即群体质心在不同实验阶段和天数之间是否得以保持。这一框架留下了一个基本问题悬而未决:在一个实验期内,刺激间成对距离结构在不同独立观测之间复现的可靠性如何?我们主张,这一属性——几何稳定性——构成了现有框架未能捕捉到的表征分析独立维度。我们将几何稳定性形式化为分半表征差异性矩阵之间的斯皮尔曼等级相关系数,并证明它在经验上可分别与时间稳定性和解码准确性相分离。在涵盖视觉辨别任务中229个脑区-实验期观测数据(涉及68个脑区)的分析中(Steinmetz等人,2019),几何稳定性能够预测逐试次的神经-行为耦合(ρ=0.18,p=0.005),而质心漂移则无此预测能力(ρ=0.002,p=0.976)。从区域层级来看,纹状体几何稳定性最高(S=0.44),海马体最低(S=0.19),该顺序大致与时间稳定性的层级排序相反。在方向上一致的嗅觉实验数据(Bolding & Franks, 2018)启发下,我们构建了一个吸引子网络模型,其中循环兴奋性耦合通过从稀疏前馈输入中补全刺激模式,增强了分半RDM的一致性(ρ=+0.64,p=0.010),从而在环路层面解释了几何稳定性如何产生。这些结果表明,几何稳定性是神经群体编码中一种具有功能相关性且依赖于环路的重要属性,与时间漂移测量正交,并与近期关于循环连接如何在海马环路中平衡表征稳定性与序列动态的研究互为补充。
我们研究基于动作条件的世界建模,将其作为学习机器人可迁移动力学先验的可扩展方法。通过预训练一个能够预测动作如何驱动视觉场景演变的模型,所得世界模型能够捕获超越外观级视频生成的可复用交互动力学。具体而言,我们在包含真实动作标注的大规模机器人操作数据上预训练了一个多视角交互式基础扩散世界模型——A2World。我们从两个互补视角验证所习得的动力学先验。首先,将A2World适配为任务或场景专用的真实世界模拟器A2World-sim,其长程 rollout 支持基于模拟器的策略评估和可扩展的假设分析,通过世界模型 rollout 替代真实机器人 rollout。其次,基于相同的预训练权重,将A2World适配为视频-动作联合预测模型A2World-policy,该模型在视觉和指令条件约束下预测动作。在仿真基准测试和真实机器人环境中的实验表明,基于动作条件的 World Model 预训练能够产生具有迁移性的动力学先验,这对以模拟器为中心和以策略为中心的机器人学习均具有积极意义。
虽然基于文本的图像编辑已取得显著进展,但在结构性人像修图方面仍存在局限。文本描述难以精准传达面部特征与身体比例的细微变化。为填补这一空白,我们提出基于示例的人像照片修图任务,模型通过给定示例对,学习推断并将相同修图操作应用于新查询图像。现有基于示例的编辑方法主要聚焦视觉变换显著的任务,而结构性人像修图涉及极为精细的局部修改,使得准确提取与迁移这些编辑操作颇具挑战。为此,我们提出MirrorPPR框架,专用于捕获与迁移细微的结构性修图操作。该方法通过"修图操作提取器"捕捉示例对间的细微差异,并将提取的表示经连接器与低秩适配模块注入预训练的扩散Transformer。此外,跨身份训练对的完美对齐因操作错位而严重受阻。为克服此问题,我们提出先进的数据自增强范式,确保修图操作的严格对齐。为缓解数据稀缺并支持这项新任务,我们构建了包含超过4700万修图对的大规模数据集MirrorPPR47M。通过将数据集划分为模拟子集与专业子集,我们实现了渐进式课程学习以优化网络训练。大量实验表明,MirrorPPR在修图质量与身份保持方面均显著优于现有基线方法。项目页面:https://sjtu-deng-lab.github.io/MirrorPPR。
一个忠实的三维世界表征应考虑分层几何结构,其中单条相机光线可能包含多个可见且几何有效的表面。然而,单目深度估计将此结构简化为每个像素一个标量深度值。透明场景使这种模糊性变得可测量:同一光线可穿过前景玻璃观察到背景,将监督目标转变为标注、数据和训练的习惯约定,而非场景固有的真实值。学习得到的预测器将其深度层偏好暴露为这种约定。我们提出MultiDepth-3k(MD-3k),一个稀疏双层序数基准,用于测量深度层偏好和多层空间关系准确度(ML-SRA)。在MD-3k上,领先的深度基础模型在标准RGB输入下展现出多样的层偏好,表明相同的分层几何结构在不同模型间可被不同解析。我们进一步发现,拉普拉斯视觉提示(LVP)——一种无需训练的频谱输入变换——可以显著改变某些冻结模型所报告的层。最强的RGB/LVP组合DAv2-L达到75.5%的ML-SRA。这些结果表明,深度基础模型可能表达了互补的几何假设,而标准RGB推理将这些假设保留未表达。我们邀请学界通过模糊性感知视角重新思考深度监督与评估,将多个有效的三维解释视为待测量、保留和表达的几何结构。
在无害数据上的微调可能部分逆转训练早期习得的行为。良性后对齐更新可能导致安全性退化,已遗忘的能力会重新浮现,潜在特性会通过看似无关的监督信号发生迁移,类似的后对齐脆弱性也出现在其他生成场景中。我们认为这些现象可通过共同的训练历史视角加以理解。我们的假设源于几何学:早期大规模训练阶段会形成主导行为流形,而后期对齐或专业化阶段仅是对这些流形的浅层位移。因此,后续微调会继承一个指向主导流形回波方向的持久回归成分——我们称之为微调回归的引力解释。在我们的主要实验设置中,表征漂移会迅速获得沿历史定义回归方向(v_rev)的分量。在主干实验中,对齐度从首次更新后的余弦值0.429±0.052升至第20步时的0.647±0.021。在24个运行-步数对中,所有观测到的对齐度均超过各向同性激活空间零假设的第99百分位数。我们证明,选择性阻断沿v_rev的运动可将T=100时的最终对齐度从0.648±0.009降至-0.211±0.021,并将有害性从19.0%±4.0%降至8.5%±1.5%,且任务代价极小。这些结果支持v_rev作为本实验中早期后对齐回归的因果相关中介。需要强调的是,我们并不主张v_rev是唯一的安全方向,也不认为能直接观测到主导流形;而是识别出一个鲁棒的、由历史定义的方向,该方向既能解释又能部分控制早期回归动态。
水工隧洞检测对基础设施完整性至关重要,但采用人工方法时效率低下且存在安全隐患。本文提出FLISP(快速激光雷达-惯性测量单元同步路径规划器),这是一种用于UGV-UAV协同检测的无地图规划框架。与传统基于地图的范式不同,FLISP具有三项核心贡献:(1)统一架构,通过单一UGV搭载的LiDAR-IMU套件驱动两平台同步路径生成;(2)特定平台求解器,采用改进萤火虫算法实现UGV避障,并采用动态迭代优化器规划UAV飞行路径;(3)分层优化策略,在无状态估计漂移前提下确保运动学可行性。在1.2公里运营隧道的基准测试中,FLISP规避了基于地图方法的结构性瓶颈,消除了地图栅格化开销(Fast-LIO2 + A*)和采样不稳定性(LIO-SAM + RRT*)。FLISP达到100%成功率,延迟仅7毫秒,较基于栅格的方法实现7倍加速,较基于采样的基线方法提升三个数量级。经实际运营水工隧洞验证,该方法为退化特征的线性基础设施机器人检测提供了可扩展解决方案。演示视频见https://youtu.be/Y_ezs1PfLJ4,代码见https://github.com/ArchibaldGuo/FLISP.git。
预训练视觉基础模型(VFMs)凭借其强大的语义表示能力和泛化性能,已成为现代计算机视觉的核心支柱。然而,其 patch 化或池化输出本质上是低分辨率的,这限制了它们在需要细粒度像素级推理的任务中的有效性。现有特征上采样方法要么降低语义保真度,要么依赖 VFM 特定的重新训练和重型架构,导致效率和可扩展性不足。为应对这些挑战,我们提出 RaysUp——一种超轻量级、任务无关且 VFM 无关的特征上采样框架,能够在任意分辨率下重建高分辨率特征图。与传统二维插值或注意力机制不同,RaysUp 将特征重建提升至几何感知的光线域。具体而言,我们引入用于方向感知引导编码的空间解耦引导编码器、用于分辨率灵活重建的任意分辨率交叉注意力机制,以及一种新颖的光线位置编码(RayPE),它通过 6D 普吕克光线坐标注入隐式三维几何先验。最后,几何感知邻域注意力模块进一步确保内容自适应的双边聚合,同时保持几何一致性。在多种密集预测任务上的大量实验表明,RaysUp 实现了最先进的性能,同时参数数量仅为 AnyUp 的 16%,推理速度提升约 7 倍。这些结果凸显了其显著改善的精度-效率权衡,并使 RaysUp 成为通用特征上采样的实用且可扩展的解决方案。代码地址:https://github.com/MAP-RaysUp/RaysUp。
表征对齐通过将多模态大语言模型内部表示正则化为外部视觉编码器的表示,已成为提升其性能的有效方法。然而,现有方法通常对齐语言骨干网络的固定层,忽略了Transformer模型的细粒度结构。本文提出逐头表征对齐方法,该方法在单个注意力头层级强制执行跨模态对齐。我们的方法基于柏拉图表征假说,专注于跨模态保留表征的拓扑结构(即局部邻域关系)。遵循互K近邻对齐度量,我们引入一个对比目标作为匹配局部结构的可微代理。HeRA在多模态训练期间将此目标应用于大语言模型中特定注意力头,这些头根据MKNN度量的对齐分数被选中。反直觉的是,我们发现对齐最不对齐的头能带来最大收益。在多个MLLM和18个基准上的广泛评估表明,HeRA在具有挑战性的视觉中心任务上持续提升性能,并通过自然抑制对语言先验的过度依赖,作为视觉幻觉的有效正则化器。我们的代码已公开发布。