Artigos de pesquisa em IA selecionados diariamente com traduções
A geração moderna de imagens exige um único modelo que unifique capacidades diversas, incluindo texto para imagem (T2I), edição local e edição global. No entanto, essas capacidades raramente estão alinhadas naturalmente e frequentemente entram em conflito. Por exemplo, a edição tende a degradar o desempenho do T2I, enquanto a edição global e a local interferem entre si. Consequentemente, compor efetivamente essas capacidades tornou-se um desafio central para o treinamento de modelos de geração de imagens. Para enfrentar esse desafio, apresentamos o DanceOPD, uma estrutura de destilação de campo generativo on-policy para modelos de correspondência de fluxo que roteia cada amostra para um campo de capacidade, consulta um estado induzido pelo aluno de baixo ruído e treina com um objetivo simples de velocidade MSE (Erro Quadrático Médio). Com cada fonte de capacidade definida como um campo de velocidade sobre o espaço de estados de fluxo compartilhado, o aluno aprende a partir de campos consultados em seus próprios estados de rollout para compor capacidades especializadas. Essa formulação também absorve campos definidos por operadores, como a orientação livre de classificador (CFG). Experimentos abrangentes em T2I, edição, absorção de campo de realismo e absorção de CFG mostram que nossa abordagem melhora a composição de múltiplas capacidades, fortalecendo as capacidades alvo enquanto preserva a qualidade da geração âncora. Acreditamos que este trabalho estabelece um caminho prático para a destilação de campo generativo em modelos de correspondência de fluxo.
Modelos modernos de Visão-Linguagem-Ação (VLA) frequentemente falham em generalizar para novas configurações, como pontos de vista alterados da câmera ou morfologias do robô, pois são tipicamente condicionados apenas a observações atuais e instruções em linguagem. Ao ignorar a configuração subjacente do sistema como uma variável, esses modelos assumem implicitamente um contexto de execução fixo encontrado durante o treinamento, necessitando de ajuste fino intensivo em dados para qualquer novo ambiente. Neste trabalho, introduzimos a Modelagem de Mundo no Contexto (In-Context World Modeling, ICWM), uma estrutura que trata a identificação do sistema como um problema de adaptação no contexto. O ICWM permite que políticas de robôs infiram autonomamente variáveis essenciais do sistema a partir de um breve histórico de interações autogeradas e independentes de tarefa. Diferentemente da Aprendizagem no Contexto tradicional, que usa demonstrações para especificar qual tarefa realizar, o ICWM aproveita a janela de contexto para entender como o sistema opera. Ao processar essas interações antes da execução da tarefa, o modelo captura implicitamente as dinâmicas do mundo do sistema atual, permitindo adaptação a novas configurações sem atualizações de parâmetros. Experimentos extensivos em simulação e em plataformas robóticas reais demonstram que o ICWM supera significativamente as linhas de base VLA padrão em novos pontos de vista da câmera.
A aprendizagem por reforço baseada em resultado fornece uma base de otimização estável para agentes de linguagem, mas suas recompensas esparsas em nível de trajetória oferecem pouca orientação sobre quais decisões intermediárias devem ser reforçadas ou suprimidas. A autodestilação on-policy oferece supervisão densa em nível de token; no entanto, variantes existentes condicionadas a habilidades frequentemente dependem de memórias externas de habilidades ou de contexto privilegiado recuperado, que são custosos de manter e podem não corresponder à distribuição de estados induzida pela política atual em interações multi-turno. Propomos o OPID (On-Policy Skill Distillation), um framework que extrai supervisão de habilidades diretamente de trajetórias on-policy completadas. O OPID representa a retrospectiva da trajetória como habilidades hierárquicas: habilidades em nível de episódio capturam workflows globais ou regras de prevenção de falhas, enquanto habilidades em nível de passo capturam conhecimento decisório local em momentos críticos. Um mecanismo de roteamento crítico-primeiro utiliza habilidades em nível de passo quando decisões críticas são identificadas e recorre a habilidades em nível de episódio como orientação padrão, caso contrário. A habilidade selecionada é injetada no histórico de interação, permitindo que a política antiga reavalie a mesma resposta amostrada sob contextos original e aumentado pela habilidade. O deslocamento de log-probabilidade resultante produz uma vantagem de autodestilação em nível de token, que é combinada com a vantagem de resultado para otimização da política. Assim, o OPID preserva o RL como objetivo principal de treinamento ao mesmo tempo que introduz supervisão retrospectiva densa e compatível com a distribuição. Experimentos em ALFWorld, WebShop e Search-based QA demonstram que o OPID geralmente melhora o desempenho do agente, a eficiência amostral e a robustez em relação ao RL baseado apenas em resultado e a linhas de base existentes de destilação de habilidades. Nosso código está disponível em https://github.com/jinyangwu/OPID/tree/main.
Embora os modelos texto-para-imagem (T2I) tenham alcançado progressos notáveis, eles enfrentam dificuldades com solicitações reais que são frequentemente subespecificadas, implícitas ou dependentes de conhecimento atualizado. Identificamos esse desafio como a Lacuna de Contexto: a incompatibilidade entre o contexto do usuário e o contexto de geração suficiente para modelos T2I. Para preencher essa lacuna, propomos o Qwen-Image-Agent, um arcabouço agêntico unificado que integra planejamento, raciocínio, busca, memória e feedback de maneira centrada no contexto. O Qwen-Image-Agent trata a entrada do usuário como contexto parcial e constrói progressivamente o contexto de geração por meio do Planejamento Consciente de Contexto e da Fundamentação de Contexto. Especificamente, o Planejamento Consciente de Contexto identifica o contexto ausente e planeja como ele deve ser adquirido e utilizado, enquanto a Fundamentação de Contexto coleta esse contexto a partir de raciocínio, busca, memória e feedback. Para avaliar a geração de imagens baseada em agentes, introduzimos o Image Agent Bench (IA-Bench), um benchmark que abrange quatro capacidades centrais do agente de imagem: Planejamento, Raciocínio, Busca e Memória. Experimentos no IA-Bench, Mindbench e WISE-Verified mostram que o Qwen-Image-Agent supera linhas de base fortes e alcança desempenho estado da arte.
Uma intuição clássica sugere que verificar uma solução é mais fácil do que produzi-la. Para os agentes de codificação atuais, essa intuição está sendo invertida: à medida que os modelos de base desenvolvem capacidades de raciocínio mais fortes e as ferramentas de engenharia se tornam mais sofisticadas, gerar soluções candidatas complexas já não é difícil — verificá-las de forma confiável tornou-se o problema mais árduo. Cada verificador que podemos construir é apenas um proxy para a intenção humana, nunca a intenção em si. Isso torna a verificação sujeita a uma dupla dificuldade: primeiro, a intenção é naturalmente subespecificada, o que torna inerentemente difícil verificar fielmente se foi cumprida; segundo, durante o treinamento do modelo, a otimização amplia a lacuna entre o proxy e a intenção — manifestando-se como exploração de recompensas ou saturação de sinal. Para enfrentar isso, caracterizamos a qualidade dos sinais de verificação ao longo de três dimensões — escalabilidade, fidelidade e robustez — e argumentamos que alcançar todas as três simultaneamente é o desafio central. Estudamos ainda quatro construções de recompensa: um verificador de teste para tarefas gerais de codificação, um verificador de rubrica para tarefas de frontend, o usuário como verificador para tarefas reais de agentes e um verificador agente automatizado para tarefas de longo horizonte. Através de diferentes tipos de tarefa e níveis de capacidade das políticas, realizamos análises aprofundadas e experimentos sobre os desafios centrais do design de recompensas e como utilizar sinais de recompensa de forma mais eficaz. Experimentos mostram que um design de verificação direcionado pode suprimir eficazmente a exploração de recompensas, melhorar a qualidade da conclusão de tarefas e obter ganhos significativos em múltiplos benchmarks internos e públicos. Essas experiências apontam coletivamente para uma observação central: nenhuma função de recompensa fixa pode permanecer eficaz à medida que a capacidade da política continua a crescer; e a verificação deve coevoluir com o gerador.
Uma representação unificada para texto e visão é uma busca natural, pois possibilita uma modelagem multimodal mais simples e um treinamento mais eficiente. No entanto, representar imagens como sinais discretos da mesma forma que o texto introduz inevitavelmente uma perda severa de informação. Trabalhos existentes têm dificuldade em equilibrar detalhes de baixo nível e semânticas de alto nível em representações discretas: representações orientadas à reconstrução frequentemente carecem de informação semântica, enquanto características semanticamente mais fortes tipicamente sofrem de perda severa de detalhes. Apresentamos o ViQ, um framework de Representações Visuais Quantizadas, projetado para equilibrar semântica e detalhes em representações discretas, além de suportar entradas em resoluções nativas, permitindo assim que sirva como uma representação discreta unificada e geral para entradas visuais arbitrárias. Nossa abordagem estrutura o aprendizado de quantização em duas etapas: pré-treinamento alinhado ao texto e discretização de características. Com o pré-treinamento alinhado ao texto, enriquecemos a supervisão semântica do codificador visual por meio de um modelo de linguagem pré-treinado e o capacitamos a processar entradas visuais em resolução nativa. Durante a discretização, propomos uma estratégia de aprendizado de representação proximal para compactar progressivamente o espaço de características, juntamente com um mecanismo de quantização por cabeça ciente da posição que possibilita o processamento flexível de resoluções arbitrárias. Extensos experimentos em tarefas multimodais demonstram que o ViQ alcança desempenho competitivo em comparação com codificadores visuais multimodais de estado da arte com características visuais contínuas e de alta dimensionalidade, enquanto mantém alta precisão na reconstrução de baixo nível. Também mostramos que o treinamento multimodal com representações visuais quantizadas melhora amplamente a eficiência, resultando em aceleração de até 20% a 70% com diferentes LLMs base e receitas de treinamento.
A decodificação especulativa (SD) acelera Modelos de Linguagem de Grande Porte (LLMs) autorregressivos ao rascunhar múltiplos tokens e verificá-los em paralelo, mas enfrenta uma limitação de escalabilidade: aumentar o orçamento de rascunho melhora a velocidade apenas quando a aceitação permanece alta e a sobrecarga de rascunho se mantém baixa. Esse teto tem sido difícil de romper porque métodos SD baseados em cabeça anteriores enfrentam um dilema entre causalidade e eficiência. Rascunhadores autorregressivos produzem candidatos condicionados por caminho que são eficazes para a decodificação especulativa em árvore com maior comprimento de aceitação, mas seu custo de rascunho cresce com a profundidade da árvore. Rascunhadores de difusão em bloco bidirecionais geram todas as posições em uma única passagem, mas suas marginais agnósticas a ramos podem formar árvores individualmente plausíveis, porém mutuamente inconsistentes, desperdiçando orçamento e reduzindo a aceitação. Propomos o JetSpec, uma estrutura SD baseada em cabeça que combina a eficiência de rascunho em uma passagem com o condicionamento causal entre ramos. O JetSpec treina uma cabeça de rascunho paralela causal sobre estados ocultos fundidos do modelo alvo congelado, produzindo árvores candidatas cujas pontuações se alinham com a fatoração autorregressiva do modelo alvo. Isso permite que o JetSpec converta orçamentos de rascunho maiores em prefixos aceitos mais longos e maior aceleração ponta a ponta. Em benchmarks de matemática, codificação e bate-papo nos modelos Qwen3 densos e MoE, o JetSpec supera consistentemente as linhas de base SD baseadas em cabeça bidirecional e em árvore. Em GPUs H100, o JetSpec atinge até 9,64x de aceleração no MATH-500 e 4,58x em cargas de trabalho conversacionais de livre andamento, com ganhos adicionais de latência demonstrados por meio da integração com vLLM sob cargas de serviço realistas. Nosso código e modelos estão disponíveis em https://github.com/hao-ai-lab/JetSpec.
Agentes de uso de computador podem executar tarefas de software por meio de interfaces gráficas ou de interfaces de comando programáticas, mas as avaliações existentes confundem a modalidade de interação com diferenças nas tarefas, estados iniciais, verificadores e ações permitidas. Apresentamos um benchmark de camada de execução combinado com 440 tarefas de desktop em 18 aplicativos e 12 categorias de fluxo de trabalho, onde agentes GUI apenas por tela e agentes CLI mediados por habilidades recebem metas, estados e verificadores de estado final idênticos, enquanto são restritos a ações nativas da modalidade. Nesse ambiente controlado, o agente GUI mais forte atinge uma taxa de aprovação total de 59,1%, superando o agente CLI original mais forte, com 48,2%; no entanto, o aumento de habilidades guiado por verificador eleva o sucesso do CLI para 69,3%, mostrando que grande parte do déficit do CLI decorre de cobertura incompleta de habilidades, e não apenas da capacidade do modelo. Esses resultados sugerem que GUI e CLI expõem diferentes gargalos de execução: os agentes GUI são limitados pela interação fundamentada confiável em fluxos de trabalho de longo horizonte, enquanto os agentes CLI são limitados pela cobertura e escalabilidade de suas interfaces de habilidades.
Arquiteturas Preditivas de Incorporação Conjunta (JEPAs), incluindo o recente LeWorldModel (LeWM), tornaram-se uma base promissora para modelos de mundo visual livres de reconstrução. No entanto, para o planejamento visual, o LeWM avalia sequências de ações candidatas aplicando repetidamente um modelo de transição latente local de um passo. Esse desdobramento autorregressivo torna o planejamento computacionalmente caro e expõe a trajetória prevista a erros latentes acumulados à medida que o horizonte cresce. Propomos o Fast LeWorldModel (Fast-LeWM), um modelo de mundo latente rápido que substitui o desdobramento local repetido pela predição de prefixos de ação. Dado o estado latente atual e uma sequência de ações candidata, o Fast-LeWM codifica seus prefixos e prevê os estados latentes futuros alcançados após executar esses prefixos em paralelo. Ao tornar os prefixos de ação a unidade básica de predição, o Fast-LeWM modela diretamente os efeitos das ações acumulados em diferentes graus ao longo de múltiplos horizontes. Essa supervisão em nível de prefixo força o modelo a aprender como os estados evoluem continuamente sob diferentes prefixos de ação, em vez de apenas ajustar transições de estado de um passo. Durante o planejamento, o preditor pode usar o último token do prefixo da sequência de ações codificada para avaliar o estado latente futuro correspondente, sem precisar percorrer explicitamente cada estado imaginado intermediário. Em múltiplas tarefas, o Fast-LeWM melhora a taxa média de sucesso em relação ao LeWM, ao mesmo tempo que reduz substancialmente o tempo de planejamento, alcançando uma perda latente em malha aberta menor, cujo crescimento se torna significativamente mais lento à medida que o horizonte de desdobramento aumenta.
O uso de ferramentas permite que modelos de linguagem de grande escala (LLMs) realizem tarefas complexas, e métodos recentes de aprendizado por reforço (RL) agentivo mostram potencial para aprimorar as capacidades dos modelos. No entanto, o RL isolado frequentemente leva a instabilidade ou ganhos limitados em tarefas de uso de ferramentas. Em nossos experimentos, alguns modelos exibem colapso catastrófico, onde o desempenho cai abruptamente e as estruturas de invocação de ferramentas falham. A análise revela que essas falhas decorrem de picos inesperados de probabilidade em tokens de controle específicos, interrompendo a execução estruturada, embora a capacidade subjacente de uso de ferramentas permaneça intacta, apenas obscurecida por formatos específicos. Para lidar com isso, investigamos sistematicamente um conjunto diverso de sinais de supervisão, incluindo supervisão off-policy, orientação baseada em dicas, supervisão com exemplos errôneos e outros, aplicados tanto em esquemas de treinamento síncrono quanto intercalado. Descobrimos que intercalar fine-tuning supervisionado (SFT) com RL melhora substancialmente a estabilidade, mas apresenta desempenho degradado sob avaliação for a de distribuição (OOD) de formato e conteúdo. Também analisamos o impacto das taxas de aprendizado e a generalização entre cenários. Esses resultados destacam a importância de compreender as falhas do RL e demonstram como diversos sinais de supervisão podem guiar o aprendizado exploratório, permitindo o treinamento robusto de LLMs para tarefas complexas de uso de ferramentas com múltiplas etapas. Nosso código está disponível em https://github.com/hypasd-art/Tool-RL-Box.
À medida que os sistemas agentivos continuam a evoluir e são amplamente implantados em cenários do mundo real, há uma demanda crescente por avaliar fielmente suas capacidades. No entanto, os benchmarks atuais são tipicamente construídos sobre aplicações populares com tarefas relativamente simples e focam em um conjunto restrito de capacidades, negligenciando dimensões mais amplas, resultando em desempenho saturado em agentes modernos e falhando em sondar suas limitações. Para tal, apresentamos o GauntletBench, um benchmark baseado na web para avaliar a generalização de agentes em cenários desafiadores, com foco em três capacidades pouco exploradas (percepção temporal, compreensão gráfica e raciocínio 3D), em cinco aplicações profissionais menos abordadas (Editor de Vídeo, Construtor de Fluxos de Trabalho, Modelador 3D, Analisador de Voos e Projetista de Circuitos), cada uma com 20 tarefas com uso intensivo de visão (100 no total). Nosso benchmark fornece um pipeline modular que compreende um ambiente compatível tanto com frameworks de agentes de código aberto quanto fechado, uma aplicação web controlada, um conjunto de tarefas bem estruturado e um mecanismo de avaliação automatizado com métricas diversificadas. Contrariando expectativas generalizadas, nossos resultados empíricos revelam que os sistemas agentivos de ponta ainda estão longe de alcançar desempenho em nível humano. Mesmo o agente estado-da-arte alcança apenas uma taxa de sucesso de 19,1% em nosso GauntletBench, destacando as limitações nessas capacidades negligenciadas e na generalização. Em comparação, anotadores humanos não especialistas alcançam mais de 80% de sucesso em nossas tarefas desafiadoras, porém factíveis, revelando a lacuna substancial entre as capacidades atuais dos agentes e aquelas necessárias para cenários complexos do mundo real.
O paradigma prevalente de ramificação dupla, ou seja, treinar uma rede lateral para codificar condições visuais e fundir suas características de camadas intermediárias a uma rede principal pré-treinada congelada, tem demonstrado notável sucesso na geração controlável por condições visuais. Apesar de sua adoção generalizada, o papel do ramo lateral e sua eficiência de treinamento ainda são pouco explorados. Neste artigo, revisamos primeiro esse paradigma dominante sob a perspectiva da modelagem generativa baseada em scores: 1) A rede principal preserva a qualidade perceptual visual ao fornecer um score incondicional prévio. 2) A rede lateral orienta o controle condicional ao contribuir implicitamente com um score de verossimilhança. Guiados por essa perspectiva, propomos o Alinhamento de Score de Verossimilhança (LISA, na sigla em inglês), um método de regularização eficaz que alinha explicitamente a característica intermediária da rede lateral a um score de verossimilhança aproximado. Especificamente, primeiro capturamos características de uma camada designada da rede lateral e as projetamos no espaço latente de scores por meio de um decodificador leve. Em seguida, construímos um alvo de score de verossimilhança aproximado e calculamos a distância entre a saída do decodificador e esse alvo como uma perda de regularização adicional. Por fim, otimizamos conjuntamente a rede lateral e o decodificador com a perda de difusão padrão e nossa perda de regularização. Experimentos em diversas tarefas de imagem/vídeo, arquiteturas e modelos de difusão/fluxo demonstraram que o LISA não só acelera consistentemente a convergência do treinamento e melhora os resultados sintéticos finais, mas também incentiva que as características da rede lateral sejam mais desembaraçadas para modelagem condicional, com custo adicional de treinamento insignificante e custo extra de inferência zero.
A capacidade de raciocínio avançou rapidamente em modelos de linguagem de grande escala (LLMs), levando a um aumento no tamanho do cache de chave-valor (KV) tanto nos estágios de pré-preenchimento quanto de decodificação. Os métodos existentes de compressão do cache KV baseiam-se principalmente em pesos de atenção para estimar a importância dos tokens. Embora a atenção capture efetivamente a relevância contextual, ela ignora sinais complementares da teoria da informação relacionados à incerteza preditiva e à informatividade dos tokens. Neste artigo, revisitamos a importância dos tokens a partir de uma perspectiva prospectiva e introduzimos a Influência Prospectiva, uma métrica que mede como tokens comprimidos afetam contextos futuros. Nossa análise revela que tokens selecionados por pontuações de atenção influenciam principalmente contextos próximos, enquanto tokens associados a alta incerteza preditiva exibem uma influência substancialmente mais forte sobre contextos futuros distantes. Com base nessa observação, propomos o InfoKV, uma estrutura de compressão de cache KV sensível à entropia que incorpora sinais da teoria da informação. Ela combina a incerteza preditiva em nível de token com a evolução da representação em camadas e integra as pontuações de entropia resultantes com as pontuações de atenção durante o raciocínio. Experimentos em benchmarks de raciocínio de contexto longo com Llama-3.1, Llama-3.2 e DeepSeek-R1 demonstram que o InfoKV supera consistentemente os métodos existentes de compressão KV baseados em atenção tanto em cenários de pré-preenchimento longo quanto de decodificação.
Modelos de raciocínio de vídeo implicitamente assumem que todos os quadros de entrada são igualmente confiáveis. Isso leva ao que denominamos Problema da Confiança Cega: sob perturbações realistas como desfoque de movimento, ofuscamento ou oclusão, modelos de raciocínio de vídeo de ponta podem sofrer quedas de acurácia de 15 a 30 pontos percentuais (p.p.) em benchmarks incorporados de mundo real, permanecendo alheios ao fato de que sua evidência visual foi degradada. Para enfrentar esse desafio, propomos o Robust-TO, um framework agêntico de compreensão de vídeo que integra explicitamente a confiabilidade por quadro em todas as etapas do raciocínio. O Robust-TO organiza ferramentas heterogêneas de percepção visual sob uma interface unificada de evidências. Cada ferramenta recebe uma subconsulta derivada da pergunta original e um conjunto de quadros confiáveis selecionados pela pontuação de relevância-confiabilidade. Ela retorna evidências em um formato compartilhado: uma predição concreta (por exemplo, uma caixa delimitadora, trajetória de movimento, texto reconhecido ou rótulo de ação), ancoragem temporal e uma pontuação de confiabilidade calibrada. Durante o raciocínio, essas pontuações calibradas orientam a ponderação das evidências em um processo de síntese em três níveis (alto/médio/baixo) e definem uma recompensa GRPO de custo de confiança que otimiza conjuntamente a correção, a confiabilidade das evidências e a eficiência. Em dois benchmarks de raciocínio de vídeo abrangendo oito tarefas, o Robust-TO alcança 56,4% de acurácia média em entradas limpas, superando a linha de base de código aberto mais forte em 10,6 p.p. e superando o Gemini-2.5-Pro (46,2%). Sob cinco tipos realistas de corrupção, o Robust-TO mantém 54,3% de acurácia média, 5,8 p.p. acima da linha de base de código aberto mais forte, exibindo a menor queda de acurácia entre entradas limpas e corrompidas dentre todos os métodos comparados.
Apresentamos o PhysiFormer, um transformador de difusão para movimento tridimensional de objetos fisicamente plausível. Diferentemente de modelos de mundo em vídeo que operam no espaço de pixels dependente da vista, o PhysiFormer representa objetos como malhas 3D expressas em coordenadas do mundo. Dadas as posições e velocidades iniciais dos vértices, bem como o tipo de material do objeto, rígido ou elástico, o modelo amostra trajetórias futuras dos vértices. Enquanto abordagens relacionadas de física neural baseiam-se em espaços latentes ad-hoc ou impõem explicitamente rigidez e causalidade, o PhysiFormer demonstra que resultados excelentes podem ser obtidos sem tais vieses indutivos, tratando a predição de trajetórias de vértices como um único processo de difusão de desruído diretamente em coordenadas do mundo. A formulação probabilística captura a incerteza na dinâmica aprendida, permitindo futuros diversos e plausíveis a partir de condições iniciais, tornando esta estrutura potencialmente útil para aplicações com incerteza não observada. O modelo apresenta atenção fatorada em tempo, espaço e objetos para eficiência, possibilitando raciocínio multi-objeto invariante a permutações sem necessidade de codificação explícita de objetos. Treinado em mais de 100 mil trajetórias simuladas, o PhysiFormer gera mecânica rígida e elástica, e generaliza para cenários de materiais mistos, geometrias do mundo real não vistas anteriormente e contagens maiores de objetos. Ele supera substancialmente as linhas de base autorregressivas em precisão de trajetória, preservação de rigidez e consistência física baseada em momento. Nossos resultados posicionam a difusão no espaço de coordenadas como um passo promissor rumo à modelagem de mundo invariante à vista e consciente da geometria para robótica, computação gráfica e design físico. Visualizações, código e modelos estão disponíveis em https://yimingc9.github.io/physiformer.
Modelos geradores de mundo modernos produzem futuros cada vez mais realistas e controláveis por ações, mas frequentemente alucinam: as trajetórias geradas permanecem visualmente fluidas enquanto se desviam da dinâmica real. Nossa hipótese é que a alucinação se concentra em regiões de baixa cobertura do espaço estado-ação, onde sinais leves e centrados em dados podem tanto detectá-la quanto orientar sua mitigação. Para testar essa hipótese, apresentamos o MMBench2, um conjunto de dados de 427 horas e 210 tarefas para modelagem visual de mundo com ações verdadeiras, recompensas e simuladores ao vivo, e treinamos um modelo de mundo com 350 milhões de parâmetros. Identificamos três modos distintos de alucinação: perceptual, marginalizada por ação e divergente de cena — cada um ancorado em uma etapa diferente do pipeline — e desenvolvemos três sinais que preveem com precisão onde o modelo falhará. Para eliminar lacunas de cobertura durante o treinamento, desenvolvemos uma técnica de amostragem consciente da cobertura; para eliminá-las online, nossos preditores de alucinação servem como recompensas de curiosidade para coleta direcionada de dados, resultando em uma receita de ajuste fino eficiente em dados que adapta o modelo de mundo pré-treinado a ambientes totalmente desconhecidos com apenas 50 trajetórias reais do ambiente. No geral, nossas descobertas revelam que a alucinação em modelos de mundo é inerentemente um problema de cobertura de dados, e que os mesmos sinais usados para detectá-la também podem ser usados para mitigação. Uma versão interativa do nosso artigo está disponível em https://www.nicklashansen.com/mmbench2.
À medida que os agentes baseados em LLMs se tornam capazes de realizar tarefas com horizontes de tempo cada vez mais longos, a avaliação de seu desempenho em sistemas econômicos torna-se cada vez mais importante. Diferentemente dos benchmarks existentes, que avaliam principalmente um único agente interagindo com um ambiente passivo, os sistemas econômicos são inerentemente multiagentes, exigindo que agentes autônomos se comuniquem, negociem e realizem transações enquanto perseguem seus próprios objetivos por longos períodos. Apresentamos o CoffeeBench, um benchmark para avaliação de agentes LLM em uma economia multiagente de longo horizonte composta por firmas heterogêneas. No CoffeeBench, dois agricultores, dois torrefadores e dois varejistas operam seus negócios de forma autônoma em uma simulação de 90 dias, cada um buscando maximizar a renda líquida acumulada por meio de comunicação e transações, enquanto gerenciam caixa, estoque e preços. O modelo avaliado controla um torrefador de café, enquanto as demais firmas são controladas por agentes de referência fixos. Dentre vários LLMs recentes de código aberto e proprietários, todos os modelos superam uma linha de base passiva que não realiza ações, com a maioria obtendo renda líquida positiva. A análise do comportamento dos agentes revela diferenças substanciais na interação econômica de longo horizonte: modelos de melhor desempenho se comunicam mais ativamente com outras firmas, enquanto o Claude Haiku 4.5 exibe um modo de falha de deriva ociosa, repetidamente optando pela inação apesar de produzir avaliações e planos coerentes. Disponibilizamos nosso código e as trajetórias dos agentes para apoiar pesquisas futuras.
Modelos de recompensa de processo permitem uma avaliação granular em nível de etapa dos LLMs, mas construí-los para configurações agentivas continua proibitivamente difícil: interações de longo horizonte, ações irreversíveis e feedback estocástico do ambiente tornam tanto a anotação humana quanto a estimativa de Monte Carlo inviáveis em escala. Neste trabalho, mostramos que o pós-treinamento por aprendizado por reforço (RL) já fornece os ingredientes para uma pontuação eficaz em nível de etapa, eliminando a necessidade de treinamento dedicado de modelos de recompensa. Concretamente, derivamos uma vantagem implícita sob um processo de decisão de Markov estocástico geral, a qual denominamos vantagem de progresso — a razão de log-probabilidade entre a política treinada por RL e sua política de referência recupera exatamente a função de vantagem ótima. Essa formulação torna o sinal resultante livre de anotação, agnóstico a domínio e disponível como subproduto do pipeline padrão de pós-treinamento por RL. Validamos a eficácia da vantagem de progresso em três aplicações distintas: escalonamento em tempo de teste, quantificação de incerteza e atribuição de falhas em cinco benchmarks e quatro famílias de modelos. Em todos os cenários, ela supera consistentemente as baselines baseadas em confiança e, apesar de não exigir treinamento específico para a tarefa, ultrapassa modelos de recompensa treinados dedicados. Complementamos esses resultados com análises mais aprofundadas sobre as características da vantagem de progresso, oferecendo orientações práticas para adoção em sistemas agentivos do mundo real.
Apesar do seu uso generalizado, o papel dos modelos de recompensa na modelagem da aprendizagem por reforço é pouco compreendido. Os modelos de recompensa oferecem uma promessa tentadora: eles estimam automaticamente a qualidade das respostas na ausência de verificadores ou avaliadores humanos. Diferentemente das "recompensas verificáveis", que tipicamente produzem pontuações binárias, os modelos de recompensa geralmente produzem pontuações contínuas, permitindo que sejam sensíveis a diferenças sutis nas respostas. No entanto, mostramos que essa aparente vantagem é uma fraqueza séria: muitos modelos de recompensa populares são excessivamente sensíveis, atribuindo pontuações diferentes a respostas igualmente boas. Teoricamente, mostramos que modelos de recompensa aparentemente perfeitos podem ser altamente excessivamente sensíveis; empiricamente, essa excessiva sensibilidade pode levar a políticas ruins. Em lugar das noções existentes de "precisão do modelo de recompensa", propomos avaliar modelos de recompensa usando medidas distintas de "capacidade discriminativa" e "especificidade" (o complemento da excessiva sensibilidade). Como solução, descrevemos um algoritmo livre de treinamento que usa dropout de Monte Carlo em qualquer modelo de recompensa neural para produzir agrupamentos discretos de recompensa. Teoricamente, provamos que existem discretizações que reduzem a excessiva sensibilidade com mínimo custo na capacidade discriminativa; empiricamente, mostramos, tanto em ambientes de RL controlados quanto naturais, que discretizar as recompensas leva a menos hacking de recompensa e a políticas melhores do que treinar com as recompensas originais.
Embora a IA generativa tenha alcançado sucesso notável na resolução de problemas com soluções verificáveis, gerar arte física que satisfaça tanto restrições geométricas rígidas quanto estéticas visuais subjetivas continua sendo um desafio. Este artigo apresenta uma abordagem para lidar com essas dificuldades no domínio do origami computacional, um ambiente matematicamente rigoroso que fundamenta o design artístico nas equações de dobrabilidade plana. Apresentamos o COrigami, um pipeline completo orientado por IA que auxilia o ciclo de design gerando padrões de vincos a partir de linguagem natural. Nosso pipeline envolve a geração de uma figura de palito semântica, o cálculo de um empacotamento da base, a solução para um padrão de vincos dobrável plano, a modelagem do padrão de vincos já dobrado e o refinamento do modelo gerado usando aprendizado por reforço, orientado por um ciclo autônomo de avaliação estética. Nosso sistema atua como um assistente colaborativo altamente eficaz, gerando pontos de partida estruturais que artistas humanos podem expandir e modelar posteriormente. Ao integrar otimização algorítmica com crítica estética autônoma, este trabalho demonstra como sistemas de IA podem satisfazer restrições físicas multiobjetivo para viabilizar uma cocriatividade confiável e matematicamente fundamentada.
ABACUS é um modelo unificado de visão-linguagem que lida com contagem de objetos, contagem de multidões, contagem por expressão referencial e geração de imagens fiéis à contagem, sem exigir treinamento específico para cada benchmark. Nosso modelo é construído sobre um modelo de base unificado existente de 3 bilhões de parâmetros e adaptado para tarefas de localização de objetos usando três inovações-chave: zoom adaptativo consciente da densidade com mapas de objetidade para fundamentação espacial; uma política de contagem consciente dos limites via GRPO para eliminar erros de borda de recorte; e uma estratégia GRPO consistente em ciclo, na qual o ramo de entendimento autocritica as saídas geradas, fechando a lacuna entre entendimento e geração sem anotações externas. ABACUS alcança resultados de ponta em sete benchmarks, superando tanto especialistas específicos de tarefa quanto modelos generalistas maiores.
Uma citação funcional parece prova -- mas o fato de um link ser resolvido não significa que o artigo citado apoia a afirmação. Descubro que os modelos agentes atuais raramente fabricam citações (mais de 99% são resolvidas), mas cerca de 15,9% delas apontam para o artigo errado. Os benchmarks existentes ignoram esse modo de falha: quando uma pergunta tem um gabarito fixo, um modelo pode reproduzir a fonte esperada a partir desse gabarito, em vez de verificar independentemente se a fonte apoia a afirmação. Apresento o \openbiorq{}, um benchmark agente fundamentado em recuperação com 12.553 perguntas não resolvidas de pesquisa biomédica em 12 domínios, que trata perguntas abertas como uma sonda de fidelidade e abstenção. Até onde sei, este é o primeiro benchmark biomédico a combinar um cenário agente -- onde o modelo deve realizar múltiplas chamadas de ferramentas -- com perguntas não resolvidas que não possuem gabarito. A abertura é verificada contra evidências reais de acompanhamento, em vez do conhecimento paramétrico do modelo. A dificuldade é empírica: fundamento-a em perguntas que três modelos de referência de pesos abertos não conseguem responder, em vez de rótulos subjetivos de dificuldade. Nesse subconjunto mais difícil, modelos retidos da mesma linhagem dos âncoras de dificuldade resolvem apenas ~17%, enquanto três agentes de fronteira independentes (Gemini-3-Pro, Opus-4.7, GPT-5.5) abrangem uma ampla faixa de 29% a 60%. O benchmark é, portanto, difícil, não saturante (o melhor agente ainda deixa ~33-40% não resolvidos) e discriminativo entre níveis de capacidade. Além da dificuldade, observo colapso agente nas perguntas mais difíceis, onde os agentes param de usar suas ferramentas. Para o modelo mais propenso a colapso, bloquear completamente o acesso às ferramentas mal altera sua pontuação -- portanto, as ferramentas deixam de ser úteis exatamente onde são mais necessárias. Uma lista de verificação fixa por pergunta eleva a concordância entre avaliadores de Spearman 0,35 para 0,82.
Sistemas de modelos de linguagem múltiplos (multi-model LLM), como roteamento, votação, cascatas, fusão e mistura de agentes, são usados para superar a precisão de modelos individuais. Mostramos que seu ganho é limitado por uma quantidade raramente reportada na área. Para qualquer política cuja saída seja a resposta de um modelo membro, a precisão não pode exceder um menos beta, onde beta é a taxa na qual todos os modelos erram na mesma consulta. Em contraste, o diagnóstico usual, a correlação média de erro aos pares rho, não consegue identificar beta: leis de erro com marginais e correlações aos pares idênticas podem ter diferentes taxas de erro total (all-wrong). Um limite de Clopper-Pearson para beta fornece um certificado de amostra finita sobre o maior ganho que qualquer roteador, votação ou cascata poderia oferecer antes de treinar um roteador. Em 67 modelos de 21 provedores, um modelo de fator único calibrado tetracórico ainda subestima a cauda de erro total: em matemática de resposta aberta, o beta observado é 0,052 contra 0,023 sob a cópula gaussiana completa de 67 modelos, cerca de 2,5 vezes de subestimação, com IC de 90% de 1,7 a 3,4 e k igual a 17. O efeito se repete em código avaliado por execução, onde beta é 0,079. Reapresentar as mesmas questões do GPQA-Diamond em formato de resposta livre, em vez de múltipla escolha, reabre a cauda, com beta de 0,127 e um painel de cinco juízes com kappa entre 0,73 e 0,92, localizando a co-falha no formato da resposta, e não no assunto. Com qualidade equivalente, conjuntos heterogêneos de baixo rho superam o Self-MoA de alto rho, mas em tarefas verificáveis em nosso conjunto, combinar modelos raramente supera o melhor modelo individual sem um forte sinal de roteamento em nível de consulta. Os ganhos vêm de modelos que falham em perguntas diferentes, não de adicionar mais modelos.
Modelos de raciocínio científico para biologia combinam modelos de linguagem com modelos fundamentais treinados em dados biológicos multimodais, incluindo DNA, RNA e proteínas. Esses modelos são construídos por meio de pós-treinamento, mas ainda não se compreende bem como cada etapa molda o raciocínio e a generalização. Estudamos quando o pós-treinamento melhora o desempenho e quando induz superespecialização. Em genômica, transcriptômica e proteínas, treinamos e avaliamos mais de 100 modelos de raciocínio biológico sob variação controlada de arquitetura base, pré-treinamento contínuo (CPT), ajuste fino supervisionado (SFT) e aprendizado por reforço (RL), medindo tanto o desempenho dentro do domínio (ID) quanto fora do domínio (OOD). Constatamos que cada etapa do pós-treinamento remodela a generalização de maneira distinta, em vez de contribuir com ganhos uniformes. O CPT melhora o desempenho downstream ao alinhar os modelos com a linguagem biológica. O SFT aumenta consistentemente o desempenho ID, mas faz com que o desempenho OOD atinja o pico precocemente e decline à medida que os modelos se ajustam à distribuição de treinamento. O RL, quando aplicado a checkpoints SFT robustos com recompensas alinhadas, melhora o desempenho OOD e recupera parcialmente a generalização. Esses resultados mostram que o raciocínio biológico não melhora monotonicamente com supervisão ou poder computacional adicionais. Em vez disso, o desempenho depende de como as etapas de treinamento são compostas. Sob orçamentos fixos de pós-treinamento, a melhor relação custo-benefício entre ID e OOD vem de um SFT breve, maiores alocações de RL e capacidade de adaptação assimétrica entre as etapas.
A previsão por Observação da Terra (OT) tem como objetivo antecipar a dinâmica futura da superfície terrestre a partir de observações por satélite sob condições meteorológicas em mudança. Neste artigo, consideramos essa tarefa como um problema de modelagem do mundo parcialmente observado e orientado pelo clima, no qual o clima atua como um sinal condicionante, enquanto a previsão permanece incerta devido a observações esparsas e estados não observados da superfície terrestre. No entanto, os métodos existentes não capturam completamente esse cenário: modelos determinísticos colapsam a incerteza em uma única previsão futura, enquanto métodos baseados em difusão tipicamente tratam variáveis climáticas como sinais condicionantes indiferenciados, e os benchmarks existentes focam principalmente na precisão da reconstrução, e não em se as previsões respondem corretamente a mudanças no forçamento climático. Apresentamos o EO-WM, um transformador de difusão de vídeo para previsão multiespectral de OT. O EO-WM incorpora uma estrutura de condicionamento fisicamente informada que representa o forçamento meteorológico por meio de uma linha de base climatológica, anomalias climáticas e sinais cumulativos de estresse físico. Especificamente, ele separa a linha de base e a anomalia por meio de vias de condicionamento distintas e acumula o forçamento anômalo ao longo do tempo para capturar estresse térmico e hídrico sustentado. Para avaliar o comportamento de resposta climática além das métricas padrão, introduzimos dois benchmarks de diagnóstico: um Benchmark de Verão Extremo para previsão ciente da severidade da degradação da vegetação sob clima extremo, e um Benchmark de Pares Correspondentes Sazonais para testar a fidelidade da resposta sob mudanças no forçamento climático. Experimentos mostram que o EO-WM reduz o erro na amplitude de declínio prevista do Índice de Vegetação por Diferença Normalizada (NDVI) em 5,63% relativo e melhora a taxa de acerto direcional em 7,80% relativo, mantendo-se competitivo em métricas padrão de nível de pixel. Os benchmarks e o modelo serão disponibilizados em código aberto em https://github.com/Luo-Z13/EO-WM.