Artigos de pesquisa em IA selecionados diariamente com traduções
Os modelos Visão-Linguagem-Ação (VLA) visam fornecer um controlador generalista único para robôs, mas os sistemas atuais ficam aquém dos critérios importantes para implantação no mundo real. Os modelos de fronteira são fechados, as alternativas de pesos abertos estão vinculadas a hardware caro, políticas com aumento de raciocínio pagam uma latência proibitiva por sua fundamentação, e as taxas de sucesso ajustadas permanecem abaixo do limiar para uso confiável. Apresentamos o MolmoAct2, um modelo de raciocínio de ação totalmente aberto construído para implantação prática, avançando seu predecessor em cinco eixos. Introduzimos o MolmoER, um backbone VLM especializado para raciocínio espacial e corporificado, treinado em um corpus de 3,3 milhões de amostras com uma receita de especializar-depois-repetir. Lançamos três novos conjuntos de dados abrangendo plataformas de baixo a médio custo, incluindo o MolmoAct2-BimanualYAM, 720 horas de trajetórias bimanuais teleoperadas que constituem o maior conjunto de dados bimanual aberto até hoje, juntamente com subconjuntos filtrados por qualidade de Franka (DROID) e SO100/101. Fornecemos o OpenFAST, um tokenizador de ação de pesos abertos e dados abertos treinado em milhões de trajetórias em cinco embodimentos. Redesenhamos a arquitetura para enxertar um especialista em ação contínua por correspondência de fluxo em um VLM de token discreto via condicionamento de cache KV por camada. Finalmente, propomos o MolmoThink, uma variante de raciocínio de profundidade adaptativa que reprediz tokens de profundidade apenas para regiões da cena que mudam entre intervalos de tempo, retendo a fundamentação geométrica a uma fração da latência anterior. No estudo empírico mais extenso de qualquer VLA aberto até hoje, abrangendo 7 benchmarks de simulação e mundo real, o MolmoAct2 supera baselines fortes incluindo o Pi-05, enquanto o MolmoER supera o GPT-5 e o Gemini Robotics ER-1.5 em 13 benchmarks de raciocínio corporificado. Lançamos os pesos do modelo, código de treinamento e dados completos de treinamento. Página do projeto: https://allenai.org/blog/molmoact2
Muitas tarefas do mundo real exigem que modelos de linguagem (MLs) raciocinem sobre contextos complexos que excedem seu conhecimento paramétrico. Isso demanda aprendizado contextual, onde os MLs aprendem diretamente conhecimentos relevantes a partir do contexto fornecido. Uma solução intuitiva é a ampliação de habilidades no momento da inferência: extrair as regras e procedimentos do contexto para habilidades em linguagem natural. No entanto, a construção de tais habilidades para cenários de aprendizado contextual enfrenta dois desafios: o custo proibitivo da anotação manual de habilidades para contextos longos e tecnicamente densos, e a falta de feedback externo para a construção automatizada de habilidades. Neste artigo, propomos o Ctx2Skill, uma estrutura auto-evolutiva que descobre, refina e seleciona habilidades específicas do contexto de forma autônoma, sem supervisão humana ou feedback externo. Em seu núcleo, um loop de autojogo multiagente possui um Desafiador que gera tarefas de sondagem e rubricas, um Raciocinador que tenta resolvê-las guiado por um conjunto de habilidades em evolução, e um Juiz neutro que fornece feedback binário. Crucialmente, tanto o Desafiador quanto o Raciocinador evoluem através de habilidades acumuladas: agentes Proposto e Gerador dedicados analisam casos de falha e os sintetizam em atualizações de habilidades direcionadas para ambos os lados, permitindo a descoberta e o refinamento automatizado de habilidades. Para evitar o colapso adversarial causado pela geração de tarefas cada vez mais extremas e pelo acúmulo de habilidades superespecializadas, introduzimos ainda um mecanismo de Repetição Cruzada no Tempo que identifica o conjunto de habilidades que alcança o melhor equilíbrio entre casos representativos para o lado do Raciocinador, garantindo uma evolução de habilidades robusta e generalizável. As habilidades resultantes podem ser integradas a qualquer modelo de linguagem para obter uma melhor capacidade de aprendizado contextual. Avaliado em quatro tarefas de aprendizado contextual da CL-bench, o Ctx2Skill melhora consistentemente as taxas de resolução em diversos modelos de base.
Pesquisas recentes demonstraram que filtrar corpora massivos da web em inglês para obter subconjuntos de alta qualidade melhora significativamente a eficiência do treinamento. No entanto, para línguas não inglesas de alto recurso, como alemão, francês ou japonês, a filtragem agressiva cria um dilema estratégico: os profissionais devem priorizar a diversidade treinando uma única vez com grandes volumes de dados da web levemente filtrados, ou devem priorizar a qualidade filtrando rigorosamente um núcleo de alta qualidade e repetindo-o ao longo de múltiplas épocas? Investigamos este compromisso (trade-off) para o alemão construindo filtros hierárquicos de qualidade aplicados a 500 milhões de documentos da web, comparando o treinamento multiépoca nos subconjuntos filtrados com o treinamento de passagem única em um corpus diversificado. Nossos experimentos em múltiplas escalas de modelo e orçamentos de tokens mostram que a repetição de dados de alta qualidade supera consistentemente o treinamento de passagem única em conjuntos maiores e menos filtrados. Notavelmente, a diferença de desempenho persiste mesmo após 7 épocas. Nossas descobertas sugerem que, para LLMs não ingleses, a concentração semântica por meio da filtragem de qualidade oferece um caminho mais viável para uma modelagem de linguagem eficiente do que simplesmente maximizar o volume de dados únicos. Disponibilizamos nossos modelos de linguagem alemães (chamados Boldt), bem como nossos benchmarks de avaliação limpos, para a comunidade de pesquisa. Nossos experimentos indicam que eles alcançam resultados de última geração (state-of-the-art) apesar de serem treinados com 10 a 360 vezes menos tokens do que modelos comparáveis.
Embora os Large Vision-Language Models (LVLMs) autoregressivos demonstrem proficiência notável em tarefas multimodais, eles enfrentam um fenômeno de "Diluição do Sinal Visual", no qual o acúmulo do histórico textual expande a função de partição da atenção, fazendo com que a atenção visual decaia inversamente com o comprimento da sequência gerada. Para neutralizar isso, propomos a Memória Visual Persistente (PVM), um módulo leve e adaptável projetado para garantir uma percepção visual sustentada e sob demanda. Integrado como um ramo paralelo juntamente com a Rede Neural de Alimentação Direta (FFN) nos LVLMs, o PVM estabelece um caminho de recuperação agnóstico à distância que fornece *embeddings* visuais diretamente para uma percepção visual precisa, mitigando assim estruturalmente a supressão de sinal inerente à geração profunda. Experimentos extensivos nos modelos Qwen3-VL demonstram que o PVM traz melhorias notáveis com sobrecarga de parâmetros insignificante, proporcionando ganhos consistentes de precisão média nas escalas de 4B e 8B, particularmente em tarefas de raciocínio complexo que exigem percepção visual persistente. Além disso, uma análise aprofundada revela que o PVM pode resistir ao decaimento do sinal induzido pelo comprimento e acelerar a convergência da previsão interna.
O vasto e subexplorado oceano desempenha um papel crítico na regulação do clima global e no suporte à biodiversidade marinha, no entanto, a inteligência artificial tem, até agora, tido um impacto limitado neste domínio devido a um estrangulamento fundamental de dados. Especificamente, os dados oceânicos são altamente fragmentados entre fontes díspares e apresentam inerentemente características multimodais, de alto ruído e com etiquetagem fraca, carecendo de esquemas unificados e de alinhamento semântico. Embora os Modelos de Linguagem de Grande Porte Multimodais (MLLMs) tenham alcançado sucesso notável em domínios gerais, a sua aplicação à ciência oceânica permanece severamente limitada pela ausência de conjuntos de dados multimodais de grande escala e bem alinhados, adaptados aos ambientes marinhos. Para colmatar esta lacuna, introduzimos o OceanPile, um *corpus* multimodal de grande escala concebido para modelos de base oceânicos. Este é composto por três componentes principais: o OceanCorpus, uma coleção unificada que integra dados de sonar, imagens subaquáticas, elementos visuais de ciências marinhas e texto científico de diversas fontes autorizadas; o OceanInstruction, um conjunto de dados de instrução de alta qualidade sintetizado através de um novo *pipeline* orientado por um Gráfico de Conhecimento de Conceitos Oceânicos hierárquico; e o OceanBenchmark, um ponto de referência de avaliação criteriosamente curado para uma avaliação rigorosa. Estabelecemos um processo de controlo de qualidade multiestágio para garantir a validade científica e o alinhamento entre modalidades. A validação experimental demonstra melhorias significativas de desempenho para modelos treinados com os nossos dados. Todos os conjuntos de dados são disponibilizados publicamente para fazer avançar o campo da inteligência artificial marinha e capacitar MLLMs específicos do domínio.
Apesar dos avanços significativos na confiabilidade factual, os erros — frequentemente denominados alucinações — continuam a ser uma grande preocupação para a IA generativa, especialmente à medida que se espera cada vez mais que os LLMs sejam úteis em configurações mais complexas ou nuances. No entanto, mesmo no cenário mais simples — a resposta a perguntas factuais com uma verdade fundamental clara — os modelos de ponta, sem ferramentas externas, continuam a alucinar. Defendemos que a maioria dos ganhos de factualidade neste domínio resultou da expansão do limite do conhecimento do modelo (codificando mais factos) e não da melhoria da consciência sobre esse limite (distinguir o conhecido do desconhecido). Conjecturamos que este último é inerentemente difícil: os modelos podem carecer do poder discriminativo para separar perfeitamente verdades de erros, criando um compromisso inevitável entre eliminar alucinações e preservar a utilidade. Este compromisso dissolve-se sob um enquadramento diferente. Se entendermos as alucinações como erros confiantes — informações incorretas transmitidas sem a qualificação adequada — surge um terceiro caminho para além da dicotomia responder ou abster-se: expressar incerteza. Propomos a *incerteza fidedigna*: alinhar a incerteza linguística com a incerteza intrínseca. Esta é uma faceta da metacognição — a capacidade de estar consciente da própria incerteza e de agir em conformidade. Para a interação direta, agir sobre a incerteza significa comunicá-la honestamente; para sistemas agentes, ela torna-se a camada de controlo que governa quando pesquisar e em que confiar. A metacognição é, portanto, essencial para que os LLMs sejam simultaneamente confiáveis e capazes; concluímos destacando problemas em aberto para o progresso em direção a este objetivo.
Os benchmarks no ecossistema OpenClaw avaliaram até agora exclusivamente tarefas de nível assistente, deixando as capacidades de nível acadêmico do OpenClaw em grande parte não examinadas. Apresentamos o AcademiClaw, um benchmark bilingue composto por 80 tarefas complexas e de longo horizonte, recolhidas diretamente dos fluxos de trabalho académicos reais de estudantes universitários — trabalhos de casa, projetos de investigação, competições e projetos pessoais — que estes consideraram que os atuais agentes de IA não conseguiam resolver de forma eficaz. Curado a partir de 230 candidaturas submetidas por estudantes através de uma rigorosa revisão por peritos, o conjunto final de tarefas abrange mais de 25 domínios profissionais, desde problemas de matemática e linguística de nível olímpico até à depuração de sistemas *full-stack* e aprendizagem por reforço intensiva em GPU, com 16 tarefas a exigirem execução em CUDA GPU. Cada tarefa é executada num *sandbox* Docker isolado e é pontuada com base na conclusão da tarefa através de grelhas multidimensionais que combinam seis técnicas complementares, sendo que uma auditoria de segurança independente de cinco categorias fornece uma análise comportamental adicional. Experiências realizadas com seis modelos de ponta mostram que mesmo o melhor alcança apenas uma taxa de sucesso de 55%. Uma análise mais aprofundada revela limites acentuados de capacidade entre os domínios de tarefas, estratégias comportamentais divergentes entre os modelos e uma desconexão entre o consumo de *tokens* e a qualidade da saída, fornecendo sinais de diagnóstico de alto grão que vão além do que as métricas agregadas revelam. Esperamos que o AcademiClaw e os seus dados e código de código aberto possam servir como um recurso útil para a comunidade OpenClaw, impulsionando o progresso no sentido de agentes mais capazes e versáteis em toda a amplitude das exigências académicas do mundo real. Todos os dados e código estão disponíveis em https://github.com/GAIR-NLP/AcademiClaw.
Neste artigo, estudamos um fator pouco explorado mas importante dos modelos generativos de difusão: a complexidade combinatória. As amostras de dados são geralmente de alta dimensão e, para várias tarefas de geração estruturada, atributos adicionais são combinados para se associarem às amostras de dados. Demonstramos que o espaço abrangido pela combinação de dimensões e atributos pode ser insuficientemente coberto pelos esquemas de treinamento existentes para modelos generativos de difusão, limitando potencialmente o desempenho durante o teste. Apresentamos uma solução simples para este problema através da construção de processos estocásticos que exploram totalmente as estruturas combinatórias, daí o nome ComboStoc. Utilizando esta estratégia simples, mostramos que o treinamento da rede é significativamente acelerado em diversas modalidades de dados, incluindo imagens e formas estruturadas 3D. Além disso, o ComboStoc possibilita uma nova forma de geração durante o teste que utiliza passos de tempo assíncronos para diferentes dimensões e atributos, permitindo assim diferentes graus de controle sobre os mesmos. O nosso código está disponível em: https://github.com/Xrvitd/ComboStoc
Apresentamos o PhysicianBench, um benchmark para avaliação de agentes de LLM em tarefas médicas fundamentadas em ambientes clínicos reais dentro de ambientes de prontuário eletrônico de saúde (EHR). Os benchmarks médicos existentes para agentes concentram-se principalmente na recuperação de conhecimento estático, em ações atômicas de etapa única ou na intenção de ação sem verificação executável contra o ambiente. Como resultado, eles não conseguem capturar os fluxos de trabalho compostos e de longo horizonte que caracterizam os sistemas clínicos reais. O PhysicianBench compreende 100 tarefas de longo horizonte adaptadas de casos de consulta reais entre médicos de atenção primária e subespecialistas, com cada tarefa revisada independentemente por um painel separado de médicos. As tarefas são instanciadas em um ambiente EHR com registros de pacientes reais e acessadas através das mesmas APIs padrão utilizadas por fornecedores comerciais de EHR. As tarefas abrangem 21 especialidades (por exemplo, cardiologia, endocrinologia, oncologia, psiquiatria) e diversos tipos de fluxo de trabalho (por exemplo, interpretação de diagnóstico, prescrição de medicamentos, planejamento de tratamento), exigindo uma média de 27 chamadas de ferramenta por tarefa. Resolver cada tarefa requer a recuperação de dados entre atendimentos, o raciocínio sobre informações clínicas heterogêneas, a execução de ações clínicas consequentes e a produção de documentação clínica. Cada tarefa é decomposta em pontos de verificação estruturados (670 no total em todo o benchmark) que capturam estágios distintos de conclusão, classificados por scripts específicos da tarefa com verificação fundamentada na execução. Entre 13 agentes de LLM proprietários e de código aberto, o modelo de melhor desempenho atinge apenas 46% de taxa de sucesso (pass@1), enquanto os modelos de código aberto alcançam no máximo 19%, revelando uma lacuna substancial entre as capacidades atuais dos agentes e as demandas dos fluxos de trabalho clínicos do mundo real. O PhysicianBench fornece um benchmark realista e fundamentado na execução para medir o progresso em direção a agentes clínicos autônomos.
Os recentes avanços no aprendizado por reforço (RL) multietapa melhoraram significativamente o desempenho de LLMs de raciocínio em tarefas interativas complexas. Apesar dos progressos em técnicas de estabilização, como a atribuição de crédito refinada e a filtragem de trajetórias, a instabilidade permanece difusa e frequentemente leva ao colapso do treinamento. Argumentamos que essa instabilidade decorre de uma exploração ineficiente em configurações multietapa, onde as políticas continuam a gerar ações de baixa informação que nem reduzem a incerteza nem avançam o progresso da tarefa. Para resolver esse problema, propomos o Token- and Turn-level Policy Optimization (T²PO), uma estrutura consciente da incerteza que controla explicitamente a exploração em níveis refinados. No nível do token, o T²PO monitora a dinâmica da incerteza e aciona uma intervenção de pensamento quando a mudança marginal da incerteza cai abaixo de um limiar. No nível da etapa, o T²PO identifica interações com progresso de exploração insignificante e reamostra dinamicamente essas etapas para evitar rollouts desperdiçados. Avaliamos o T²PO em diversos ambientes, incluindo WebShop, ALFWorld e Search QA, demonstrando ganhos substanciais na estabilidade do treinamento e melhorias de desempenho com maior eficiência de exploração. O código está disponível em: https://github.com/WillDreamer/T2PO.
A geração aumentada por recuperação (RAG) aprimora os grandes modelos de linguagem com conhecimento externo, e a RAG baseada em árvores organiza documentos em índices hierárquicos para suportar consultas em múltiplas granularidades. No entanto, os métodos existentes de Tree-RAG, concebidos para recuperação de documento único, enfrentam desafios críticos ao escalar para perguntas multi-hop entre documentos: (1) baixa adaptabilidade distribucional, onde o agrupamento k-means introduz ruído devido a suposições distribucionais rígidas; (2) isolamento estrutural, uma vez que os índices em árvore carecem de conexões explícitas entre documentos; e (3) abstração grosseira, que obscurece detalhes de granularidade fina. Para superar estas limitações, propomos o Ψ-RAG, um framework tree-RAG com dois componentes-chave. Primeiro, um índice de árvore abstrata hierárquica construído através de um processo iterativo de "fusão e colapso" que se adapta às distribuições de dados sem uma suposição a priori. Segundo, um agente de recuperação multi-granular que interage inteligentemente com a base de conhecimento por meio de consultas reorganizadas e um recuperador híbrido acionado por agente. O Ψ-RAG suporta diversas tarefas, desde questionamento ao nível de *token* até sumarização ao nível de documento. Em *benchmarks* de QA multi-hop entre documentos, ele supera o RAPTOR em 25.9% e o HippoRAG 2 em 7.4% no score F1 médio. O código está disponível em https://github.com/Newiz430/Psi-RAG.
Este artigo de posição defende que os sistemas de IA agentivos devem ser concebidos e avaliados como economias de alocação marginal de *tokens*, e não como geradores de texto precificados por unidade. Acompanhamos um único pedido – um programador a solicitar a um agente de código que corrija um teste com falha – através de quatro camadas económicas que hoje são projetadas isoladamente: um *router* que decide qual modelo responde, um agente que decide se deve planear, agir, verificar ou delegar, uma *stack* de serviço que decide como produzir cada *token*, e um *pipeline* de treino que decide se o rasto vale a pena ser aprendido. Mostramos que todas as quatro camadas estão a resolver a mesma condição de primeira ordem – benefício marginal igual a custo marginal mais custo de latência mais custo de risco – com diferentes conjuntos de índices e diferentes preços. A estrutura é deliberadamente mínima: não propomos uma teoria completa da economia da IA. Mas adotar a alocação marginal de *tokens* como o objeto contabilístico partilhado explica porque é que os sistemas que minimizam localmente os *tokens* os mal alocam globalmente, prevê um pequeno conjunto de modos de falha recorrentes (*over-routing*, *over-delegation*, *under-verification*, congestionamento no serviço, *rollouts* desatualizados, uso incorreto da *cache*), e aponta para uma agenda de investigação concreta em avaliação consciente de *tokens*, precificação da autonomia, serviço com preços de congestionamento e orçamentação de RL ajustada ao risco.
Apesar do sucesso dos Modelos de Linguagem de Grande Visão (LVLMs), os objetivos de otimização gerais (por exemplo, MLE padrão) falham em restringir trajetórias visuais, levando a viés linguístico e alucinação. Para mitigar isso, os métodos atuais introduzem *priors* geométricos de especialistas visuais como supervisão adicional. No entanto, observamos que tal supervisão é tipicamente subótima: ela é tendenciosa em direção à precisão geométrica e oferece utilidade de raciocínio limitada. Para preencher essa lacuna, propomos a Perceptual Flow Network (PFlowNet), que evita o alinhamento rígido com os *priors* do especialista e alcança um raciocínio visual interpretável e mais eficaz. Especificamente, a PFlowNet desacopla a perceção do raciocínio para estabelecer um processo de geração auto-condicionado. Com base nisso, integra recompensas multidimensionais com modelação geométrica vicinal via aprendizagem por reforço variacional, facilitando assim comportamentos perceptivos orientados para o raciocínio, enquanto preserva a confiabilidade visual. A PFlowNet oferece uma garantia de desempenho demonstrável e resultados empíricos competitivos, estabelecendo particularmente novos recordes SOTA no V* Bench (90,6%) e no MME-RealWorld-lite (67,0%).
Os agentes de codificação de última geração resolvem tarefas complexas quando recebem contexto completo, mas falham quando as especificações são incompletas ou ambíguas. O gargalo não é a capacidade bruta, mas o julgamento: saber quando agir de forma autónoma e quando pedir ajuda. Os *benchmarks* atuais são cegos a este modo de falha. Eles fornecem instruções detalhadas e inequívocas e recompensam apenas a correção da execução, portanto, um agente que faz um palpite feliz para um requisito em falta terá uma pontuação idêntica à de um que teria perguntado para ter certeza. Apresentamos o HiL-Bench (*Human-in-the-Loop Benchmark*) para medir esta habilidade de escalonamento seletivo. Cada tarefa contém bloqueadores validados por humanos (informações em falta, pedidos ambíguos, informações contraditórias) que surgem apenas através de uma exploração progressiva, e não de uma inspeção inicial. A nossa métrica principal, o Ask-F1, a média harmónica da precisão das perguntas e da recuperação de bloqueadores, capta a tensão entre perguntar em excesso e adivinhar silenciosamente; a sua estrutura impede arquitetonicamente a exploração através do envio em massa de perguntas. A avaliação nos domínios de Engenharia de Software (*SWE*) e texto-para-SQL revela uma grande lacuna universal de julgamento: nenhum modelo de fronteira recupera mais do que uma fração do seu desempenho com informação completa ao decidir se deve perguntar. A análise de falhas identifica três padrões-chave de procura de ajuda: crenças erradas e excesso de confiança sem deteção de lacunas; alta deteção de incerteza, mas erros persistentes; escalonamento amplo e impreciso sem autocorreção. Estes padrões consistentes confirmam que a má procura de ajuda é uma falha ao nível do modelo, e não específica da tarefa. O treino por Reforço (*RL*) com recompensa moldada pelo Ask-F1 mostra que o julgamento é treinável: um modelo de 32B melhora tanto a qualidade da procura de ajuda como a taxa de sucesso da tarefa, com ganhos que transferem entre domínios. O modelo não aprende heurísticas específicas do domínio sobre quando perguntar; ele aprende a detetar incerteza insolúvel e a agir sobre ela.
Este relatório documenta a avaliação de preparação do Code World Model (CWM), um modelo da Meta para geração de código e raciocínio sobre código. Realizamos testes pré-lançamento em domínios identificados em nosso Frontier AI Framework como potencialmente apresentadores de riscos catastróficos, e também avaliamos as propensões de desalinhamento do modelo. Nossa avaliação concluiu que o CWM não apresenta riscos de fronteira adicionais além daqueles presentes no ecossistema atual de IA. Portanto, disponibilizamo-lo como um modelo de pesos abertos.
Os grandes modelos de linguagem apresentam desempenho sólido em benchmarks de raciocínio matemático, codificação e análise de documentos, sugerindo uma ampla capacidade de seguir instruções. No entanto, permanece incerto se tal sucesso reflete uma competência lógica geral, a aplicação repetida de procedimentos aprendidos ou uma correspondência de padrões que imita a execução de regras. Investigamos esta questão introduzindo a Capacidade de Contagem Estável, um ensaio no qual os modelos contam símbolos repetidos até a falha. O ensaio remove dependências de conhecimento, semântica e ambiguidade da avaliação, evita confusões lexicais e de tokenização, e fornece uma medida direta da confiabilidade procedural além dos benchmarks padrão baseados em conhecimento. Aqui demonstramos, através de mais de 100 variantes de modelos, que a capacidade de contagem estável permanece muito abaixo dos limites de contexto divulgados. O comportamento do modelo é consistente nem com uma lógica de livre arbítrio nem com a aplicação estável de uma regra aprendida, mas sim com o uso de um conjunto finito de estados internos semelhantes à contagem, análogo a contar nos dedos. Uma vez esgotado este recurso, a aparência de seguimento de regras desaparece e a execução exata colapsa em adivinhação, mesmo com poder computacional adicional durante o teste. Essas descobertas mostram que o desempenho fluente nos modelos de linguagem atuais não garante um seguimento de regras geral e confiável.
A pesquisa existente atribui amplamente a capacidade de modelagem de sequência global dos Transformers ao cálculo explícito de pesos de atenção, um processo que inerentemente incorre em complexidade computacional quadrática. Neste trabalho, oferecemos uma nova perspectiva: demonstramos que a atenção pode ser reformulada matematicamente como um Perceptron Multicamadas (MLP) equipado com parâmetros previstos dinamicamente. Através desta lente, explicamos o poder de modelagem global da atenção não como uma agregação explícita entre tokens, mas como um processo implícito onde parâmetros gerados dinamicamente atuam como uma representação comprimida do contexto global. Inspirados por esta percepção, investigamos uma questão fundamental: podemos alcançar uma modelagem global de sequência no nível do Transformer inteiramente através de parametrização dinâmica, mantendo complexidade linear e efetivamente substituindo a atenção explícita? Para explorar isso, projetamos várias estratégias de previsão de parâmetros dinâmicos e as integramos em camadas de rede padrão. Estudos empíricos extensos em modelos de visão demonstram que a parametrização dinâmica pode de fato servir como uma alternativa altamente eficaz e de complexidade linear à atenção explícita, abrindo novos caminhos para a modelagem eficiente de sequências. O código está disponível em https://github.com/LeapLabTHU/WeightFormer.
Apresentamos o Orbit-Space Geometric Probability Paths (OGPP), uma estrutura de correspondência de fluxo nativa a partículas para modelagem generativa de sistemas de partículas. O OGPP é motivado por dois insights: (i) as partículas são definidas até simetrias de permutação, portanto, a indexação anônima infla a variância do alvo por índice e produz fluxos curvos e difíceis de aprender; e (ii) as partículas existem no espaço físico, portanto, a velocidade terminal do fluxo tem significado físico e pode codificar atributos geométricos, por exemplo, normais de superfície. O OGPP instancia três componentes-chave: (1) a canonificação do ponto terminal do caminho de probabilidade no espaço de órbitas, (2) incorporações de índice de partículas para especialização de papéis, e (3) caminhos de probabilidade geométricos com velocidades terminais conscientes do comprimento do arco que geram normais como um subproduto do fluxo. Avaliamos o OGPP em benchmarks de superfície mínima, onde ele reduz o erro métrico em até duas ordens de magnitude em uma única etapa de inferência; no ShapeNet, onde iguala o estado da arte com 5 vezes menos etapas e atinge uma EMD (Earth Mover's Distance) para aviões comparável ao DiT-3D com 26 vezes menos parâmetros e 5 vezes menos etapas; e na codificação de forma única, onde produz normais e reconstruções competitivas com geradores 6D enquanto opera inteiramente em 3D.
Os Modelos de Base Tabulares (TFMs) alcançam precisão state-of-the-art em cenário de zero-shot em pequenos conjuntos de dados tabulares através de meta-aprendizado sobre processos sintéticos de geração de dados - tornando-os altamente atrativos para profissionais que não podem dispor de grandes corpora anotados. No entanto, o seu mecanismo de aprendizado em contexto assume entradas aproximadamente limpas: valores ausentes, *outliers* e duplicatas nos dados do mundo real criam um desalinhamento de *prior* que degrada simultaneamente a precisão e a calibração de confiança. Corrigir este desalinhamento requer decisões sequenciais sobre operadores de limpeza cujas interações nenhuma regra estática de pré-processamento pode antecipar - um cenário natural para Aprendizado por Reforço (RL). Introduzimos o L2C2, o primeiro *framework* de RL profundo que enquadra a limpeza de dados tabulares como um alinhamento de *prior*: uma política aprendida sequencia operadores para minimizar a diferença distribucional entre a entrada suja e a *prior* sintética do TFM. Seis experimentos em dez conjuntos de dados de referência do OpenML estabelecem: 1) três de sete projetos de recompensa colapsam em estratégias de limpeza triviais degeneradas - a engenharia de recompensa fundamentada é cientificamente não trivial; 2) a nova recompensa TFMAwareReward que propomos seleciona *pipelines* estruturalmente distintos em 4/10 dos conjuntos de dados e alcança maior precisão do TabPFN nesses casos divergentes (média 0,851 vs. 0,843; Wilcoxon p=0,063, n=4) sem nunca ter desempenho inferior; 3) ações de limpeza parametrizadas melhoram a recompensa da melhor *pipeline* encontrada em 9/10 dos conjuntos de dados (Wilcoxon p=0,004); e 4) uma política pré-treinada em um único conjunto de dados de origem supera o treinamento do zero no ponto de verificação de *fine-tuning* de 2.000 etapas em todos os três conjuntos de dados retidos (até +28,8% após o *fine-tuning* completo) demonstrando transferência de conhecimento de alinhamento de *prior* entre conjuntos de dados. Esses achados estabelecem que o alinhamento de *prior* é uma estratégia de preparação de dados fundamentada para a implantação de TFMs em dados tabulares do mundo real.
Os paradigmas de geração de vídeo autoregressivos oferecem potencial teórico para a síntese de vídeos longos, mas sua implantação prática é dificultada pelo custo computacional da eliminação iterativa sequencial de ruído. Embora estratégias de reutilização de cache possam acelerar a geração ao pular etapas redundantes de eliminação de ruído, os métodos existentes dependem de um salto em nível de bloco de granularidade grossa que não consegue capturar a dinâmica de píxeis de granularidade fina. Esta omissão é crítica: píxeis com alto movimento exigem mais etapas de eliminação de ruído para evitar a acumulação de erros, enquanto píxeis estáticos toleram saltos agressivos. Formalizamos teoricamente esta perceção, relacionando os erros de cache à instabilidade residual, e propomos o MotionCache, uma estrutura de cache consciente do movimento que explora as diferenças interquadros como um proxy leve para as características de movimento a nível de píxel. O MotionCache emprega uma estratégia de grossa-a-fina: uma fase inicial de aquecimento estabelece coerência semântica, seguida pela reutilização de cache ponderada por movimento que ajusta dinamicamente as frequências de atualização por token. Experimentos extensivos em modelos de última geração como SkyReels-V2 e MAGI-1 demonstram que o MotionCache alcança acelerações significativas de 6,28 vezes e 1,64 vezes, respectivamente, preservando efetivamente a qualidade de geração (VBench: queda de 1% e queda de 0,01%, respectivamente). O código está disponível em https://github.com/ywlq/MotionCache.
A ressecção cirúrgica continua sendo o único tratamento potencialmente curativo para o adenocarcinoma ductal pancreático (ADP), e a elegibilidade depende da avaliação precisa da invasão vascular (IV), ou seja, da extensão do tumor para os vasos críticos adjacentes. Apesar de sua importância para o estadiamento pré-operatório e o planejamento cirúrgico, a avaliação computacional da IV permanece pouco explorada. Dois grandes desafios são a falta de conjuntos de dados públicos e a ambiguidade diagnóstica na interface tumor-vaso, o que leva a uma variabilidade substancial entre avaliadores, mesmo entre radiologistas especialistas. Para superar essas limitações, apresentamos o CURVAS-PDACVI Dataset and Challenge, uma referência aberta para IA com consciência da incerteza no estadiamento do ADP, baseado num conjunto de dados densamente anotado com cinco anotações especialistas independentes por exame. Também propomos uma estrutura de avaliação de múltiplas métricas que vai além da sobreposição espacial para incluir a calibração probabilística e a avaliação da IV. A avaliação de seis métodos state-of-the-art mostra que uma forte sobreposição volumétrica global não se traduz necessariamente em desempenho confiável nas interfaces tumor-vaso clinicamente críticas. Especificamente, os métodos otimizados para segmentação binária apresentam desempenho competitivo nas métricas de sobreposição média, mas frequentemente se degradam em casos de alta complexidade com baixo consenso entre especialistas, colapsando em volume ou se estendendo excessivamente em fronteiras incertas. Em contraste, os métodos que modelam a discordância entre avaliadores produzem mapas probabilísticos melhor calibrados e mostram maior robustez nesses casos ambíguos. O referencial evidencia as limitações da precisão volumétrica como um substituto para a utilidade cirúrgica localizada, motivando o desenvolvimento de modelos probabilísticos com consciência da incerteza para a tomada de decisão pré-operatória.
A geração automática de código executável do Blender a partir de linguagem natural continua a ser um desafio, com os modelos de linguagem de última geração produzindo erros sintáticos frequentes e objetos geometricamente inconsistentes. Apresentamos o BlenderRAG, um sistema de geração aumentada por recuperação que opera num conjunto de dados multimodais curado com 500 exemplos validados por especialistas (texto, código, imagem) abrangendo 50 categorias de objetos. Ao recuperar exemplos semanticamente similares durante a geração, o BlenderRAG melhora as taxas de sucesso de compilação de 40,8% para 70,0% e o alinhamento semântico normalizado de 0,41 para 0,77 (similaridade CLIP) em quatro modelos de linguagem de última geração, sem exigir *fine-tuning* ou hardware especializado, tornando-o imediatamente acessível para implementação. O conjunto de dados e o código estarão disponíveis em https://github.com/MaxRondelli/BlenderRAG.
A integração de dados moleculares, morfológicos e clínicos é essencial para a pesquisa biomédica básica e translacional, mas ainda são escassos os modelos sistemáticos para modelar conjuntamente essas modalidades. Apresentamos aqui o Haiku, um modelo de aprendizado contrastivo trimodal treinado em imunohuorescência multiplex (mIF). O conjunto compreende 26,7 milhões de *patches* de proteômica espacial de 3.218 seções histológicas de 1.606 pacientes, abrangendo 11 tipos de órgãos, com histologia H&E (hematoxilina e eosina) e metadados clínicos correspondentes alinhados em um espaço de incorporação compartilhado. O Haiku permite recuperação cruzada trimodal, melhora tarefas de classificação e predição clínica em relação a modelos unimodais de referência e suporta inferência de biomarcadores *zero-shot* por meio de recuperação por fusão condicionada a descrições textais baseadas apenas em metadados clínicos. Em diversas tarefas, o Haiku supera abordagens concorrentes, alcançando recuperação cruzada (Recall@50 de até 0,611 versus linha de base próxima de zero), predição de sobrevida (índice C de 0,737, +7,91% de melhoria relativa) e inferência *zero-shot* de biomarcadores (correlação de Pearson média de 0,718 em 52 biomarcadores). Adicionalmente, introduzimos um modelo de predição contrafactual no qual a modificação apenas dos metadados clínicos, mantendo fixa a morfologia tecidual, revela desvios moleculares específicos de nicho associados à progressão do estágio do câncer de mama e a desfechos de sobrevida no câncer de pulmão. Num estudo de caso com adenocarcinoma pulmonar, a análise contrafactual recupera desvios específicos de nicho caracterizados por aumento de CD8 e granzima B, redução de PD-L1 e diminuição de Ki67, padrão amplamente consistente com relatos de desfechos favoráveis. Apresentamos esses resultados contrafactuais como sinais exploratórios e geradores de hipóteses, e não como afirmações mecanicistas. Essas capacidades demonstram que o alinhamento trimodal via Haiku possibilita análises integrativas da biologia espacial, conectando medições moleculares com o contexto clínico para exploração biológica.
Os motores de videojogos têm sido uma fonte importante para gerar grandes volumes de dados sintéticos visuais para treinar e avaliar algoritmos de visão computacional destinados a serem implementados no mundo real. Embora a fidelidade visual dos motores de jogos modernos tenha sido significativamente melhorada com tecnologias como o ray-tracing, persiste uma lacuna notável de aparência sim2real entre as imagens sintéticas e as do mundo real, o que limita a utilização de conjuntos de dados sintéticos em aplicações do mundo real. Nesta carta, investigamos a capacidade de um modelo de difusão de última geração para geração e edição de imagens (FLUX.2-4B Klein) para melhorar o fotorrealismo de conjuntos de dados sintéticos e comparamos o seu desempenho com um modelo tradicional de tradução imagem-a-imagem (REGEN). Além disso, propomos uma abordagem híbrida que combina as fortes transformações geométricas e de material dos métodos baseados em difusão com as capacidades de correspondência de distribuição das técnicas de tradução imagem-a-imagem. Através de experiências, demonstra-se que o REGEN supera o FLUX.2-4B Klein e que, ao combinar ambos os modelos FLUX.2-4B Klein e REGEN, pode ser alcançado um melhor realismo visual em comparação com a utilização individual de cada modelo, mantendo a consistência semântica. O código está disponível em: https://github.com/stefanos50/Hybrid-Sim2Real