Artículos de investigación en IA seleccionados diariamente con traducciones
Introducimos un marco de evaluación axiomático para las representaciones latentes del pensamiento en LLMs, compuesto por métricas independientes de las puntuaciones de referencia posteriores que revelan fallos representacionales que la precisión de las referencias enmascara. Las evaluaciones existentes confunden la calidad de la representación con la capacidad del modelo; por lo tanto, los fallos no pueden atribuirse a la representación en lugar de al modelo que la procesa. Formalizamos cuatro axiomas funcionales (Causalidad, Minimalidad, Separabilidad y Estabilidad) y definimos una medida cuantitativa para cada uno, calculada directamente sobre la representación, independientemente de la precisión posterior. Auditamos LLMs de pesos abiertos en 23 tareas de razonamiento (por ejemplo, Razonamiento Espacial, Preguntas y Respuestas Factuales). Encontramos que ningún candidato satisface los cuatro axiomas simultáneamente, que las representaciones distinguen de manera fiable el tipo de tarea pero no pueden distinguir entre dos preguntas dentro de la misma tarea, y que las representaciones codifican poca información más allá de la ya presente en la incrustación de entrada. El fallo es consistente en familias de modelos densos, destilados en razonamiento y entrenados con RL, lo que indica que la brecha es estructural y no una propiedad del tamaño del modelo o del procedimiento de entrenamiento.
Los modelos de generación de video han surgido como un paradigma prometedor para la simulación del mundo encarnado. Sin embargo, tanto los generadores de video de dominio general como los modelos ajustados con datos específicos de robots aún pueden producir manipulaciones físicamente inconsistentes, que incluyen trayectorias de movimiento discontinuas e interacciones robot-objeto inconsistentes, lo que limita su fiabilidad como simuladores del mundo. Mediante experimentos exhaustivos, encontramos que dicha inestabilidad física surge principalmente de dos factores: la deformación de objetos en movimiento y las correlaciones espacio-temporales inverosímiles entre entidades que interactúan, particularmente durante el contacto. Basándonos en esta observación, proponemos PhysisForcing, un marco de entrenamiento escalable que fortalece la consistencia física al centrar la supervisión en regiones informativas desde el punto de vista físico mediante la optimización conjunta de características a nivel de píxel y a nivel semántico. El marco consta de una pérdida de alineación de trayectorias a nivel de píxel, que supervisa las características DiT utilizando trayectorias de puntos de referencia, y una pérdida de alineación relacional a nivel semántico, que alinea las características DiT con relaciones entre regiones extraídas de un codificador de comprensión de video congelado. Experimentos exhaustivos en R-Bench, PAI-Bench y EZS-Bench muestran que PhysisForcing mejora consistentemente la generación de video encarnado en comparación con líneas base sólidas, mejorando los modelos base Wan2.2-I2V-A14B y Cosmos3-Nano en R-Bench en un 22.3\% y un 9.2\% (7.1\% y 3.7\% sobre el ajuste fino estándar), con la variante Cosmos3-Nano obteniendo la mejor puntuación general. Más allá de la generación, como modelo del mundo bajo el protocolo de planificador de acciones de WorldArena, eleva la tasa de éxito en ciclo cerrado del 16.0\% al 24.0\% y mejora aún más el éxito de la política descendente, lo que indica que los modelos de video alineados físicamente generan representaciones más sólidas para la manipulación robótica.
Presentamos Qwen-Image-2.0-RL, un pipeline de post-entrenamiento que aplica aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) y destilación en política (OPD) para mejorar tanto la calidad visual como la capacidad de seguimiento de instrucciones del modelo de difusión Qwen-Image-2.0. Para proporcionar señales de recompensa fiables, construimos modelos de recompensa compuestos específicos para cada tarea ajustando modelos de visión-lenguaje con un paradigma de puntuación puntual y razonamiento en cadena de pensamiento. Para la generación de texto a imagen, los modelos de recompensa abarcan dimensiones de alineación, estética y fidelidad del retrato. Para tareas de edición de imágenes, el sistema de recompensa aborda la precisión en el seguimiento de instrucciones y la preservación de la identidad facial. Basándonos en este sistema de recompensa, desarrollamos un marco de entrenamiento RL escalable basado en GRPO, incorporando una estrategia híbrida de guía sin clasificador (CFG) para preservar el conocimiento preentrenado, curación de indicaciones mediante filtrado de rango de recompensa intra-grupo y calibración de pesos de recompensa por categoría. Para fusionar las políticas RL especializadas en tareas para T2I y edición, proponemos la destilación en política como etapa final de entrenamiento, que consolida múltiples maestros en un único modelo estudiante mediante emparejamiento de velocidad a nivel de trayectoria. Una evaluación exhaustiva muestra que Qwen-Image-2.0-RL alcanza una puntuación global de 57,84 en Qwen-Image-Bench (+2,61 sobre el modelo base), valoraciones Elo de 1193 en el ámbito de texto a imagen (+78) y 1349 en el ámbito de edición de imágenes (+93), demostrando mejoras consistentes en calidad estética, adherencia a las indicaciones y precisión en la edición.
Estudiamos si es posible aprender nuevas habilidades de manipulación a partir de acciones humanas para un robot bimanual con pinzas paralelas. Los datos de acciones humanas son económicos, abundantes y diversos, lo que los convierte en uno de los recursos más prometedores para escalar el aprendizaje robótico. Sin embargo, transferir habilidades de humanos a robots sigue siendo difícil: la mayoría de los trabajos previos tratan a los humanos como otro tipo de cuerpo bimanual de 6 grados de libertad, donde las estimaciones de la pose de la mano son ruidosas y los patrones de contacto de los dedos humanos difieren fundamentalmente de los de una pinza paralela. Argumentamos que aprender señales de acción que incluyan rotaciones a partir de datos humanos es, por lo tanto, subóptimo y, en su lugar, proponemos una representación de acción puente: la traslación relativa de la muñeca en el marco inicial de la cámara de la cabeza, un espacio de acción compartido por humanos y robots. Para manejar la posible ausencia de ciertos componentes de acción en diferentes cuerpos, construimos un modelo de visión-lenguaje-acción similar a π_0, con tokens de acción intercalados y enmascaramiento de atención. En un conjunto de nuevas tareas de manipulación bimanual, nuestra acción puente transfiere el conocimiento de manipulación humana a los robots de manera mucho más efectiva que las acciones humanas ruidosas de 6 grados de libertad y escala con la cantidad de datos humanos.
Los modelos fundacionales en lenguaje y multimodalidad logran una fuerte generalización al alinear datos heterogéneos bajo una formulación unificada y entrenamiento a escala. En este informe, investigamos si esta receta de escalamiento puede aplicarse a la manipulación robótica para lograr una generalización genuina. Esto es un desafío porque, a diferencia del texto, los datos de manipulación son heterogéneos por naturaleza, costosos de recolectar y estrechos en diversidad, lo que dificulta simultáneamente la alineación y el escalamiento. Presentamos Qwen-RobotManip, un modelo fundacional generalizable de Visión-Lenguaje-Acción construido sobre Qwen-VL. Qwen-RobotManip introduce un marco de alineación unificado en las dimensiones de representación, movimiento y comportamiento de la manipulación, haciendo que el entrenamiento a gran escala con múltiples fuentes sea coherente en lugar de conflictivo. Esta capacidad de alineación, a su vez, permite que Qwen-RobotManip absorba datos de manipulación a una escala que los regímenes de entrenamiento previos no podían sostener. Un flujo de síntesis humano-robot convierte demostraciones de manos en primera persona en trayectorias robóticas a través de 15 plataformas, y un riguroso flujo de curación armoniza conjuntos de datos heterogéneos. Utilizando únicamente conjuntos de datos de código abierto y videos humanos sin recolección de datos propietarios, Qwen-RobotManip construye un corpus de preentrenamiento de aproximadamente 38.100 horas y exhibe capacidades de generalización emergentes, que incluyen seguimiento de instrucciones sin entrenamiento previo (zero-shot), robustez ante perturbaciones, recuperación reactiva de errores y transferencia entre cuerpos. Encontramos que los puntos de referencia estándar no logran capturar la calidad del preentrenamiento y, en su lugar, adoptamos configuraciones fuera de distribución (OOD) que incluyen RoboCasa365, LIBERO-Plus, EBench, RoboTwin-Clean2Rand, RoboTwin-IF y RoboTwin-XE. Qwen-RobotManip supera sustancialmente a los modelos de vanguardia anteriores, incluido π0.5, en todas las configuraciones OOD, ocupa el primer lugar en RoboChallenge con una mejora relativa del 20%, y es validado en plataformas robóticas reales, incluyendo AgileX ALOHA, Franka, UR y ARX.
Los sistemas de navegación agentiva requieren un modelo base de navegación cuya estrategia de observación pueda ser reconfigurada externamente en tiempo de inferencia, ya que el seguimiento de instrucciones, la búsqueda de objetos, el rastreo de objetivos y la conducción autónoma comparten la misma columna vertebral de percepción-planificación, pero demandan estrategias fundamentalmente diferentes para el consumo del flujo visual. Presentamos Qwen-RobotNav, un modelo de navegación escalable construido sobre Qwen-RobotNav que aborda esto mediante una interfaz parametrizada con dos dimensiones complementarias: múltiples modos de tarea que seleccionan el comportamiento de navegación, y parámetros de observación controlables (por ejemplo, presupuesto de tokens, pesos por cámara) que rigen cómo se codifica el historial visual. Con aleatorización en tiempo de entrenamiento sobre todos los parámetros, Qwen-RobotNav es robusto ante cualquier configuración en tiempo de inferencia sin requerir modificaciones arquitectónicas en la columna vertebral de Qwen-RobotNav. Entrenamos Qwen-RobotNav con 15,6 millones de muestras; el co-entrenamiento con datos de visión-lenguaje previene el colapso en mapeadores de secuencias de acción reactivos observado en el entrenamiento solo con trayectorias. La interfaz parametrizada también convierte a Qwen-RobotNav en un componente natural para sistemas agentivos: para escenarios de horizonte largo, un planificador de nivel superior descompone los objetivos en subtareas y cambia dinámicamente el modo de tarea y la estrategia de contexto de Qwen-RobotNav durante un episodio, componiendo comportamientos complejos a partir de llamadas repetidas al mismo modelo. Experimentos exhaustivos muestran que Qwen-RobotNav establece nuevos resultados de última generación en los principales puntos de referencia de navegación. El modelo exhibe un escalado favorable de 2B a 8B parámetros, con entrenamiento conjunto de múltiples tareas que desarrolla un sustrato compartido de planificación espacial que se transfiere entre familias de tareas, y demuestra una fuerte generalización de cero disparos a robots del mundo real en diversos entornos.
Los modelos de lenguaje (LM) representan los tokens mediante matrices de embeddings que escalan linealmente con el tamaño del vocabulario. Para limitar el volumen de parámetros, trabajos previos proponen el hashing de múltiples tokens en un solo vector dentro de modelos exclusivamente con codificadores. Si bien esto ofrece eficiencia paramétrica, las colisiones de muchos a uno impiden su uso en LM causales. En este artículo, presentamos MultiHashFormer, un nuevo marco que permite la autorregresión basada en hash. Cada token se representa como una firma hash única, una secuencia corta de identificadores hash discretos generados por múltiples funciones hash independientes. Un Codificador Hash comprime esta firma en un único vector latente para ser procesado por un decodificador Transformer. Luego, un Decodificador Hash genera la firma hash del siguiente token, la cual se mapea de vuelta al texto. Evaluamos nuestro enfoque en escalas de 100M, 1B y 3B parámetros, demostrando que MultiHashFormer supera consistentemente a los LM Transformer estándar en múltiples puntos de referencia. Además, mostramos que nuestro modelo maneja la expansión multilingüe del vocabulario con un volumen de parámetros constante y sin necesidad de modificaciones.
Los modelos de lenguaje visual (VLMs) se están implementando cada vez más en aplicaciones de consumo, médicas, financieras y empresariales. Esta amplia implementación expande la superficie de seguridad: los riesgos pueden surgir de respuestas a preguntas multimodales, respuestas de asistentes y composición intermodal, mientras que las políticas de moderación pueden variar según productos, regiones y etapas de implementación. La mayoría de las salvaguardas existentes se basan en taxonomías fijas o se centran únicamente en un conjunto limitado de escenarios de interacción, lo que limita su adaptabilidad cuando las reglas de seguridad cambian en tiempo de implementación. Presentamos SingGuard, una familia de modelos de salvaguarda multimodal adaptable a políticas para la evaluación de seguridad en conversaciones multimodales. SingGuard trata la política activa como una entrada en tiempo de ejecución: dadas reglas en lenguaje natural, verifica el contenido objetivo contra la política activa regla por regla y predice tanto la etiqueta de seguridad como la regla activada. Para equilibrar eficiencia e interpretabilidad, SingGuard admite regímenes de inferencia rápida, híbrida y lenta a lo largo de un espectro de razonamiento de rápido a lento, que va desde juicios de seguridad directos hasta deliberaciones fundamentadas en políticas. Optimizamos aún más este comportamiento con aprendizaje por refuerzo desacoplado rápido-lento. También presentamos SingGuard-Bench, un punto de referencia de salvaguarda multimodal con 56,340 ejemplos que abarcan más de 80 tipos de riesgo detallados en evaluación de preguntas y respuestas multimodales, ataques adversariales y evaluación con reglas dinámicas, incluyendo casos de riesgo conjunto intermodal donde cada modalidad es inofensiva por separado pero su composición implica intenciones inseguras. En seis familias de puntos de referencia (35 conjuntos de datos), SingGuard alcanza el estado del arte en F1 promedio en cada familia. La evaluación con reglas dinámicas muestra además una precisión mejorada en el seguimiento de políticas, de 0,6465 a 0,7415 bajo cambios de política en tiempo de ejecución. Nuestro código está disponible en https://github.com/inclusionAI/Sing-Guard.
Los sistemas multiagente (MAS) construidos sobre modelos de lenguaje grandes (LLMs) ofrecen un marco prometedor para resolver tareas complejas mediante la especialización de roles y la interacción estructurada. Sin embargo, su rendimiento a menudo se ve limitado por la falta de coordinación y, más fundamentalmente, por la ausencia de una asignación de crédito detallada entre los agentes. Los enfoques existentes suelen basarse en retroalimentación gruesa, lo que dificulta identificar qué agentes o pasos de interacción son responsables de los errores. Proponemos Conexiones Basadas en Gradientes (GBC), un enfoque para la atribución y optimización detallada de sistemas multiagente. GBC modela un MAS como un grafo computacional e introduce pesos de conexión basados en gradientes para cuantificar la influencia de la salida de cada agente en los agentes posteriores a nivel de tokens. Mediante la construcción de un grafo de atribución y la propagación hacia atrás de señales de pérdida específicas de la tarea, nuestro método permite la identificación precisa de las fuentes de error y la optimización dirigida de las indicaciones. Además, desarrollamos AgentChord, una implementación eficiente que aprovecha el cálculo de gradientes basado en prefijos. Los experimentos en MultiWOZ y τ-bench muestran que GBC mejora el rendimiento multiagente y supera a los modelos de referencia de agente único y multiagente, y que una mayor calidad de atribución se asocia con una mayor efectividad de optimización. El código está disponible en: https://github.com/yxc-cyber/AgentChord.
Los robots que operan en entornos de mundo abierto deben integrar de manera fluida localización, razonamiento espacial, navegación y planificación a largo plazo. Si bien los modelos especialistas sobresalen en tareas individuales, implementar una pila de modelos múltiples resulta computacionalmente costoso y propenso a errores en cascada. Presentamos Vesta, un generalista corpóreo unificado que consolida estas capacidades en un único modelo fundacional. Nuestro enfoque combina un corpus curado diverso y masivo diseñado para inducir anclaje espacial, junto con un sencillo aprovechamiento de memoria multimodal que permite el razonamiento en horizontes temporales extendidos. En diversos puntos de referencia, Vesta supera en promedio en más del 20% a las líneas base de última generación individuales, y en más del 10% a un conjunto de líneas base mejores por categoría, demostrando así que un modelo generalista puede igualar o superar a los especialistas. En tareas robóticas del mundo real que requieren memoria y razonamiento, Vesta mejora el éxito en las tareas en más del 35%. Nuestro trabajo demuestra, por tanto, que un único generalista es una alternativa factible, escalable y, presumiblemente, preferible a la combinación de especialistas.
La desintoxicación de texto, es decir, la detección y mitigación automatizada de contenido abusivo y dañino, es esencial para garantizar la seguridad de las comunidades en línea y proteger a los usuarios. Sin embargo, las lenguas de bajos recursos, como el tártaro, han recibido poca atención investigativa. En este artículo presentamos Tatoxa, un novedoso sistema de última generación para la desintoxicación de texto en lengua tártara. Los experimentos comparativos muestran que el enfoque propuesto supera a los LLMs comerciales propietarios y de código abierto existentes en métricas clave de calidad. También introducimos un nuevo conjunto de datos para la desintoxicación de texto en tártaro, diseñado para el ajuste fino y la evaluación en entornos de bajos recursos. Finalmente, los experimentos de transferencia interlingüística indican que la transferencia desde otros idiomas, incluido el ruso culturalmente cercano, tiene un rendimiento significativamente peor que el entrenamiento con datos nativos en tártaro, incluso cuando se dispone de un amplio corpus en ruso.
La Respuesta a Preguntas Visuales basada en Conocimiento (KB-VQA) requiere que los modelos combinen la comprensión de imágenes con conocimiento externo. La mayoría de los métodos previos utilizan una tubería fija de recuperar y luego generar, con un recuperador preseleccionado y una configuración estática de top-k, que no se adapta durante el razonamiento. Proponemos ProMSA, un agente de búsqueda multimodal progresivo para KB-VQA. Dado un par imagen-pregunta, el agente elige iterativamente entre búsqueda de imagen, búsqueda de texto o detención, bajo presupuestos explícitos de llamadas a herramientas y con deduplicación para evitar recuperaciones redundantes. Para el entrenamiento, primero utilizamos SFT por muestreo por rechazo para aprender formatos válidos de uso de herramientas, luego optimizamos el agente con TN-GSPO, un objetivo de RL a nivel de secuencia que normaliza las actualizaciones tanto por la longitud de generación como por la profundidad de interacción con herramientas. Los experimentos en E-VQA e InfoSeek muestran mejoras consistentes sobre líneas base sólidas de RAG y agentes, así como una mayor precisión en la recuperación y en la respuesta final. El código está disponible en https://github.com/DingWu1021/Promsa.
Los agentes de voz se enfrentan a una tensión fundamental: el razonamiento, la recuperación y el uso de herramientas que hacen capaces a los modelos fundacionales son iterativos y lentos, mientras que la interacción conversacional exige respuestas en escalas de tiempo de milisegundos. Los modelos pequeños y en tiempo real cumplen con el requisito de latencia, pero no pueden igualar a los modelos fundacionales en tareas complejas, lo que obliga a los agentes de voz actuales a sacrificar capacidad de respuesta o capacidad. Introducimos el relleno conversacional (*conversational infill*), donde un modelo *talker* pequeño genera inmediatamente respuestas contextualizadas para ocultar la latencia de un modelo razonador externo, e integra fluidamente el conocimiento transmitido por el razonador durante la inferencia. Curamos un conjunto de datos sintéticos de 290,571 ejemplos en seis dominios y demostramos que esta tarea es aprendible a través de siete modelos de lenguaje pequeños ampliamente utilizados, con tamaños de 135M a 1.7B parámetros. Nuestra implementación del sistema, ConvFill, mantiene un tiempo hasta la primera respuesta a nivel de milisegundos, mientras reduce la brecha de precisión al 6.3% del rendimiento del razonador fronterizo correspondiente. En un estudio en vivo con usuarios (n=18), con implementaciones del *talker* ejecutándose en un chip Apple M2 SoC, los participantes califican a ConvFill a la par de los modelos fronterizos en general, lo prefieren para tareas con alta demanda de recuperación y lo consideran significativamente más receptivo. Estos resultados muestran que el relleno conversacional desbloquea un nuevo punto en la frontera de Pareto entre latencia y capacidad, ofreciendo un camino práctico hacia agentes de voz que sean tanto receptivos como altamente capaces. El código, los modelos y los conjuntos de datos están disponibles en https://github.com/vysri/conversational-infill.
Los benchmarks para agentes web miden abrumadoramente la profundidad (localizar una respuesta oscura tras una cadena de restricciones), mientras que la amplitud (enumerar exhaustivamente un conjunto cerrado y completar los atributos de cada elemento) apenas se evalúa, especialmente fuera del inglés. La amplitud también es difícil de construir: certificar que un conjunto de referencia es completo y que cada celda es correcta resulta mucho más costoso que verificar una única respuesta. Presento Ko-WideSearch, un benchmark de búsqueda por amplitud en coreano construido mediante un pipeline automatizado de síntesis y verificación. Cada tarea nombra una entidad contenedora de un conjunto (una temporada de TV, una dinastía, una liga, una región administrativa, una elección) y solicita su membresía completa más una tabla de atributos por elemento, evaluada mediante Item-F1, Column-F1 y Row-F1. Abarca 228 tablas distribuidas en 190 entidades y dieciséis categorías en tres niveles de dificultad, determinados por dos parámetros estructurales que ajusto de forma independiente: el ancho de la tabla y una clave compuesta 2D, de modo que la membresía del producto cruzado aumenta del 0% al 100% a través de los niveles. Un único comparador sensible a la normalización se comparte entre la construcción del conjunto de referencia y la evaluación, evitando así que las columnas estables de fechas y conteos se descarten solo por diferencias de formato. En veinte agentes web, el fallo es consistente: los agentes recuperan el conjunto pero no las filas (p. ej., Item-F1 92.8 frente a Row-F1 53.7), la precisión disminuye de manera constante a medida que los parámetros se endurecen, y ni más búsqueda ni mayor gasto logran cerrar la brecha. Desglosado por celdas, la parte difícil es encontrar el valor correcto, no formatearlo: las celdas de texto libre abierto fallan más, mientras que las celdas con una respuesta estándar, como una fecha o un nombre, suelen ser correctas.
Entrenar y evaluar políticas robóticas en el mundo real es costoso y difícil de escalar. Presentamos SimFoundry, un sistema modular y automatizado para la construcción cero-disparo de escenas reales a simuladas a partir de un video. SimFoundry genera gemelos digitales listos para simulación y permite la edición de objetos, escenas y tareas, posibilitando la generación automatizada de diversos primos digitales: variaciones que preservan las affordances de escenas del mundo real reconstruidas. Las políticas entrenadas con datos de SimFoundry se transfieren sin necesidad de ajuste a tareas reales desafiantes que involucran manipulación en múltiples pasos, interacción con objetos articulados e interacción bimanual; sus primos digitales (variaciones de la escena, objetos y tareas originales) facilitan la generalización a nuevas condiciones del mundo real. En 7 tareas de manipulación y 5 arquitecturas de políticas, las evaluaciones de simulación de SimFoundry predicen fuertemente el rendimiento en el mundo real, con una correlación media de Pearson de 0.911 y una violación máxima media de ranking de 0.018. Al evaluar políticas entrenadas en simulación de manera cero-disparo en el mundo real, las políticas entrenadas con primos de objetos, escenas y tareas en simulación muestran mejoras promedio en la tasa de éxito de las tareas del 17 %, 21 % y 40 %, respectivamente. Más detalles en https://research.nvidia.com/labs/gear/simfoundry/.
Para que los agentes aprendan de manera continua a partir de la interacción con el mundo durante la fase de prueba, deben ser capaces de explorar eficazmente, adquirir nuevos conocimientos y habilidades sobre el mundo, retener experiencias episódicas relevantes y planificar a largo plazo. Con el fin de evaluar estas capacidades clave de los agentes de aprendizaje continuo en tiempo de prueba, presentamos AgentOdyssey, un marco de evaluación novedoso que genera proceduralmente juegos de texto abiertos con entidades ricas, dinámicas del mundo y tareas de largo plazo. De manera crítica, AgentOdyssey va más allá del supuesto convencional del aprendizaje automático de que no ocurre aprendizaje durante la prueba, situando a los agentes en un entorno continuo y de largo horizonte que intercala aprendizaje e inferencia a lo largo de su despliegue. Asimismo, proponemos una metodología de evaluación multifacética que no solo mide el progreso en el juego, sino que también ofrece pruebas diagnósticas sobre la adquisición de conocimiento del mundo, la memoria episódica, la exploración de objetos y acciones, la diversidad de acciones y el costo del modelo. Evaluamos diversos paradigmas de agentes en los juegos generados. Nuestros resultados experimentales revelan límites críticos en las capacidades clave de los agentes, así como factores que influyen en su horizonte significativo. Aunque el rendimiento escala con modelos base más potentes, incluso el mejor agente se mantiene muy por debajo del rendimiento humano, dejando un margen sustancial para la mejora. Entre los mecanismos de los agentes, descubrimos que la memoria a corto plazo beneficia a múltiples paradigmas de agentes y constituye un componente importante del entrenamiento de los agentes en tiempo de prueba.
La inteligencia artificial está impulsando una revolución en el descubrimiento científico, acelerando desde la generación de hipótesis hasta la demostración de teoremas matemáticos. Sin embargo, esta rápida aceleración crea un desafío sistémico: la revisión por pares humana tradicional no puede escalar al ritmo de la ciencia asistida por IA. En última instancia, para resolver esta tensión, debemos también desplegar IA para acelerar el propio proceso de verificación y revisión. Para enmarcar la discusión en torno a esta transición, proponemos una taxonomía compuesta por cuatro niveles progresivos de colaboración entre IA y humanos en la evaluación científica, y discutimos diversas compensaciones involucradas en cada uno. Como paso hacia este futuro, presentamos la Herramienta Asistente de Artículos (PAT, por sus siglas en inglés), un marco de IA agentiva diseñado para la revisión y verificación científica profunda. PAT procesa manuscritos científicos completos y produce una evaluación integral, verificando resultados teóricos, validando experimentos, sugiriendo mejoras e identificando posibles fallos. Mediante el uso de técnicas de escalamiento de inferencia, PAT es capaz de identificar problemas más profundos que una sola llamada al modelo, logrando una mejora del 34 % sobre la recuperación en zero-shot de errores matemáticos en el benchmark SPOT. Despliegues piloto de PAT como herramienta de presubmisión para autores en dos conferencias importantes de Ciencias de la Computación —STOC e ICML— demuestran su capacidad para identificar errores críticos y sugerir mejoras sustanciales a los artículos de investigación. Al detectar errores tempranamente, PAT alivia la carga cognitiva impuesta a los revisores, preservando al mismo tiempo su control sobre los resultados del proceso de revisión.
Los modelos Visión-Lenguaje-Acción (VLA) pueden generalizarse a través de diversas tareas de manipulación, pero sus políticas basadas en aprendizaje por imitación siguen siendo frágiles en interacciones físicas precisas debido a errores de ejecución acumulativos; ¿puede una política de aprendizaje por refuerzo entrenada puramente en simulación mejorar la robustez de los VLA del mundo real de forma zero-shot? El RL residual, que aprende una política correctiva sobre un VLA congelado, ofrece un marco natural, pero los enfoques existentes enfrentan un dilema fundamental de simulación a realidad: los métodos de estado privilegiado requieren destilación con pérdidas para su despliegue; los métodos basados en imágenes sufren la brecha de dominio visual; y el RL en el mundo real es costoso e inseguro. Proponemos un marco de RL residual centrado en objetos que refina las acciones del VLA utilizando poses de objetos, permitiendo un espacio de observación compacto que se transfiere de manera consistente entre simulación y realidad. Para alinear los dos dominios, además reproducimos las mismas demostraciones de teleoperación en simulación para entrenar un equivalente simulado del VLA del mundo real. La política de RL residual se entrena únicamente en simulación con inyección de ruido en la pose y dropout, y se transfiere zero-shot al robot real. En cinco tareas de manipulación con un robot real Franka Research 3 (FR3), nuestro método mejora la tasa de éxito del 42% al 76% de forma zero-shot, y las ejecuciones mejoradas pueden reutilizarse para reentrenar el VLA base para la automejora sin teleoperación adicional. Página del proyecto: https://www.microsoft.com/en-us/research/articles/object-centric-residual-rl/
Describo mi solución para el LeHome Challenge 2026, una competición de la ICRA 2026 sobre plegado de prendas bimanual. El sistema obtuvo el 1.er puesto de 62 equipos en la ronda en línea (simulación) y el 2.º puesto en la final con el robot real. Mejora una política visión-lenguaje-acción (VLA) con un bucle de aprendizaje por refuerzo. La política actúa como su propia función de valor: la misma red que predice acciones también predice el éxito, el progreso y algunas cantidades futuras relevantes para la tarea, y dichas predicciones impulsan la estimación de ventaja, la detección de fallos en tiempo real y la selección de candidatos. El trabajo combina principalmente ideas existentes de RL con contribuciones de ingeniería y optimización que pueden usarse juntas como receta única o de forma individual: AWR + RECAP combinados para VLA con flujo matching; un pipeline asíncrono de entrenamiento distribuido y despliegue a través de HuggingFace Hub; optimización de hiperparámetros en tiempo de inferencia mediante muestreo de Thompson; y una receta de simulación a realidad con herramientas de alineación de cámaras, aumentación intensiva y recopilación de datos HIL (humano en el bucle) tipo DAgger.
La generación autoregresiva (AR) de tokens continuos en el espacio de píxeles modela directamente las imágenes como secuencias de parches de píxeles en bruto, evitando la tokenización discreta o un tokenizador preentrenado por separado. Sin embargo, enfrenta desafíos acoplados: la generación de parches de alta dimensionalidad provoca grandes errores de un solo paso, y el entrenamiento con forzamiento de profesor crea una brecha entrenamiento-inferencia que hace que estos errores se acumulen a lo largo de los pasos AR. Las soluciones existentes, como la predicción en x y la inyección de ruido en la entrada, solo mitigan parcialmente estos problemas. El entrenamiento exacto con despliegue (rollout) se adapta mejor a las condiciones de inferencia, pero es inviable debido al prohibitivamente lento muestreo secuencial. Proponemos Parallel Rollout Approximation (PRA), un marco escalable que aborda ambos desafíos de manera conjunta. PRA genera estados intermedios de baja dimensionalidad en lugar de parches de píxeles de alta dimensionalidad, y luego los mapea de vuelta a tokens en el espacio de píxeles mediante un decodificador de píxeles, preservando una interfaz AR de entrada y salida en píxeles. También construye entradas de píxeles similares a las de inferencia a través del mismo camino estado-intermedio-a-píxel utilizado en inferencia, de forma independiente entre posiciones, aproximando la interfaz de retroalimentación de píxeles encontrada durante el despliegue en inferencia, mientras retiene el entrenamiento paralelo con forzamiento de profesor. En la generación condicional por clase ImageNet-1K a resolución 256×256, PRA-S con 135 millones de parámetros alcanza un FID de 2.58, superando el resultado previo de AR en espacio de píxeles a escala de mil millones de parámetros, que era de 3.60. Escalar a PRA-L con 511 millones de parámetros mejora aún más el FID a 1.94, estableciendo un nuevo estado del arte entre los modelos AR en espacio de píxeles. Más allá de la generación, PRA logra una mayor precisión de sondeo de clasificación en ImageNet que otras líneas base AR y de difusión, lo que sugiere su potencial para la generación y comprensión unificada de imágenes en el espacio de píxeles.
El despliegue eficiente de modelos de lenguaje grandes (LLMs) en producción implica un equilibrio entre precisión y costo. Los operadores suelen optar por un único modelo que resulta costoso para consultas sencillas o insuficiente para las difíciles. Para abordar este desafío, proponemos una solución en cascada de dos etapas. La Etapa 1 agrupa las consultas entrantes y asigna cada grupo a su modelo más rentable. El presupuesto de costo para este proceso de enrutamiento se define mediante un hiperparámetro interpretable, ajustado fuera de línea. La Etapa 2 añade una cascada de estimación de calidad (QE); cuando una salida de la Etapa 1 se considera de baja calidad, la consulta se eleva a un modelo más fuerte. Esto asegura que solo los casos difíciles o de baja confianza lleguen a los modelos costosos. En los conjuntos de datos de prueba, el sistema en cascada retiene entre el 97% y el 99% de la precisión del modelo más fuerte, mientras reduce el Tiempo por Token de Salida (TPOT). Requiere únicamente etiquetas de corrección de tareas y se adapta a cambios en el conjunto de modelos sin necesidad de reconfiguración manual.
Los modelos de generación de video aspiran a simular entornos dinámicos, y varios puntos de referencia evalúan actualmente la consistencia de la memoria entre fotogramas. Sin embargo, la mayoría solo evalúa la consistencia mientras el objetivo permanece a la vista, y los pocos que fuerzan la salida de objetos del campo visual se limitan a escenas estáticas donde nada cambia durante la oclusión. Para abordar esta brecha, presentamos MemoBench, un punto de referencia de diagnóstico construido en torno al paradigma de desaparición y reaparición en entornos dinámicamente cambiantes: un objeto objetivo experimenta un proceso físico, desaparece de la vista y debe ser recuperado correctamente en su estado actualizado al reaparecer. Seleccionamos 360 secuencias de referencia que abarcan escenas sintéticas y del mundo real, y diseñamos un conjunto de evaluación que combina métricas automatizadas con evaluación basada en VQA a lo largo de cuatro pilares de diagnóstico. La evaluación de ocho modelos de vanguardia revela hallazgos clave y desafíos abiertos en cuanto a la consistencia de la memoria bajo el paradigma de desaparición y reaparición.
El entrenamiento posterior con aprendizaje por refuerzo (RL) mejora la alineación de recompensas de los generadores basados en flujos, pero a menudo degrada la calidad perceptual de formas que no son capturadas por el proxy de recompensa. Identificamos una firma estructural simple de esta deriva: en tres métodos de entrenamiento posterior (NFT, AWM, DPO), el ajuste fino con RL infla la norma de velocidad por paso |v_θ| entre un 5 % y un 15 % en relación con la referencia. Se ha estudiado una forma de inflación de norma en la guía libre de clasificador (CFG), donde reescalar la velocidad de vuelta a una norma de referencia en el tiempo de inferencia puede mitigar los artefactos resultantes. Sin embargo, esta corrección en tiempo de inferencia no se transfiere limpiamente a RL: reescalar v_θ para igualar |v_ref| en tiempo de inferencia ni mejora la recompensa ni soluciona la degradación de calidad, porque la inflación está coadaptada en los pesos del modelo. Además, un análisis de sensibilidad adjunto muestra que el reescalado de la magnitud de la velocidad no porta una señal de recompensa de primer orden coherente a nivel de lote, lo que indica que suprimir la inflación de norma probablemente no elimine un componente que porte recompensa de manera consistente. Dado que la renormalización en tiempo de inferencia falla mientras que la supresión de norma no tiene costo de recompensa, la intervención en el tiempo de entrenamiento es la estrategia adecuada. En conjunto, estos hallazgos motivan \methodname, una penalización tipo bisagra que se activa solo cuando |v_θ| supera a |v_ref| y se compone aditivamente con cualquier pérdida base local en la velocidad. En dos modelos base, tres métodos de entrenamiento posterior y dos proxies de recompensa, \methodname mejora de manera consistente la calidad de imagen evaluada por MLLM y el realismo forense, mientras preserva la recompensa, con ganancias que se amplifican bajo inferencia de pocos pasos y que no se explican por la parada temprana.
Los agentes de código basados en LLM navegan repositorios mediante búsqueda por palabras clave, pero pasan por alto las relaciones estructurales —como grafos de llamadas, jerarquías de herencia y dependencias de configuración— que definen cómo funciona realmente el software. Esto hace que la navegación de los agentes sea estocástica y difícil de reproducir entre ejecuciones. Investigamos si el análisis estático ligero puede proporcionar anclajes deterministas para estos agentes: hechos estructurales estables inyectados como comentarios en texto plano que restringen la exploración probabilística y hacen la navegación más predecible. Partiendo de una línea base sólida, Codex de OpenAI, inyectamos sistemáticamente diferentes granularidades de anotaciones estructurales y medimos sus efectos en la localización, el comportamiento de la trayectoria y la estabilidad entre ejecuciones. Nuestro estudio identifica lo que denominamos el efecto de anclaje determinista: la estructura estática ayuda menos al hacer a los agentes «más inteligentes» y más al hacer su navegación disciplinada y reproducible. Tres observaciones respaldan este hallazgo: (1) El anclaje funciona: la topología ligera de llamadas/herencia mejora la localización a nivel de función (+2,2 pp Func@5) y acorta las trayectorias (-1,6 rondas de interacción); (2) El anclaje es sensible a la escala: la granularidad y direccionalidad óptimas dependen de las características del repositorio, donde las semánticas más densas muestran rendimientos decrecientes y los proyectos con muchos centros se benefician de enlaces solo inversos que exponen «quién-me-llama» sin aristas hacia adelante; (3) El anclaje estabiliza: las etiquetas aumentan la tasa de seguimiento de enlaces de 0,15-0,18 a 0,21-0,24, aproximadamente reducen a la mitad la varianza entre ejecuciones y mejoran la fiabilidad de una sola ejecución (Pass@1 +3,4 pp) en repositorios de escala media, a costa de aproximadamente un 10% más de tokens de entrada. Estas observaciones sugieren pautas prácticas: optar por defecto por topología ligera en proyectos medianos, podar las aristas hacia adelante en repositorios grandes y reservar etiquetas densas para casos de dependencia implícita.
La atención dispersa puede reducir el costo de la inferencia en contextos largos, pero la mayoría de las variantes introducen nuevos componentes arquitectónicos. Presentamos Atención Dispersa Simplificada (SSA), un enfoque más sencillo para la atención dispersa que no requiere cambios arquitectónicos. Concretamente, primero realizamos un preentrenamiento continuo en secuencias intercaladas con tokens de resumen. Optimizamos la pérdida estándar de siguiente token como es habitual, pero los tokens de resumen utilizan una máscara de atención para restringir qué partes del contexto puede atender el modelo de lenguaje; esto enseña al modelo a compactar la información importante de cada fragmento en los tokens de resumen. En el momento de la inferencia, SSA puntúa los fragmentos mediante la atención entre la consulta actual y el pequeño conjunto de tokens de resumen, desplegando de forma selectiva los mejores k fragmentos al reintroducir sus correspondientes tokens originales. Dado que la consulta se puntúa solo frente a los tokens de resumen, evitamos el coste de ancho de banda de memoria asociado con la puntuación ingenua frente a toda la caché KV, sin necesidad del enfoque auxiliar de caché KV utilizado por los métodos de atención dispersa. En LongBench, SSA supera consistentemente a los métodos de compresión y de atención dispersa en tiempo de inferencia bajo la misma tasa de compresión. De manera más llamativa, en la generación aumentada por recuperación, SSA puede incluso superar a la atención completa después del preentrenamiento continuo en más de 5.7 puntos. Atribuimos esto a la capacidad de despliegue selectivo de SSA, que concentra la atención en los fragmentos relevantes para la consulta y filtra eficazmente el ruido. SSA se extiende además a una variante jerárquica de resumen de resúmenes (H-SSA) que logra una complejidad de decodificación log-lineal mientras mantiene o mejora la precisión en altas tasas de compresión de hasta 32x. El código está disponible en https://github.com/yuzhenmao/simplified-sparse-attention/.
La tokenización es fundamental para adaptar datos científicos a modelos fundacionales basados en transformers, pero su impacto en las representaciones aprendidas sigue siendo poco comprendido. Comparamos cuatro estrategias de tokenización —Affine, AIM, JetFormer y VQ-VAE— dentro de un marco unificado de transformers para imágenes astronómicas. Utilizando 640 000 imágenes de galaxias del DESI Legacy Survey y una arquitectura base AstroPT compartida, evaluamos cada método en términos de fidelidad de reconstrucción y predicción de propiedades físicas. Nuestros resultados revelan compromisos entre los enfoques. El JetFormer basado en flujos logra una mayor calidad de reconstrucción, mientras que VQ-VAE ofrece un rendimiento sólido como sonda para las propiedades físicas de las galaxias. Affine y AIM preservan mejor la información morfológica localizada. Encontramos que la calidad de la reconstrucción y la de la representación están desacopladas, y ningún método único se desempeña consistentemente mejor en todas las tareas consideradas aquí. Al fundamentar nuestra evaluación en cantidades físicas medidas de forma independiente, esperamos que este estudio sirva para destacar el potencial de los datos científicos como base para construir referencias interpretables para modelos fundacionales.
Los agentes basados en modelos de lenguaje de gran escala (LLM) para la reparación de programas se construyen cada vez más sobre un paradigma de "generar-ejecutar-revisar", ejecutando iterativamente pruebas para evaluar y refinar parches. Este enfoque basado en la ejecución se ha convertido en una práctica estándar en los sistemas de última generación. Sin embargo, las ejecuciones pueden ser costosas en tiempo y recursos, y su impacto en estos agentes sigue sin explorarse adecuadamente. En este artículo, realizamos un estudio empírico en dos etapas sobre el comportamiento de ejecución en la reparación de programas basada en LLM. Para caracterizar el comportamiento de ejecución a escala, primero analizamos 7,745 trazas de agentes de las presentaciones en la tabla de clasificación de SWE-bench. En segundo lugar, evaluamos 3,000 intentos de reparación de extremo a extremo en 200 instancias de SWE-bench y tres agentes (Claude Code, Codex y el de código abierto OpenCode) bajo cuatro paradigmas de ejecución, lo que permite una comparación detallada del rendimiento y el costo. Nuestro análisis revela tres observaciones clave: (1) La ejecución de código se utiliza en todos los agentes y modelos analizados, con un promedio de 8.8 ejecuciones de prueba por tarea. El comportamiento de ejecución varía sustancialmente entre agentes y modelos, con frecuencias que oscilan entre 2 y 19 por tarea, y las ejecuciones en etapas tardías logran consistentemente tasas de éxito más altas que las de etapas tempranas. (2) Las restricciones de ejecución tienen poco efecto en el éxito de la reparación: en agentes comerciales con modelos de última generación, la brecha en la tasa de resolución entre "Prohibido" y "Sin restricciones" es de solo 1.25 puntos porcentuales y no es estadísticamente significativa, mientras que la opción "Prohibido" ahorra un costo sustancial en tokens y tiempo real. (3) El beneficio de la ejecución es concentrado en lugar de uniforme. Estos patrones sugieren que los agentes actuales aplican la ejecución de manera indiscriminada, asumiendo su costo en instancias donde aporta poco beneficio. Por lo tanto, la ejecución debe tratarse como un recurso con una compensación explícita entre costo y beneficio, no como una capacidad predeterminada.
Los modelos omni-modales pueden procesar video, audio y texto, pero el acceso unificado a múltiples modalidades no garantiza que el modelo utilice la evidencia correcta. Esta brecha es especialmente pronunciada en la respuesta a preguntas sobre videos sociales, donde la respuesta puede depender de un gesto, un tono vocal, una señal temporal o una discrepancia entre lo que se dice y lo que se expresa visualmente. Presentamos CogniRoute, un marco de Mixture-of-Experts guiado por esquemas para el razonamiento omni social. CogniRoute utiliza un esquema cognitivo exclusivo del entrenamiento que factoriza cada ejemplo según la relación intermodal, la demanda de razonamiento y el alcance temporal, y alinea las firmas de enrutamiento global con esta estructura durante el ajuste fino supervisado. Además, introducimos el aprendizaje por refuerzo consciente de la ruta, que optimiza conjuntamente la generación de tokens y la asignación de expertos mediante recompensas por corrección de la respuesta, razonamiento coherente con la modalidad y anclaje temporal cognitivo. Para respaldar el entrenamiento y la evaluación, construimos OmniSocialBench, un recurso diagnóstico de preguntas y respuestas sobre videos sociales con 118 000 ejemplos estructurados de entrenamiento, trazas de razonamiento fundamentadas, etiquetas de esquema, intervalos de evidencia temporal y una división de evaluación verificada manualmente. CogniRoute alcanza una precisión promedio del 59,38% en OmniSocialBench, mejorando en 15,33 puntos porcentuales respecto al mejor punto de referencia propietario y en 26,77 puntos respecto al mejor punto de referencia omni de código abierto, con las mayores mejoras en preguntas que requieren coordinación audiovisual, resolución de conflictos e inferencia social anclada temporalmente.
Los grandes modelos de lenguaje (LLM) pueden facilitar el uso de software científico. Sin embargo, un modelo general no sabe automáticamente qué mediciones admite un sensor particular, qué algoritmos están implementados en el software actual, ni qué conclusiones están justificadas por un resultado computacional. Estas distinciones son especialmente importantes en la electroencefalografía (EEG) de canales reducidos, donde la cobertura espacial dispersa y la calidad variable de la señal facilitan la producción de interpretaciones plausibles pero no fundamentadas. Presentamos NeuraDock Agent, una arquitectura de código abierto que separa un motor EEG local determinista de una capa lingüística consciente del hardware. El motor numérico analiza las grabaciones, realiza control de calidad, ejecuta flujos de trabajo espectrales revisados y genera artefactos legibles por máquina. El LLM recibe únicamente un resumen compacto incluido en una lista blanca y un paquete de contexto versionado. El contexto describe el hardware de siete canales, los flujos de trabajo revisados, los campos de resultados, los límites de implementación, los límites científicos y los casos de referencia. El EEG crudo y las matrices densas por muestra permanecen locales. Evaluamos el sistema en tres niveles. Primero, doce grabaciones produjeron resultados estructurados idénticos en diez repeticiones numéricas, y una ejecución completa de Reposo/Tarea generó hashes idénticos de resultados, informes y figuras en tres repeticiones. Segundo, experimentos de captura de solicitudes e inyección de fallos confirmaron el límite de datos probado y la preservación de artefactos locales bajo fallos de HTTP, salida malformada y conexión. Tercero, un punto de referencia de conciencia de límites evaluó 36 preguntas ordinarias y adversariales bajo cuatro ablaciones de contexto y dos LLM, produciendo 288 salidas. Estos resultados respaldan la fundamentación consciente del hardware y la implementación como un mecanismo práctico para calibrar lo que un agente EEG acepta, califica o rechaza; no establecen validez clínica ni un índice de carga cognitiva absoluto validado.