Artículos de investigación en IA seleccionados diariamente con traducciones
Muchas tareas de programación cotidianas se resisten a una implementación limpia basada en reglas, como alertar sobre líneas de log importantes, reparar JSON malformado o clasificar resultados de búsqueda por intención, y cada vez más se subcontratan a APIs de modelos de lenguaje grandes a costa de localidad, reproducibilidad y precio. Proponemos la programación de funciones difusas: compilar dicha función a partir de una especificación en lenguaje natural en un artefacto neuronal compacto y ejecutable localmente. Materializamos este paradigma con Program-as-Weights (PAW), en el que un compilador de 4B entrenado en FuzzyBench, un conjunto de datos de 10 millones de ejemplos que publicamos, genera adaptadores eficientes en parámetros para un intérprete ligero y congelado. Un intérprete Qwen3 de 0.6B que ejecuta programas PAW iguala el rendimiento de la consulta directa a Qwen3-32B, al tiempo que utiliza aproximadamente una quincuagésima parte de la memoria de inferencia y se ejecuta a 30 tokens/s en una MacBook M3. PAW reformula el modelo fundacional de solucionador de problemas por entrada a constructor de herramientas: invocado una vez por definición de función, produce un artefacto reutilizable pequeño cuyas llamadas posteriores por aplicación de función son baratas y sin conexión.
La memoria de un agente LLM de horizonte largo es un contrato sobre qué información puede ver cada decisión futura. El contrato más simple añade observaciones pasadas, llamadas a herramientas y reflexiones a cada prompt, lo que facilita el acceso al contexto previo pero también lo convierte en una mezcla confusa en la que resulta difícil aislar el efecto de cualquier componente de memoria individual. Introducimos e instrumentamos un contrato acotado alternativo: cada decisión se toma a partir de un mensaje de usuario fresco ensamblado mediante recuperación tipificada, sin añadir ninguna transcripción bruta entre decisiones. De este modo, el prompt se mantiene acotado independientemente de la longitud de las ejecuciones, y cualquier capa individual puede ablacionarse de forma aislada. Concretamos el contrato en Slay the Spire 2, un juego estocástico de construcción de mazos con reglas cerradas cuyas partidas requieren cientos de decisiones tácticas y estratégicas. Un punto de referencia público en línea de LLMs de frontera en el mismo juego reporta cero victorias en la dificultad más baja en cinco configuraciones, mientras que la tasa de victorias humanas reportada por los desarrolladores en esa misma dificultad es del 16%; la tarea es difícil pero no está saturada. Dentro de nuestro entorno de ejecución, una ablación con A0 fijo muestra la mayor diferencia observada cuando se activan las habilidades estratégicas desencadenadas: la línea base sin almacenamiento gana 3 de 10 partidas y, al añadir la capa de habilidades, 6 de 10. Con este tamaño muestral, la comparación es direccional más que estadísticamente concluyente (prueba exacta de Fisher p≈0,37); se presentan una sonda entre modelos base y líneas base de contexto acumulativo público como comparaciones operativas, no como pruebas controladas de la variable contractual en sí misma. Publicamos un banco de pruebas reproducible: 298 trayectorias completadas con etiquetas de condición, instantáneas congeladas de memoria y habilidades, registros de prompts y scripts de análisis: un diseño de agente y una metodología validada y reutilizable para estudiar cómo las capas explícitas de memoria moldean las decisiones de agentes LLM de horizonte largo.
Se espera cada vez más que los agentes autónomos mejoren las políticas ejecutables mediante retroalimentación, sin embargo, las evaluaciones existentes a menudo reducen este proceso a una puntuación final o lo confunden con el progreso de la ingeniería de software de código abierto. Introducimos la Evolución Autónoma de Políticas, un entorno de evaluación controlado en el que un agente modelo-armés edita repetidamente un sistema de política ejecutable bajo un presupuesto de interacción fijo. Implementamos este entorno en EvoPolicyGym, un banco de pruebas construido a partir de entornos compactos interactivos de RL que evalúa cómo los agentes mejoran iterativamente las políticas exploradas. En el conjunto de EvoPolicyGym, GPT-5.5 alcanza la puntuación de rango agregado más fuerte y un rendimiento entre los dos primeros en los 16 entornos. Más allá de los resultados en tablas de clasificación, EvoPolicyGym también proporciona diagnósticos a nivel de trayectoria que distinguen cómo los agentes asignan el presupuesto y convierten la retroalimentación en ajuste paramétrico. Estos análisis muestran que una evolución autónoma de políticas sólida depende no solo de victorias en tareas aisladas, sino de descubrir mecanismos apropiados para la tarea y refinar políticas bajo retroalimentación limitada.
Los modelos de atención híbrida mejoran la eficiencia en contextos largos al retener solo un subconjunto de capas de atención completa y reemplazar las capas restantes con atención lineal. Sin embargo, la efectividad de la conversión de Transformer a híbrido depende críticamente de qué capas conservan la atención completa. Los métodos existentes de selección de capas híbridas suelen basarse en estrategias heurísticas, como patrones de colocación fijos o puntuación por capas, tratando implícitamente la importancia de cada capa como aislada y pasando por alto el efecto de interdependencia entre capas bajo una configuración híbrida global. En este trabajo, formulamos la selección de capas híbridas como un problema de optimización de subconjuntos con restricción de presupuesto. Además, proponemos FlashMorph (Selección Rápida de Capas para el MORFEO Híbrido), un método de selección de capas efectivo, eficiente y escalable para la conversión de Transformer a híbrido. FlashMorph primero construye un modelo maleable equipando cada capa de atención completa con una rama de atención lineal convertida. Luego, congela todos los pesos del modelo y optimiza conjuntamente compuertas por capas en datos sintéticos de recuperación de contexto largo, con una regularización de linealización que fomenta que el modelo dependa de la atención lineal para lograr eficiencia. Las compuertas aprendidas se discretizan bajo un presupuesto preestablecido de atención completa para instanciar la arquitectura híbrida, seguido de destilación de logits estándar y ajuste fino de contexto largo. Experimentos exhaustivos muestran que FlashMorph descubre configuraciones híbridas más efectivas, preserva un buen recuerdo de contexto largo y un rendimiento general de referencia, al tiempo que reduce sustancialmente el costo de selección de capas en comparación con los métodos existentes, demostrando su efectividad, eficiencia y escalabilidad.
Las estrategias independientes del hardware para acelerar la difusión de texto a imagen, como la destilación de pasos temporales y el almacenamiento en caché de características, pueden reducir el tiempo de inferencia sin necesidad de kernels personalizados ni optimización a nivel de sistema. Entre ellas, las estrategias de generación multirresolución han recibido recientemente gran atención, logrando aceleraciones de más de 5 veces sin ningún entrenamiento. Sin embargo, el diseño de realizar sobremuestreo en el espacio latente, junto con la modificación selectiva de regiones parciales, provoca que estos métodos presenten un notable desenfoque o artefactos. Para ello, proponemos MrFlow, una estrategia de aceleración multirresolución sin entrenamiento para modelos preentrenados de emparejamiento de flujo, construida sobre una tubería escalonada de baja a alta resolución. MrFlow primero genera rápidamente la estructura principal a baja resolución, luego realiza súper resolución en el espacio de píxeles utilizando un modelo ligero basado en GAN preentrenado, posteriormente inyecta ruido de baja intensidad para permitir el remuestreo de alta frecuencia, y finalmente refina los detalles a alta resolución. Los resultados cuantitativos y cualitativos en FLUX.1-dev y Qwen-Image muestran que MrFlow aprovecha la reducción cuadrática de tokens y el menor número de pasos requerido por el muestreo de baja resolución para lograr una aceleración de extremo a extremo de 10 veces, manteniendo al mismo tiempo el OneIG dentro de un margen del 1% respecto al valor anterior a la aceleración, superando significativamente a otras estrategias de aceleración sin entrenamiento, y sin requerir ningún entrenamiento o identificación dinámica en tiempo de ejecución. MrFlow puede combinarse además directamente de forma ortogonal con estrategias preentrenadas de destilación de pasos temporales, logrando una aceleración de generación aún mayor, de hasta 25 veces.
La ciencia de datos tiene como objetivo extraer información procesable a partir de datos brutos heterogéneos, liberando el valor de las enormes cantidades de datos generados en la sociedad moderna. Automatizar este proceso es esencial para reducir el trabajo intensivo de los científicos de datos y permitir aplicaciones escalables basadas en datos. Recientemente, los agentes de datos basados en modelos de lenguaje de gran escala (LLM) han surgido como una solución prometedora para automatizar los flujos de trabajo de la ciencia de datos. Sin embargo, el campo carece de benchmarks exhaustivos para evaluar rigurosamente a estos agentes en diversos escenarios con un nivel de detalle fino. Para abordar esta brecha, proponemos AgenticDataBench, un benchmark integral que presenta tareas realistas que abarcan diversos dominios con etiquetas de verdad fundamental detalladas. Esto permite que las evaluaciones capturen la diversidad y complejidad de los flujos de trabajo de la ciencia de datos y el rendimiento detallado de los agentes. En primer lugar, para cubrir diversos dominios, recopilamos conjuntos de datos y tareas reales de 15 dominios verticales, incluyendo 5 casos de uso B2B del mundo real de una empresa fintech líder. En segundo lugar, para eliminar redundancias en las tareas del mundo real y generar tareas de alta calidad para dominios que carecen de datos reales, introducimos habilidades de ciencia de datos, patrones operativos recurrentes centrados en datos, y cuantificamos la cobertura del benchmark mediante el número de habilidades incluidas. Las habilidades representativas se extraen de soluciones de tareas a gran escala en Stack Overflow utilizando agrupamiento jerárquico alineado por habilidades. En tercer lugar, para tareas empresariales reales, seleccionamos pares de tarea-solución que maximicen la diversidad en la composición de habilidades, asegurando una amplia cobertura de escenarios prácticos. En cuarto lugar, para generar tareas realistas para dominios sin tareas reales, proponemos un enfoque sistemático de generación de tareas basado en LLM para crear flujos de trabajo y tareas a partir de estas habilidades. Finalmente, evaluamos agentes de datos de última generación utilizando nuestro benchmark anotado y banco de pruebas de código abierto, proporcionando información detallada a nivel de habilidades.
Presentamos WorldDirector, un marco de modelo de mundo de video altamente controlable diseñado para la memoria persistente de objetos dinámicos y la exploración de puntos de vista sin restricciones. A diferencia de los modelos de mundo existentes, que entrelazan la dinámica física con el renderizado de píxeles y dependen de la observación visual continua para mantener el movimiento, nuestro marco desacopla explícitamente la orquestación semántica del movimiento de la generación visual. Al aprovechar un LLM para coordinar trayectorias 3D con movimientos de cámara y posteriormente emplear estas trayectorias orquestadas como señales de control para la generación de video, nuestro enfoque garantiza una lógica física estricta y estabilidad de apariencia, preservando exitosamente las identidades visuales exactas de las entidades dinámicas incluso cuando reingresan a la escena tras períodos prolongados fuera de vista. Los resultados experimentales demuestran que nuestro método respalda la síntesis de eventos complejos y extensos con una controlabilidad sin precedentes y memoria persistente de objetos dinámicos. Página del proyecto: https://worlddirector.github.io/
Recientemente, los modelos multimodales de lenguaje de gran escala han mostrado un gran potencial en el razonamiento de imágenes clínicas, pero los pipelines de post-entrenamiento existentes siguen siendo predominantemente centrados en los resultados, basándose en la corrección de la respuesta final o en preferencias a nivel de secuencia. Esto sufre de una asignación de crédito dispersa, lo que dificulta optimizar el proceso de razonamiento esencial para aplicaciones clínicas. Nuestro análisis revela que los errores en cascada derivados de fallos en el razonamiento temprano son una de las principales causas de predicciones incorrectas en los benchmarks de respuesta a preguntas visuales médicas (VQA). Motivados por esto, proponemos Medical Reasoning-aware Policy Optimization (MRPO), un algoritmo de RL que incorpora recompensas de proceso paso a paso. Cuando la respuesta final es incorrecta, MRPO asigna penalizaciones exponencialmente mayores a los tokens en pasos de razonamiento inválidos anteriores, rompiendo las cascadas de fallos sin comprometer las rutas exitosas. En tres backbones multimodales de LLM, MRPO supera consistentemente al GRPO estándar y a una línea base de RL reciente, y en Qwen3-VL-8B-Instruct incluso supera a MLLMs médicos considerablemente más grandes como HuatuoGPT-Vision-34B por 2.79 puntos. Además, MRPO reduce los fallos de razonamiento temprano del 64.0% al 13.0%, lo que demuestra que la mitigación dirigida de fallos en cascada mejora tanto la calidad del razonamiento como la precisión de la respuesta final. Nuestro código está disponible en https://github.com/dmis-lab/MRPO.
Las habilidades se están convirtiendo en una capa operativa reutilizable para los agentes de LLM, codificando SOP, reglas de dominio, flujos de trabajo de herramientas, scripts y rutinas de validación. En repositorios de habilidades realistas, la superposición de habilidades dificulta el uso confiable de las mismas. El éxito del verificador final es demasiado burdo tanto para la evaluación como para el entrenamiento, ya que un agente puede superar mediante prueba y error mientras selecciona habilidades distractoras, omitiendo pasos requeridos, componiendo flujos de trabajo incorrectamente o saltándose verificaciones finales. Presentamos SkillCoach, un marco de rúbrica autoevolutivo para evaluar y mejorar el uso de habilidades por parte de agentes. SkillCoach deriva rúbricas de proceso basadas en habilidades a partir de despliegues reales y evalúa trayectorias en cuatro dimensiones: selección de habilidades, seguimiento de habilidades, composición de habilidades y reflexión basada en habilidades. Mantiene el verificador externo como una señal de resultado separada, permitiendo distinguir la calidad del proceso del éxito accidental de la tarea. Las rúbricas evolucionadas sirven además como supervisión de proceso para seleccionar trayectorias de entrenamiento de alta calidad. Los experimentos muestran que las rúbricas evolucionadas mejoran sustancialmente la calidad de la evaluación, exponen fallos ocultos por la precisión final y proporcionan señales de supervisión más sólidas que el filtrado solo por resultado para mejorar el uso de habilidades por parte de los agentes.
Las estrategias convencionales de aprendizaje por refuerzo para la generación visual suelen emplear funciones de recompensa a nivel de muestra individual, lo que frecuentemente conduce a una manipulación de la recompensa que degrada la diversidad de las imágenes e introduce anomalías visuales. Para abordar estas limitaciones, presentamos un marco novedoso que ajusta modelos generativos mediante recompensas a nivel de distribución, asegurando una mejor alineación con las distribuciones de datos del mundo real. A diferencia de las recompensas que evaluan muestras de forma individual, la recompensa distributiva considera la distribución de datos de las muestras, mitigando el problema de colapso modal que ocurre cuando todas las muestras optimizan independientemente hacia la misma dirección. Para superar el costo computacional prohibitivo de estimar estas recompensas, introducimos una estrategia de reemplazo de subconjuntos que proporciona señales de recompensa de manera eficiente al actualizar solo un pequeño subconjunto de un conjunto de referencia generado. Además, aplicamos aprendizaje por refuerzo para optimizar los coeficientes de fusión de modelos post-hoc, mitigando potencialmente la inconsistencia entre entrenamiento e inferencia causada por la introducción de ecuaciones diferenciales estocásticas (SDE) en las prácticas habituales de aprendizaje por refuerzo. Experimentos exhaustivos muestran que nuestro enfoque mejora significativamente el FID-50K en varios modelos base, de 8.30 a 5.77 para SiT y de 3.74 a 3.52 para EDM2. La evaluación cualitativa también confirma que nuestro método mejora la calidad perceptual mientras preserva la diversidad de las muestras.
En el uso de contexto largo, los modelos de lenguaje grandes frecuentemente sintetizan respuestas a partir del significado de un fragmento de contexto relevante, en lugar de copiarlas literalmente. Identificar qué cabezas de atención realizan esta síntesis es importante para interpretar el comportamiento del modelo en contextos largos. Sin embargo, los detectores existentes pasan por alto estas cabezas por construcción: recompensan a aquellas cuyo token atendido coincide con el token generado, un criterio de copia literal que captura dónde lee una cabeza, pero no lo que escribe a través de su circuito de valor de salida (OV), que es precisamente el mecanismo que realiza la recuperación no literal. Introducimos la Puntuación de Contribución de Logits (LOCOS, por sus siglas en inglés), un detector consciente de escritura que puntúa cada cabeza mediante la proyección de la salida de su circuito OV sobre la dirección de desincrustación del token respuesta, contrastando las posiciones fuente de la aguja y fuera de la aguja en una única pasada hacia adelante. En tres familias de modelos (Qwen3, Gemma-3, OLMo-3.1), la ablación promedio de las cabezas LOCOS principales en el benchmark de recuperación no literal NoLiMa reduce ROUGE-L con un número menor de cabezas que las detecciones previas basadas en atención; en Qwen3-8B, ablacionar 50 cabezas reduce ROUGE-L de 0,401 a 0,000, mientras que la línea base más fuerte aún retiene 0,292. Las cabezas seleccionadas son específicas de recuperación: el recuerdo paramétrico y el razonamiento aritmético permanecen en la línea base bajo la misma ablación. En Qwen3-8B, la misma ablación también reduce MuSiQue de 0,55 a 0,08 y BABI-Long de 0,62 a 0,20, mientras que un control con cabezas aleatorias se mantiene dentro de 0,05 de la línea base.
La alineación de representaciones se ha convertido en una forma eficaz de acelerar el entrenamiento de transformadores de difusión y mejorar la calidad de generación. Métodos recientes de autoalineación, como SRA y Self-Flow, eliminan aún más la dependencia de codificadores preentrenados externos al construir la alineación dentro del propio modelo de difusión. Sin embargo, el mecanismo detrás de la mejora de SRA a Self-Flow, la programación de doble paso temporal, sigue siendo poco examinado: Self-Flow atribuye su mejora a las interacciones entre tokens en diferentes niveles de ruido, donde los tokens más limpios ayudan a inferir los más ruidosos. En este trabajo, revisamos esta explicación y nos preguntamos si la mejora proviene en cambio del aumento de datos a lo largo de la dimensión de ruido. Para desentrañar estos factores, introducimos la Separación de Atención, que preserva la misma entrada de doble paso temporal que Self-Flow mientras bloquea la atención entre tokens asignados a diferentes niveles de ruido. Sorprendentemente, eliminar dicha interacción no degrada el rendimiento e incluso puede mejorarlo, lo que sugiere que la mejora de SRA a Self-Flow proviene principalmente del aumento de datos. Además, mostramos que la Separación de Atención en sí misma proporciona un efecto de aumento al dividir una sola imagen en múltiples partes efectivas de entrenamiento para expandir los datos de entrenamiento. Basándonos en estas observaciones, combinamos la autoalineación de representaciones con el doble paso temporal y el aumento mediante separación de atención, y demostramos la efectividad de este diseño en ImageNet.
El reconocimiento de venas es una tecnología biométrica segura que a menudo se ve limitada por la escasez de datos anotados y las variaciones en las imágenes. Si bien el aumento de datos mitiga este problema, las estrategias diseñadas para imágenes naturales pueden alterar la topología de grano fino y las texturas esenciales para la discriminación de identidades. Presentamos AGVBench, que evalúa 30 estrategias representativas de aumento en cinco conjuntos de datos públicos de venas de palma y dedo, utilizando siete arquitecturas de red troncal, que abarcan CNN clásicas, transformadores de visión y modelos de reconocimiento específicos de venas. Nuestros resultados muestran que los métodos de mezcla de múltiples imágenes (por ejemplo, MixUp, PuzzleMix, StarMixup) generalmente proporcionan el mejor rendimiento de reconocimiento. Sin embargo, a menudo están mal calibrados y son vulnerables a perturbaciones adversariales, lo que revela una clara inconsistencia entre la precisión limpia y la seguridad adversarial. También encontramos que las transformaciones geométricas severas frecuentemente degradan el reconocimiento, posiblemente debido a una desalineación de características o recorte espacial, y que la efectividad del aumento varía entre conjuntos de datos de venas de la palma y del dedo. Estos hallazgos demuestran que la evaluación centrada en la precisión es insuficiente para el aumento biométrico. AGVBench proporciona protocolos estandarizados para apoyar la investigación reproducible y guiar el diseño de sistemas de reconocimiento de venas fiables, seguros y robustos. Nuestro código está disponible en https://github.com/Advance-VeinTech-Innovators/AGVBench.
Los métodos de generación de imágenes controlables, como ControlNet, han demostrado una capacidad notable para introducir condiciones visuales (por ejemplo, mapas de profundidad) que guían la generación de imágenes. Sin embargo, estos métodos a menudo presentan dificultades con escenas complejas de múltiples instancias, lo que frecuentemente conduce a confusión de atributos entre las instancias. Si bien enfoques recientes intentan mitigar esto mediante el etiquetado manual de instancias, dicho requisito es laborioso. En este artículo, proponemos InstanceControl, un método novedoso de generación controlable multi-instancia que elimina la necesidad de etiquetado de instancias. Identificamos que el principal cuello de botella en los métodos existentes es la incapacidad de asociar con precisión las descripciones de las instancias con sus regiones correspondientes dentro de las condiciones visuales. Para abordar esto, aprovechamos el Modelo de Visión y Lenguaje (VLM) para establecer correspondencias a nivel de instancia entre las indicaciones de texto y las condiciones visuales. Específicamente, el VLM analiza automáticamente las descripciones de las instancias a partir de las indicaciones de texto y, simultáneamente, predice las máscaras de instancia basándose en las condiciones visuales. Además, dado que las máscaras predichas pueden contener ruido, introducimos una estrategia de refinamiento adaptativo de máscaras que refina dinámicamente estas máscaras de instancia durante el proceso de generación. Experimentos exhaustivos demuestran que nuestro enfoque supera a los métodos de última generación, logrando una fidelidad superior y un control preciso a nivel de instancia.
Los agentes de búsqueda impulsados por modelos de lenguaje de gran escala (LLMs) se utilizan cada vez más para resolver tareas complejas de búsqueda de información que requieren recuperación y razonamiento de múltiples pasos para cumplir los objetivos del usuario. Sin embargo, los puntos de referencia existentes a menudo asumen que las consultas de los usuarios son completas y explícitas, pasando por alto el hecho de que las solicitudes de búsqueda del mundo real suelen ser vagas, imprecisas o incluso fácticamente incorrectas. En escenarios de búsqueda profunda, dicha ambigüedad puede propagarse a lo largo de cadenas de razonamiento de múltiples pasos y dirigir a los agentes hacia trayectorias de búsqueda incorrectas. Para abordar esta brecha, presentamos DiscoBench, un punto de referencia para la búsqueda profunda consciente de la clarificación, diseñado para evaluar si los agentes de búsqueda pueden identificar proactivamente la ambigüedad, formular preguntas de clarificación efectivas y recuperar trayectorias de razonamiento correctas mediante la interacción con el usuario. DiscoBench contiene 211 muestras y 463 instancias de ambigüedad en 11 dominios del mundo real, cubriendo cuatro tipos de ambigüedad. Además, diseñamos un simulador de usuario para la interacción de múltiples turnos y evaluamos el rendimiento del modelo desde cuatro perspectivas: utilidad de la tarea, detección de ambigüedad, estrategia de interacción y eficiencia de costos. Los experimentos con LLMs representativos muestran que la detección de ambigüedad y la clarificación efectiva son capacidades distintas, y que buscar repetidamente en lugar de solicitar una clarificación a menudo funciona peor que adivinar directamente, lo que resalta una brecha crítica entre la capacidad de recuperación y la resolución interactiva de problemas en los agentes de búsqueda actuales.
Los Modelos de Visión y Lenguaje (VLMs) han demostrado un enorme potencial en el Grounding Espacio-Temporal de Video (STVG). Sin embargo, los protocolos de evaluación actuales se limitan en gran medida a evaluaciones de cero disparos en puntos de referencia generales de la vida cotidiana. Esto crea una desconexión crítica con las aplicaciones del mundo real en campos especializados, donde los modelos inevitablemente se enfrentan a conceptos visuales poco comunes y dinámicas espacio-temporales complejas. Dado que el preentrenamiento exhaustivo en distribuciones de datos infinitas es inviable, la capacidad de adaptarse a dominios novedosos resulta esencial. Para subsanar esta brecha, presentamos AnyGroundBench, un punto de referencia de adaptación a dominio diseñado para cambiar el paradigma de evaluación de STVG, pasando de pruebas estáticas de cero disparos a una adaptación rigurosa a dominio. Dirigido a cinco dominios especializados (animal, industria, deportes, cirugía y seguridad pública), AnyGroundBench empareja vídeos recién capturados, como comportamientos de ratones anotados por expertos, con conjuntos de datos consolidados, unificándolos mediante anotaciones espacio-temporales densas y de alta fidelidad. De manera crucial, el punto de referencia proporciona subconjuntos de entrenamiento dedicados para medir sistemáticamente la adaptabilidad a dominio. Evaluamos de forma exhaustiva 15 VLMs de última generación, analizando su generalización de cero disparos y su capacidad de Aprendizaje en Contexto (ICL) bajo restricciones computacionales prácticas. En última instancia, nuestros hallazgos revelan que los modelos actuales fallan tanto en la adaptación de cero disparos como en la basada en ICL al enfrentarse a dominios especializados, exponiendo deficiencias críticas en el razonamiento espacio-temporal que la investigación futura deberá abordar.
La pericia en memoria es una habilidad aprendida: saber qué codificar, cuándo recuperar y cómo organizar el conocimiento (una capacidad conocida en ciencia cognitiva como metamemoria). Aplicamos esta perspectiva a los LLM tratando la gestión de la memoria como una habilidad entrenable. Elevamos las operaciones del sistema de archivos al rango de acciones de memoria de primera clase, junto con las acciones de tarea, permitiendo que el propio modelo decida cómo gestionar su memoria. Esta habilidad de memoria mejora a lo largo de dos ejes: la estructura que la sustenta (prompts, esquemas de archivos, vocabulario de acciones) y la competencia del modelo que la ejecuta. Ambos ejes resisten la optimización manual: los episodios en tareas de horizonte largo abarcan miles de pasos, y un único error de memoria puede ocultarse mucho antes de manifestarse, lo que hace que la revisión humana de trayectorias completas sea inviable. Presentamos AutoMem, un marco que automatiza ambos ejes. En el primer bucle, un LLM potente revisa las trayectorias completas del agente y revisa iterativamente la estructura de memoria que condiciona cómo interactúa el agente con sus archivos de memoria. En el segundo bucle, las propias decisiones correctas de memoria del agente se identifican a partir de muchos episodios y se utilizan como señal de entrenamiento para afinar directamente la competencia de memoria del modelo. En tres juegos de horizonte largo generados proceduralmente (Crafter, MiniHack y NetHack), optimizar únicamente la memoria, sin modificar el comportamiento de acción de tarea del modelo, mejoró el rendimiento del agente base aproximadamente entre 2 y 4 veces, llevando a un modelo de pesos abiertos de 32B a competir con sistemas de vanguardia como Claude Opus 4.5 y Gemini 3.1 Pro Thinking. Nuestros resultados muestran que la gestión de la memoria es una habilidad independientemente aprendible y un objetivo de alto apalancamiento que produce grandes ganancias en tareas de horizonte largo.
Evaluar agentes de modelos de lenguaje de gran escala (LLM) en puntos de referencia como SWE-Bench y GAIA puede resultar costoso, llevar mucho tiempo y requerir infraestructura compleja. Una sola evaluación puede costar miles de dólares y demorar días en completarse. En contraste, los benchmarks no agentivos que evalúan capacidades individuales (p. ej., razonamiento, generación de código) son rápidos y económicos de ejecutar. En este artículo, investigamos si el rendimiento en benchmarks agentivos costosos puede predecirse con precisión a partir del rendimiento en un subconjunto pequeño y cuidadosamente seleccionado de instancias de evaluación atómicas. Presentamos PACE, un marco que construye benchmarks proxy seleccionando instancias de evaluaciones no agentivas existentes cuyos puntajes agregados predicen de manera más fiable el rendimiento del modelo en benchmarks agentivos. Dado un conjunto de instancias candidatas que abarcan capacidades atómicas, PACE ajusta una regresión que asigna los puntajes de un modelo en un subconjunto compacto de instancias fuente a su puntaje en el benchmark agentivo objetivo. El subconjunto se selecciona combinando dos estrategias complementarias de selección de instancias: selección local por relevancia al objetivo y selección global informativa. Aplicamos PACE a los 4 benchmarks agentivos objetivo de este artículo, dando lugar a PACE-Bench, el benchmark proxy concreto que evaluamos en el trabajo. Los experimentos realizados con 14 modelos, 4 benchmarks agentivos y 19 benchmarks no agentivos muestran que PACE-Bench predice los puntajes agentivos con un error absoluto medio (MAE) de validación cruzada dejando uno fuera (LOOCV) inferior al 4%, una correlación de Spearman superior a 0.80 y una precisión de clasificación de pares de modelos cercana al 85%, todo ello a menos del 1% del costo total de la evaluación agentiva. Además, analizamos las instancias proxy seleccionadas, revelando qué habilidades demanda cada benchmark agentivo de manera única. PACE permite a los profesionales obtener estimaciones fiables del rendimiento agentivo durante el desarrollo, selección y enrutamiento de modelos, sin la sobrecarga de una evaluación agentiva completa.
Elucidamos el espacio de diseño del Emparejamiento de Distribuciones de Representación (RDM, por sus siglas en inglés), nuestro nombre para el paradigma que entrena un generador de imágenes de un solo paso al emparejar las distribuciones de características generadas y de referencia bajo codificadores preentrenados congelados. Identificamos dos ejes de diseño: cómo se comparan las distribuciones y las representaciones en las que se comparan, y los estudios controlados a lo largo de estos ejes arrojan tres hallazgos. Primero, el MMD clásico, que no podía entrenar generadores convincentes hace una década, se convierte en un objetivo fuerte y escalable una vez estimado correctamente. Segundo, el lote generado es entonces la variable operativa, con un óptimo por encima de 2048, muy por encima de los tamaños de lote habituales. Tercero, cualquier representación única puede ser manipulada, llevándola por debajo de la puntuación real mientras las imágenes siguen siendo visiblemente falsas, por lo que emparejamos contra una batería equilibrada de codificadores y evaluamos con SW_r14, una distancia de Sliced-Wasserstein sobre 14 codificadores que es independiente de la pérdida de entrenamiento y resiste la manipulación. Combinar las opciones preferidas produce un RDM mejorado (iRDM): establece el estado del arte de un solo paso en ImageNet con un SW_r14 de 1.30, corroborado por PickScore, una proxy de preferencia humana que nuestro objetivo nunca optimiza, el cual lo prefiere sobre el mejor generador de un solo paso anterior en el 71.2% de las muestras emparejadas. La misma receta posentrena el FLUX.2 de cuatro pasos [klein] en un generador de un solo paso, superando la versión de cuatro pasos en GenEval, de 0.826 a 0.794, y en PickScore, de 22.76 a 22.58, en 90 horas-GPU H200. Página del proyecto: https://alan-lanfeng.github.io/rdm/.
Los modelos de Visión-Lenguaje-Acción (VLA) presentan un cuello de botella fundamental debido a la escasez de demostraciones de expertos —tripletes de observaciones, instrucciones y acciones cuyo costo de recolección a gran escala es elevado—. Sostenemos que este cuello de botella surge de la confusión entre dos objetivos de aprendizaje distintos: adquirir competencia física (cómo moverse) y adquirir alineación semántica (qué hacer). De manera crucial, solo este último requiere supervisión lingüística. Basándonos en esta Hipótesis de Descomposición, proponemos el Preentrenamiento Agnóstico a la Tarea (TAP), un marco de dos etapas que primero aprende prioridades motoras transferibles a partir de datos de interacción no etiquetados y de bajo costo —incluyendo trayectorias descartadas fuera de la tarea y juego autónomo del robot— mediante un objetivo de Dinámica Inversa autosupervisado. Una segunda etapa ligera ancla entonces estas prioridades en el lenguaje utilizando datos mínimos de expertos. En el punto de referencia SIMPLER, TAP iguala a modelos entrenados con más de 1M de trayectorias de expertos mientras utiliza órdenes de magnitud menos datos etiquetados, lo que produce una mejora absoluta del 10% sobre la clonación de comportamiento estándar. En una plataforma WidowX del mundo real, TAP mantiene un 25% de éxito bajo perturbaciones de cámara donde las líneas de base a escala de Internet colapsan al 0%, demostrando que el preentrenamiento agnóstico a la tarea genera representaciones físicas robustas y transferibles, y ofrece un camino escalable para la IA Encarnada.
El post-entrenamiento continuo permite que los modelos fundacionales adquieran nuevos conocimientos mientras preservan las capacidades existentes. Trabajos recientes sugieren que el aprendizaje on-policy puede mitigar el olvido, destacando la autodestilación on-policy como un enfoque particularmente atractivo. En este trabajo, retomamos esta visión optimista mediante la optimización de políticas con autodestilación (SDPO). Nuestros experimentos muestran que SDPO puede acelerar la especialización intra-dominio cuando las señales del profesor son estables y están bien alineadas, pero tiene dificultades para generalizar a escenarios fuera de distribución. En el post-entrenamiento continuo, SDPO exhibe un mayor olvido e incluso puede colapsar, mientras que métodos de aprendizaje por refuerzo on-policy como GRPO se adaptan de manera más conservadora y preservan mejor las capacidades previas. Análisis adicionales revelan que una autodestilación más densa induce mayor deriva tanto en el espacio de parámetros como en el espacio de respuestas, y puede amplificar artefactos de formato de alta frecuencia a través de un bucle profesor-estudiante autorreforzante. Estos hallazgos sugieren que los datos on-policy por sí solos son insuficientes para el aprendizaje continuo. La autodestilación densa puede acelerar la especialización cuando los objetivos del profesor son estables y la supervisión a nivel de token es fiable, pero no debe tratarse como un estabilizador por defecto para el post-entrenamiento continuo. Nuestro código está disponible en https://github.com/Moenupa/SDPO-CL.
Los modelos de lenguaje de difusión, que generan texto eliminando ruido bidireccionalmente de un lienzo de tokens en lugar de emitirlos de izquierda a derecha, han alcanzado un nivel competitivo con la generación autorregresiva (AR). Sin embargo, los modelos fundacionales médicos siguen siendo casi en su totalidad autorregresivos. Adaptamos un modelo de lenguaje de difusión basado en mezcla de expertos, DiffusionGemma-26B, y lo evaluamos frente a su homólogo AR del mismo tamaño, Gemma-4-26B, bajo una receta LoRA idéntica en conjuntos de datos de respuesta visual a preguntas médicas, puntuados mediante un juez LLM robusto a la verbosidad. La difusión iguala o supera al AR en todos ellos, y el modelo ajustado (3.8B activos) es competitivo con los modelos de visión-lenguaje de frontera; además, su decodificación es 3.5-4.4 veces más rápida. Más allá de esta paridad, el modelo de difusión ofrece una capacidad de borrador que el AR no posee: relleno en cualquier orden. Dado que el lienzo se elimina bidireccionalmente, un radiólogo puede fijar fragmentos de un informe y hacer que el modelo complete el texto entre ellos, una operación inherente a la difusión pero no al autorregresivo, que resulta deficiente en ello. Esto se adapta a informes reales, que a menudo son concisos o inconsistentes entre médicos e instituciones.
Los modelos fundacionales se publican rutinariamente al público, sin embargo, las recetas de datos utilizadas para entrenarlos —como los pesos de mezcla de dominios que determinan cómo se muestrean diferentes fuentes— rara vez se divulgan. Esto crea una asimetría de acceso: los investigadores estudian los modelos resultantes pero carecen de visibilidad sobre la distribución de entrenamiento que los produce. Trabajos previos para inferir datos de entrenamiento, como la inferencia de membresía, detectan a nivel de muestras individuales y, por lo tanto, no pueden caracterizar la composición global del corpus de entrenamiento. Presentamos WARP, un marco que recupera las mezclas de entrenamiento de un modelo ajustado directamente a partir de sus pesos publicados. WARP interpola entre el modelo base y el ajustado mediante fusión de modelos, generando pseudo-puntos de control que aproximan la trayectoria de entrenamiento faltante y exponen una huella geométrica de los datos de entrenamiento en el espacio de pesos. A partir de estas huellas simuladas, WARP extrae características geométricas y las mapea a proporciones de dominio utilizando ya sea una lectura softmax libre de parámetros o un proyector MLP entrenado con mezclas sintéticas. En experimentos controlados con BERT y GPT-2, WARP recupera las mezclas de dominio con un MAE promedio tan bajo como 0.046 y 0.104 respectivamente, superando a la inferencia de membresía y a una variante con acceso a la trayectoria de entrenamiento real.
Los agentes basados en modelos de lenguaje de gran escala (LLM) pueden resolver tareas procedimentales complejas interactuando con entornos a lo largo de múltiples turnos, pero esta capacidad suele depender de modelos grandes, contextos extensos y múltiples llamadas de inferencia. Esto dificulta la implementación de agentes avanzados con memoria aumentada en dispositivos con recursos limitados. Presentamos DuoMem, un marco de destilación en doble espacio que transfiere la capacidad de resolución de problemas procedimentales de un modelo profesor grande a modelos alumno compactos. DuoMem destila en dos espacios complementarios: (1) destilación en el espacio de contexto, que reemplaza las memorias generadas por el alumno con memorias procedimentales de mayor calidad generadas por el profesor, antepuestas en la entrada del alumno; y (2) destilación en el espacio de parámetros, que ajusta finamente adaptadores LoRA ligeros sobre trayectorias exitosas del profesor. Evaluado en ALFWorld, un desafiante punto de referencia para la toma de decisiones encarnadas, DuoMem mejora la tasa de éxito de un modelo de 4 mil millones de parámetros del 4,3 % al 77,9 %, cerrando casi la brecha con un modelo profesor de 72 mil millones de parámetros (87,1 %), mientras añade menos de 10 millones de parámetros entrenables y solo unos pocos megabytes de memorias del profesor precomputadas. Además, el modelo de 4 mil millones mejorado con DuoMem completa las tareas más de 3 veces más rápido que el profesor de 72 mil millones en tiempo real, lo que lo hace viable para implementación en el borde en tiempo real, algo que sería difícil para el profesor. Amplios análisis de ablación en ocho modelos con un rango de 2 a 72 mil millones de parámetros revelan que ambos ejes de destilación contribuyen de manera complementaria.
El aprendizaje por refuerzo con recompensas verificables (RLVR) se ha extendido del entrenamiento en un solo dominio a conjuntos de razonamiento multidisciplinarios que abarcan matemáticas, programación y ciencias. Sin embargo, el currículo de entrenamiento (con qué frecuencia se muestrea cada dominio) suele ser fijo o ajustado manualmente, a pesar de que las habilidades de razonamiento se transfieren de manera desigual entre dominios. Los currículos basados en aprendibilidad existentes se adaptan a donde la política está mejorando actualmente, pero ignoran si un paso de gradiente en el dominio seleccionado beneficia a los dominios restantes. En este artículo, proponemos el Currículo Consciente de Transferencia (TAC), un currículo en línea tipo bandido que prioriza dominios cuyas actualizaciones benefician ampliamente al resto del conjunto de entrenamiento. TAC reutiliza señales ya producidas por el entrenamiento RL: las ventajas por dominio capturan la aprendibilidad local, y los gradientes proyectados, tomados del paso GRPO que se está calculando, estiman la transferibilidad entre dominios mediante la alineación geométrica de gradientes, con un costo insignificante (<1% de sobrecarga de tiempo real). En un conjunto de seis dominios de razonamiento, TAC logra la mejor precisión macro-promediada tanto en Qwen3-1.7B como en Llama3.2-3B, superando al muestreo aleatorio proporcional, a un cronograma diseñado manualmente y a un bandido basado solo en aprendibilidad, y mejorando respecto a este último hasta en 2.8 puntos (10% relativo). Las ablaciones muestran que el rendimiento se degrada bruscamente cuando se elimina el término de transferibilidad, y TAC se mantiene robusto en mezclas de entrenamiento desbalanceadas donde los currículos solo de aprendibilidad se comprometen en exceso con los dominios dominantes. Nuestros hallazgos establecen la transferibilidad entre dominios como una señal clave para el diseño de currículos en RLVR multidisciplinario.
Las matrices de tráfico (TMs) capturan la demanda origen-destino a nivel de red y son fundamentales para la ingeniería de tráfico; sin embargo, la predicción precisa de la matriz completa sigue siendo un desafío cuando la predicción debe realizarse bajo las restricciones de memoria, actualización y presupuesto de entrenamiento del control de red en línea. Este artículo investiga si los modelos recurrentes compactos inspirados en la computación cuántica pueden proporcionar pronósticos efectivos de TM sin depender de módulos dedicados de grafos, transformadores o difusión. Adaptamos los programadores de pesos rápidos de redes de Kolmogorov-Arnold inspiradas en cuántica y con compuertas (QKAN-FWPs) para el pronóstico directo multi-paso de la TM de Abilene, donde cada modelo predice los siguientes 20 marcos de cinco minutos de una matriz origen-destino (OD) de 144 canales a partir de un historial de dos horas. Evaluamos tres variantes de ubicación de QKAN frente a una red de memoria a corto-largo plazo (LSTM) de tamaño equivalente, una LSTM más grande y un programador clásico de pesos rápidos con compuertas, bajo un protocolo de entrenamiento con presupuesto fijo compartido. Entre los modelos recurrentes evaluados, G-QKANFWP logra el mejor error cuadrático medio agrupado (RMSE), utilizando solo el 22.4% de la LSTM más grande. También supera tanto a la LSTM de tamaño equivalente como a la línea base clásica G-FWP, lo que indica que la mejora no se debe únicamente al marco de pesos rápidos con compuertas. Los análisis de convergencia y por canal muestran además que las variantes inspiradas en cuántica obtienen un área bajo la curva de aprendizaje (AULC) de pérdida de validación más baja que las líneas base recurrentes de tamaño equivalente, mientras que G-QKANFWP y GQKAN-FWP logran sustancialmente más victorias en canales OD. Estos resultados identifican un programador lento clásico con un programador rápido inspirado en cuántica como un diseño prometedor de precisión-eficiencia para el pronóstico de matrices de tráfico de red con conciencia de recursos.
Los enfoques basados en cuadrículas para la búsqueda de vecinos más cercanos aproximados (ANN) han estado ausentes de los análisis modernos de escalado. Presentamos una caracterización sistemática de un algoritmo de cuadrícula multiprobe en función del tamaño del conjunto de datos N y la dimensionalidad d. Nuestros experimentos revelan un cruce de escalado en d previamente no reportado en la familia de embeddings GloVe, donde la búsqueda en cuadrícula multiprobe mantiene un exponente de escalado dimensional aproximadamente constante mientras que otros métodos basados en grafos, árboles y particionamiento exhiben una degradación en el rendimiento. La ventaja conlleva un escalado casi lineal de la consulta en N, pero también un menor costo de indexación en comparación con métodos ANN competidores. Nuestros resultados sugieren que los métodos basados en cuadrículas, como la cuadrícula multiprobe, pueden ser competitivos en entornos con recarga frecuente o alta dimensionalidad donde el costo de indexación y la robustez dimensional determinan el rendimiento. En un sentido más amplio, trabajos recientes han formalizado la autoatención como una operación ANN. Por lo tanto, las propiedades de escalado en N y d de los algoritmos ANN pueden guiar el análisis de costos de arquitecturas eficientes de transformadores. El código está disponible en: https://github.com/weiz345/MultiProbeANN.