Articles de Recherche IA Quotidiens

De nombreuses tâches de programmation courantes, telles qu'alerter sur des lignes de journal importantes, réparer du JSON mal formé ou classer des résultats de recherche par intention, résistent à une implémentation propre par règles et sont de plus en plus externalisées vers des API de grands modèles de langage, au détriment de la localité, de la reproductibilité et du coût. Nous proposons la programmation par fonctions floues : compiler une telle fonction à partir d'une spécification en langage naturel en un artefact neuronal compact et exécutable localement. Nous instancions ce paradigme avec Program-as-Weights (PAW), dans lequel un compilateur de 4B entraîné sur FuzzyBench, un ensemble de données de 10M d'exemples que nous publions, génère des adaptateurs paramétriques efficaces pour un interpréteur léger et gelé. Un interpréteur Qwen3 de 0.6B exécutant des programmes PAW atteint les performances d'un prompt direct de Qwen3-32B, tout en utilisant environ un cinquantième de la mémoire d'inférence et en fonctionnant à 30 tokens/s sur un MacBook M3. PAW recadre le modèle de fondation d'un résolveur de problème par entrée en un constructeur d'outils : invoqué une fois par définition de fonction, il produit un petit artefact réutilisable dont les appels ultérieurs par application de fonction sont peu coûteux et hors ligne.

La mémoire d'un agent LLM à long horizon est un contrat portant sur ce que chaque décision future est autorisée à voir. Le contrat le plus simple consiste à ajouter les observations passées, les appels d'outils et les réflexions à chaque prompt, ce qui rend le contexte antérieur facilement accessible mais le transforme également en un mélange confus dans lequel l'effet d'un composant mémoire isolé est difficile à cerner. Nous introduisons et instrumentons un contrat borné alternatif : chaque décision est prise à partir d'un message utilisateur frais assemblé par récupération typée, sans transcription brute inter-décisions ajoutée. Le prompt reste ainsi borné lors de séquences de n'importe quelle longueur, et chaque couche peut être ablatée isolément. Nous instancions ce contrat dans Slay the Spire 2, un jeu de construction de deck stochastique à règles fermées dont les parties nécessitent des centaines de décisions tactiques et stratégiques. Un benchmark public en ligne de LLMs de pointe sur le même jeu rapporte zéro victoire au niveau de difficulté le plus bas sur cinq configurations, tandis que le taux de victoire humain rapporté par les développeurs à la même difficulté est de 16 % ; la tâche est difficile mais non saturée. Dans notre harnais, une ablation fixe de A0 montre la plus grande différence observée lorsque les compétences stratégiques déclenchées sont activées : la ligne de base sans stockage remporte 3/10 parties, et l'ajout de la couche compétence en remporte 6/10. À cette taille d'échantillon, la comparaison est directionnelle plutôt que statistiquement décisive (test exact de Fisher, p≈0,37) ; une sonde inter-modèles et des références de contexte accumulé public sont rapportées comme des comparaisons opérationnelles, et non comme des tests contrôlés de la variable contrat elle-même. Nous publions un banc d'essai reproductible : 298 trajectoires complétées avec des balises de condition, des instantanés figés de mémoire/compétence, des enregistrements de prompts et des scripts d'analyse — une conception d'agent et une méthodologie validée et réutilisable pour étudier comment des couches de mémoire explicites façonnent les décisions des agents LLM à long horizon.

Les agents autonomes sont de plus en plus censés améliorer leurs politiques exécutables par le biais de retours d'information, mais les évaluations existantes réduisent souvent ce processus à un score final ou le confondent avec les progrès de l'ingénierie logicielle en environnement ouvert. Nous introduisons l'Évolution Autonome de Politiques, un cadre d'évaluation contrôlé dans lequel un agent modèle de harnais modifie de manière répétée un système de politiques exécutables sous un budget d'interaction fixe. Nous concrétisons ce cadre dans EvoPolicyGym, un banc d'essai construit à partir d'environnements RL interactifs compacts qui évalue comment les agents améliorent itérativement les politiques explorées. Sur la suite EvoPolicyGym, GPT-5.5 obtient le meilleur score de classement agrégé et une performance parmi les deux premières sur les 16 environnements. Au-delà des résultats de classement, EvoPolicyGym fournit également des diagnostics au niveau des trajectoires qui distinguent la manière dont les agents allouent le budget, convertissent les retours en réglage paramétrique. Ces analyses montrent qu'une forte évolution autonome des politiques dépend non seulement de victoires isolées sur des tâches, mais aussi de la découverte de mécanismes adaptés aux tâches et du raffinement des politiques sous un retour d'information limité.

Les modèles d'attention hybrides améliorent l'efficacité en contexte long en ne conservant qu'un sous-ensemble de couches d'attention complète et en remplaçant les couches restantes par de l'attention linéaire. Cependant, l'efficacité de la conversion de Transformer en hybride dépend crucialement du choix des couches qui préservent l'attention complète. Les méthodes existantes de sélection de couches hybrides reposent généralement sur des stratégies heuristiques, telles que des schémas de placement fixes ou un score par couche, traitant implicitement l'importance des couches de manière isolée et négligeant l'effet d'interdépendance des couches dans une configuration hybride globale. Dans ce travail, nous formulons la sélection de couches hybrides comme un problème d'optimisation de sous-ensemble sous contrainte budgétaire. Nous proposons en outre FlashMorph (Fast LAyer Selection for Hybrid MORPHing), une méthode de sélection de couches efficace, efficiente et scalable pour la conversion de Transformer en hybride. FlashMorph construit d'abord un modèle morphable en équipant chaque couche d'attention complète d'une branche d'attention linéaire convertie. Il gèle ensuite tous les poids du modèle et optimise conjointement des portes par couche sur des données synthétiques de récupération en contexte long, avec une régularisation de linéarisation qui encourage le modèle à s'appuyer sur l'attention linéaire pour l'efficacité. Les portes apprises sont discrétisées sous un budget d'attention complète prédéfini pour instancier l'architecture hybride, suivies d'une distillation standard des logits et d'un ajustement fin en contexte long. Des expériences approfondies montrent que FlashMorph découvre des configurations hybrides plus efficaces, préserve un fort rappel en contexte long et des performances générales sur les benchmarks tout en réduisant considérablement le coût de sélection des couches par rapport aux méthodes existantes, démontrant ainsi son efficacité, son efficience et sa scalabilité.

Des stratégies indépendantes du matériel pour accélérer la diffusion texte-image, telles que la distillation de pas de temps et la mise en cache des caractéristiques, permettent de réduire le temps d'inférence sans noyaux personnalisés ni optimisation au niveau du système. Parmi elles, les stratégies de génération multi-résolution ont récemment suscité une large attention, atteignant une accélération de plus de 5× sans aucun entraînement. Cependant, la conception consistant à effectuer un suréchantillonnage dans l'espace latent, associée à la modification sélective de régions partielles, fait que ces méthodes présentent un flou ou des artefacts notables. Pour y remédier, nous proposons MrFlow, une stratégie d'accélération multi-résolution sans entraînement pour les modèles d'appariement de flux pré-entraînés, construite sur un pipeline par étapes de basse à haute résolution. MrFlow génère d'abord rapidement la structure principale à basse résolution, puis effectue une super-résolution dans l'espace pixel à l'aide d'un modèle léger basé sur GAN pré-entraîné, injecte ensuite un bruit de faible intensité pour permettre un rééchantillonnage haute fréquence, et enfin affine les détails à haute résolution. Les résultats quantitatifs et qualitatifs sur FLUX.1-dev et Qwen-Image montrent que MrFlow exploite la réduction quadratique des tokens et le nombre réduit d'étapes requis par l'échantillonnage à basse résolution pour atteindre une accélération de bout en bout de 10× tout en maintenant OneIG à moins de 1 % d'écart par rapport à avant l'accélération, surpassant significativement les autres stratégies d'accélération sans entraînement, et ne nécessitant ni entraînement ni identification dynamique en cours d'exécution. MrFlow peut en outre être directement combiné de manière orthogonale avec des stratégies de distillation de pas de temps pré-entraînées, permettant une accélération de génération encore plus élevée, jusqu'à 25×.

La science des données vise à extraire des informations exploitables à partir de données brutes hétérogènes, libérant ainsi la valeur des quantités massives de données générées dans la société moderne. L'automatisation de ce processus est essentielle pour réduire les efforts laborieux des scientifiques des données et permettre des applications évolutives basées sur les données. Récemment, les agents de données basés sur les grands modèles de langage (LLM) sont apparus comme une solution prometteuse pour automatiser les workflows de science des données. Cependant, le domaine manque de benchmarks complets pour évaluer rigoureusement ces agents dans divers scénarios avec une granularité fine. Pour combler cette lacune, nous proposons AgenticDataBench, un benchmark complet comprenant des tâches réalistes couvrant divers domaines avec des étiquettes de vérité terrain à granularité fine. Cela permet aux évaluations de capturer la diversité et la complexité des workflows de science des données ainsi que les performances détaillées des agents. Premièrement, pour couvrir divers domaines, nous collectons des ensembles de données et des tâches réelles provenant de 15 domaines verticaux, dont 5 cas d'utilisation B2B réels d'une entreprise fintech de premier plan. Deuxièmement, pour éliminer la redondance dans les tâches du monde réel et générer des tâches de haute qualité pour les domaines manquant de données réelles, nous introduisons des compétences en science des données, des motifs opérationnels récurrents centrés sur les données, et quantifions la couverture du benchmark par le nombre de compétences incluses. Les compétences représentatives sont extraites de solutions de tâches à grande échelle sur Stack Overflow en utilisant un clustering hiérarchique aligné sur les compétences. Troisièmement, pour les tâches commerciales du monde réel, nous sélectionnons des paires tâche-solution qui maximisent la diversité dans la composition des compétences, garantissant une large couverture des scénarios pratiques. Quatrièmement, pour générer des tâches réalistes pour des domaines divers sans tâches réelles, nous proposons une approche systématique de génération de tâches basée sur les LLM pour créer des workflows et des tâches basés sur ces compétences. Enfin, nous évaluons des agents de données de pointe en utilisant notre benchmark annoté et notre banc d'essai open-source, fournissant des informations détaillées au niveau des compétences.

Nous présentons WorldDirector, un framework de modèle de monde vidéo hautement contrôlable conçu pour la mémoire persistante des objets dynamiques et l'exploration sans restriction des points de vue. Contrairement aux modèles de monde existants qui entremêlent la dynamique physique avec le rendu des pixels et dépendent d'une observation visuelle continue pour maintenir le mouvement, notre framework dissocie explicitement l'orchestration sémantique du mouvement de la génération visuelle. En exploitant un LLM pour coordonner les trajectoires 3D avec les mouvements de la caméra, puis en utilisant ces trajectoires orchestrées comme signaux de contrôle pour la génération vidéo, notre approche garantit une logique physique stricte et une stabilité d'apparence, préservant avec succès les identités visuelles exactes des entités dynamiques même lorsqu'elles réintègrent la scène après de longues périodes hors du champ de vision. Les résultats expérimentaux démontrent que notre méthode permet la synthèse d'événements complexes et étendus avec un contrôle sans précédent et une mémoire persistante des objets dynamiques. Page du projet : https://worlddirector.github.io/

Les récents modèles de langage multimodaux de grande taille ont montré des résultats prometteurs dans le raisonnement sur les images cliniques, mais les pipelines de post-entraînement existants restent principalement centrés sur les résultats, en s'appuyant sur la correction de la réponse finale ou sur des préférences au niveau des séquences. Cette approche souffre d'une attribution de crédit éparse, ce qui rend difficile l'optimisation du processus de raisonnement, pourtant essentiel dans les applications cliniques. Notre analyse révèle que les erreurs en cascade issues de défaillances précoces dans le raisonnement constituent une cause majeure de prédictions incorrectes dans les benchmarks de réponse à des questions visuelles médicales (VQA). Motivés par ce constat, nous proposons MRPO (Medical Reasoning-aware Policy Optimization), un algorithme d'apprentissage par renforcement qui intègre des récompenses de processus par étape. Lorsque la réponse finale est incorrecte, MRPO attribue des pénalités exponentiellement plus élevées aux jetons dans les premières étapes de raisonnement invalides, brisant ainsi les cascades d'échecs sans compromettre les chemins réussis. Sur trois architectures de modèles de langage multimodaux, MRPO surpasse systématiquement la méthode GRPO standard et une référence récente en apprentissage par renforcement, et sur Qwen3-VL-8B-Instruct, il dépasse même des modèles médicaux multimodaux considérablement plus grands, tels que HuatuoGPT-Vision-34B, de 2,79 points. De plus, MRPO réduit les défaillances précoces de raisonnement de 64,0 % à 13,0 %, montrant qu'une atténuation ciblée des défaillances en cascade améliore à la fois la qualité du raisonnement et la précision de la réponse finale. Notre code est disponible à l'adresse https://github.com/dmis-lab/MRPO.

Les compétences deviennent une couche opérationnelle réutilisable pour les agents LLM, encodant des procédures opérationnelles standard (SOP), des règles de domaine, des workflows d'outils, des scripts et des routines de validation. Dans des référentiels de compétences réalistes, le chevauchement des compétences rend leur utilisation fiable difficile. La réussite du vérificateur final est trop grossière tant pour l'évaluation que pour l'entraînement, car un agent peut passer par essais et erreurs en sélectionnant des compétences distractrices, en sautant des étapes requises, en composant incorrectement des workflows ou en omettant des vérifications finales. Nous présentons SkillCoach, un cadre de grilles d'évaluation auto-évolutif pour évaluer et améliorer l'utilisation agentive des compétences. SkillCoach dérive des grilles de processus ancrées sur les compétences à partir d'exécutions réelles et évalue les trajectoires selon quatre dimensions : sélection de compétences, suivi de compétences, composition de compétences et réflexion ancrée sur les compétences. Il conserve le vérificateur externe comme signal de résultat distinct, permettant de distinguer la qualité du processus du succès accidentel de la tâche. Les grilles d'évaluation évoluées servent en outre de supervision de processus pour sélectionner des trajectoires d'entraînement de haute qualité. Les expériences montrent que les grilles d'évaluation évoluées améliorent considérablement la qualité de l'évaluation, exposent des échecs masqués par la précision finale et fournissent des signaux de supervision plus forts que le filtrage par seul résultat pour améliorer l'utilisation agentive des compétences.

Les stratégies d'apprentissage par renforcement conventionnelles pour la génération visuelle emploient généralement des fonctions de récompense fondées sur des échantillons individuels, mais cette approche conduit souvent à un contournement des récompenses qui dégrade la diversité des images et introduit des anomalies visuelles. Pour pallier ces limitations, nous présentons un nouveau cadre d'ajustement des modèles génératifs utilisant des récompenses basées sur les distributions, assurant une meilleure adéquation avec les distributions de données réelles. Contrairement aux récompenses qui évaluent les échantillons individuellement, la récompense distributionnelle prend en compte la distribution des données des échantillons, atténuant ainsi le problème d'effondrement modal qui survient lorsque tous les échantillons optimisent vers la même direction de manière indépendante. Pour surmonter le coût de calcul prohibitif de l'estimation de ces récompenses, nous introduisons une stratégie de remplacement de sous-ensemble qui fournit efficacement des signaux de récompense en ne mettant à jour qu'un petit sous-ensemble d'un ensemble de référence généré. De plus, nous appliquons l'apprentissage par renforcement pour optimiser les coefficients de fusion de modèles a posteriori, ce qui peut potentiellement atténuer l'incohérence entre l'entraînement et l'inférence causée par l'introduction d'équations différentielles stochastiques dans les pratiques classiques d'apprentissage par renforcement. Des expériences approfondies montrent que notre approche améliore significativement le FID-50K sur divers modèles de base, passant de 8,30 à 5,77 pour SiT et de 3,74 à 3,52 pour EDM2. L'évaluation qualitative confirme également que notre méthode améliore la qualité perceptuelle tout en préservant la diversité des échantillons.

Dans le cadre de l'utilisation de longs contextes, les grands modèles de langue synthétisent fréquemment des réponses à partir du sens d'un segment de contexte pertinent plutôt qu'en les copiant littéralement. Identifier les têtes d'attention responsables de cette synthèse est essentiel pour interpréter le comportement des modèles en contextes longs. Pourtant, les détecteurs existants ne parviennent pas à identifier ces têtes par construction : ils récompensent les têtes dont le jeton attendu correspond au jeton généré, un critère de copie littérale qui capture l'endroit où une tête lit, mais pas ce qu'elle écrit via son circuit de valeur de sortie (OV), mécanisme même qui assure le rappel non littéral. Nous introduisons le Score de Contribution Logit (LOCOS), un détecteur sensible à l'écriture qui évalue chaque tête par la projection de la sortie de son circuit OV dans la direction de désencastrement du jeton de réponse, en contrastant les positions sources aiguille et hors aiguille en un seul passage avant. Dans trois familles de modèles (Qwen3, Gemma-3, OLMo-3.1), l'ablation moyenne des meilleures têtes LOCOS sur le benchmark de rappel non littéral NoLiMa effondre le ROUGE-L avec un nombre de têtes inférieur à celui des détections antérieures basées sur l'attention ; sur Qwen3-8B, l'ablation de 50 têtes fait chuter le ROUGE-L de 0,401 à 0,000 tandis que la référence la plus forte conserve encore 0,292. Les têtes sélectionnées sont spécifiques au rappel : le rappel paramétrique et le raisonnement arithmétique restent à leur niveau de référence sous la même ablation. Sur Qwen3-8B, la même ablation réduit également MuSiQue de 0,55 à 0,08 et BABI-Long de 0,62 à 0,20, tandis qu'un contrôle avec des têtes aléatoires reste à moins de 0,05 de la référence.

L'alignement des représentations est devenu un moyen efficace pour accélérer l'entraînement des transformateurs de diffusion et améliorer la qualité de génération. Les récentes méthodes d'auto-alignement, telles que SRA et Self-Flow, suppriment en outre la dépendance vis-à-vis des encodeurs pré-entraînés externes en construisant l'alignement au sein du modèle de diffusion lui-même. Cependant, le mécanisme sous-jacent à l'amélioration entre SRA et Self-Flow, la planification à double pas de temps, reste peu étudié : Self-Flow attribue son gain aux interactions entre tokens à différents niveaux de bruit, où les tokens plus propres aident à inférer ceux plus bruités. Dans ce travail, nous réexaminons cette explication et nous demandons si le gain provient plutôt de l'augmentation des données le long de la dimension du bruit. Pour démêler ces facteurs, nous introduisons la Séparation de l'attention, qui préserve la même entrée à double pas de temps que Self-Flow tout en bloquant l'attention entre les tokens assignés à différents niveaux de bruit. Étonnamment, supprimer cette interaction ne dégrade pas la performance et peut même l'améliorer, ce qui suggère que l'amélioration de SRA à Self-Flow provient principalement de l'augmentation des données. De plus, nous montrons que la Séparation de l'attention elle-même offre un effet d'augmentation en divisant une seule image en plusieurs parties d'entraînement efficaces pour élargir les données d'entraînement. Sur la base de ces observations, nous combinons l'auto-alignement des représentations avec l'augmentation par double pas de temps et par séparation de l'attention, et démontrons l'efficacité de cette conception sur ImageNet.

La reconnaissance des veines est une technologie biométrique sécurisée souvent limitée par la rareté des données annotées et les variations d'imagerie. Si l'augmentation de données atténue ce problème, les stratégies conçues pour les images naturelles peuvent perturber la topologie fine et les textures essentielles à la discrimination des identités. Nous présentons AGVBench, qui évalue 30 stratégies d'augmentation représentatives sur cinq ensembles de données publics de veines palmaires et digitales, avec sept architectures de base couvrant les CNN classiques, les transformeurs de vision et les modèles de reconnaissance de veines spécifiques. Nos résultats montrent que les méthodes de mélange multi-images (par exemple, MixUp, PuzzleMix, StarMixup) offrent généralement les meilleures performances de reconnaissance. Cependant, elles sont souvent mal calibrées et vulnérables aux perturbations adverses, révélant une incohérence manifeste entre la précision propre et la sécurité adverse. Nous constatons également que les transformations géométriques sévères dégradent fréquemment la reconnaissance, potentiellement en raison d'un désalignement des caractéristiques ou d'un recadrage spatial, et que l'efficacité de l'augmentation varie selon les ensembles de données de veines palmaires et digitales. Ces résultats prouvent qu'une évaluation centrée sur la précision est insuffisante pour l'augmentation biométrique. AGVBench fournit des protocoles standardisés pour soutenir une recherche reproductible et guider la conception de systèmes de reconnaissance de veines fiables, sécurisés et robustes. Notre base de code est disponible à l'adresse https://github.com/Advance-VeinTech-Innovators/AGVBench.

Les méthodes de génération d'images contrôlables, telles que ControlNet, ont démontré une capacité remarquable à introduire des conditions visuelles (par exemple, des cartes de profondeur) pour guider la génération d'images. Cependant, ces méthodes rencontrent souvent des difficultés avec les scènes multi-instances complexes, conduisant fréquemment à une confusion des attributs entre les instances. Bien que des approches récentes tentent d'atténuer ce problème par un étiquetage manuel des instances, de telles exigences sont intensives en main-d'œuvre. Dans cet article, nous proposons InstanceControl, une nouvelle méthode de génération contrôlable multi-instances qui élimine le besoin d'étiquetage des instances. Nous identifions le principal goulot d'étranglement des méthodes existantes comme l'incapacité à associer précisément les descriptions d'instances à leurs régions correspondantes dans les conditions visuelles. Pour y remédier, nous exploitons le Modèle Vision-Langage (VLM) pour établir des correspondances au niveau des instances entre les prompts textuels et les conditions visuelles. Plus précisément, le VLM analyse automatiquement les descriptions d'instances à partir des prompts textuels et prédit simultanément des masques d'instances basés sur les conditions visuelles. De plus, étant donné que les masques prédits peuvent contenir du bruit, nous introduisons une stratégie adaptative de raffinement des masques qui affine dynamiquement ces masques d'instances pendant le processus de génération. Des expériences approfondies démontrent que notre approche surpasse les méthodes de pointe, obtenant une fidélité supérieure et un contrôle précis au niveau des instances.

Les agents de recherche alimentés par des modèles de langage de grande taille (LLMs) sont de plus en plus utilisés pour résoudre des tâches complexes de recherche d'informations, nécessitant un raisonnement et une récupération en plusieurs étapes pour atteindre les objectifs des utilisateurs. Cependant, les référentiels existants supposent souvent que les requêtes des utilisateurs sont complètes et explicites, négligeant le fait que les demandes de recherche réelles sont fréquemment vagues, sous-spécifiées, voire factuellement incorrectes. Dans les scénarios de recherche approfondie, une telle ambiguïté peut se propager le long des chaînes de raisonnement en plusieurs étapes et orienter les agents vers des trajectoires de recherche incorrectes. Pour combler cette lacune, nous introduisons DiscoBench, un référentiel pour la recherche approfondie tenant compte de la clarification, conçu pour évaluer si les agents de recherche peuvent identifier proactivement l'ambiguïté, poser des questions de clarification efficaces et rétablir des chemins de raisonnement corrects grâce à l'interaction avec l'utilisateur. DiscoBench contient 211 échantillons et 463 instances d'ambiguïté couvrant 11 domaines du monde réel et quatre types d'ambiguïté. Nous concevons en outre un simulateur utilisateur pour l'interaction à plusieurs tours et évaluons les performances des modèles sous quatre angles : l'utilité de la tâche, la détection des ambiguïtés, la stratégie d'interaction et l'efficacité des coûts. Des expériences menées sur des LLMs représentatifs montrent que la détection des ambiguïtés et la clarification efficace sont des capacités distinctes, et que le fait de rechercher à plusieurs reprises au lieu de demander une clarification donne souvent de moins bons résultats qu'une simple estimation directe, soulignant un écart critique entre la capacité de récupération et la résolution interactive de problèmes dans les agents de recherche actuels.

Les Modèles Vision-Langage (MVL) ont démontré un immense potentiel dans la Localisation Spatio-Temporelle Vidéo (LSTV). Cependant, les protocoles d'évaluation actuels se limitent largement à des tests en mode zéro-shot sur des référentiels généraux de la vie courante. Cela crée un décalage critique avec les applications réelles dans des domaines spécialisés, où les modèles rencontrent inévitablement des concepts visuels rares et des dynamiques spatio-temporelles complexes. Étant donné qu'un pré-entraînement exhaustif sur des distributions de données infinies est irréalisable, la capacité à s'adapter à de nouveaux domaines est essentielle. Pour combler cette lacune, nous introduisons AnyGroundBench, un référentiel d'adaptation de domaine conçu pour faire évoluer le paradigme d'évaluation de la LSTV, passant de tests statiques en zéro-shot à une adaptation rigoureuse de domaine. Ciblant cinq domaines spécialisés (animal, industrie, sport, chirurgie et sécurité publique), AnyGroundBench associe des vidéos nouvellement capturées, telles que des comportements de souris annotés par des experts, à des ensembles de données établis, en les unifiant grâce à des annotations spatio-temporelles denses et haute fidélité. De manière cruciale, le référentiel fournit des sous-ensembles d'entraînement dédiés pour mesurer systématiquement l'adaptabilité au domaine. Nous évaluons en profondeur 15 MVL de pointe, en examinant leur généralisation en zéro-shot et leurs capacités d'Apprentissage en Contexte (AC) sous des contraintes computationnelles pratiques. En définitive, nos résultats révèlent que les modèles actuels échouent tant en adaptation zéro-shot que basée sur l'AC lorsqu'ils sont confrontés à des domaines spécialisés, exposant des failles critiques dans le raisonnement spatio-temporel que les recherches futures devront aborder.

La maîtrise de la mémoire est une compétence acquise : savoir quoi encoder, quand récupérer et comment organiser les connaissances – une capacité connue en sciences cognitives sous le nom de métamémoire. Nous appliquons cette perspective aux LLM en traitant la gestion de la mémoire comme une compétence entraînable. Nous élevons les opérations du système de fichiers au rang d'actions de mémoire de première classe, aux côtés des actions liées à la tâche, permettant ainsi au modèle lui-même de décider comment gérer sa mémoire. Cette compétence mémorielle s'améliore selon deux axes : la structure qui la soutient (instructions, schémas de fichiers, vocabulaire d'actions) et la maîtrise du modèle qui l'exerce. Ces deux axes résistent à l'optimisation manuelle : les épisodes dans les tâches à long horizon s'étendent sur des milliers d'étapes, et une seule erreur de mémoire peut rester cachée longtemps avant d'apparaître, rendant la révision humaine des trajectoires complètes impraticable. Nous présentons AutoMem, un cadre qui automatise les deux axes. Dans la première boucle, un LLM puissant examine les trajectoires complètes de l'agent et révise de manière itérative la structure de mémoire qui façonne la manière dont l'agent interagit avec ses fichiers mémoire. Dans la seconde boucle, les bonnes décisions mémorielles de l'agent lui-même sont identifiées à partir de nombreux épisodes et utilisées comme signal d'entraînement pour affiner directement la compétence mémorielle du modèle. Sur trois jeux à long horizon générés procéduralement (Crafter, MiniHack et NetHack), l'optimisation de la mémoire seule – sans modifier le comportement d'action de tâche du modèle – a amélioré les performances de l'agent de base d'environ 2 à 4 fois, rendant un modèle à poids ouverts de 32B compétitif avec des systèmes de pointe tels que Claude Opus 4.5 et Gemini 3.1 Pro Thinking. Nos résultats montrent que la gestion de la mémoire est une compétence apprenable de manière indépendante, et un objectif à fort effet de levier générant des gains importants sur les tâches à long horizon.

L'évaluation des agents LLM sur des benchmarks comme SWE-Bench et GAIA peut s'avérer coûteuse, chronophage et nécessiter une infrastructure complexe. Une seule évaluation peut coûter des milliers de dollars et prendre plusieurs jours. En revanche, les benchmarks LLM non agentiques qui testent des capacités individuelles (par exemple, le raisonnement, la génération de code) sont rapides et peu coûteux à exécuter. Dans cet article, nous étudions s'il est possible de prédire avec précision les performances sur des benchmarks agentiques coûteux à partir des performances sur un petit sous-ensemble soigneusement sélectionné d'instances d'évaluation atomiques. Nous présentons PACE, un framework qui construit des benchmarks proxy en sélectionnant des instances issues d'évaluations non agentiques existantes, dont les scores agrégés prédisent le plus fiablement les performances des modèles sur les benchmarks agentiques. À partir d'un ensemble d'instances candidates couvrant des capacités atomiques, PACE ajuste une régression qui mappe les scores d'un modèle sur un sous-ensemble compact d'instances sources vers son score sur le benchmark agentique cible. Le sous-ensemble lui-même est élaboré en combinant deux stratégies de sélection d'instances complémentaires : la sélection locale centrée sur la cible et la sélection globale informative. Nous appliquons PACE aux 4 benchmarks agentiques cibles de cet article, ce qui donne PACE-Bench, le benchmark proxy concret que nous évaluons. Les expériences menées sur 14 modèles, 4 benchmarks agentiques et 19 benchmarks non agentiques montrent que PACE-Bench prédit les scores agentiques avec une erreur absolue moyenne (MAE) en validation croisée leave-one-out (LOOCV) inférieure à 4 %, une corrélation de Spearman supérieure à 0,80 et une précision de classement par paire de modèles d'environ 85 %, le tout pour moins de 1 % du coût total de l'évaluation agentique. Nous analysons en outre les instances proxy sélectionnées, révélant les compétences spécifiques que chaque benchmark agentique exige. PACE permet aux praticiens d'obtenir des estimations fiables de la performance agentique lors du développement, de la sélection et du routage des modèles, sans les frais généraux d'une évaluation agentique complète.

Nous élucidons l'espace de conception de l'Appariement des Distributions de Représentations (RDM, pour *Representation Distribution Matching*), notre nom pour le paradigme qui entraîne un générateur d'images en une étape en appariant les distributions de caractéristiques générées et de référence sous des encodeurs pré-entraînés figés. Nous identifions deux axes de conception – comment les distributions sont comparées et les représentations dans lesquelles elles sont comparées – et des études contrôlées le long de ces axes aboutissent à trois résultats. Premièrement, le MMD classique, qui ne pouvait pas entraîner de générateurs convaincants il y a une décennie, devient un objectif fort et scalable une fois estimé correctement. Deuxièmement, le lot généré constitue alors la variable opérante, avec un optimum au-dessus de 2048, bien au-delà des tailles de lot habituelles. Troisièmement, toute représentation unique peut être exploitée, descendant en dessous du score réel tandis que les images restent visiblement fausses ; nous appariant donc contre une batterie équilibrée d'encodeurs et évaluons avec SW_r14, une distance de Sliced-Wasserstein sur 14 encodeurs qui est indépendante de la perte d’entraînement et résiste à l’exploitation. Combiner les choix préférés donne RDM amélioré (iRDM) : il établit l’état de l’art en une étape sur ImageNet à un SW_r14 de 1,30, corroboré par PickScore, un proxy de préférence humaine que notre objectif n’optimise jamais, qui le préfère au meilleur générateur en une étape précédent sur 71,2 % des échantillons appariés. La même recette post-entraîne le FLUX.2 [klein] en quatre étapes en un générateur en une étape, surpassant la version en quatre étapes sur GenEval, 0,826 contre 0,794, et sur PickScore, 22,76 contre 22,58, en 90 heures GPU H200. Page du projet : https://alan-lanfeng.github.io/rdm/.

Les modèles Vision-Langage-Action (VLA) sont fondamentalement limités par la rareté des démonstrations d'experts — des triplets d'observations, d'instructions et d'actions dont la collecte à grande échelle est coûteuse. Nous soutenons que ce goulot d'étranglement provient de la confusion entre deux objectifs d'apprentissage distincts : l'acquisition de la compétence physique (comment se déplacer) et l'acquisition de l'alignement sémantique (quoi faire). Crucialement, seul ce dernier nécessite une supervision linguistique. En nous appuyant sur cette Hypothèse de Décomposition, nous proposons le Pré-entraînement Agnostique aux Tâches (TAP), un cadre en deux étapes qui apprend d'abord des priors moteurs transférables à partir de données d'interaction non étiquetées et peu coûteuses — incluant des trajectoires hors tâche rejetées et le jeu autonome du robot — via un objectif de Dynamique Inverse auto-supervisé. Une seconde étape légère ancre ensuite ces priors dans le langage en utilisant un minimum de données d'experts. Sur le benchmark SIMPLER, TAP égalise les modèles entraînés sur plus d'un million de trajectoires d'experts tout en utilisant des ordres de grandeur moins de données étiquetées, produisant un gain absolu de 10 % par rapport au clonage de comportement standard. Sur une plateforme WidowX réelle, TAP conserve un taux de succès de 25 % sous des perturbations de la caméra alors que les références à l'échelle d'Internet s'effondrent à 0 %, démontrant que le pré-entraînement agnostique aux tâches produit des représentations physiques robustes et transférables, et offre une voie scalable pour l'IA Incarnée.

Le post-entraînement continu permet aux modèles de base d'acquérir de nouvelles connaissances tout en préservant leurs capacités existantes. Des travaux récents suggèrent que l'apprentissage on-policy peut atténuer l'oubli, l'auto-distillation on-policy apparaissant comme une approche particulièrement intéressante. Dans ce travail, nous réévaluons cette vision optimiste à travers l'optimisation de politique par auto-distillation (SDPO). Nos expériences montrent que SDPO peut accélérer la spécialisation intra-domaine lorsque les signaux de l'enseignant sont stables et bien alignés, mais qu'il peine à généraliser aux scénarios hors distribution. En post-entraînement continu, SDPO présente un oubli plus marqué et peut même s'effondrer, tandis que les méthodes d'apprentissage par renforcement on-policy telles que GRPO s'adaptent de manière plus conservatrice et préservent mieux les capacités antérieures. Des analyses supplémentaires révèlent qu'une auto-distillation plus dense induit une plus grande dérive à la fois dans l'espace des paramètres et dans l'espace des réponses, et peut amplifier les artefacts de formatage haute fréquence via une boucle enseignant-élève auto-renforçante. Ces résultats suggèrent que les données on-policy seules sont insuffisantes pour l'apprentissage continu. L'auto-distillation dense peut accélérer la spécialisation lorsque les cibles de l'enseignant sont stables et que la supervision au niveau des jetons est fiable, mais elle ne doit pas être considérée comme un stabilisateur par défaut pour le post-entraînement continu. Notre code est disponible à l'adresse https://github.com/Moenupa/SDPO-CL.

Les modèles de langage à diffusion, qui génèrent du texte en débruitant un canevas de tokens de manière bidirectionnelle plutôt qu'en émettant des tokens de gauche à droite, sont devenus compétitifs avec la génération autorégressive (AR). Cependant, les modèles fondamentaux médicaux restent presque exclusivement autorégressifs. Nous adaptons un modèle de langage à diffusion à mélange d'experts, DiffusionGemma-26B, et l'évaluons par rapport à son homologue AR de même taille, Gemma-4-26B, selon une recette LoRA identique sur des ensembles de données de réponse à des questions visuelles médicales, notés par un juge LLM robuste à la verbosité. La diffusion atteint ou dépasse l'AR sur tous ces ensembles, et le modèle affiné (3,8B actifs) est compétitif avec les modèles de vision-langage de pointe ; son décodage est également 3,5 à 4,4 fois plus rapide. Au-delà de cette parité, le modèle de diffusion offre une capacité de rédaction que l'AR ne possède pas : le remplissage dans n'importe quel ordre. Étant donné que le canevas est débruité de manière bidirectionnelle, un radiologue peut corriger des fragments de rapport et demander au modèle de remplir le texte entre eux, une opération inhérente à la diffusion mais pas à l'autorégression, qui est médiocre pour cela. Cela convient aux rapports réels, souvent laconiques ou incohérents selon les cliniciens et les institutions.

Les modèles fondamentaux sont régulièrement diffusés auprès du public, mais les recettes de données utilisées pour les entraîner – telles que les poids de mélange de domaines déterminant l'échantillonnage de différentes sources – sont rarement divulguées. Cela crée une asymétrie d'accès : les chercheurs étudient les modèles résultants mais manquent de visibilité sur la distribution d'entraînement qui les produit. Les travaux antérieurs pour inférer les données d'entraînement, comme l'inférence d'appartenance, opèrent au niveau des échantillons individuels et ne peuvent donc pas caractériser la composition globale du corpus d'entraînement. Nous introduisons WARP, un cadre qui reconstitue les mélanges d'entraînement d'un modèle affiné directement à partir de ses poids diffusés. WARP interpole entre le modèle de base et le modèle affiné par fusion de modèles, générant des pseudo-points de contrôle qui se rapprochent de la trajectoire d'entraînement manquante et exposent une empreinte géométrique des données d'entraînement dans l'espace des poids. À partir de ces empreintes simulées, WARP extrait des caractéristiques géométriques et les mappe vers les proportions de domaines à l'aide soit d'une lecture softmax sans paramètre, soit d'un projecteur MLP entraîné sur des mélanges synthétiques. Dans des expériences contrôlées avec BERT et GPT-2, WARP retrouve les mélanges de domaines avec une MAE moyenne aussi basse que 0,046 et 0,104 respectivement, surpassant l'inférence d'appartenance et une variante ayant accès à la véritable trajectoire d'entraînement.

Les agents basés sur de grands modèles de langage (LLM) peuvent résoudre des tâches procédurales complexes en interagissant avec des environnements sur plusieurs tours, mais cette capacité repose généralement sur des modèles de grande taille, des contextes longs et des appels d'inférence répétés. Cela rend difficile le déploiement d'agents à mémoire augmentée sur des appareils aux ressources limitées. Nous présentons DuoMem, un cadre de distillation bi-espace qui transfère la capacité de résolution de problèmes procéduraux d'un grand modèle enseignant vers des modèles étudiants compacts. DuoMem distille dans deux espaces complémentaires : (1) la distillation dans l'espace contextuel, qui remplace les mémoires générées par l'étudiant par des mémoires procédurales de meilleure qualité générées par l'enseignant, préfixées à l'entrée de l'étudiant, et (2) la distillation dans l'espace paramétrique, qui affine de légers adaptateurs LoRA sur des trajectoires réussies de l'enseignant. Évalué sur ALFWorld, un benchmark exigeant de prise de décision incarnée, DuoMem améliore le taux de réussite d'un modèle de 4 milliards de paramètres, le faisant passer de 4,3 % à 77,9 %, comblant ainsi la majeure partie de l'écart avec le modèle enseignant de 72 milliards (87,1 %), tout en ajoutant moins de 10 millions de paramètres entraînables et seulement quelques mégaoctets de mémoires pré-calculées de l'enseignant. De plus, le modèle amélioré par DuoMem (4 milliards) termine les tâches plus de 3 fois plus rapidement que le modèle enseignant de 72 milliards en temps réel, ce qui le rend viable pour un déploiement en périphérie en temps réel, là où l'enseignant serait difficile à utiliser. Des ablations approfondies sur huit modèles allant de 2 à 72 milliards de paramètres révèlent que les deux axes de distillation apportent des contributions complémentaires.

L’apprentissage par renforcement avec récompenses vérifiables (RLVR) a été étendu de l’entraînement mono-domaine à des suites de raisonnement multi-domaines couvrant les mathématiques, la programmation et les sciences. Cependant, le curriculum d’entraînement (la fréquence d’échantillonnage de chaque domaine) est généralement fixe ou ajusté manuellement, alors même que les compétences en raisonnement se transfèrent de manière inégale entre les domaines. Les curriculums existants basés sur l’apprenabilité s’adaptent là où la politique progresse actuellement, mais ignorent si une étape de gradient sur le domaine sélectionné bénéficie aux autres domaines. Dans cet article, nous proposons le Transfer-Aware Curriculum (TAC), un curriculum en ligne de type bandit qui priorise les domaines dont les mises à jour profitent largement au reste de la suite d’entraînement. TAC réutilise des signaux déjà produits par l’entraînement RL : les avantages par domaine capturent l’apprenabilité locale, et les gradients projetés, issus de l’étape GRPO en cours de calcul, estiment la transférabilité inter-domaines via l’alignement géométrique des gradients, à un coût négligeable (<1 % de surcharge en temps réel). Sur une suite de raisonnement à six domaines, TAC atteint la meilleure précision macro-moyenne à la fois sur Qwen3-1.7B et Llama3.2-3B, surpassant l’échantillonnage aléatoire proportionnel, un planning conçu manuellement, et un bandit basé uniquement sur l’apprenabilité, avec une amélioration allant jusqu’à 2,8 points (10 % en relatif) par rapport à ce dernier. Les ablations montrent une dégradation marquée des performances lorsque le terme de transférabilité est supprimé, et TAC reste robuste sur des mélanges d’entraînement déséquilibrés où les curriculums basés uniquement sur l’apprenabilité se concentrent excessivement sur les domaines dominants. Nos résultats établissent la transférabilité inter-domaines comme un signal clé pour la conception de curriculums dans le RLVR multi-domaines.

Les matrices de trafic (MT) capturent la demande globale de bout en bout d’un réseau et sont essentielles à l’ingénierie de trafic, mais la prévision précise de la matrice entière reste difficile lorsque la prédiction doit être effectuée sous les contraintes de mémoire, de mise à jour et de budget d’apprentissage du contrôle réseau en ligne. Cet article examine si des modèles récurrents compacts inspirés du quantique peuvent fournir des prévisions efficaces des MT sans recourir à des modules graphiques, transformateurs ou de diffusion dédiés. Nous adaptons des programmateurs à poids rapides de réseau Kolmogorov-Arnold inspiré du quantique et à portes (QKAN-FWP) à la prévision directe multi-étapes des MT d’Abilene, où chaque modèle prédit les 20 trames suivantes de cinq minutes d’une matrice origine-destination (OD) à 144 canaux à partir d’un historique de deux heures. Nous comparons trois variantes de placement du QKAN à un réseau de mémoire à long et court terme (LSTM) de taille équivalente, à un LSTM plus grand et à un programmateur à poids rapides classique et à portes, dans le cadre d’un protocole d’apprentissage à budget fixe partagé. Parmi les modèles récurrents évalués, le G-QKANFWP obtient la meilleure erreur quadratique moyenne (RMSE) poolée, tout en n’utilisant que 22,4 % de la mémoire du LSTM plus grand. Il surpasse également le LSTM de taille équivalente et le G-FWP classique, indiquant que le gain n’est pas dû au seul cadre de poids rapides à portes. Les analyses de convergence et par canal montrent en outre que les variantes inspirées du quantique obtiennent une aire sous la courbe d’apprentissage (AULC) de l’erreur de validation inférieure à celle des modèles récurrents de base de taille équivalente, tandis que le G-QKANFWP et le GQKAN-FWP remportent nettement plus de victoires sur les canaux OD. Ces résultats identifient un programmateur lent classique associé à un programmateur rapide inspiré du quantique comme une conception prometteuse en termes de précision et d’efficacité pour la prévision des matrices de trafic réseau respectueuse des ressources.

Les approches basées sur la grille pour la recherche du plus proche voisin approximatif (ANN) sont absentes des analyses d'échelle modernes. Nous présentons une caractérisation systématique d'un algorithme de grille multiprobe en fonction de la taille du jeu de données N et de la dimensionnalité d. Nos expériences révèlent un croisement d'échelle dimensionnelle (d-scaling crossover) jusqu'alors non rapporté dans la famille d'embeddings GloVe, où la recherche par grille multiprobe maintient un exposant d'échelle dimensionnelle approximativement constant tandis que d'autres méthodes basées sur les graphes, les arbres et le partitionnement présentent un débit dégradé. L'avantage s'accompagne d'une mise à l'échelle quasi linéaire des requêtes en N, mais aussi d'un coût d'indexation inférieur à celui des autres méthodes ANN concurrentes. Nos résultats suggèrent que les méthodes basées sur la grille, telles que la grille multiprobe, pourraient être compétitives dans des contextes où la réindexation est fréquente ou dans des configurations de haute dimensionnalité, où le coût d'indexation et la robustesse dimensionnelle dictent les performances. Plus largement, des travaux récents ont formalisé l'auto-attention comme une opération ANN. Ainsi, les propriétés de mise à l'échelle en N et d des algorithmes ANN peuvent guider l'analyse des coûts des architectures de transformeurs efficaces. Le code est disponible à l'adresse : https://github.com/weiz345/MultiProbeANN.