Dagelijks geselecteerde AI onderzoekspapers met vertalingen
Veel alledaagse programmeertaken verzetten zich tegen een strikte op regels gebaseerde implementatie, zoals het waarschuwen bij belangrijke logregels, het herstellen van misvormde JSON of het rangschikken van zoekresultaten op intentie, en worden steeds vaker uitbesteed aan API's van grote taalmodellen, ten koste van lokaliteit, reproduceerbaarheid en prijs. Wij stellen fuzzy-function programmering voor: het compileren van een dergelijke functie vanuit een natuurlijketaalspecificatie naar een compact, lokaal uitvoerbaar neuraal artefact. We concretiseren dit paradigma met Program-as-Weights (PAW), waarbij een 4B-compiler, getraind op FuzzyBench (een door ons vrijgegeven dataset van 10M voorbeelden), parameter-efficiënte adapters produceert voor een bevroren, lichte interpreter. Een 0,6B Qwen3-interpreter die PAW-programma's uitvoert, evenaart de prestaties van directe prompting van Qwen3-32B, terwijl hij ongeveer eenvijftigste van het inferentiegeheugen gebruikt en 30 tokens/s draait op een MacBook M3. PAW herkadert het funderingsmodel van een per-invoer probleemoplosser naar een toolbouwer: eenmalig aangeroepen per functiedefinitie, produceert het een klein herbruikbaar artefact waarvan de daaropvolgende aanroepen per functietoepassing goedkoop en offline zijn.
Geheugen voor een LLM-agent met een lange horizon is een contract over wat elke toekomstige beslissing mag zien. Het eenvoudigste contract voegt eerdere observaties, tool-aanroepen en reflecties toe aan elke prompt, wat eerdere context gemakkelijk toegankelijk maakt, maar het ook verandert in een door elkaar geraakt mengsel waarin het effect van een enkele geheugencomponent moeilijk te isoleren is. We introduceren en instrumenteren een alternatief begrensd contract: elke beslissing wordt genomen op basis van een nieuw gebruikersbericht dat is samengesteld via getypeerde terugvinding, zonder dat er een ruw transcript over beslissingen wordt toegevoegd. De prompt blijft daardoor begrensd over runs van elke lengte, en elke afzonderlijke laag kan geïsoleerd worden geablateerd. We instantiëren het contract in Slay the Spire 2, een gesloten-regel stochastisch deck-building-spel waarvan de runs honderden tactische en strategische beslissingen vereisen. Een openbare online benchmark van frontier LLM's op hetzelfde spel rapporteert nul overwinningen op de laagste moeilijkheidsgraad over vijf configuraties, en het door de ontwikkelaar gerapporteerde menselijke winstpercentage op dezelfde moeilijkheidsgraad is 16%; de taak is moeilijk maar niet verzadigd. Binnen onze harness toont een vaste A0-ablatie het grootste waargenomen verschil wanneer geactiveerde strategische vaardigheden zijn ingeschakeld: de no-store baseline wint 3/10 spellen en het toevoegen van de vaardighedenlaag 6/10. Bij deze steekproefgrootte is de vergelijking directioneel in plaats van statistisch doorslaggevend (Fisher exact p≈0,37); een cross-backbone-probe en openbare accumulerende-context-baselines worden gerapporteerd als operationele vergelijkingen in plaats van gecontroleerde tests van de contractvariabele zelf. We brengen een reproduceerbare testomgeving uit: 298 voltooide trajecten met conditietags, bevroren geheugen/vaardigheid-snapshots, promptrecords en analysescripts — een agentontwerp en een gevalideerde, herbruikbare methodologie voor het bestuderen van hoe expliciete geheugenlagen langetermijnbeslissingen van LLM-agenten vormgeven.
Autonome agenten worden steeds vaker geacht uitvoerbare beleidslijnen te verbeteren via feedback, maar bestaande evaluaties reduceren dit proces vaak tot een eindscore of verwarren het met open-ended vooruitgang in software-engineering. Wij introduceren Autonome Beleidsevolutie, een gecontroleerde evaluatieomgeving waarin een harness-modelagent herhaaldelijk een uitvoerbaar beleidssysteem bewerkt binnen een vast interactiebudget. Deze omgeving concretiseren wij in EvoPolicyGym, een benchmark die is opgebouwd uit compacte interactieve RL-omgevingen en evalueert hoe agenten verkende beleidslijnen iteratief verbeteren. Op de EvoPolicyGym-suite behaalt GPT-5.5 de sterkste totale rangscore en prestaties in de top twee op alle 16 omgevingen. Naast ranglijstresultaten biedt EvoPolicyGym ook trajectniveau-diagnostiek die inzichtelijk maakt hoe agenten budget toewijzen en feedback omzetten in parametrische afstemming. Deze analyses tonen aan dat sterke autonome beleidsevolutie niet alleen afhangt van geïsoleerde taakoverwinningen, maar van het ontdekken van taakgeschikte mechanismen en het verfijnen van beleid binnen begrensde feedback.
Hybride aandachtsmodellen verbeteren de efficiëntie voor lange contexten door slechts een subset van volledige-aandachtslagen te behouden en de resterende lagen te vervangen door lineaire aandacht. De effectiviteit van de transformatie van Transformer naar hybride hangt echter cruciaal af van welke lagen de volledige aandacht behouden. Bestaande methoden voor het selecteren van hybride lagen vertrouwen doorgaans op heuristische strategieën zoals vaste plaatsingspatronen of laagsgewijze scores, waarbij het laagbelang impliciet als geïsoleerd wordt beschouwd en het onderlinge laageffect onder een globale hybride configuratie over het hoofd wordt gezien. In dit werk formuleren we de selectie van hybride lagen als een budget-beperkt deelverzamelingsoptimalisatieprobleem. Verder stellen we FlashMorph (Fast LAyer Selection for Hybrid MORPHing) voor, een effectieve, efficiënte en schaalbare laagselectiemethode voor de transformatie van Transformer naar hybride. FlashMorph construeert eerst een morfbaar model door elke volledige-aandachtslaag uit te rusten met een omgezette lineaire-aandachtstak. Vervolgens worden alle modelgewichten bevroren en worden laagsgewijze poorten gezamenlijk geoptimaliseerd op synthetische lange-context retrievalsgegevens, met een linearisatieregularisatie die het model aanmoedigt om voor efficiëntie op lineaire aandacht te vertrouwen. De geleerde poorten worden gediscretiseerd onder een vooraf ingesteld volledige-aandachtsbudget om de hybride architectuur te instantiëren, gevolgd door standaard logitsdistillatie en fijnafstemming op lange context. Uitgebreide experimenten tonen aan dat FlashMorph effectievere hybride configuraties ontdekt, een sterke lange-context recall en algemene benchmarkprestaties behoudt, terwijl de kosten voor laagselectie aanzienlijk worden verminderd in vergelijking met bestaande laagselectiemethoden, wat de effectiviteit, efficiëntie en schaalbaarheid ervan aantoont.
Hardware-agnostische strategieën voor het versnellen van tekst-naar-beeld diffusie, zoals tijdstapdestillatie en feature caching, kunnen de inferentietijd verkorten zonder aangepaste kernels of optimalisatie op systeemniveau. Daaronder hebben multi-resolutie generatiestrategieën recentelijk brede aandacht gekregen, waarmee een versnelling van meer dan 5x wordt behaald zonder enige training. Het ontwerp van het uitvoeren van upsampling in de latente ruimte, samen met de selectieve modificatie van gedeeltelijke regio's, zorgt er echter voor dat deze methoden merkbare vervaging of artefacten vertonen. Daartoe stellen wij MrFlow voor, een trainingsvrije multi-resolutie versnellingsstrategie voor voorgetrainde flow-matching modellen, gebaseerd op een gefaseerde pijplijn van lage naar hoge resolutie. MrFlow genereert eerst snel de hoofdstructuur op lage resolutie, voert vervolgens superresolutie uit in de pixelruimte met behulp van een lichtgewicht voorgetraind GAN-gebaseerd model, injecteert daarna ruis met lage sterkte om hoogfrequente hersampling mogelijk te maken, en verfijnt ten slotte de details op hoge resolutie. Kwantitatieve en kwalitatieve resultaten op FLUX.1-dev en Qwen-Image tonen aan dat MrFlow de kwadratische tokenreductie en verminderde stapvereiste van lage-resolutiesampling benut om een end-to-end versnelling van 10x te bereiken, terwijl OneIG binnen een marge van 1% blijft ten opzichte van vóór de versnelling, waarmee het aanzienlijk beter presteert dan andere trainingsvrije versnellingsstrategieën, en geen enkele training of dynamische identificatie tijdens runtime vereist. MrFlow kan verder direct orthogonaal worden gecombineerd met voorgetrainde tijdstapdestillatiestrategieën, wat een nog hogere generatieversnelling van tot wel 25x oplevert.
Datascience heeft als doel om bruikbare inzichten te verkrijgen uit heterogene ruwe data, waardoor de waarde van de enorme hoeveelheden data die in de moderne samenleving worden gegenereerd, wordt ontsloten. Het automatiseren van dit proces is essentieel om de arbeidsintensieve inspanningen van datascientists te verminderen en schaalbare datagedreven toepassingen mogelijk te maken. Recentelijk zijn op grote taalmodellen (LLM's) gebaseerde data-agenten naar voren gekomen als een veelbelovende oplossing om datascience-workflows te automatiseren. Het vakgebied mist echter uitgebreide benchmarks om deze agenten rigoureus te evalueren in uiteenlopende scenario's met een fijnmazige granulariteit. Om deze lacune aan te pakken, stellen wij AgenticDataBench voor, een uitgebreide benchmark met realistische taken uit diverse domeinen, voorzien van fijnmazige grondwaarheidslabels. Dit maakt evaluaties mogelijk die de diversiteit en complexiteit van datascience-workflows en de gedetailleerde prestaties van agenten in kaart brengen. Ten eerste verzamelen we, om diverse domeinen te bestrijken, echte datasets en taken uit 15 verticale domeinen, waaronder 5 realistische B2B-use cases van een toonaangevend fintechbedrijf. Ten tweede introduceren we, om redundantie in realistische taken te verwijderen en hoogwaardige taken te genereren voor domeinen die geen echte data hebben, datascience-vaardigheden, terugkerende datacentrische operationele patronen, en kwantificeren we de dekkingsgraad van de benchmark aan de hand van het aantal opgenomen vaardigheden. Representatieve vaardigheden worden geëxtraheerd uit grootschalige taakoplossingen op Stack Overflow met behulp van vaardigheid-afgestemde hiërarchische clustering. Ten derde selecteren we voor realistische zakelijke taken taak-oplossingparen die de diversiteit in vaardigheidssamenstelling maximaliseren, wat een brede dekking van praktische scenario's waarborgt. Ten vierde stellen we, om realistische taken te genereren voor domeinen zonder echte taken, een systematische, op LLM's gebaseerde taakgeneratiebenadering voor om workflows en taken te creëren op basis van deze vaardigheden. Tot slot evalueren we state-of-the-art data-agenten met behulp van onze geannoteerde benchmark en open-source testomgeving, wat gedetailleerde inzichten op vaardigheidsniveau oplevert.
We presenteren WorldDirector, een zeer stuurbaar videowereldmodelframework dat is ontworpen voor blijvend dynamisch objectgeheugen en onbeperkte verkenning van het gezichtspunt. In tegenstelling tot bestaande wereldmodellen die fysieke dynamiek verweven met pixelrendering en afhankelijk zijn van continue visuele observatie om beweging in stand te houden, ontkoppelt ons framework expliciet semantische bewegingsorkestratie van visuele generatie. Door gebruik te maken van een LLM om 3D-trajecten te coördineren met camerabewegingen en vervolgens deze georkestreerde trajecten in te zetten als sturingssignalen voor videogeneratie, garandeert onze aanpak strikte fysische logica en uiterlijkstabiliteit, met succes de exacte visuele identiteiten van dynamische entiteiten behouden, zelfs wanneer ze na langdurige perioden uit het zicht opnieuw de scène betreden. Experimentele resultaten tonen aan dat onze methode de synthese van complexe en langdurige gebeurtenissen ondersteunt met ongekende stuurbaarheid en blijvend dynamisch objectgeheugen. Projectpagina: https://worlddirector.github.io/
Recent hebben multimodale grote taalmodellen veelbelovende resultaten getoond in klinische beeldredenering, maar bestaande post-trainingspijplijnen blijven overwegend uitkomstgericht, vertrouwend op de correctheid van het uiteindelijke antwoord of voorkeuren op sequentieniveau. Dit heeft te lijden onder schaarse krediettoewijzing, waardoor het moeilijk is om het redeneringsproces te optimaliseren dat essentieel is voor klinische toepassingen. Onze analyse laat zien dat cascaderende fouten door mislukkingen in de vroege redeneerstadia een belangrijke oorzaak zijn van onjuiste voorspellingen in medische visuele vraag-antwoord (VQA) benchmarks. Gemotiveerd door dit stellen we Medical Reasoning-aware Policy Optimization (MRPO) voor, een RL-algoritme dat stapsgewijze procesbeloningen integreert. Wanneer het uiteindelijke antwoord onjuist is, kent MRPO exponentieel grotere straffen toe aan tokens in eerdere ongeldige redeneerstappen, waardoor faalcascades worden doorbroken zonder succesvolle paden in gevaar te brengen. Over drie multimodale LLM-backbones heen presteert MRPO consistent beter dan standaard GRPO en een recente RL-baseline, en op Qwen3-VL-8B-Instruct overtreft het zelfs aanzienlijk grotere medische MLLM's zoals HuatuoGPT-Vision-34B met 2,79 punten. Bovendien vermindert MRPO vroege redeneerfaalfouten van 64,0% naar 13,0%, wat aantoont dat gerichte beperking van cascaderende fouten zowel de redeneerkwaliteit als de nauwkeurigheid van het uiteindelijke antwoord verbetert. Onze code is beschikbaar op https://github.com/dmis-lab/MRPO.
Vaardigheden worden een herbruikbare operationele laag voor LLM-agenten, waarin SOP's, domeinregels, toolworkflows, scripts en validatieroutines worden gecodeerd. In realistische vaardigheidsrepository's maken overlappende vaardigheden betrouwbaar gebruik daarvan moeilijk. Het succes van de uiteindelijke verificateur is te grof voor zowel evaluatie als training, aangezien een agent door trial and error kan gaan bij het selecteren van afleidende vaardigheden, vereiste stappen overslaat, workflows verkeerd samenstelt of eindcontroles achterwege laat. We introduceren SkillCoach, een zelf-evoluerend rubricframework voor het evalueren en verbeteren van agentisch vaardigheidsgebruik. SkillCoach leidt vaardigheid-gefundeerde procesrubrieken af van echte rollouts en evalueert trajecten langs vier dimensies: vaardigheidsselectie, vaardigheidsopvolging, vaardigheidssamenstelling en vaardigheid-gefundeerde reflectie. Het houdt de externe verificateur als een apart uitkomstsignaal, waardoor proceskwaliteit kan worden onderscheiden van toevallig taaksucces. De geëvolueerde rubrieken dienen verder als processupervisie voor het selecteren van hoogwaardige trainingstrajecten. Experimenten tonen aan dat geëvolueerde rubrieken de evaluatiekwaliteit aanzienlijk verbeteren, fouten blootleggen die verborgen blijven in de uiteindelijke nauwkeurigheid, en sterkere supervisiesignalen bieden dan alleen uitkomst-gebaseerde filtering voor het verbeteren van agentisch vaardigheidsgebruik.
Conventionele reinforcement learning-strategieën voor visuele generatie maken doorgaans gebruik van steekproefsgewijze beloningsfuncties, maar deze praktijk leidt vaak tot beloninghacking die de diversiteit van afbeeldingen aantast en visuele anomalieën introduceert. Om deze beperkingen aan te pakken, presenteren wij een nieuw raamwerk dat generatieve modellen fine-tunet met behulp van distributiegewijze beloningen, wat zorgt voor een betere aansluiting bij werkelijke dataverdelingen. In tegenstelling tot beloningen die steekproeven individueel evalueren, houdt een distributiegewijze beloning rekening met de dataverdeling van de steekproeven, waardoor het mode collapse-probleem wordt beperkt dat optreedt wanneer alle steekproeven onafhankelijk naar dezelfde richting optimaliseren. Om de buitensporige rekenkosten van het schatten van deze beloningen te overwinnen, introduceren wij een subset-vervangingsstrategie die efficiënt beloningssignalen levert door slechts een kleine subset van een gegenereerde referentieset bij te werken. Daarnaast passen wij RL toe om post-hoc modelfusiecoëfficiënten te optimaliseren, wat mogelijk de trainings-inferentie-inconsistentie vermindert die wordt veroorzaakt door de introductie van stochastische differentiaalvergelijkingen (SDV) in reguliere RL-praktijken. Uitgebreide experimenten tonen aan dat onze aanpak de FID-50K significant verbetert bij diverse basismodellen, van 8,30 naar 5,77 voor SiT en van 3,74 naar 3,52 voor EDM2. Kwalitatieve evaluatie bevestigt ook dat onze methode de perceptuele kwaliteit verbetert terwijl de steekproefdiversiteit behouden blijft.
Bij gebruik van lange contexten synthetiseren grote taalmodellen vaak antwoorden op basis van de betekenis van een relevante contextspanne, in plaats van deze letterlijk over te nemen. Het identificeren van welke aandachtskoppen deze synthese uitvoeren, is van belang voor het interpreteren van modelgedrag in lange contexten. Toch missen bestaande detectoren deze koppen door hun opzet: ze belonen koppen waarvan het bijgewoonde token overeenkomt met het gegenereerde token, een criterium voor letterlijke kopie dat vastlegt waar een kop leest, maar niet wat hij schrijft via zijn uitvoer-waarde (OV)-circuit, het mechanisme dat juist niet-letterlijke terugwinning mogelijk maakt. We introduceren Logit-Bijdrage Scoren (LOCOS), een schrijf-bewuste detector die elke kop scoort op basis van de projectie van zijn OV-circuit-uitvoer op de onontledingsrichting van het antwoord-token, waarbij naald- en niet-naaldbrongposities in één enkele voorwaartse doorgang worden vergeleken. Over drie modelfamilies (Qwen3, Gemma-3, OLMo-3.1) heen stort het gemiddeld ableren van de top LOCOS-koppen op de NoLiMa niet-letterlijke terugwinningsbenchmark de ROUGE-L bij lagere aantallen koppen in dan eerdere op aandacht gebaseerde detecties; bij Qwen3-8B drijft het ableren van 50 koppen de ROUGE-L van 0,401 naar 0,000, terwijl de sterkste basislijn nog 0,292 behoudt. De geselecteerde koppen zijn terugwinningsspecifiek: parametrische herinnering en rekenkundig redeneren blijven onder dezelfde ablatie op basislijnniveau. Bij Qwen3-8B doet dezelfde ablatie ook MuSiQue dalen van 0,55 naar 0,08 en BABI-Long van 0,62 naar 0,20, terwijl een controle met willekeurige koppen binnen 0,05 van de basislijn blijft.
Representatie-uitlijning is een effectieve manier geworden om de training van diffusietransformatoren te versnellen en de generatiekwaliteit te verbeteren. Recente zelfuitlijningsmethoden, zoals SRA en Self-Flow, verwijderen verder de afhankelijkheid van externe voorgetrainde encoders door uitlijning binnen het diffusiemodel zelf te construeren. Het mechanisme achter de verbetering van SRA naar Self-Flow, namelijk dubbele tijdsplanning, is echter nog onvoldoende onderzocht: Self-Flow schrijft zijn winst toe aan interacties tussen tokens op verschillende ruisniveaus, waarbij schonere tokens helpen bij het afleiden van ruizigere. In dit werk herzien we deze verklaring en vragen we ons af of de winst in plaats daarvan afkomstig is van data-augmentatie langs de ruisdimensie. Om deze factoren te ontwarren, introduceren we Aandachtsscheiding, die dezelfde dubbele tijdsstapinvoer als Self-Flow behoudt, terwijl de aandacht tussen tokens die aan verschillende ruisniveaus zijn toegewezen, wordt geblokkeerd. Verrassend genoeg verslechtert het verwijderen van een dergelijke interactie de prestaties niet en kan het deze zelfs verbeteren, wat suggereert dat de verbetering van SRA naar Self-Flow voornamelijk afkomstig is van data-augmentatie. Bovendien tonen we aan dat Aandachtsscheiding zelf een augmentatie-effect biedt door een enkel beeld op te splitsen in meerdere effectieve trainingsonderdelen om de trainingsdata uit te breiden. Op basis van deze observaties combineren we zelfrepresentatie-uitlijning met dubbele tijdsstap- en aandachtsscheiding-augmentatie, en tonen we de effectiviteit van dit ontwerp aan op ImageNet.
Aderherkenning is een veilige biometrische technologie die vaak wordt beperkt door beperkte geannoteerde gegevens en variaties in beeldvorming. Hoewel data-augmentatie dit vermindert, kunnen strategieën die zijn ontworpen voor natuurlijke beelden de fijnmazige topologie en texturen verstoren die essentieel zijn voor identiteitsdiscriminatie. Wij presenteren AGVBench, dat 30 representatieve augmentatiestrategieën evalueert op vijf openbare palm- en vingeraderdatasets met zeven backbone-architecturen, waaronder klassieke CNN's, vision transformers en aderspecifieke herkenningsmodellen. Onze resultaten tonen aan dat meervoudige beeldmengmethoden (bijv. MixUp, PuzzleMix, StarMixup) over het algemeen de beste herkenningsprestaties leveren. Ze zijn echter vaak slecht gekalibreerd en kwetsbaar voor adversarial perturbations, wat een duidelijke inconsistentie laat zien tussen nauwkeurigheid op schone data en adversarial security. We vinden ook dat ernstige geometrische transformaties vaak de herkenning verslechteren, wat mogelijk te wijten is aan feature-misalignment of ruimtelijke cropping, en dat de effectiviteit van augmentatie varieert tussen palm- en vingeraderdatasets. Deze bevindingen tonen aan dat op nauwkeurigheid gerichte evaluatie onvoldoende is voor biometrische augmentatie. AGVBench biedt gestandaardiseerde protocollen om reproduceerbaar onderzoek te ondersteunen en het ontwerp van betrouwbare, veilige en robuuste aderherkenningssystemen te begeleiden. Onze codebase is beschikbaar op https://github.com/Advance-VeinTech-Innovators/AGVBench.
Controleerbare beeldgeneratiemethoden, zoals ControlNet, hebben een opmerkelijk vermogen getoond om visuele condities (bijv. dieptekaarten) te introduceren ter begeleiding van beeldgeneratie. Deze methoden hebben echter vaak moeite met complexe multi-instance scènes, wat leidt tot frequente attribuutverwarring tussen instanties. Hoewel recente benaderingen dit proberen te verhelpen via handmatige instantielabeling, is dergelijke vereiste arbeidsintensief. In dit artikel stellen wij InstanceControl voor, een nieuwe multi-instance controleerbare generatiemethode die de noodzaak van instantielabeling elimineert. Wij identificeren de voornaamste bottleneck in bestaande methoden als het onvermogen om instantiebeschrijvingen nauwkeurig te koppelen aan hun corresponderende gebieden binnen visuele condities. Om dit aan te pakken, maken wij gebruik van het Visie-Taal Model (VTM) om instantieniveau-correspondenties tot stand te brengen tussen tekstprompts en visuele condities. Specifiek parseert het VTM automatisch instantiebeschrijvingen uit de tekstprompts en voorspelt tegelijkertijd instantiemaskers op basis van de visuele condities. Bovendien, aangezien de voorspelde maskers ruis kunnen bevatten, introduceren wij een adaptieve maskerverfijningsstrategie die deze instantiemaskers dynamisch verfijnt tijdens het generatieproces. Uitgebreide experimenten tonen aan dat onze benadering beter presteert dan de nieuwste methoden, met superieure betrouwbaarheid en nauwkeurige instantieniveau-controle.
Zoekagenten die worden aangedreven door grote taalmodellen (LLM's) worden steeds vaker ingezet om complexe informatiezoekopdrachten uit te voeren, waarbij meerdere stappen van ophalen en redeneren nodig zijn om gebruikersdoelen te vervullen. Bestaande benchmarks gaan echter vaak uit van volledige en expliciete gebruikersvragen, waardoor over het hoofd wordt gezien dat zoekopdrachten in de praktijk vaak vaag, ondergespecificeerd of zelfs feitelijk onjuist zijn. In diepe zoekscenario's kan dergelijke ambiguïteit zich voortplanten over meerstaps redeneerketens en agenten naar verkeerde zoektrajecten leiden. Om deze leemte aan te pakken introduceren we DiscoBench, een benchmark voor verduidelijkingsbewust diep zoeken, ontworpen om te evalueren of zoekagenten proactief ambiguïteit kunnen identificeren, effectieve verduidelijkingsvragen kunnen stellen en correcte redeneerpaden kunnen herstellen via gebruikersinteractie. DiscoBench bevat 211 monsters en 463 ambiguïteitsgevallen uit 11 realistische domeinen, die vier typen ambiguïteit bestrijken. Verder ontwerpen we een gebruikerssimulator voor meerstaps interactie en evalueren we de modelprestaties vanuit vier perspectieven: taaknut, ambiguïteitsdetectie, interactiestrategie en kostenefficiëntie. Experimenten met representatieve LLM's tonen aan dat ambiguïteitsdetectie en effectieve verduidelijking afzonderlijke vaardigheden zijn, en dat herhaaldelijk zoeken in plaats van om verduidelijking vragen vaak slechter presteert dan direct raden, wat een kritieke kloof benadrukt tussen retrievalvermogen en interactief probleemoplossend vermogen in huidige zoekagenten.
Visie-taalmodellen (VLMs) hebben aanzienlijke belofte getoond in ruimtelijk-temporele video-grounding (STVG). Echter, huidige evaluatieprotocollen zijn grotendeels beperkt tot zero-shot-beoordelingen op algemene, dagelijkse benchmarks. Dit creëert een kritieke kloof met praktijktoepassingen in gespecialiseerde domeinen, waar modellen onvermijdelijk te maken krijgen met zeldzame visuele concepten en complexe ruimtelijk-temporele dynamieken. Aangezien uitputtende pre-training over oneindige datadistributies onhaalbaar is, is het vermogen om zich aan te passen aan nieuwe domeinen essentieel. Om deze kloof te overbruggen, introduceren we AnyGroundBench, een domeinaanpassingsbenchmark die is ontworpen om het STVG-evaluatieparadigma te verschuiven van statische zero-shot-testen naar rigoureuze domeinaanpassing. AnyGroundBench richt zich op vijf gespecialiseerde domeinen (dier, industrie, sport, chirurgie en openbare veiligheid) en koppelt nieuw opgenomen video's, zoals door experts geannoteerd muizengedrag, aan bestaande datasets, en verenigt ze door middel van dichte, hoogwaardige ruimtelijk-temporele annotaties. Essentieel is dat de benchmark speciale trainingssubsets biedt om de domeinaanpasbaarheid systematisch te meten. We evalueren uitgebreid 15 state-of-the-art VLMs, waarbij we hun zero-shot-generalisatie en in-context-leren (ICL)-capaciteiten beoordelen onder praktische rekenkundige beperkingen. Uiteindelijk tonen onze bevindingen aan dat huidige modellen falen in zowel zero-shot- als ICL-gebaseerde aanpassing wanneer ze geconfronteerd worden met gespecialiseerde domeinen, wat kritieke tekortkomingen in het ruimtelijk-temporele redeneren blootlegt die toekomstig onderzoek moet aanpakken.
Geheugenexpertise is een aangeleerde vaardigheid: weten wat te coderen, wanneer te onthouden en hoe kennis te organiseren – een vermogen dat in de cognitieve wetenschap bekendstaat als metageheugen. We brengen dit perspectief naar LLM's door geheugenbeheer te behandelen als een trainbare vaardigheid. We verheffen bestandssysteembewerkingen tot eersteklas geheugenacties naast taakacties, zodat het model zelf kan beslissen hoe het zijn geheugen beheert. Deze geheugenvaardigheid verbetert langs twee assen: de structuur die haar ondersteunt (prompts, bestandsschema's, actievocabulaire) en de bekwaamheid van het model dat haar uitoefent. Beide assen verzetten zich tegen handmatige optimalisatie: episoden in langetermijntaken omvatten duizenden stappen, en een enkele geheugenfout kan zich lang verbergen voordat hij aan het licht komt, waardoor menselijke beoordeling van volledige trajecten onpraktisch wordt. We introduceren AutoMem, een raamwerk dat beide assen automatiseert. In de eerste lus beoordeelt een sterk LLM volledige agenttrajecten en herziet iteratief de geheugenstructuur die bepaalt hoe de agent met zijn geheugenbestanden interageert. In de tweede lus worden de goede geheugenbeslissingen van de eigen agent uit vele episoden geïdentificeerd en gebruikt als trainingssignaal om de geheugenbekwaamheid van het model direct aan te scherpen. Over drie procedureel gegenereerde langetermijnspellen (Crafter, MiniHack en NetHack) verbeterde het optimaliseren van alleen het geheugen – zonder het taakactiegedrag van het model te wijzigen – de prestaties van de basisagent met ~2x-4x, waarmee een open-gewichttmodel van 32B concurrerend werd met grenssystemen zoals Claude Opus 4.5 en Gemini 3.1 Pro Thinking. Onze resultaten tonen aan dat geheugenbeheer een onafhankelijk leerbare vaardigheid is en een hefboomrijk doel dat grote winsten oplevert bij langetermijntaken.
Het evalueren van LLM-agenten op benchmarks zoals SWE-Bench en GAIA kan duur, tijdrovend zijn en vereist complexe infrastructuur. Een enkele evaluatie kan duizenden dollars kosten en dagen duren. Daarentegen zijn niet-agentische LLM-benchmarks die individuele capaciteiten testen (bijv. redeneren, codegeneratie) snel en goedkoop uit te voeren. In dit artikel onderzoeken we of prestaties op dure agentische benchmarks nauwkeurig kunnen worden voorspeld door de prestaties op een kleine, zorgvuldig geselecteerde subset van atomaire evaluatie-instanties. We introduceren PACE, een raamwerk dat proxy-benchmarks construeert door instanties te selecteren uit bestaande niet-agentische evaluaties waarvan de geaggregeerde scores het betrouwbaarst de modelprestaties op agentische benchmarks voorspellen. Gegeven een pool van kandidaat-instanties die atomaire capaciteiten beslaan, past PACE een regressie toe die de scores van een model op een compacte subset van broninstanties koppelt aan zijn score op de doel-agentische benchmark. De subset zelf wordt samengesteld door twee complementaire instantie-selectiestrategieën te combineren: doelrelevantie lokale selectie en wereldwijd informatieve globale selectie. We passen PACE toe op de 4 doel-agentische benchmarks in dit artikel, wat resulteert in PACE-Bench, de concrete proxy-benchmark die we in het artikel evalueren. Experimenten over 14 modellen, 4 agentische benchmarks en 19 niet-agentische benchmarks tonen aan dat PACE-Bench agentische scores voorspelt met een leave-one-out cross-validatie (LOOCV) gemiddelde absolute fout (MAE) van minder dan 4%, Spearman-correlatie boven 0,80, en paarsgewijze model-rangschikkingsnauwkeurigheid rond 85%, dit alles tegen minder dan 1% van de volledige agentische evaluatiekosten. We analyseren verder de geselecteerde proxy-instanties en onthullen welke vaardigheden elke agentische benchmark uniek vereist. PACE stelt praktijkmensen in staat om betrouwbare schattingen van agentische prestaties te verkrijgen tijdens modelontwikkeling, -selectie en -routering, zonder de overhead van volledige agentevaluatie.
Wij verhelderen de ontwerpruimte van Representation Distribution Matching (RDM), onze benaming voor het paradigma dat een eenstapsbeeldgenerator traint door gegenereerde en referentiekenmerkdistributies te matchen onder bevroren voorgetrainde encoders. We identificeren twee ontwerpassen – hoe de distributies worden vergeleken en de representaties waarin ze worden vergeleken – en gecontroleerde studies langs deze assen leveren drie bevindingen op. Ten eerste wordt de klassieke MMD, die tien jaar geleden geen overtuigende generatoren kon trainen, een sterke en schaalbare doelstelling zodra deze correct wordt geschat. Ten tweede is de gegenereerde batch dan de operationele variabele, met een optimum boven 2048, ver voorbij gebruikelijke batchgroottes. Ten derde kan elke afzonderlijke representatie worden omzeild, waarbij de score onder de echte waarde wordt gedreven terwijl afbeeldingen zichtbaar nep blijven; daarom matchen we tegen een evenwichtige batterij encoders en evalueren we met SW_r14, een Afgesneden Wasserstein-afstand over 14 encoders die onafhankelijk is van het trainingsverlies en weerstand biedt aan misleiding. Het combineren van de voorkeurskeuzen levert verbeterde RDM (iRDM) op: het stelt de eenstaps state-of-the-art op ImageNet op SW_r14 1,30, bevestigd door PickScore, een proxy voor menselijke voorkeur die ons doel nooit optimaliseert, en die het verkiest boven de eerdere beste eenstapsgenerator op 71,2% van de gematchte monsters. Hetzelfde recept traint de viertraps FLUX.2 [klein] na tot een eenstapsgenerator, die de viertrapsversie overtreft op GenEval, 0,826 tegen 0,794, en op PickScore, 22,76 tegen 22,58, in 90 H200 GPU-uren. Projectpagina: https://alan-lanfeng.github.io/rdm/.
Visie-Taal-Actie (VTA) modellen worden fundamenteel beperkt door de schaarste aan expert demonstraties — tripletten van observaties, instructies en acties die op grote schaal kostbaar zijn om te verzamelen. Wij stellen dat dit knelpunt voortkomt uit het door elkaar halen van twee afzonderlijke leerdoelen: het verwerven van fysieke competentie (hoe te bewegen) en het verwerven van semantische afstemming (wat te doen). Cruciaal is dat alleen het laatste taal-supervisie vereist. Voortbouwend op deze Decompositiehypothese introduceren we Taak-agnostische Pretraining (TAP), een tweefasenkader dat eerst overdraagbare motorische priorissen leert uit goedkope, ongelabelde interactiegegevens — waaronder weggegooide off-task trajecten en autonoom robotspel — via een zelfgecontroleerde Inverse Dynamica-doelstelling. Een lichte tweede fase verankert deze priorissen vervolgens in taal met minimale expertgegevens. Op de SIMPLER benchmark bereikt TAP de prestaties van modellen getraind op meer dan 1M expert trajecten, terwijl het ordes van grootte minder gelabelde data gebruikt, wat een absolute winst van 10% oplevert ten opzichte van standaard gedragsclonen. Op een echte WidowX-platform behoudt TAP 25% succes onder camerastoringen waar op internet-schaal gebaseerde basislijnen instorten tot 0%, wat aantoont dat taak-agnostische pretraining robuuste, overdraagbare fysieke representaties produceert en een schaalbare weg vooruit biedt voor Embodied AI.
Continue post-training stelt funderingsmodellen in staat om nieuwe kennis te verwerven terwijl bestaande capaciteiten behouden blijven. Recent werk suggereert dat on-policy leren vergeten kan beperken, waarbij on-policy zelfdistillatie naar voren komt als een bijzonder aantrekkelijke benadering. In dit werk heroverwegen we deze optimistische visie door middel van self-distillation policy optimization (SDPO). Onze experimenten tonen aan dat SDPO domeinspecialisatie kan versnellen wanneer lerarensignalen stabiel en goed afgestemd zijn, maar dat het moeite heeft om te generaliseren naar out-of-distribution scenario's. In continue post-training vertoont SDPO sterker vergeten en kan het zelfs instorten, terwijl on-policy reinforcement learning methoden zoals GRPO conservatiever aanpassen en eerdere capaciteiten beter behouden. Verdere analyses onthullen dat dichtere zelfdistillatie grotere verschuivingen veroorzaakt in zowel parameterruimte als responsruimte, en hoogfrequente opmaakartefacten kan versterken via een zelfversterkende leraar-leerling-lus. Deze bevindingen suggereren dat on-policy data alleen onvoldoende is voor continu leren. Dichte zelfdistillatie kan specialisatie versnellen wanneer lerarendoelen stabiel zijn en supervisie op token-niveau betrouwbaar is, maar het moet niet worden behandeld als een standaardstabilisator voor continue post-training. Onze code is beschikbaar op https://github.com/Moenupa/SDPO-CL.
Diffusie-taalmodelen, die tekst genereren door een tokencanvas bidirectioneel te denoizen in plaats van tokens van links naar rechts uit te zenden, zijn concurrerend geworden met autoregressieve (AR) generatie. Medische funderingsmodellen blijven echter bijna geheel autoregressief. Wij passen een mixture-of-experts diffusie-taalmodel, DiffusionGemma-26B, aan en benchmarken het tegen zijn even grote AR-tegenhanger Gemma-4-26B onder een identiek LoRA-recept op medische visuele vraag-antwoorddatasets, gescoord door een robuuste LLM-beoordelaar die ongevoelig is voor woordrijkheid. Diffusie evenaart of overtreft AR op al deze datasets, en het fijngetunede model (3,8B actief) is concurrerend met geavanceerde visie-taalmodelen; de decodering is ook 3,5–4,4 keer sneller. Naast deze gelijkwaardigheid biedt het diffusiemodel een opstelcapaciteit die AR mist: invullen in willekeurige volgorde. Omdat het canvas bidirectioneel wordt gedenoised, kan een radioloog fragmenten van een rapport vastzetten en het model de tekst daartussen laten invullen, een operatie die inherent is aan diffusie maar niet aan autoregressie, die daarin ondermaats presteert. Dit past bij echte rapporten, die vaak kort of inconsistent zijn tussen clinici en instellingen.
Fundamentmodellen worden routinematig aan het publiek vrijgegeven, maar de datarecepten die worden gebruikt om ze te trainen – zoals domeinmenggewichten die bepalen hoe verschillende bronnen worden gesampled – worden zelden openbaar gemaakt. Dit creëert een asymmetrie in toegang: onderzoekers bestuderen de resulterende modellen, maar hebben geen inzicht in de trainingsverdeling die deze produceert. Eerdere methoden voor het afleiden van trainingsdata, zoals lidmaatschapsinferentie, detecteren op het niveau van individuele samples en kunnen daarom niet de globale samenstelling van het trainingscorpus karakteriseren. We introduceren WARP, een raamwerk dat de trainingsmengsels van een fijn afgesteld model direct uit de vrijgegeven gewichten terugwint. WARP interpoleert tussen het basis- en het fijn afgestelde model met behulp van modelsamenvoeging, waardoor pseudo-checkpoints ontstaan die de ontbrekende trainingstraject benaderen en een geometrische voetafdruk van de trainingsdata in de gewichtsruimte blootleggen. Uit deze gesimuleerde voetafdrukken extraheert WARP geometrische kenmerken en koppelt deze aan domeinproporties, hetzij met een parameterloze softmax-uitlezing, hetzij met een MLP-projector getraind op synthetische mengsels. In gecontroleerde experimenten met BERT en GPT-2 herstelt WARP domeinmengsels met een gemiddelde MAE van respectievelijk slechts 0,046 en 0,104, wat beter presteert dan lidmaatschapsinferentie en een variant met toegang tot de werkelijke trainingstraject.
Agenten gebaseerd op grote taalmodellen (LLM) kunnen complexe procedurele taken oplossen door gedurende meerdere stappen interactie met omgevingen, maar dit vermogen is doorgaans afhankelijk van grote modellen, lange contexten en herhaalde inferentieaanroepen. Dit maakt geavanceerde geheugenversterkte agenten moeilijk inzetbaar op apparaten met beperkte middelen. We introduceren DuoMem, een dual-space distillatiekader dat procedureel probleemoplossend vermogen overdraagt van een groot leraarmodel naar compacte studentmodellen. DuoMem distilleert in twee complementaire ruimtes: (1) contextruimte-distillatie, waarbij door studenten gegenereerde herinneringen worden vervangen door kwalitatief betere, door de leraar gegenereerde procedurele herinneringen die aan de invoer van de student worden voorgevoegd, en (2) parameterruimte-distillatie, waarbij lichtgewicht LoRA-adapters worden fijngesteld op succesvolle lerarentrajecten. Geëvalueerd op ALFWorld, een uitdagende belichaamde besluitvormingsbenchmark, verbetert DuoMem een 4B-parametermodel van 4,3% naar 77,9% taaksuccesspercentage, waarmee het grootste deel van de kloof met een 72B-leraarmodel (87,1%) wordt gedicht, terwijl er minder dan 10M trainbare parameters en slechts enkele megabytes aan voorberekende lerarenherinneringen worden toegevoegd. Bovendien voltooit het met DuoMem verbeterde 4B-model taken meer dan 3x sneller dan de 72B-leraar in verstreken tijd, waardoor het levensvatbaar is voor real-time edge-implementatie, wat voor de leraar een uitdaging zou zijn. Uitgebreide ablatiestudies over acht modellen variërend van 2B-72B parameters tonen aan dat beide distillatieassen complementaire bijdragen leveren.
Reinforcement learning met verifieerbare beloningen (RLVR) is uitgebreid van enkelvoudige domeintraining naar multi-domein redeneersuites die wiskunde, programmeren en natuurwetenschappen omvatten. Het trainingscurriculum (hoe vaak elk domein wordt gesampled) is echter doorgaans vast of handmatig afgesteld, terwijl redeneervaardigheden ongelijkmatig overdragen tussen domeinen. Bestaande leerbaarheidsgebaseerde curricula passen zich aan waar het beleid op dat moment verbetert, maar zijn blind voor de vraag of een gradiëntstap op het geselecteerde domein de overige domeinen ten goede komt. In dit artikel stellen we Transfer-Aware Curriculum (TAC) voor, een bandiet-stijl online curriculum dat prioriteit geeft aan domeinen waarvan de updates breed ten goede komen aan de rest van de trainingssuite. TAC hergebruikt signalen die al door RL-training worden geproduceerd: per-domein voordelen vangen lokale leerbaarheid op, en geprojecteerde gradiënten, ontleend aan de GRPO-stap die wordt berekend, schatten de overdraagbaarheid tussen domeinen via gradiënt-geometrie-uitlijning, tegen verwaarloosbare kosten (<1% wandklokoverhead). In een redeneersuite van zes domeinen behaalt TAC de beste macro-gemiddelde nauwkeurigheid op zowel Qwen3-1.7B als Llama3.2-3B, en presteert het beter dan proportionele willekeurige sampling, een handmatig ontworpen schema en een uitsluitend op leerbaarheid gebaseerde bandiet, met een verbetering tot 2,8 punten (10% relatief) ten opzichte van deze laatste. Ablaties tonen aan dat de prestaties sterk afnemen wanneer de overdraagbaarheidsterm wordt verwijderd, en TAC blijft robuust bij onevenwichtige trainingsmengsels waar uitsluitend op leerbaarheid gebaseerde curricula overmatig inzetten op dominante domeinen. Onze bevindingen vestigen overdraagbaarheid tussen domeinen als een belangrijk signaal voor curriculumontwerp in multi-domein RLVR.
Verkeersmatrices (VM's) leggen de netwerkbrede herkomst-bestemmingsvraag vast en zijn centraal voor verkeerstechniek, maar nauwkeurige volledige matrixvoorspelling blijft een uitdaging wanneer de voorspelling moet worden uitgevoerd onder de geheugen-, update- en trainingsbudgetbeperkingen van online netwerkbesturing. Dit artikel onderzoekt of compacte kwantum-geïnspireerde recurrente modellen effectieve VM-voorspellingen kunnen leveren zonder afhankelijk te zijn van speciale graaf-, transformer- of diffusiemodules. We passen gated kwantum-geïnspireerde Kolmogorov-Arnold-netwerk snelle-gewichtprogrammeurs (QKAN-FWP's) aan voor directe meerstaps Abilene VM-voorspelling, waarbij elk model de volgende 20 vijfminutenframes van een 144-kanaals herkomst-bestemmingsmatrix (HB-matrix) voorspelt op basis van een geschiedenis van twee uur. We vergelijken drie QKAN-plaatsingsvarianten met een long short-term memory (LSTM)-netwerk van vergelijkbare grootte, een groter LSTM-netwerk en een klassieke gated snelle-gewichtprogrammeur onder een gedeeld vastbudget trainingsprotocol. Van de geëvalueerde recurrente modellen behaalt G-QKANFWP de beste gepoolde wortel-gemiddelde-kwadraatfout (RMSE), terwijl het slechts 22,4% van de parameters van het grotere LSTM gebruikt. Het presteert ook beter dan zowel het LSTM van vergelijkbare grootte als de klassieke G-FWP-baseline, wat aangeeft dat de winst niet alleen aan het gated snelle-gewichtkader te danken is. Convergentie- en kanaalsgewijze analyses tonen verder aan dat de kwantum-geïnspireerde varianten een lagere validatieverlies-oppervlak onder de leercurve (AULC) behalen dan recurrente baselines van vergelijkbare grootte, terwijl G-QKANFWP en GQKAN-FWP aanzienlijk meer OD-kanaaloverwinningen boeken. Deze resultaten identificeren een klassieke langzame programmeur met een kwantum-geïnspireerde snelle programmeur als een veelbelovend nauwkeurigheid-efficiëntieontwerp voor resourcebewuste netwerkverkeersmatrixvoorspelling.
Op raster gebaseerde benaderingen voor het zoeken naar benaderende dichtstbijzijnde buren (ANN) ontbraken in moderne schaalanalyses. Wij presenteren een systematische karakterisering van een multiprobe-roosteralgoritme met betrekking tot datasetgrootte N en dimensionaliteit d. Onze experimenten onthullen een voorheen niet gerapporteerde d-schaalovergang in de GloVe-inbeddingsfamilie, waarbij multiprobe-roosterzoekopdracht een ongeveer constante dimensionale schaalexponent handhaaft, terwijl andere op grafiek-, boom- en partitie gebaseerde methoden een afnemende doorvoer vertonen. Het voordeel komt met een bijna lineaire query-schaling in N, maar ook met lagere indexeringskosten dan concurrerende ANN-methoden. Onze resultaten suggereren dat op raster gebaseerde methoden zoals multiprobe-rooster concurrerend kunnen zijn in herbouwintensieve of hoogdimensionale omgevingen waar indexeringskosten en dimensionale robuustheid de prestaties bepalen. In bredere zin heeft recent werk self-attention geformaliseerd als een ANN-operatie. Daarom kunnen de N- en d-schaaleigenschappen van ANN-algoritmen de kostenanalyse van efficiënte transformatorarchitecturen sturen. Code is beschikbaar op: https://github.com/weiz345/MultiProbeANN.