Dagelijkse Papers

Naarmate door LLM aangedreven agents steeds vaker worden ingezet in edge-cloud omgevingen, is gepersonaliseerd geheugen een belangrijke voorwaarde geworden voor aanpassing op lange termijn en gebruikersgerichte interactie. Cloud-ondersteund geheugenbeheer stelt echter gevoelige gebruikersinformatie bloot, terwijl bestaande privacybeschermingsmethoden doorgaans gebaseerd zijn op agressieve maskering, die taakrelevante semantiek verwijdert en daardoor de bruikbaarheid van het geheugen en de kwaliteit van personalisatie aantast. Om deze uitdaging aan te pakken, stellen wij MemPrivacy voor, dat privacygevoelige segmenten op edge-apparaten identificeert, deze vervangt door semantisch gestructureerde typebewuste plaatshouders voor cloud-zijdige geheugenverwerking, en de oorspronkelijke waarden lokaal herstelt wanneer nodig. Door privacybescherming te ontkoppelen van semantische vernietiging, minimaliseert MemPrivacy de blootstelling van gevoelige gegevens, terwijl de informatie behouden blijft die nodig is voor effectieve geheugenvorming en -terugwinning. We hebben ook MemPrivacy-Bench geconstrueerd voor systematische evaluatie, een dataset die 200 gebruikers en meer dan 52.000 privacy-instanties omvat, en introduceren een vierlagige privacy-taxonomie voor configureerbare beschermingsbeleid. Experimenten tonen aan dat MemPrivacy sterke prestaties levert bij het extraheren van privacy-informatie, aanzienlijk beter dan krachtige algemene modellen zoals GPT-5.2 en Gemini-3.1-Pro, terwijl ook de inferentielatentie wordt verminderd. Bij meerdere veelgebruikte geheugensystemen blijft het nutverlies van MemPrivacy beperkt tot 1,6%, beter dan baseline maskeringsstrategieën. Over het geheel genomen biedt MemPrivacy een effectieve balans tussen privacybescherming en gepersonaliseerd geheugennut voor edge-cloud agents, waardoor een veilige, praktische en voor de gebruiker transparante implementatie mogelijk wordt.

Recente grote visie-taalmodellen (VTM's) blijven fundamenteel beperkt door een hardnekkige tweedeling: begrip en generatie worden als afzonderlijke problemen behandeld, wat leidt tot gefragmenteerde architecturen, trapsgewijze pijplijnen en niet-op elkaar afgestemde representatieruimten. Wij stellen dat deze scheiding niet louter een technisch construct is, maar een structurele beperking die de opkomst van native multimodale intelligentie in de weg staat. Daarom introduceren wij SenseNova-U1, een native uniform multimodaal paradigma gebouwd op NEO-unify, waarin begrip en generatie evolueren als synergistische aspecten van één enkel onderliggend proces. Wij lanceren twee native uniforme varianten, SenseNova-U1-8B-MoT en SenseNova-U1-A3B-MoT, respectievelijk gebouwd op dichte (8B) en mixture-of-experts (30B-A3B) begripsbaselines. Vanuit de eerste principes ontworpen, concurreren zij met top-visie-taalmodellen voor alleen begrip op het gebied van tekstbegrip, visie-taalperceptie, kennisredenering, agentische besluitvorming en ruimtelijke intelligentie. Tegelijkertijd leveren zij sterke semantische consistentie en beeldgetrouwheid, en blinken zij uit in conventionele of kennisintensieve willekeurig-naar-beeld (X2B)-synthese, complexe tekstrijke infographic-generatie en interleaved visie-taalgeneratie, met of zonder denkpatronen. Naast prestaties tonen wij gedetailleerd modelontwerp, datavoorbewerking, voor-/natraining en inferentiestrategieën om gemeenschapsonderzoek te ondersteunen. Last but not least tonen voorlopige resultaten aan dat onze modellen verder reiken dan perceptie en generatie, met sterke prestaties in visie-taal-actie (VTA)- en wereldmodel (WM)-scenario's. Dit wijst op een bredere routekaart waarin modellen niet tussen modaliteiten vertalen, maar er op een native manier over denken en handelen. Multimodale AI gaat niet langer over het verbinden van afzonderlijke systemen, maar over het bouwen van één uniform systeem en het vertrouwen dat de noodzakelijke vermogens van binnenuit naar voren komen.

Grote taalmodellen hebben steeds vaker behoefte aan het accumuleren en hergebruiken van historische informatie in langetermijnassistenten en agentsystemen. Het simpelweg uitbreiden van het contextvenster is kostbaar en zorgt vaak niet voor een effectief gebruik van de context. Wij stellen δ-mem voor, een lichtgewicht geheugenmechanisme dat een bevroren full-attention backbone uitbreidt met een compacte online toestand van associatief geheugen. δ-mem comprimeert eerdere informatie in een matrix met vaste grootte die wordt bijgewerkt door delta-regelleren, en gebruikt de uitlezing om lagerangs-correcties te genereren op de aandachtberekening van de backbone tijdens het genereren. Met slechts een 8×8 online geheugentoestand verbetert δ-mem de gemiddelde score tot 1,10× die van de bevroren backbone en 1,15× die van de sterkste niet-δ-mem geheugenbaseline. Het behaalt grotere winsten op geheugenintensieve benchmarks, met 1,31× op MemoryAgentBench en 1,20× op LoCoMo, terwijl het algemene capaciteiten grotendeels behoudt. Deze resultaten tonen aan dat effectief geheugen kan worden gerealiseerd door een compacte online toestand die direct is gekoppeld aan aandachtberekening, zonder volledige fine-tuning, vervanging van de backbone of expliciete contextuitbreiding.

Het trainen van diepgaande onderzoeksagenten, dat wil zeggen systemen die plannen, zoeken, bewijsmateriaal evalueren en langdurige rapporten synthetiseren, brengt reinforcement learning buiten het domein van verifieerbare beloningen. Hun output mist grondwaarheidsantwoorden, hun trajecten omvatten veel tool-verrijkte beslissingen, en standaard post-training biedt weinig mechanisme om eerdere pogingen om te zetten in herbruikbare ervaring. In dit werk stellen we dat rubrieken niet alleen als eindantwoordevaluatoren moeten dienen, maar als de gedeelde interface die beleidsuitvoering, beoordelaarsfeedback en agentgeheugen structureert. Op basis van deze visie introduceren we RubricEM, een rubriekgestuurd reinforcement learning-raamwerk dat stapsgewijze beleidsdecompositie combineert met reflectiegebaseerde meta-beleidsevolutie. RubricEM maakt onderzoektrajecten eerst fasebewust door planning, bewijsverzameling, beoordeling en synthese te conditioneren op zelf gegenereerde rubrieken. Vervolgens kent het krediet toe met Fasegestructureerde GRPO, dat stapsgewijze rubriekbeoordelingen gebruikt om dichtere semantische feedback te geven voor optimalisatie over een lange horizon. Parallel hieraan traint RubricEM een gedeeld reflectie-meta-beleid dat beoordeelde trajecten destilleert in herbruikbare, rubriekgebaseerde richtlijnen voor toekomstige pogingen. De resulterende RubricEM-8B behaalt sterke prestaties op vier langlopende onderzoeksbenchmarks, presteert beter dan vergelijkbare open modellen en benadert propriëtaire diepgaande onderzoekssystemen. Naast de uiteindelijke prestaties voeren we grondige analyses uit om de belangrijkste ingrediënten van RubricEM te begrijpen.

Wereldmodellen stellen agenten in staat om de effecten van hun acties te anticiperen door de omgevingsdynamieken te internaliseren. In bedrijfssystemen worden deze dynamieken echter vaak bepaald door tenantspecifieke bedrijfslogica die varieert per implementatie en in de loop van de tijd evolueert, waardoor modellen die getraind zijn op historische overgangen breekbaar worden bij implementatieverschuivingen. Wij stellen een vraag die de literatuur over wereldmodellen nog niet heeft beantwoord: wanneer de regels tijdens inferentie kunnen worden uitgelezen, moet een agent ze dan nog steeds leren? Wij beargumenteren, en tonen empirisch aan, dat in omgevingen waar overgangsdynamieken configureerbaar en uitleesbaar zijn, runtime-ontdekking offline training aanvult door voorspellingen te baseren op de actieve systeeminstantie. Wij stellen bedrijfsontdekkingsagenten voor, die relevante overgangsdynamieken tijdens runtime herstellen door de configuratie van het systeem uit te lezen, in plaats van uitsluitend te vertrouwen op geïnternaliseerde representaties. Wij introduceren CascadeBench, een op redeneren gerichte benchmark voor voorspelling van bedrijfscascades, die de evaluatiemethodologie van World of Workflows toepast op diverse synthetische omgevingen, en gebruiken deze samen met evaluatie van implementatieverschuivingen om aan te tonen dat offline getrainde wereldmodellen goed kunnen presteren binnen de verdeling, maar verslechteren naarmate dynamieken veranderen, terwijl op ontdekking gebaseerde agenten robuuster zijn bij verschuivingen doordat zij hun voorspellingen baseren op de huidige instantie. Onze bevindingen suggereren dat agenten in configureerbare bedrijfsomgevingen niet uitsluitend moeten vertrouwen op vaste geïnternaliseerde dynamieken, maar mechanismen moeten incorporeren voor het ontdekken van relevante overgangslogica tijdens runtime.

Visie-taal-actie (VLA)-modellen hebben een sterke semantische generalisatie bereikt voor belichaamd beleidsleren, maar ze leren reactieve observatie-naar-actie-toewijzingen zonder expliciet te modelleren hoe de fysieke wereld evolueert onder interventie. Een groeiend aantal onderzoeken pakt deze beperking aan door wereldmodellen, voorspellende modellen van omgevingsdynamiek, te integreren in de pijplijn voor actiegeneratie. We noemen dit opkomende paradigma World Action Models (WAM's): belichaamde funderingsmodellen die voorspellende toestandsmodellering verenigen met actiegeneratie, gericht op een gezamenlijke verdeling over toekomstige toestanden en acties in plaats van alleen acties. De literatuur blijft echter gefragmenteerd over architecturen, leerdoelstellingen en toepassingsscenario's, zonder een uniform conceptueel raamwerk. We definiëren WAM's formeel en ontwarren ze van gerelateerde concepten, en traceren de fundamenten en vroege integratie van VLA- en wereldmodelonderzoek die aanleiding gaven tot dit paradigma. We organiseren bestaande methoden in een gestructureerde taxonomie van gecascadeerde en gezamenlijke WAM's, met verdere onderverdeling naar generatiemodaliteit, conditioneringsmechanisme en actie-decoderingstrategie. We analyseren systematisch het data-ecosysteem dat de ontwikkeling van WAM's voedt, variërend van robot-teleoperatie, draagbare menselijke demonstraties, simulatie en internet-schaal egocentrische video, en synthetiseren opkomende evaluatieprotocollen die zijn georganiseerd rond visuele getrouwheid, fysiek gezond verstand en actieplausibiliteit. Over het geheel genomen biedt dit overzicht de eerste systematische beschrijving van het WAM-landschap, verduidelijkt het belangrijke architectuurparadigma's en hun afwegingen, en identificeert het open uitdagingen en toekomstige kansen voor dit snel evoluerende vakgebied.

Pre-training van grote taalmodellen is vaak buitensporig duur en inefficiënt op schaal, en vereist complexe en ingrijpende aanpassingen om een hoge doorvoersnelheid van data te bereiken. In dit werk presenteren we Token-Superposition Training (TST), een eenvoudige, inplugbare methode die de datadoorvoer per FLOP tijdens pre-training aanzienlijk verbetert zonder de parallellisatie, optimizer, tokenizer, data of modelarchitectuur te wijzigen. TST vindt plaats in twee fasen: (i) een zeer efficiënte superpositiefase waarin we veel aaneengesloten tokens combineren tot één bundel en trainen met een multi-hot kruisentropie-doelstelling (MCE), en (ii) een herstelfase waarin we terugkeren naar standaard training. We evalueren TST uitgebreid op schaal van 270M en 600M parameters en valideren op 3B en een 10B A1B mixture of experts-model, wat aantoont dat de methode zeer robuust is in verschillende instellingen. Uiteindelijk presteert TST consequent beter dan de baseline-verliesfunctie en downstream-evaluaties, en onder gelijkwaardige verliesinstellingen levert TST een reductie van maximaal 2,5x in de totale pre-trainingstijd op de 10B A1B-schaal.

Representatie-auto-encoders die ingevroren voorgetrainde visie-encoders hergebruiken als visuele tokenizers hebben een sterke reconstructie- en generatiekwaliteit behaald. Bestaande methoden extraheren echter universeel kenmerken uit alleen de laatste encodergelaag, waarbij de rijke hiërarchische informatie over de tussenliggende lagen wordt genegeerd. Wij tonen aan dat laag-niveau visuele details in de laatste laag slechts als verzwakte residuen overleven na meerdere lagen van semantische abstractie, en dat het expliciet fuseren van meerlaagse kenmerken deze verloren informatie aanzienlijk kan herstellen. We stellen DRoRAE (Depth-Routed Representation AutoEncoder) voor, een lichtgewicht fusiemodule die adaptief alle encodergelagen aggregeert via energiebegrensde routering en incrementele correctie, wat een verrijkte latente representatie oplevert die compatibel is met een ingevroren voorgetrainde decoder. Een driefasige ontkoppelde trainingsstrategie leert eerst de fusie onder de impliciete distributiebeperking van de ingevroren decoder, en verfijnt vervolgens de decoder om de verrijkte representatie volledig te benutten. Op ImageNet-256 verlaagt DRoRAE rFID van 0,57 naar 0,29 en verbetert het de generatie-FID van 1,74 naar 1,65 (met AutoGuidance), waarbij de winst ook overgaat naar tekst-naar-beeld-synthese. Verder ontdekken we een log-lineaire schalingswet (R²=0,86) tussen fusiecapaciteit en reconstructiekwaliteit, waarmee representatierijkheid wordt geïdentificeerd als een nieuwe, voorspelbaar schaalbare dimensie voor visuele tokenizers, analoog aan de vocabulairegrootte in NLP.

In dit artikel stellen we AlphaGRPO voor, een nieuw framework dat Group Relative Policy Optimization (GRPO) toepast op AR-Diffusion Unified Multimodale Modellen (UMM's) om multimodale generatiecapaciteiten te verbeteren zonder een extra koude-startfase. Onze aanpak ontsluit het intrinsieke potentieel van het model om geavanceerde redeneertaken uit te voeren: Reasoning Text-to-Image Generation, waarbij het model actief impliciete gebruikersintenties afleidt, en Self-Reflective Refinement, waarbij het autonoom misalignaties in gegenereerde uitvoer diagnosticeert en corrigeert. Om de uitdaging van stabiele supervisie voor realistische multimodale generatie aan te pakken, introduceren we Decompositional Verifiable Reward (DVReward). In tegenstelling tot holistische scalaire beloningen gebruikt DVReward een LLM om complexe gebruikersverzoeken te decomponeren in atomaire, verifieerbare semantische en kwaliteitsvragen, die vervolgens door een algemene MLLM worden geëvalueerd om betrouwbare en interpreteerbare feedback te leveren. Uitgebreide experimenten tonen aan dat AlphaGRPO robuuste verbeteringen oplevert op multimodale generatiebenchmarks, waaronder GenEval, TIIF-Bench, DPG-Bench en WISE, en ook significante winst behaalt in bewerkingstaken op GEdit zonder training op bewerkingstaken. Deze resultaten valideren dat onze zelfreflectieve versterkingsaanpak effectief gebruikmaakt van inherent begrip om getrouwe generatie te sturen. Projectpagina: https://huangrh99.github.io/AlphaGRPO/

Het Model Context Protocol (MCP) heeft de interface tussen grote taalmodellen (LLM's) en externe tools geünificeerd, maar er blijft een fundamentele kloof bestaan in de manier waarop agenten de omgevingen waarin zij opereren conceptualiseren. Huidige paradigma's zijn tweeledig: planning op taakniveau negeert vaak de dynamiek tijdens de uitvoering, terwijl reactieve uitvoering geen langetermijnvooruitzichten heeft. Wij presenteren MCP-Cosmos, een raamwerk dat generatieve wereldmodellen (WM) integreert in het MCP-ecosysteem om voorspellende taakautomatisering mogelijk te maken. Door drie uiteenlopende technologieën – namelijk MCP, wereldmodel en agent – te verenigen, tonen we aan dat een "Bring Your Own World Model" (BYOWM)-strategie agenten in staat stelt om toestandsovergangen te simuleren en plannen in een latente ruimte te verfijnen alvorens tot uitvoering over te gaan. We hebben experimenten uitgevoerd met twee strategieën, namelijk ReAct en SPIRAL, met 2 planningsmodellen en 3 representatieve wereldmodellen over 20+ MCP-Bench-taken. We hebben verbeteringen waargenomen in KPI's voor de omgevingsinteractie van agenten, zoals het succespercentage van tools en de nauwkeurigheid van toolparameters. Het raamwerk biedt ook nieuwe metrieken zoals Uitvoeringskwaliteit om nieuwe inzichten te genereren over de effectiviteit van wereldmodellen ten opzichte van de basislijn.

Computer Use Agents (CUA's) kunnen handelen via zowel atomaire GUI-acties, zoals klikken en typen, als hoogwaardige toolaanroepen, zoals API-gebaseerde bestandsbewerkingen, maar deze hybride actieruimte laat hen vaak in onzekerheid over wanneer ze door moeten gaan met GUI-acties of moeten overschakelen naar tools, wat leidt tot suboptimale uitvoeringspaden. Deze moeilijkheid komt voort uit de schaarste aan hoogwaardige interleaved GUI-Tool-trajecten, de kosten en breekbaarheid van het verzamelen van echte tooltrajecten, en het gebrek aan trajectniveau-supervisie voor GUI-Tool-padselectie. In dit artikel stellen we ToolCUA voor, een end-to-end agent die is ontworpen om optimale GUI-Tool-padselectie te leren via een getrapt trainingsparadigma. We introduceren eerst een Interleaved GUI-Tool Trajectory Scaling Pipeline die overvloedige statische GUI-trajecten hergebruikt en een verankerde toolbibliotheek synthetiseert, waardoor diverse GUI-Tool-trajecten mogelijk worden zonder handmatige engineering of verzameling van echte tooltrajecten. Vervolgens voeren we Tool-Bootstrapped GUI RFT uit, waarbij we warmup SFT combineren met single-turn RL om de beslissingen op kritieke GUI-Tool-schakelpunten te verbeteren. Ten slotte optimaliseren we ToolCUA met Online Agentic RL in een hoogwaardige GUI-Tool-omgeving, geleid door een Tool-Efficient Path Reward die passend toolgebruik en kortere uitvoeringspaden aanmoedigt. Experimenten op OSWorld-MCP tonen aan dat ToolCUA een nauwkeurigheid van 46,85% behaalt, een relatieve verbetering van ongeveer 66% ten opzichte van de basislijn, waarmee een nieuw state-of-the-art wordt gevestigd onder modellen van vergelijkbare schaal. Het verbetert ook met 3,9% ten opzichte van alleen-GUI-instellingen, wat effectieve GUI-Tool-orkestratie aantoont. De resultaten suggereren verder dat training in een hybride actieruimte een veelbelovend paradigma is voor digitale agenten in de echte wereld. Open source beschikbaar op: https://x-plug.github.io/ToolCUA/

Pixel-diffusiemodellen hebben recentelijk opnieuw aandacht gekregen voor visuele generatie. Het trainen van geavanceerde pixelruimtemodellen vanaf nul vereist echter buitensporige reken- en databronnen. Om dit aan te pakken, stellen we het Latent-to-Pixel (L2P)-transferparadigma voor, een efficiënt raamwerk dat direct de rijke kennis van voorgetrainde LDM's benut om krachtige pixelruimtemodellen te bouwen. Specifiek laat L2P de VAE vallen ten gunste van tokenisatie met grote patches en bevriest de tussenliggende lagen van de bron-LDM, waarbij alleen ondiepe lagen worden getraind om de latent-naar-pixeltransformatie te leren. Door gebruik te maken van LDM-gegenereerde synthetische afbeeldingen als enige trainingscorpus, past L2P een reeds gladde datamanifold aan, wat snelle convergentie mogelijk maakt zonder verzameling van echte data. Deze strategie stelt L2P in staat om naadloos massieve latente priors naar de pixelruimte te migreren met slechts 8 GPU's. Bovendien maakt het elimineren van de VAE-geheugenknelpunt native 4K-ultrahoge-resolutiegeneratie mogelijk. Uitgebreide experimenten met mainstream LDM-architecturen tonen aan dat L2P een verwaarloosbare trainingsoverhead met zich meebrengt, maar toch even goed presteert als de bron-LDM op DPG-Bench en 93% van de prestatie op GenEval bereikt.

Autoregressieve videogeneratie streeft naar real-time, open-eindige synthese. Toch is cinematografische verhalenvertelling niet slechts de eindeloze verlenging van één enkele scène; het vereist vooruitgang door evoluerende gebeurtenissen, veranderingen van camerastandpunt en discrete coupures. Bestaande autoregressieve modellen worstelen vaak met deze setting. Getraind voornamelijk voor kortetermijncontinuering, behandelen ze lange reeksen als uitgebreide enkele opnames, wat onvermijdelijk leidt tot bewegingsstagnatie en semantische drift tijdens lange uitrolprocedures. Om deze kloof te overbruggen introduceren we CausalCine, een interactief autoregressief raamwerk dat multi-shot videogeneratie transformeert tot een online regisseursproces. CausalCine genereert causaal over coupures heen, accepteert dynamische prompts ter plekke en hergebruikt context zonder eerdere opnames opnieuw te genereren. Om dit te bereiken trainen we eerst een causaal basismodel op native multi-shot reeksen om complexe overgangen tussen opnames te leren vóór versnelling. Vervolgens stellen we Content-Aware Memory Routing (CAMR) voor, dat dynamisch historische KV-entries ophaalt op basis van aandacht-gerelateerde relevantiescores in plaats van temporele nabijheid, waardoor cross-shot coherentie behouden blijft onder een beperkt actief geheugen. Tenslotte destilleren we het causale basismodel tot een generator met enkele stappen voor real-time interactieve generatie. Uitgebreide experimenten tonen aan dat CausalCine aanzienlijk beter presteert dan autoregressieve basislijnen en de capaciteit van bidirectionele modellen benadert, terwijl de streaming-interactiviteit van causale generatie wordt ontgrendeld. Demo beschikbaar op https://yihao-meng.github.io/CausalCine/

Multimodale diepe zoekopdracht vereist dat een agent open-wereldproblemen oplost door het aaneenschakelen van zoeken, toolgebruik en visuele redenering over evoluerende tekstuele en visuele context. Twee knelpunten beperken huidige systemen. Ten eerste behandelen bestaande toolgebruik-omkaderingen afbeeldingen die worden geretourneerd door zoeken, browsen of transformatie als tijdelijke uitvoer, waardoor tussentijds visueel bewijs niet opnieuw kan worden gebruikt door latere tools. Ten tweede wordt trainingsdata meestal opgebouwd door vaste curatierecepten die de evoluerende capaciteit van de doelagent niet kunnen volgen. Om deze uitdagingen aan te pakken, introduceren we eerst een visueel-native agentomkadering die is gecentreerd rond een beeldbankreferentieprotocol, dat elke door een tool geretourneerde afbeelding registreert als een adresseerbare referentie en tussentijds visueel bewijs herbruikbaar maakt voor latere tools. Bovenop deze omkadering voert On-policy Data Evolution (ODE) een gesloten-lus datagenerator uit die zichzelf over rondes verfijnt op basis van rollouts van het beleid dat wordt getraind. Deze per-ronde verfijning zorgt ervoor dat de data van elke ronde zich richt op wat het huidige beleid nog moet leren. Hetzelfde raamwerk ondersteunt zowel diverse data voor supervised fine-tuning als beleidsbewuste curatie van data voor reinforcement learning, waarmee de volledige trainingslevenscyclus van de doelagent wordt gedekt. Over 8 multimodale deep search-benchmarks verbetert ODE de Qwen3-VL-8B-agent van gemiddeld 24,9% naar 39,0%, waarmee het Gemini-2.5 Pro overtreft in de standaard agent-workflow-instelling (37,9%). Bij 30B verhoogt ODE de gemiddelde score van 30,6% naar 41,5%. Verdere analyses valideren de effectiviteit van beeldbankhergebruik, vooral bij complexe taken die iteratieve visuele verfijning vereisen, terwijl rollout-feedback-evolutie beter gefundeerde SFT-traces en beter op beleid afgestemde RL-taken oplevert dan statische synthese.

Gereedschapsgeïntegreerd redeneren (Tool-integrated reasoning, TIR) is uitgegroeid tot een dominant paradigma voor het oplossen van wiskundige problemen in taalmodellen, waarbij redeneren in natuurlijke taal (NT) wordt gecombineerd met code-uitvoering. Deze verweven opzet kent echter drie belangrijke beperkingen: code fungeert vaak als een post-hoc verificateur, tussentijdse NT-berekeningen zijn foutgevoelig en NT en code vervullen overlappende in plaats van duidelijk gescheiden rollen. Wij stellen ThinC (Thinking in Code) voor, een raamwerk waarin code zelf fungeert als redeneerder in plaats van als een door NT aangeroepen gereedschap. Een ThinC-traject begint met een korte NT-planningsstap, waarna al het redeneren zich ontvouwt via codeblokken die alleen verbonden zijn door hun uitvoeringsoutputs. We distilleren 12,2k codegerichte trajecten uit een leraarmodel en trainen ThinC-1.7B en ThinC-4B met begeleide fijnafstemming gevolgd door reinforcement learning. ThinC-4B presteert consequent beter dan elke TIR-baseline op vijf wiskundebenchmarks op wedstrijdniveau en overtreft zelfs de veel grotere Qwen3-235B-A22B-Thinking. Verdere analyse toont aan dat ThinC redeneert door middel van code: 99,2% van de uiteindelijke antwoorden is gebaseerd op uitvoer van de interpreter, en het model herstelt betrouwbaar van code-uitvoeringsfouten zonder tussentijds NT-redeneren. Onze code en modellen zullen binnenkort worden vrijgegeven.

Recente ontwikkelingen hebben aangetoond dat grootschalige videodiffusiemodellen kunnen worden hergebruikt als neurale renderers door video's eerst te decomponeren in intrinsieke scènerepresentaties en vervolgens voorwaartse rendering uit te voeren onder nieuwe belichting. Hoewel veelbelovend, berust dit paradigma fundamenteel op nauwkeurige intrinsieke decompositie, die voor realistische video's nog zeer onbetrouwbaar is en vaak leidt tot vervormde verschijningen, gebroken materialen en opgehoopte temporele artefacten tijdens herbelichting. In dit werk presenteren we Relit-LiVE, een nieuw raamwerk voor videoherbelichting dat fysiek consistente, temporeel stabiele resultaten oplevert zonder voorafgaande kennis van de camerapositie. Ons belangrijkste inzicht is het expliciet introduceren van ruwe referentiebeelden in het renderingsproces, waardoor het model cruciale scèneaanwijzingen kan herstellen die onvermijdelijk verloren gaan of worden beschadigd in intrinsieke representaties. Verder stellen we een nieuwe formulering voor omgevingsvideovoorspelling voor die gelijktijdig herbelichte video's en per-frame omgevingskaarten genereert, afgestemd op elk camerastandpunt in een enkel diffusieproces. Deze gezamenlijke voorspelling dwingt een sterke geometrische belichtingsafstemming af en ondersteunt op natuurlijke wijze dynamische belichting en camerabeweging, waardoor de fysieke consistentie bij videoherbelichting aanzienlijk verbetert en de vereiste van bekende per-frame camerapositie wordt versoepeld. Uitgebreide experimenten tonen aan dat Relit-LiVE consequent beter presteert dan state-of-the-art methoden voor videoherbelichting en neurale rendering op zowel synthetische als realistische benchmarks. Naast herbelichting ondersteunt ons raamwerk op natuurlijke wijze een breed scala aan downstream-toepassingen, waaronder scènerendering, materiaalbewerking, objectinvoeging en streaming videoherbelichting. Het project is beschikbaar op https://github.com/zhuxing0/Relit-LiVE.

Asynchrone versterkingsleren verbetert de doorvoersnelheid van rollouts voor agenten van grote taalmodellen door het genereren van monsters te ontkoppelen van beleidsoptimalisatie, maar introduceert ook een kritieke faalwijze voor off-beleid correctie van het PPO-type. In heterogene trainingssystemen dient de totale belangrijkheidsratio idealiter te worden opgesplitst in twee semantisch verschillende factoren: een term voor discrepantie tussen training en inferentie die de distributies aan de inferentiezijde en trainingszijde bij dezelfde gedragsbeleidsversie op elkaar afstemt, en een term voor verouderdheid van het beleid die de update van het historische beleid naar het huidige beleid begrenst. We tonen aan dat praktische asynchrone pijplijnen met vertraagde updates en gedeeltelijke rollouts vaak de benodigde historische logits aan de trainingszijde, ofwel oude logits, verliezen. Dit probleem van ontbrekende oude logits verstrengelt herstel van discrepanties met correctie van verouderdheid, doorbreekt de beoogde semantiek van ontkoppelde correctie, en zorgt dat afkap- en maskeerdrempels op ongewenste wijze interageren. Om dit probleem aan te pakken, bestuderen we zowel exacte als benaderende correctieroutes. We stellen drie exacte strategieën voor het verkrijgen van oude logits voor: versie bijhouden op basis van snapshots, een speciaal model voor oude logits, en synchronisatie via onderbreking van gedeeltelijke rollouts, en vergelijken hun systeemafwegingen. Vanuit het perspectief van benaderende correctie richten we ons op het behouden van de voordelen van ontkoppelde correctie door een meer geschikt benaderend beleid wanneer exacte oude logits niet tegen lage kosten kunnen worden hersteld, zonder extra systeemoverhead te veroorzaken. Naar aanleiding van deze analyse hanteren we een herziene PPO-EWMA-methode, die significante winst behaalt in zowel trainingssnelheid als optimalisatieprestaties. Code op https://github.com/millioniron/ROLL.

Tool-gebruikende LLM-agenten falen via trajecten in plaats van alleen via uiteindelijke antwoorden, omdat ze onveilige tool-aanroepen kunnen uitvoeren, geïnjecteerde instructies kunnen volgen, schadelijke verzoeken kunnen inwilligen, of onschuldige taken overmatig kunnen weigeren, ondanks het produceren van een ogenschijnlijk veilig antwoord. Bestaande veiligheidsaligneringssignalen zijn grotendeels op antwoordniveau of off-policy, en gaan vaak gepaard met een afweging tussen veiligheid en bruikbaarheid: het verbeteren van de agentveiligheid gaat ten koste van een verminderde taakprestatie. Zulke schaarse en enkelvoudige beloningen beperken de bruikbaarheid in de praktijk ernstig. Om deze kloof te overbruggen, stellen wij FATE voor, een on-policy zelf-evoluerend raamwerk dat door verifieerders gescoorde fouten omzet in reparatiesupervisie zonder expertdemonstraties. Voor elke fout stelt hetzelfde beleid reparatiekandidaten voor, die vervolgens opnieuw door verifieerders worden gescoord en gefilterd op beveiliging, bruikbaarheid, overmatige weigeringscontrole en trajectvaliditeit. Deze dichte informatie op trajectniveau wordt vervolgens gebruikt als supervisiesignaal voor agent-zelfevolutie. Tijdens dit proces introduceren we verder Pareto-Front Beleidsoptimalisatie (PFPO), die gesuperviseerde opwarming combineert met Pareto-bewuste beleidsoptimalisatie om de afweging tussen veiligheid en bruikbaarheid te behouden. Experimenten op AgentDojo, AgentHarm en ATBench tonen aan dat FATE de veiligheid verbetert bij verschillende modellen en schalen, terwijl nuttig gedrag behouden blijft. Vergeleken met sterke basislijnen vermindert FATE het aanvalssuccespercentage met 33,5%, schadelijke naleving met 82,6% en verbetert het de externe trajectveiligheidsdiagnose met 6,5%. Deze resultaten suggereren dat mislukte trajecten gestructureerde reparatiesupervisie kunnen bieden voor veiligere zelf-evoluerende agenten.

De voortdurende verbeteringen in de capaciteit van taalmodellen hebben hun wijdverbreide gebruik als aanstuurders van autonome agenten mogelijk gemaakt, bijvoorbeeld bij codeer- of computergebruikstoepassingen. De kern van deze systemen is echter niet veel veranderd sinds de vroege instructiegetunede modellen zoals ChatGPT. Zelfs geavanceerde AI-agenten werken op basis van berichtenuitwisselingsformaten, waarbij achtereenvolgens berichten worden uitgewisseld met gebruikers, systemen, met zichzelf (d.w.z. gedachteketens) en hulpmiddelen in één enkele rekenstroom. Dit knelpunt tot een enkele stroom in chatmodellen leidt tot een aantal beperkingen: de agent kan niet handelen (output genereren) tijdens het lezen, en omgekeerd niet reageren op nieuwe informatie tijdens het schrijven. Evenzo kan de agent niet handelen tijdens het denken en niet denken tijdens het lezen of handelen op basis van informatie. In dit werk tonen we aan dat modellen kunnen worden ontstopt door over te schakelen van instructie-tuning voor sequentiële berichtformaten naar instructie-tuning voor meerdere, parallelle rekenstromen, waarbij elke rol wordt gesplitst in een aparte stroom. Elke voorwaartse doorgang van het taalmodel leest dan gelijktijdig van meerdere invoerstromen en genereert tokens in meerdere uitvoerstromen, die allemaal causaal afhankelijk zijn van eerdere tijdstappen. Wij stellen dat deze datagedreven verandering een aantal van de hierboven geschetste bruikbaarheidsbeperkingen verhelpt, de model efficiëntie verbetert door parallelisatie, de modelbeveiliging verbetert door een betere scheiding van verantwoordelijkheden en de monitorbaarheid van het model verder kan verbeteren.

Versterkend leren met verifieerbare beloningen (RLVR) voor grote redeneermodellen is afhankelijk van basisschatting voor variantiereductie, maar bestaande benaderingen betalen een hoge prijs: PPO vereist een criticus op beleidsmodelschaal, terwijl GRPO meerdere uitrolsessies per prompt nodig heeft om het empirische groepsgemiddelde stabiel te houden. Wij introduceren Policy Optimization with Internal State Value Estimation (POISE), dat een baseline verkrijgt tegen verwaarloosbare kosten door gebruik te maken van de interne signalen van het beleidsmodel die al zijn berekend tijdens de voorwaartse doorgang van het beleid. Een lichtgewicht probe voorspelt de verwachte verifieerbare beloning op basis van de verborgen toestanden van de prompt en het gegenereerde traject, evenals token-entropiestatistieken, en wordt online getraind samen met het beleid. Om gradient-onvertekendheid te behouden ondanks het gebruik van trajectgeconditioneerde kenmerken, introduceren we een kruis-uitrolconstructie die de waarde van elke uitrolsessie voorspelt op basis van de interne toestanden van een onafhankelijke uitrolsessie. Omdat POISE de promptwaarde schat met slechts één uitrolsessie, maakt het een hogere promptdiversiteit mogelijk voor een vast rekenbudget tijdens de training. Dit vermindert de gradientvariantie voor stabieler leren en elimineert ook de rekenoverhead van bemonsteringskosten voor het detecteren van nul-voordeel-prompts. Op Qwen3-4B en DeepSeek-R1-Distill-Qwen-1.5B, op wiskunderedeneerbenchmarks, evenaart POISE DAPO terwijl het minder rekenkracht vereist. Bovendien vertoont de waarde-schatter vergelijkbare prestaties als een afzonderlijk LLM-schaalwaardemodel en generaliseert het naar diverse verifieerbare taken. Door gebruik te maken van de eigen interne representaties van het model, maakt POISE stabielere en efficiëntere beleidsoptimalisatie mogelijk.

Wereldmodellen, die voorspellende representaties zijn van hoe omgevingen evolueren onder invloed van acties, zijn een centraal onderdeel geworden van robotleren. Ze ondersteunen beleidsleren, planning, simulatie, evaluatie, datageneratie en zijn snel vooruitgegaan met de opkomst van fundatiemodellen en grootschalige videogeneratie. De literatuur blijft echter gefragmenteerd over architecturen, functionele rollen en belichaamde toepassingsdomeinen. Om deze kloof aan te pakken, presenteren we een uitgebreid overzicht van wereldmodellen vanuit een robotleerperspectief. We onderzoeken hoe wereldmodellen worden gekoppeld aan robotbeleid, hoe ze dienen als geleerde simulatoren voor reinforcement learning en evaluatie, en hoe robotische videowereldmodellen zijn voortgeschreden van verbeelding-gebaseerde generatie naar controleerbare, gestructureerde en fundatiemodel-schaalformuleringen. We verbinden deze ideeën verder met navigatie en autonoom rijden, en vatten representatieve datasets, benchmarks en evaluatieprotocollen samen. Over het geheel genomen geeft dit overzicht een systematische bespreking van de snelgroeiende literatuur over wereldmodellen voor robotleren, verduidelijkt het belangrijke paradigma's en toepassingen, en belicht het belangrijke uitdagingen en toekomstige richtingen voor voorspellend modelleren in belichaamde agenten. Om continue toegang tot nieuw opkomende werken, benchmarks en bronnen te vergemakkelijken, zullen we de bijbehorende GitHub-repository bijhouden en regelmatig bijwerken naast dit overzicht.

Wij introduceren SeePhys Pro, een fijnmazige benchmark voor modaliteitsoverdracht die onderzoekt of modellen dezelfde redeneercapaciteit behouden wanneer kritieke informatie geleidelijk van tekst naar beeld wordt overgebracht. In tegenstelling tot standaard visueel-essentiële benchmarks die één enkele invoervorm evalueren, bevat SeePhys Pro vier semantisch uitgelijnde varianten voor elk probleem met een steeds groter wordend aantal visuele elementen. Onze evaluatie toont aan dat huidige frontiermodellen verre van representatie-invariante redeneerders zijn: de prestaties verslechteren gemiddeld naarmate informatie van taal naar diagrammen verschuift, waarbij visuele variabele verankering het meest kritieke knelpunt vormt. Gemotiveerd door deze inferentietijd-fragiliteit hebben we verder grote trainingscorpora ontwikkeld voor multimodale RLVR en gebruiken we blinde training als diagnostische controle, waarbij we vaststellen dat RL met alle trainingsafbeeldingen gema skeerd nog steeds de prestaties op ongemaskeerde validatiesets kan verbeteren. Om dit effect te analyseren suggereren controles op tekstverwijdering, afbeeldingsmaskeringsgraad en formaatverzadiging dat dergelijke winst kan voortkomen uit resterende tekstuele en distributionele aanwijzingen in plaats van geldig visueel bewijs. Onze resultaten benadrukken de noodzaak om multimodaal redeneren niet alleen te beoordelen op de nauwkeurigheid van het uiteindelijke antwoord, maar ook op robuustheid onder modaliteitsoverdracht en met diagnostiek die test of verbeteringen afhankelijk zijn van taak-kritisch visueel bewijs.

Leren van ervaringen uit het verleden profiteert van twee complementaire vormen van geheugen: episodische sporen — ruwe trajecten van wat er gebeurde — en geconsolideerde abstracties die over vele episodes heen worden gedistilleerd tot herbruikbare, schema-achtige lessen. Recente agent-gebaseerde geheugensystemen streven naar de geconsolideerde vorm: een LLM herschrijft eerdere trajecten naar een tekstuele geheugenbank die het continu bijwerkt met nieuwe interacties, wat zelfverbeterende agenten belooft zonder parameterupdates. Toch ontdekken we dat dergelijke geconsolideerde herinneringen die door de huidige LLM's worden geproduceerd vaak foutief zijn, zelfs wanneer ze zijn afgeleid van bruikbare ervaringen. Naarmate de consolidatie vordert, stijgt het geheugennut eerst, daarna neemt het af en kan het onder de geheugenloze basislijn zakken. Verrassenderwijs faalt GPT-5.4, zelfs bij consolidatie op basis van grondwaarheidsoplossingen, in 54% van een set ARC-AGI-problemen die het eerder zonder geheugen had opgelost. We herleiden de achteruitgang tot de consolidatiestap in plaats van de onderliggende ervaring: dezelfde trajecten leiden onder verschillende bijwerkingsschema's tot kwalitatief andere herinneringen, en een alleen-episodische controle die deze trajecten simpelweg behoudt, blijft concurrerend met de consolidatie-modellen die we testen. In een gecontroleerde ARC-AGI Stream-omgeving die Retain-, Delete- en Consolidate-acties blootstelt, bewaren agenten standaard ruwe episodes en verdubbelen ze de nauwkeurigheid van hun geforceerde consolidatie-tegenhangers; het volledig uitschakelen van consolidatie (alleen episodisch beheer) evenaart dit automatische regime. In de praktijk moet robuust agentgeheugen ruwe episodes als eersteklas bewijs behandelen en consolidatie expliciet afschermen in plaats van het na elke interactie te activeren. Vooruitkijkend zal betrouwbaar agentgeheugen LLM's vereisen die kunnen consolideren zonder het bewijs waarop ze vertrouwen te overschrijven.

Visuele perceptie verbindt semantisch begrip op hoog niveau met perceptie op pixelniveau, maar de meeste bestaande instellingen gaan ervan uit dat het doorslaggevende bewijs voor het identificeren van een doelwit zich al in de afbeelding of in de bevroren modelkennis bevindt. Wij bestuderen een praktischer maar moeilijker open-wereldgeval waarbij een zichtbaar object eerst moet worden afgeleid uit externe feiten, recente gebeurtenissen, langstaartentiteiten of multi-hoprelaties voordat het kan worden gelokaliseerd. We formaliseren deze uitdaging als Perception Deep Research en introduceren WebEye, een objectverankerde benchmark met verifieerbaar bewijs, kennisintensieve vragen, nauwkeurige box/maskerannotaties en drie taakaanzichten: Zoekgebaseerde Gronding, Zoekgebaseerde Segmentatie en Zoekgebaseerde VQA. WebEye bevat 120 afbeeldingen, 473 geannoteerde objectinstanties, 645 unieke QA-paren en 1.927 taakvoorbeelden. Verder stellen we Pixel-Searcher voor, een agentische zoek-naar-pixel werkstroom die verborgen doelidentiteiten oplost en deze koppelt aan boxen, maskers of gegronde antwoorden. Experimenten tonen aan dat Pixel-Searcher de sterkste open-sourceprestatie behaalt in alle drie de taakaanzichten, terwijl fouten voornamelijk voortkomen uit bewijsvergaring, identiteitsresolutie en visuele instantiekoppeling.

Computergebruik-agenten (CUA's) automatiseren werk op het scherm, zoals geïllustreerd door GPT-5.4 en Claude. Hun betrouwbaarheid bij complexe, laagfrequente interacties is echter nog steeds slecht, wat het vertrouwen van de gebruiker beperkt. Onze analyse van faalgevallen van geavanceerde modellen suggereert een 'long-tail'-patroon in GUI-operaties, waarbij een relatief klein aandeel van complexe en diverse interacties verantwoordelijk is voor een onevenredig groot deel van taakfouten. We veronderstellen dat dit probleem grotendeels voortkomt uit de schaarste aan gegevens voor complexe interacties. Om dit probleem aan te pakken, stellen we een nieuwe benchmark CUActSpot voor voor het evalueren van de mogelijkheden van modellen op complexe interacties in vijf modaliteiten: GUI, tekst, tabel, canvas en natuurlijke afbeelding, evenals een verscheidenheid aan acties (klikken, slepen, tekenen, enz.), die een breder scala aan interactietypen bestrijkt dan eerdere klikgecentreerde benchmarks die zich voornamelijk richten op GUI-widgets. We ontwerpen ook een op renderer gebaseerde datasynthesespijplijn: scènes worden automatisch gegenereerd voor elke modaliteit, schermafbeeldingen en elementcoördinaten worden geregistreerd, en een LLM produceert bijpassende instructies en actiesporen. Na training op dit corpus presteert onze Phi-Ground-Any-4B beter dan open-source modellen met minder dan 32B parameters. We zullen onze benchmark, gegevens, code en modellen vrijgeven op https://github.com/microsoft/Phi-Ground.git

Grote taalmodellen (GTM's) worden getraind voor stroomafwaartse taken door hun parameters bij te werken (bijv. via RL). Het bijwerken van parameters dwingt hen echter om taakspecifieke informatie te absorberen, wat kan leiden tot catastrofale vergeten en verlies van plasticiteit. Daarentegen kan in-context leren met vaste GTM-parameters goedkoop en snel aanpassen aan taakspecifieke vereisten (bijv. promptoptimalisatie), maar kan het op zichzelf meestal niet de prestatiewinsten evenaren die beschikbaar zijn via het bijwerken van GTM-parameters. Er is geen goede reden om leren te beperken tot in-context of in-gewichten. Bovendien leren mensen waarschijnlijk ook op verschillende tijdschalen (bijv. Systeem 1 versus 2). Daartoe introduceren we een snel-langzaam leerraamwerk voor GTM's, met modelparameters als 'langzame' gewichten en geoptimaliseerde context als 'snelle' gewichten. Deze snelle 'gewichten' kunnen leren van tekstuele feedback om de taakspecifieke informatie te absorberen, terwijl langzame gewichten dichter bij het basismodel kunnen blijven en algemeen redeneergedrag kunnen behouden. Fast-Slow Training (FST) is tot 3x meer sample-efficiënt dan alleen langzaam leren (RL) bij redeneertaken, terwijl het consistent een hogere prestaties asymptoot bereikt. Bovendien blijven FST-getrainde modellen dichter bij het basis-GTM (tot 70% minder KL-divergentie), wat resulteert in minder catastrofale vergeten dan RL-training. Deze verminderde drift behoudt ook plasticiteit: na training op één taak passen FST-getrainde modellen zich effectiever aan een volgende taak aan dan alleen-parameter-getrainde modellen. In continu-leer-scenario's, waar taakdomeinen on-the-fly veranderen, blijft FST elke nieuwe taak verwerven, terwijl alleen-parameter-RL stagneert.

Codeerharnessen zoals Claude Code en OpenHands wikkelen fundamentmodellen in met tools, geheugen en planning, maar er bestaat geen equivalent voor de besluitvorming over lange horizon met gedeeltelijke waarneembaarheid van belichaamde agenten. We rapporteren eerst onze Gemini Plays Pokemon (GPP)-experimenten. Met iteratieve verfijning van de harness met een mens-in-de-lus werd GPP het eerste AI-systeem dat Pokemon Blue, Yellow Legacy op harde modus en Crystal voltooide zonder een verloren gevecht. In de moeilijkste stadia begon de agent zelf zijn strategie te itereren via langetermijngeheugen, waarbij opkomende zelfverbeteringssignalen naar boven kwamen naast verfijning met een mens-in-de-lus. Continual Harness verwijdert de mens volledig uit deze lus: een reset-vrije zelfverbeterende harness voor belichaamde agenten die wat we hebben waargenomen formaliseert en automatiseert. Uitgaande van slechts een minimale omgevingsinterface, wisselt de agent af tussen handelen en het verfijnen van zijn eigen prompt, sub-agenten, vaardigheden en geheugen, daarbij puttend uit eerdere trajectgegevens. Prompt-optimalisatiemethoden vereisen episode-resets; Continual Harness past zich online aan binnen een enkele run. Op Pokemon Red en Emerald met frontier-modellen vermindert Continual Harness, vanaf nul beginnend, de knopdrukkosten aanzienlijk ten opzichte van de minimalistische basislijn en overbrugt het een groot deel van de kloof naar een handmatig ontworpen expert harness, met capaciteitsafhankelijke winsten, ondanks dat het uitgaat van dezelfde ruwe interface zonder samengestelde kennis, zonder handgemaakte tools en zonder domeinondersteuning. Vervolgens sluiten we de lus met het model zelf: een online proces-beloning co-leerlus, waarin de rollouts van een open-source agent door de verfijnende harness worden herlabeld door een frontier-leraar en gebruikt om het model bij te werken, leidt tot aanhoudende in-game mijlpaalvooruitgang op Pokemon Red zonder de omgeving te resetten tussen trainingsiteraties.

Het watermerken van grote taalmodellen (LLM's) is een veelbelovende aanpak voor het detecteren van door LLM gegenereerde tekst en het mogelijk maken van verantwoorde inzet. Bestaande watermerkmethoden zijn echter vaak kwetsbaar voor semantisch-invariante aanvallen, zoals parafraseren. Wij stellen PASA voor, een principieel, robuust en vervormingsvrij watermerkalgoritme dat een watermerk op semantisch niveau inbedt en detecteert. PASA werkt op semantische clusters in een latente inbeddingsruimte en construeert een distributionele afhankelijkheid tussen token- en hulpsequenties via gedeelde willekeur, gesynchroniseerd door een geheime sleutel en semantische geschiedenis. Dit ontwerp is gegrond in ons theoretisch kader dat een gezamenlijk optimaal inbedding-detectiepaar karakteriseert, dat de fundamentele afwegingen tussen detectienauwkeurigheid, robuustheid en vervorming bereikt. Evaluaties over meerdere LLM's en semantisch-invariante aanvallen tonen aan dat PASA robuust blijft, zelfs onder sterke parafraseringsaanvallen, terwijl de hoge tekstkwaliteit behouden blijft, en het presteert beter dan standaard basislijnen in de vocabulaire-ruimte. Ablatiestudies valideren verder de effectiviteit van onze hyperparameterkeuzes. Webpagina: https://ai-kunkun.github.io/PASA_page/.

Geluste berekening toont veelbelovend in het verbeteren van de redeneringsgerichte prestaties van LLM's door het opschalen van rekenkracht tijdens de testfase. Bestaande benaderingen vereisen echter doorgaans ofwel het vanaf nul trainen van recurrente modellen of het toepassen van disruptieve aanpassingen achteraf, wat gepaard gaat met aanzienlijke rekenkosten en de vooraf getrainde capaciteiten in gevaar kan brengen. Om deze beperkingen aan te pakken introduceren we Looped Depth Up-Scaling (LoopUS), een post-training raamwerk dat een standaard vooraf getraind LLM omzet in een geluste architectuur. Als belangrijke technische bijdrage herinterpreteert LoopUS het vooraf getrainde LLM als een encoder, een gelust redeneerblok en een decoder. Het operationaliseert deze latente-verfijningsarchitectuur via vier kerncomponenten: (1) blokdecompositie, geleid door getrapte representatiedynamiek; (2) een invoerafhankelijke selectieve poort om verborgen-toestandsdrift te beperken; (3) willekeurig diep toezicht voor geheugenefficiënt leren over lange recursieve horizonten; en (4) een vertrouwenskop voor adaptief vroegtijdig stoppen. Gezamenlijk transformeren deze mechanismen een standaard niet-gelust model in een geluste vorm, terwijl het wordt gestabiliseerd tegen zowel rekenknelpunten als representatiecollaps. Door stabiel latent lussen verbetert LoopUS redeneringsgerichte prestaties zonder de gegenereerde redeneersporen te verlengen of recurrente training vanaf nul te vereisen. Voor meer details, zie https://thrillcrazyer.github.io/LoopUS

Op embeddings gebaseerde code retrieval heeft vaak te lijden wanneer encoders overfitten op oppervlaktesyntaxis. Eerder werk vermindert dit door LLM's te gebruiken om queries en corpora te herformuleren naar een genormaliseerde stijl, maar laat twee vragen open: hoeveel helpt een representationele verschuiving, en wanneer is de LLM-aanroep per query gerechtvaardigd? We bestuderen een hiërarchie van drie herschrijfstrategieën: stilistische herformulering, met NL verrijkte pseudocode, en volledige natuurlijke taaltranscriptie, onder gezamenlijke query-corpus- (QC, online) en alleen-corpus- (C, offline) augmentatie, over zes CoIR-benchmarks, vijf encoders en drie herschrijvers die onafhankelijke modelfamilies omvatten (Qwen, DeepSeek, Mistral). Wij zijn de eersten die met NL verrijkte pseudocode en natuurlijke taal op snippetniveau evalueren als directe retrievalrepresentaties, in plaats van als tijdelijke tussenproducten. Volledige NL-herschrijving met QC levert de grootste winst op (+0,51 absolute NDCG@10 op CT-Contest voor MoSE-18), terwijl alleen-corpus herschrijven de retrieval verslechtert in 56 van de 90 configuraties, ongeveer 62%. We introduceren twee diagnostieken, Delta H, token-entropie, en Delta s, embedding-cosinus, en tonen aan dat Delta H de retrievalwinst onder QC voorspelt voor alle drie herschrijverfamilies: gepoolde Spearman's rho = +0,436, p < 0,001 op DeepSeek+Codestral; rho = +0,593 op alleen Codestral; rho = +0,356 op Qwen. Dit vestigt Delta H als een goedkope, herschrijver-agnostische proxy om te beslissen wanneer herschrijven de moeite loont voordat retrieval wordt uitgevoerd. Onze analyse herformuleert LLM-herschrijven als een kosten-batenbeslissing: het is het meest effectief als een herstellaag voor lichtgewicht encoders op code-dominante queries, met afnemende meeropbrengst voor sterke encoders of NL-zware queries.

In situaties waarin gelabelde verifieerbare trainingsdata de bindende beperking vormt, moet elk gecontroleerd voorbeeld zorgvuldig worden toegewezen. De standaardpraktijk is om deze data rechtstreeks te gebruiken op het model dat zal worden geïmplementeerd, bijvoorbeeld door GRPO toe te passen op de implementatiestudent. Wij stellen dat dit vaak een inefficiënte toewijzing is, omdat het een beloningsdichtheidsprincipe over het hoofd ziet: schaarse sequentieniveau-beloning zou modellen moeten trainen waar exploratie productief is, terwijl dichte token-niveau docentbeloning moet worden gebruikt waar het doel is om gedrag te comprimeren naar een kleiner model. Vanuit dit oogpunt zijn GRPO-achtige schaarse RL en OPD-achtige dichte docentsupervisie geen aparte recepten; zij zijn verschillende beloningsdichtheidsregimes. De toewijzingsregel is eenvoudig: gebruik schaarse gelabelde trainingsdata stroomopwaarts op het sterkste model dat er beloningsvormend gedrag van kan maken, en draag dat gedrag vervolgens stroomafwaarts over als dichte supervisie. We evalueren deze regel op verifieerbare wiskunde met Qwen3- en Llama-modellen. Bij een vaste Qwen3-1.7B implementatiestudent-grootte presteert een RL-verbeterde 8B-docent, gedistilleerd via de dichte brug, beter dan directe GRPO op dezelfde student, terwijl overdracht van dezelfde docent vóór RL onderpresteert. De brug is belangrijk: een forward-KL opwarming op docent-rollouts gevolgd door OPD op student-rollouts is consistent het sterkst op MATH vóór enige post-brug student-zijdige schaarse RL, en geeft ook de beste pre-Stage 3 AIME-eindpunten voor de canonieke 8B/14B-docenten. De brug maakt latere student-zijdige schaarse RL ook effectief: GRPO dat zwak is op een koude student verhoogt MATH van 75,4% naar 78,5% na de brug en presteert 2,8 punten beter dan een gematchte replay-controle. Het operationele principe is om schaarse gelabelde data niet te gebruiken op het minst voorbereide beleid: gebruik schaarse beloning voor docent-zijdige ontdekking, dichte overdracht voor studentcompressie, en student-zijdige schaarse beloning pas na de brug.

Verborgen kwaadwillige bedoeling in meerbeurtse dialoog vormt een groeiende bedreiging voor ingezette grote taalmodellen (LLM's). In plaats van een schadelijk doel in één enkele prompt te onthullen, kunnen steeds capabelere aanvallers hun bedoeling verspreiden over meerdere onschuldig ogende beurten. Recente studies tonen aan dat zelfs moderne commerciële modellen met geavanceerde veiligheidsmechanismen kwetsbaar blijven voor dergelijke aanvallen, ondanks vooruitgang in veiligheidsafstemming en externe beveiligingssystemen. In dit werk pakken we deze uitdaging aan door de vroegste beurt te detecteren waarin het geven van de kandidaatrespons de opgebouwde interactie voldoende zou maken om schadelijke actie mogelijk te maken. Deze doelstelling vereist een precieze interventie op beurtniveau die het schade mogelijk makende afsluitpunt identificeert, terwijl voortijdige weigering van onschuldige verkennende gesprekken wordt vermeden. Ter verdere ondersteuning van training en evaluatie construeren we de Multi-Turn Intent Dataset (MTID), die vertakkende aanvalsuitrolpatronen, gematchte onschuldige harde negatieven en annotaties van de vroegste schade mogelijk makende beurten bevat. We tonen aan dat MTID een monitor op beurtniveau, TurnGate, mogelijk maakt, die aanzienlijk beter presteert dan bestaande baselines in detectie van schadelijke bedoelingen, terwijl lage overmatige weigeringspercentages worden gehandhaafd. TurnGate generaliseert verder over domeinen, aanvalspijplijnen en doelmodellen. Onze code is beschikbaar op https://github.com/Graph-COM/TurnGate.

Modelgebaseerde representaties zijn recentelijk naar voren gekomen als een veelbelovend raamwerk dat latente dynamische informatie in de representaties integreert voor stroomafwaarts off-policy actor-critic leren. Het combineert impliciet de voordelen van zowel modelvrije als modelgebaseerde benaderingen, terwijl de trainingskosten die gepaard gaan met modelgebaseerde methoden worden vermeden. Niettemin kunnen bestaande modelgebaseerde representatiemethoden er niet in slagen voldoende informatie over relevante variabelen vast te leggen en kunnen ze overmatig aanpassen aan vroege ervaringen in de replay buffer. Dit leidt tot vertekeningen in de representatie en het actor-critic leren, wat resulteert in inferieure prestaties. Om dit aan te pakken, stellen we Debiased model-based Representations for Q-learning voor, afgekort het DR.Q-algoritme. DR.Q maximaliseert expliciet de mutual information tussen de representaties van het huidige toestand-actiepaar en de volgende toestand, naast het minimaliseren van hun afwijkingen, en bemonstert transities met vervaagde geprioriteerde ervaringsreplay. We evalueren DR.Q op talrijke continue controlebenchmarks met een enkele set hyperparameters, en de resultaten tonen aan dat DR.Q recente sterke baselines kan evenaren of overtreffen, soms met een ruime marge. Onze code is beschikbaar op https://github.com/dmksjfl/DR.Q.

Autonome agenten zijn snel volwassen geworden als taakuitvoerders en worden op grote schaal ingezet via harnassen zoals OpenClaw. Veiligheidszorgen hebben terecht toenemende onderzoeksaandacht getrokken, en daaronder liggen de waarden die het gedrag van agenten stilzwijgend sturen. Bestaande waardenbenchmarks blijven echter beperkt tot LLM's, waardoor de waarden van agenten grotendeels onbekend zijn. Vanuit intuïtieve, empirische en theoretische invalshoeken tonen we aan dat de waarden van een agent afwijken van die van de onderliggende LLM, en dat de agentische modaliteit bovendien uitdagingen op het niveau van datasets, evaluatie en systeem met zich meebrengt die ontbreken in tekst-only protocollen. We overbruggen deze kloof met Agent-ValueBench, de eerste benchmark die specifiek gericht is op agentwaarden. Deze bevat 394 uitvoerbare omgevingen in 16 domeinen, biedt 4.335 waardeconflicttaken die 28 waardesystemen en 332 dimensies bestrijken. Elk exemplaar is mede gesynthetiseerd via onze speciaal ontwikkelde end-to-end-pijplijn en per exemplaar samengesteld door professionele psychologen. Elke taak wordt geleverd met twee pool-uitgelijnde gouden trajecten waarvan de ijkpunten een op trajectniveau rubric-gebaseerde beoordelaar verankeren. Door 14 grensverleggende propriëtaire en open-gewichtsmodellen te benchmarken in 4 gangbare harnassen, ontdekken we drie samenhangende bevindingen. Agentwaarden manifesteren zich allereerst als een Value Tide van cross-model homogeniteit onder interpreteerbare tegenstromen. Dit getij buigt niet-additief onder de trekkracht van het harnas, en nog beslissender onder bewuste sturing via ingebedde vaardigheden. Samen wijzen deze resultaten erop dat de hefboom voor agent-alignment verschuift van klassieke modelalignment en prompt-sturing naar harnasalignment en vaardigheidssturing.

Op LLM gebaseerde agenten opereren steeds vaker in persistente omgevingen waar zij informatie over meerdere sessies moeten opslaan, bijwerken en erover redeneren. Terwijl eerdere benchmarks alleen updates van enkele entiteiten evalueren, definieert MEME zes taken die de volledige ruimte beslaan zoals afgebakend door de multi-entiteit- en evoluerende assen, waaronder drie die niet door eerder werk werden gescoord: Cascade en Absence (afhankelijkheidsredenering) en Deletion (toestand na verwijdering). Bij het evalueren van zes geheugensystemen die drie geheugenparadigma's omvatten op 100 gecontroleerde episodes, vinden we dat alle systemen falen op afhankelijkheidsredenering onder de standaardconfiguratie (Cascade: 3%, Absence: 1% gemiddelde nauwkeurigheid), ondanks adequate statische ophaalprestaties. Promptoptimalisatie, diepere ophaling, verminderde vulruis en de meeste sterkere LLM's slagen er niet in deze kloof te dichten. Alleen een bestandsgebaseerde agent gekoppeld aan Claude Opus 4.7 als interne LLM dicht de kloof gedeeltelijk, maar tegen ~70x de baselinekosten, wat aangeeft dat het dichten momenteel afhankelijk is van configuraties die op schaal niet praktisch zijn. Code en data zijn beschikbaar op de projectpagina: https://seokwonjung-jay.github.io/meme-eval/.

We onderzoeken de oorsprong van massieve activaties in grote taalmodellen (LLM's) en identificeren een specifieke laag, genaamd de Massive Emergence-laag (ME-laag), die consistent wordt waargenomen over modelfamilies heen, waar massieve activaties voor het eerst opduiken en vervolgens via residuele verbindingen naar diepere lagen worden voortgeplant. We tonen aan dat binnen de ME-laag zowel de RMSNorm- als de FFN-parameters gezamenlijk bijdragen aan het ontstaan van massieve activaties. Eenmaal gevormd, blijft de representatie van het massieve activatietoken grotendeels invariant over lagen heen, waardoor de diversiteit van verborgen representaties die naar de aandachtsmodule worden doorgegeven, afneemt. Gemotiveerd door deze beperking stellen we een eenvoudige en effectieve methode voor om de rigiditeit van het massieve activatietoken te verminderen. Onze aanpak verbetert consistent de prestaties van LLM's bij meerdere taken, waaronder instructievolging en wiskundig redeneren, in zowel trainingsvrije als fijnafstemmingsomgevingen. Bovendien tonen we aan dat onze methode attention sinks vermindert door hun invloed selectief te verzwakken, hun oorsprong op het niveau van de verborgen toestand te verduidelijken en nieuw licht te werpen op principiële mitigatiestrategieën.

Wij stellen dat multi-agent testtijdsevolutie niet simpelweg een enkelvoudige agent-evolutie is die N keer wordt gerepliceerd. Een enkelvoudige lerende agent kan alleen zijn eigen context en geheugen evolueren. Een multi-agentsysteem evolueert bovendien wie samenwerkt, hoe zij samenwerken en hoe kennis door de populatie stroomt. Deze componenten hebben geen tegenhanger in een enkelvoudig agens en kunnen verschijnselen zoals opkomende specialisatie voortbrengen. Toch beperken eerdere testtijdmethoden ervaringen tot individuele agenten, waardoor leren over agenten heen verloren gaat, of ze zenden symmetrisch uit naar alle agenten, waarmee de specialisatie die samenwerking waardevol maakt, wordt uitgewist. Wij presenteren EVOCHAMBER, een trainingsvrij raamwerk dat testtijdsevolutie op drie niveaus in een co-evoluerende agentenpool instantiëert. De kern ervan is CODREAM (Collaborative Dreaming), een post-taakprotocol dat wordt geactiveerd bij teamfalen of onenigheid, waarbij agenten gezamenlijk reflecteren, inzichten destilleren en deze asymmetrisch routeren van sterke naar zwakke agenten op de mislukte niche, waarbij specialisatie behouden blijft terwijl kennisleemtes worden opgevuld. Operatoren op teamniveau stellen niche-geconditioneerde teams samen en selecteren online samenwerkingsstructuren. Levenscyclusoperatoren op populatieniveau vorken, voegen samen, snoeien en zaaien agenten onder prestatiedruk. Op drie heterogene taakstromen met Qwen3-8B bereikt EVOCHAMBER 63,9% op competitiewiskunde, 75,7% op code en 87,1% op multidomein redeneren, waarmee het de beste basislijn met 32% relatief overtreft op wiskunde en asymmetrische overdracht tussen agenten bevestigt als de primaire aandrijver in ablatie. Vanuit meerdere identiek geïnitialiseerde agenten ontstaan spontaan vier tot vijf stabiele nichespecialisten, een structurele signatuur van multi-agensevolutie die geen enkelvoudige lerende agent kan vertonen. Zie onze code op: https://github.com/Mercury7353/EvoChamber

Reinforcement learning (RL) heeft opmerkelijk succes geboekt bij het redeneren van grote taalmodellen (LLM's), maar of het ook directe recall van parametrische kennis kan verbeteren, blijft een open vraag. We bestuderen deze vraag in een gecontroleerde nul-shot, eenstaps, gesloten-boek QA-omgeving zonder gedachteketen, waarbij we alleen trainen op binaire correctheidsbeloningen en deduplicatie op feitniveau tussen training en test toepassen om te garanderen dat verbeteringen een weerspiegeling zijn van verbeterde recall in plaats van redeneren of memorisatie. Over drie modelfamilies en meerdere feitelijke QA-benchmarks heen levert RL gemiddeld ~27% relatieve winst op, waarmee het zowel trainings- als inferentie-tijd baselines overtreft. Mechanistisch gezien herverdeelt RL voornamelijk de waarschijnlijkheidsmassa over bestaande kennis in plaats van nieuwe feiten te verwerven, waarbij correcte antwoorden van de lage-waarschijnlijkheidsstaart naar betrouwbare gulzige generaties worden verplaatst. Onze data-attributiestudie toont aan dat de moeilijkste voorbeelden het meest informatief zijn: die waarvan de antwoorden nooit voorkomen in 128 pre-RL samples (slechts ~18% van de trainingsdata) drijven ~83% van de winst aan, omdat zeldzame correcte rollouts tijdens de training nog steeds verschijnen en worden versterkt. Samen verbreden deze bevindingen de rol van RL verder dan redeneren, en herpositioneren het als een hulpmiddel voor het ontsluiten in plaats van verwerven van latente parametrische kennis.

Bij het aanpassen van een encoder aan een nieuw domein is de gangbare aanpak om de training voort te zetten met gemaskeerde taalmodellering (MLM). We tonen aan dat een tijdelijke overschakeling naar causale taalmodellering (CLM), gevolgd door een korte MLM-afname, de stroomafwaartse prestaties verbetert. Op biomedische teksten met ModernBERT overtreft deze CLM-omweg de MLM-basislijnen die zijn getraind op identieke data en rekenkracht, over 8 Franse en 11 Engelse biomedische taken met respectievelijk +1,2–2,8 procentpunt en +0,3–0,8 procentpunt, afhankelijk van de modelgrootte. We onderzoeken de redenen voor deze verbeteringen. We vinden dat CLM’s dichte supervisie veel meer invloed heeft op lage transformatorlagen (0–7) dan MLM. Het bevriezen van lage lagen tijdens CLM elimineert het stroomafwaartse voordeel; het bevriezen van middenlagen behoudt het. De representatieveranderingen blijven aanwezig tijdens de MLM-afnamefase, zelfs wanneer deze even lang is als de CLM-fase, en ze schalen met de modelcapaciteit. We brengen ModernCamemBERT-bio en ModernBERT-bio uit als state-of-the-art biomedische encoders in Base- en Large-formaten.

On-policy distillatie (OPD) en on-policy zelf-distillatie (OPSD) zijn naar voren gekomen als veelbelovende post-trainingsmethoden voor grote taalmodellen, die dichte supervisie op tokenniveau bieden op trajecten die zijn gesampled uit het eigen beleid van het model. De bestaande resultaten over hun effectiviteit blijven echter gemengd: hoewel OP(S)D veelbelovend is gebleken bij systeemprompt en kennisinternalisatie, rapporteren recente studies ook instabiliteit en degradatie. In dit werk presenteren we een uitgebreide empirische studie van wanneer OPD en OPSD werken, wanneer ze falen, en waarom. We vinden dat OPD bij wiskundig redeneren zeer gevoelig is voor de keuze van de leraar en de verliesformulering, terwijl OPSD faalt in onze geteste omgevingen vanwege de afwezigheid van instantie-specifieke geprivilegieerde informatie (PI) op testtijd. Daarentegen is OPSD effectief wanneer PI een gedeelde latente regel vertegenwoordigt, zoals een systeemprompt of aligneringsvoorkeur. We identificeren drie faalmechanismen: (1) distributie-mismatch tussen leraar en student veroorzaakt door conditionering op student-gegenereerde prefixen, (2) optimalisatie-instabiliteit door vertekende TopK reverse-KL-gradienten, en (3) een OPSD-specifieke beperking waarbij de student een PI-vrij beleid leert dat PI-geconditioneerde leraren aggregeert, hetgeen ontoereikend is wanneer PI instantie-specifiek is. We tonen verder aan dat stop-gradient TopK-doelstellingen, RLVR-aangepaste leraren en SFT-gestabiliseerde studenten deze falen verminderen.

Hoewel zelf-gesuperviseerde pretraining de afhankelijkheid van visiesystemen van synthetische gegevens heeft verminderd, blijft simulatie een onmisbaar hulpmiddel voor closed-loop optimalisatie en rigoureuze out-of-distribution (OOD)-evaluatie. Moderne simulatieplatformen kennen echter vaak steile technische barrières en vereisen uitgebreide expertise op het gebied van computergrafieken en spelontwikkeling. In dit werk presenteren we LychSim, een zeer controleerbaar en interactief simulatieframework gebouwd op Unreal Engine 5 om deze kloof te overbruggen. LychSim is gebouwd rond drie belangrijke ontwerpkeuzes: (1) een gestroomlijnde Python API die de onderliggende complexiteit van de engine abstraheert; (2) een procedurele gegevenspijplijn die in staat is diverse, hoogwaardige omgevingen te genereren met variërende out-of-distribution (OOD)-visuele uitdagingen, gekoppeld aan rijke 2D- en 3D-grondwaarheden; en (3) een native integratie van het Model Context Protocol (MCP) dat de simulator transformeert in een dynamische, gesloten-lus speeltuin voor redenerende agentische LLM's. Verder annoteren we procedurele regels op sceneniveau en pose-uitlijningen op objectniveau om semantisch uitgelijnde 3D-grondwaarheden en geautomatiseerde scèneaanpassing mogelijk te maken. We demonstreren LychSim's capaciteit voor meerdere downstream toepassingen, waaronder het dienen als een synthetische gegevensmotor, het aandrijven van op bekrachtigingsleren gebaseerde adversarial examinatoren, en het vergemakkelijken van interactieve, taalgestuurde scène-indelingsgeneratie. Ten behoeve van de bredere visiegemeenschap zal LychSim openbaar beschikbaar worden gesteld, inclusief de volledige broncode en diverse data-annotaties.

Reinforcement learning met verifieerbare beloningen heeft sterke post-training winsten mogelijk gemaakt in domeinen zoals wiskunde en programmeren, hoewel veel open-einde instellingen afhankelijk zijn van rubriekgebaseerde beloningen. We bestuderen reward hacking in rubriekgebaseerde RL, waarbij een beleid wordt geoptimaliseerd tegen een trainingsverificateur maar geëvalueerd tegen een paneel van drie frontier-beoordelaars uit verschillende families, waardoor de afhankelijkheid van een enkele evaluator wordt verminderd. Ons raamwerk onderscheidt twee bronnen van divergentie: verificateurfalen, waarbij de trainingsverificateur rubriekcriteria toekent die referentieverificateurs afwijzen, en rubriekontwerplimitaties, waarbij zelfs sterke rubriekgebaseerde verificateurs de voorkeur geven aan antwoorden die rubriekvrije beoordelaars over het algemeen slechter beoordelen. In medische en wetenschappelijke domeinen produceren zwakke verificateurs grote proxy-beloningswinsten die niet overdragen naar de referentieverificateurs; exploitatie neemt toe gedurende de training en concentreert zich in terugkerende fouten zoals gedeeltelijke voldoening aan samengestelde criteria, het behandelen van impliciete inhoud als expliciet, en onnauwkeurige topische matching. Sterkere verificateurs verminderen substantieel, maar elimineren niet, verificateurexploitatie. We introduceren ook een zelfinternalisatiekloof, een verificateurvrije diagnostiek op basis van beleidslogkansen, die de kwaliteit van de referentieverificateur volgt en detecteert wanneer het met de zwakke verificateur getrainde beleid stopt met verbeteren. Ten slotte, in onze setting, voorkomt sterkere verificatie geen reward hacking wanneer de rubriek belangrijke faalmodi ongespecificeerd laat: rubriekgebaseerde verificateurs geven de voorkeur aan de RL-checkpoint, terwijl rubriekvrije beoordelaars de voorkeur geven aan het basismodel. Deze meningsverschillen vallen samen met winsten geconcentreerd in volledigheid en aanwezigheidsgebaseerde criteria, naast dalingen in feitelijke correctheid, beknoptheid, relevantie en algehele kwaliteit. Samen suggereren deze resultaten dat sterkere verificatie reward hacking vermindert, maar op zichzelf niet garandeert dat rubriekwinsten overeenkomen met bredere kwaliteitswinsten.

Wij introduceren Pion, een spectrumbehoudende optimizer voor de training van grote taalmodellen (LLM's), gebaseerd op orthogonale equivalentietransformatie. In tegenstelling tot additieve optimizers zoals Adam en Muon, werkt Pion elke gewichtsmatrix bij via linker en rechter orthogonale transformaties, waarbij de singuliere waarden gedurende de training behouden blijven. Dit levert een optimalisatiemechanisme op dat de geometrie van gewichtsmatrices moduleert terwijl hun spectralnorm vast blijft. We leiden de Pion-updateregel af, onderzoeken systematisch de ontwerpkeuzes en analyseren het convergentiegedrag samen met enkele belangrijke eigenschappen. Empirische resultaten tonen aan dat Pion een stabiel en concurrerend alternatief biedt voor standaard optimizers, zowel voor pretraining als finetuning van LLM's.

Langetermijngeheugen is van cruciaal belang voor agenten in gespecialiseerde webomgevingen, waar succes afhangt van het herinneren van interface-mogelijkheden, toestandsdynamiek, werkschema's en terugkerende faalwijzen. Bestaande geheugenbenchmarks voor agenten richten zich echter voornamelijk op gebruikersgeschiedenissen, korte sporen of downstream-taaksucces, waardoor de vraag open blijft hoe direct kan worden geëvalueerd of geheugensystemen omgevingsspecifieke ervaringen effectief internaliseren. Om deze leemte aan te pakken, introduceren we LongMemEval-V2 (LME-V2), een benchmark voor het evalueren of geheugensystemen agenten kunnen helpen de ervaring te verwerven die nodig is om deskundige collega's te worden in aangepaste omgevingen. LME-V2 bevat 451 handmatig samengestelde vragen die betrekking hebben op vijf kerngeheugenvaardigheden voor webagenten: statische toestandsherinnering, dynamische toestandsregistratie, werkstroomkennis, omgevingsvalkuilen en premissebewustzijn. Vragen worden gekoppeld aan geschiedenissporen die maximaal 500 sporen en 115M tokens bevatten. We gebruiken een contextverzamelingsformulering: geheugensystemen consumeren geschiedenissporen en leveren compacte bewijsstukken voor downstream-vraagbeantwoording. We stellen een reeks van twee geheugenmethoden voor: AgentRunbook-R, een efficiënt RAG-gebaseerd geheugen met kennispools voor ruwe toestandswaarnemingen, gebeurtenissen en strategienotities, en AgentRunbook-C, dat sporen als bestanden opslaat en een codeeragent oproept om bewijs te verzamelen in een uitgebreide sandbox. Experimenten tonen aan dat AgentRunbook-C de beste prestaties levert met een gemiddelde nauwkeurigheid van 72,5%, waarmee het de sterkste RAG-baseline (48,5%) en de kant-en-klare codeeragentbaseline (69,3%) overtreft. Ondanks de sterke prestatiewinst hebben methoden op basis van codeeragenten hoge latentiekosten. Hoewel AgentRunbook-C de Pareto-grens voor nauwkeurigheid-latentie verschuift, blijft er aanzienlijke ruimte voor verbetering. Samen vestigen deze resultaten LME-V2 als een uitdagende testomgeving voor het ontwikkelen van langetermijngeheugensystemen voor omgevingservaring.

Gaussiaanse splatting heeft opmerkelijk succes geboekt in multi-view oppervlaktereconstructie, maar vertoont aanzienlijke degradatie wanneer slechts weinig aanzichten beschikbaar zijn. Hoewel recente inspanningen dit probleem verlichten door de multi-view consistentie te verbeteren om plausibele oppervlakken te genereren, slagen zij er niet in om ongeziene, occludeerde of zwak gecontroleerde gebieden buiten de invoerdekking te infereren. Om deze beperking aan te pakken presenteren wij VidSplat, een trainingsvrij generatief reconstructieframework dat gebruikmaakt van krachtige videodiffusie-priors om iteratief nieuwe aanzichten te synthetiseren die de ontbrekende invoerdekking compenseren, en zo volledige 3D-scènes te herstellen uit schaarse invoer. Specifiek pakken wij twee kernuitdagingen aan die een effectieve integratie van generatie en reconstructie mogelijk maken. Ten eerste, voor 3D-consistente generatie, ontwikkelen wij een trainingsvrije, gefaseerde ontruisingsstrategie die de ontruisingsrichting adaptief stuurt naar de onderliggende geometrie, gebruikmakend van de gerenderde RGB- en maskerafbeeldingen. Ten tweede, om de reconstructie te verbeteren, ontwikkelen wij een iteratief mechanisme dat cameratrajecten bemonstert, ongeobserveerde regio's verkent, nieuwe aanzichten synthetiseert en de training aanvult door middel van vertrouwensgewogen verfijning. VidSplat presteert robuust bij schaarse invoer en zelfs bij een enkel beeld. Uitgebreide experimenten op veelgebruikte benchmarks tonen onze superieure prestaties aan in schaars-aanzicht scènereconstructie.

In industriële inkoop is een LLM-antwoord alleen nuttig als het een normencontrole doorstaat: aanbevolen materiaal moet overeenkomen met de bedrijfsomstandigheid, elke parameter moet een gereguleerde drempel respecteren, en geen enkele procedure mag in tegenspraak zijn met een veiligheidsclausule. Gedeeltelijke correctheid kan veiligheidskritieke tegenstrijdigheden maskeren die geaggregeerde LLM-benchmarks zelden vastleggen. Wij introduceren IndustryBench, een benchmark met 2.049 items voor industriële inkoop-QA in het Chinees, gebaseerd op Chinese nationale normen (GB/T) en gestructureerde industriële productregistraties, georganiseerd in zeven capaciteitsdimensies, tien industriecategorieën en panel-afgeleide moeilijkheidsniveaus, met item-uitgelijnde Engelse, Russische en Vietnamese weergaven. Onze constructiepijplijn verwerpt 70,3% van de door LLM gegenereerde kandidaten in een zoekgebaseerde externe-verificatiefase, wat aangeeft hoe onbetrouwbaar industriële QA blijft na alleen LLM-filtering. Onze evaluatie ontkoppelt ruwe correctheid, gescoord door een Qwen3-Max-beoordelaar die is gevalideerd met κ_w = 0,798 ten opzichte van een domeinexpert, van een afzonderlijke veiligheidsschendingscontrole (SV) tegen brontteksten. Bij 17 modellen in het Chinees en een 8-model overlap over vier talen vinden we: (i) het beste systeem haalt slechts 2,083 op de 0–3 beoordelingsschaal, wat aanzienlijke ruimte voor verbetering laat; (ii) Standaarden & Terminologie is de meest hardnekkige capaciteitszwakte en overleeft item-uitgelijnde vertaling; (iii) uitgebreid redeneren verlaagt de veiligheidsgecorrigeerde scores voor 12 van de 13 modellen, voornamelijk door het introduceren van niet-ondersteunde veiligheidskritieke details in langere eindantwoorden; en (iv) veiligheidsschendingspercentages herschikken de ranglijst – GPT-5.4 stijgt van rang 6 naar rang 3 na SV-correctie, terwijl Kimi-k2.5-1T-A32B zeven posities zakt. Industriële LLM-evaluatie vereist daarom bron-gebaseerde, veiligheidsbewuste diagnose in plaats van geaggregeerde nauwkeurigheid. Wij geven IndustryBench vrij met alle prompts, scripts voor scoreberekening en datasetdocumentatie.

Generatieve nieuwe-aanzichtsynthese staat voor een fundamenteel dilemma: geometrische priori’s bieden ruimtelijke uitlijning, maar worden schaars en onnauwkeurig bij aanzichtsveranderingen, terwijl verschijningspriori’s visuele getrouwheid bieden, maar geometrische correspondentie missen. Bestaande methoden propageren ofwel geometrische fouten door de generatie heen, of lijden onder signaalconflicten bij het statisch combineren van beide. Wij introduceren MoCam, die gestructureerde denoising-dynamica gebruikt om een gecoördineerde voortgang van geometrie naar verschijning binnen het diffusieproces te orkestreren. MoCam benut eerst in vroege stadia geometrische priori’s om grove structuren te verankeren en hun onvolledigheid te tolereren, en schakelt vervolgens in latere stadia over op verschijningspriori’s om geometrische fouten actief te corrigeren en details te verfijnen. Dit ontwerp verenigt op natuurlijke wijze statische en dynamische aanzichtsynthese door temporele ontkoppeling van geometrische uitlijning en verschijningsverfijning binnen het diffusieproces. Experimenten tonen aan dat MoCam aanzienlijk beter presteert dan eerdere methoden, met name wanneer puntenwolken ernstige gaten of vervormingen bevatten, wat leidt tot een robuuste ontwarring van geometrie en verschijning.

Looped Transformers bieden een veelbelovend alternatief voor puur feed-forward berekening door iteratief latente representaties te verfijnen, wat taalmodellering en redeneren verbetert. Toch blijven recurrente architecturen instabiel om te trainen, duur om te optimaliseren en te implementeren, en beperkt tot kleine, vaste recursiedieptes. We introduceren Attractormodellen, waarin een backbone-module eerst output-embeddings voorstelt, waarna een attractor-module ze verfijnt door het vaste punt op te lossen, met gradienten verkregen via impliciete differentiatie. Het trainingsgeheugen blijft dus constant in effectieve diepte, en iteraties worden adaptief gekozen op basis van convergentie. Empirisch gezien presteren Attractormodellen beter dan bestaande modellen in twee regimes: grootschalige taalmodel-pretraining en redeneren met kleine modellen. In taalmodellering leveren Attractormodellen een Pareto-verbetering op ten opzichte van standaard Transformers en stabiele looped modellen van verschillende groottes, met een verbetering van de perplexiteit tot 46,6% en downstream-nauwkeurigheid tot 19,7%, terwijl de trainingskosten dalen. Opmerkelijk is dat een 770M Attractormodel beter presteert dan een 1,3B Transformer die is getraind op twee keer zoveel tokens. Bij uitdagende redeneertaken laten we zien dat ons model met slechts 27M parameters en ongeveer 1000 voorbeelden een nauwkeurigheid van 91,4% behaalt op Sudoku-Extreme en 93,1% op Maze-Hard, gunstig schalend waar grensverleggende modellen zoals Claude en GPT o3 volledig falen, en gespecialiseerde recursieve redeneerders instorten bij grotere afmetingen. Tot slot tonen we aan dat Attractormodellen een nieuw fenomeen vertonen, dat we evenwichtsinternalisatie noemen: fixed-point training plaatst de initiële output-embedding van het model dicht bij het evenwicht, waardoor de oplosser tijdens inferentie kan worden verwijderd met weinig degradatie. Samen suggereren deze resultaten dat Attractormodellen iteratieve verfijning schaalbaar maken door recursie om te zetten in een berekening die het model kan leren internaliseren.

Hoewel recente vooruitgang in multimodale taalmodellen beeldgeneratie mogelijk heeft gemaakt op basis van expressieve multi-beeldinstructies, hebben bestaande methoden moeite om prestaties te behouden onder complexe interleaved instructies. Deze beperking komt voort uit de structurele scheiding van afbeeldingen en tekst in huidige paradigma's, die modellen dwingt om moeilijke langeafstandsafhankelijkheden te overbruggen om beschrijvingen met visuele doelen te matchen. Om deze uitdagingen aan te pakken, stellen wij Images iN SEnTences (ook wel INSET) voor, een uniform generatiemodel dat afbeeldingen naadloos inbedt als eigen vocabulaire binnen tekstuele instructies. Door visuele kenmerken rechtstreeks op hun corresponderende semantische posities te plaatsen, maakt INSET gebruik van de contextuele lokaliteit van transformatoren voor precieze objectbinding, waarbij afbeeldingen effectief worden behandeld als dichte, expressieve taaltokens. Bovendien introduceren wij een schaalbare data-engine die 15M hoogwaardige interleaved samples synthetiseert uit standaard beeld- en videodatasets, waarbij VLM's en LLM's worden gebruikt om rijke, langdurige sequenties te construeren. Evaluatieresultaten op InterleaveBench tonen aan dat INSET aanzienlijk beter presteert dan state-of-the-art methoden in multi-beeldconsistentie en tekstalignering, waarbij de prestatieverschillen groter worden naarmate de invoercomplexiteit toeneemt. Naast standaardgeneratie breidt onze aanpak inherent uit naar multimodale beeldbewerking, waarbij visuele inhoud als onderdeel van de instructie wordt geïntegreerd om zeer expressieve en creatieve visuele manipulaties mogelijk te maken.

Uniforme multimodale modellen (UMM's) streven ernaar begrip en generatie te integreren in één enkele architectuur. Het is echter nog onvoldoende onderzocht hoe deze twee capaciteiten effectief gecoördineerd kunnen worden voor effectiever en efficiënter redeneren. Bestaande coördinatiebenaderingen voeren ofwel koppeling uit tijdens de training, zonder expliciete coördinatie tijdens de inferentie, of leggen een vast coördinatiepatroon op voor alle invoer. In dit werk tonen we aan dat multimodale taken een aanzienlijke diversiteit in coördinatiepaden vertonen: verschillende invoer geeft de voorkeur aan verschillende coördinatiepaden. Dit suggereert dat het benutten van deze diversiteit essentieel is voor het verbeteren van de prestaties. We stellen UniPath voor, een raamwerk voor het adaptief modelleren en benutten van diversiteit in coördinatiepaden. In plaats van het afdwingen van één enkel coördinatiepatroon, stellen we taakoplossing voor als de selectie en uitvoering van een pad, variërend van directe beantwoording tot tekstuele inferentie, constructie van visuele gedachten en hypothesengebaseerde exploratie. We construeren rolgerichte trajecten om een padgeconditioneerde uitvoerder te trainen en introduceren een lichtgewicht plannermechanisme om invoerafhankelijke padselectie mogelijk te maken. Experimenten tonen aan dat het benutten van diversiteit in coördinatiepaden de prestaties verbetert ten opzichte van vaste coördinatiestrategieën, terwijl het interpreteerbare tussentijdse gedragingen oplevert. De code is beschikbaar op: https://github.com/AIFrontierLab/TorchUMM/tree/main/src/umm/post_training/unipath.

Recente methoden voor herbelichting van enkele afbeeldingen, aangedreven door geavanceerde generatieve modellen, hebben een indrukwekkend fotorealisme bereikt op synthetische benchmarks. Hun effectiviteit in het complexe visuele landschap van de echte wereld blijft echter grotendeels onbevestigd. Er bestaat een kritische leemte, aangezien huidige datasets typisch zijn ontworpen voor meervoudige reconstructie en niet inspelen op de unieke uitdagingen van herbelichting van enkele afbeeldingen. Om deze synthetisch-naar-realiteit-kloof te overbruggen, introduceren we WildRelight, de eerste in-het-wild-dataset die specifiek is gecreëerd voor het evalueren van modellen voor herbelichting van enkele afbeeldingen. WildRelight omvat een diverse verzameling van hoge-resolutie buitenscènes, vastgelegd onder strikt uitgelijnde, in de tijd variërende natuurlijke belichtingen, elk gepaard met een omgevingskaart met hoog dynamisch bereik. Met behulp van deze data stellen we een rigoureuze benchmark op die onthult dat moderne modellen getraind op synthetische data lijden onder ernstige domeinverschuivingen. De strikt uitgelijnde temporele structuur van WildRelight maakt een nieuw paradigma voor domeinaanpassing mogelijk. We demonstreren dit door een natuurkundig gestuurd inferentiekader te introduceren dat de vastgelegde natuurlijke lichtevolutie benut als een zelfgestuurde beperking. Door Diffusion Posterior Sampling (DPS) te integreren met temporele Sampling-Aware Test-Time Adaptation (TTA), tonen we aan dat de dataset het mogelijk maakt dat synthetische modellen zich al doende aanpassen aan real-world-statistieken, waardoor de onhandelbare sim-to-real-uitdaging wordt omgezet in een hanteerbare zelfgestuurde taak. De dataset en code zullen openbaar beschikbaar worden gesteld om robuust, natuurkundig gefundeerd herbelichtingsonderzoek te bevorderen.

Het effectief configureren van schaalbare experimenten met grote taalmodellen (LLM's), variërend van architectuurontwerp tot hyperparameteroptimalisatie en verder, is cruciaal voor de vooruitgang van LLM-onderzoek, omdat slechte configuratiekeuzes aanzienlijke rekenbronnen kunnen verspillen en modellen kunnen beletten hun volledige potentieel te bereiken. Eerdere geautomatiseerde methoden zijn ontworpen voor goedkope omgevingen waar herhaaldelijk proberen en falen haalbaar is, maar schaalbare LLM-experimenten zijn te duur voor dergelijke uitgebreide iteratie. Voor zover wij weten, heeft geen enkel werk de automatisering van dure LLM-experimentconfiguraties aangepakt, waardoor dit probleem arbeidsintensief blijft en afhankelijk is van deskundigenintuïtie. Gemotiveerd door deze leemte stellen we AutoLLMResearch voor, een agentisch raamwerk dat nabootst hoe menselijke onderzoekers generaliseerbare principes leren van experimenten met lage betrouwbaarheid en extrapoleren om efficiënt veelbelovende configuraties in dure LLM-omgevingen te identificeren. De kernuitdaging is hoe een agent kan leren door interactie met een multi-fidelity experimentele omgeving die de structuur van het LLM-configuratielandschap vastlegt. Om dit te bereiken stellen we een systematisch raamwerk voor met twee belangrijke componenten: 1) LLMConfig-Gym, een multi-fidelity omgeving die vier kritieke LLM-experimenttaken omvat, ondersteund door meer dan een miljoen GPU-uren aan verifieerbare experimentresultaten; 2) Een gestructureerde trainingspijplijn die configuratieonderzoek formuleert als een Markov-beslissingsproces met lange horizon en dienovereenkomstig redeneren over cross-fidelity extrapolatie stimuleert. Uitgebreide evaluatie tegen diverse sterke baselines op uitgesloten experimenten toont de effectiviteit, generaliseerbaarheid en interpreteerbaarheid van ons raamwerk aan, wat het potentieel ondersteunt als een praktische en algemene oplossing voor schaalbare automatisering van LLM-experimenten in de echte wereld.

Low-Rank Adaptation (LoRA) herparameteriseert een gewichtsupdate als een product van twee laagrangefactoren, maar de Jacobiaan J_{G} van de generator die de factoren naar de gewichtsmatrix afbeeldt, is rangdefect, waardoor de factorruimte-preconditioner J_{G}^* {F}_t J_{G}, geïnduceerd door een willekeurige {W}-ruimte preconditioner {F}_t, singulier is, en bijgevolg de standaard kettingregel niet uniek kan worden geïnverteerd om een voorbehandelde {W}-ruimterichting terug te leiden naar een factorruimte-update. We plaatsen bestaande LoRA-optimizers in een uniform raamwerk geparameteriseerd door twee keuzes: (i) welke inverteerbare surrogaat voor J_{G}^* {F}_t J_{G} te gebruiken, en (ii) welke {F}_t op {W} te gebruiken. Bestaande methoden beslaan vier families langs deze assen: factorruimte-adaptieve updates, blokdiagonale surrogaten voor J_{G}^* J_{G}, Frobenius-residuen pseudo-inversiemethoden, en Riemann-variëteitconstraint. Binnen deze ontwerpruimte blijft een gradiëntstatistieken-bewuste {F}_t, gekoppeld aan een gesloten-vorm factorruimte-oplossing met {O}((m+n)r) geheugen, onderbelicht. We stellen AdaPreLoRA voor, dat deze leemte vult door de Adafactor-diagonale Kronecker-preconditioner {H}_t op {W} te adopteren en uit de resulterende factorruimte-oplossingsfamilie het element te selecteren dat een {H}_t-gewogen onbalans tussen de twee factorbijdragen minimaliseert; door constructie is de resulterende factorupdate de dichtstbijzijnde LoRA-benadering van de voorbehandelde {W}-ruimterichting onder de {H}_t-gewogen norm. Over GPT-2 (E2E), Mistral-7B en Qwen2-7B (GLUE, ARC, GSM8K), en diffusiemodelpersonalisatie, is AdaPreLoRA concurrerend met of verbetert het ten opzichte van een representatieve set LoRA-optimizers, terwijl het piek GPU-geheugen op het niveau van de LoRA-optimizer houdt.

Recente generatieve modellen kunnen afbeeldingen produceren die zeer realistisch ogen, wat uitdagingen oplevert bij het onderscheiden van echte en door AI gegenereerde afbeeldingen. Bestaande detectoren op basis van voorgetrainde kenmerkextractoren hebben echter de neiging om te veel te vertrouwen op globale semantiek, waardoor de gevoeligheid voor de kritieke micro-defecten wordt beperkt. In dit werk introduceren we Micro-Defects expose Macro-Fakes (MDMF), een lokaal distributiebewust detectieframework dat micro-schaal statistische onregelmatigheden versterkt tot discrepanties op macro-schaal in de distributie. Om te voorkomen dat gelokaliseerde forensische aanwijzingen worden verzwakt door eenvoudige aggregatie, introduceren we een leerbare Patch Forensic Signature die semantische patch-inbeddingen projecteert in een compacte forensische latente ruimte. Vervolgens gebruiken we Maximum Mean Discrepancy (MMD) om distributieverschillen tussen gegenereerde en echte afbeeldingen te kwantificeren. Onze theoretisch onderbouwde analyse toont aan dat patchgewijze modellering aantoonbaar grotere discrepanties oplevert wanneer gelokaliseerde forensische signalen aanwezig zijn in gegenereerde afbeeldingen, waardoor een betrouwbaardere scheiding van echte afbeeldingen mogelijk wordt. Uitgebreide experimenten tonen aan dat MDMF consequent beter presteert dan basisdetectoren op meerdere benchmarks, wat de algemene effectiviteit ervan bevestigt. Projectpagina: https://zbox1005.github.io/MDMF-project/

Multi-agentsystemen (MAS) zijn naar voren gekomen als een veelbelovend paradigma voor het oplossen van complexe taken. Recent werk heeft zich gericht op zelf-evoluerende MAS die automatisch agentcapaciteiten of communicatietopologieën optimaliseren. Bestaande methoden leren echter ofwel een topologie die tijdens de inferentie vast blijft, of passen alleen de topologie of de capaciteit tijdens de inferentie aan. We tonen empirisch en theoretisch aan dat effectieve test-time evolutie vereist dat beide assen gezamenlijk worden aangepast, maar op verschillende tijdschalen: capaciteiten moeten snel worden bijgewerkt om opkomende subtaken aan te kunnen, terwijl de topologie langzamer moet evolueren om de stabiliteit van de coördinatie te behouden. Vervolgens introduceren we TacoMAS, een test-time co-evolutie raamwerk voor dynamische MAS. TacoMAS formuleert MAS-inferentie als een taak van online graafaanpassing, waarbij knopen agenten vertegenwoordigen met rolspecifieke capaciteiten en randen hun communicatietopologie definiëren. Tijdens de inferentie werkt een snelle capaciteitslus de expertise van agenten bij met behulp van traject-level feedback, terwijl een langzame, door meta-LLM aangedreven topologielus geboorte-doodoperaties van agenten op MAS uitvoert, waaronder randbewerking, toevoeging van agenten en verwijdering van agenten. We tonen verder aan dat dit snel-langzaam ontwerp de MAS-evolutie stuurt naar een taakgeconditioneerd stabiel evenwicht. Experimenten op vier benchmarks tonen aan dat TacoMAS bijna 20 multi-agent-baselines overtreft, met een gemiddelde verbetering van 13,3% ten opzichte van de sterkste baseline. De codes zijn beschikbaar op https://github.com/chenxu2-gif/TacoMAS-MultiAgent.

Gezamenlijke named entity recognition (NER) en relatie-extractie (RE) is een fundamentele taak in natuurlijke taalverwerking voor het construeren van kennisgrafen uit ongestructureerde tekst. Hoewel recente benaderingen NER en RE behandelen als afzonderlijke taken die eigen modellen vereisen, introduceren wij GLiNER-Relex, een uniforme architectuur die het GLiNER-framework uitbreidt om zowel entiteitherkenning als relatie-extractie in één model uit te voeren. Onze aanpak maakt gebruik van een gedeelde bidirectionele transformer-encoder om tekst, entiteitstypelabels en relatietypelabels gezamenlijk te representeren, wat zero-shot extractie mogelijk maakt van willekeurige entiteits- en relatietypes die tijdens inferentie worden gespecificeerd. GLiNER-Relex construeert entiteitspaarrepresentaties uit herkende spans en scoort ze tegen relatietype-embeddings met behulp van een speciale relatiescoringmodule. We evalueren ons model op vier standaard benchmarks voor relatie-extractie: CoNLL04, DocRED, FewRel en CrossRE, en tonen concurrerende prestaties aan in vergelijking met zowel gespecialiseerde relatie-extractiemodellen als grote taalmodellen, terwijl de computationele efficiëntie die kenmerkend is voor de GLiNER-familie behouden blijft. Het model wordt uitgebracht als een open-source Python-pakket met een eenvoudige inferentie-API waarmee gebruikers tijdens inferentie willekeurige entiteits- en relatietypelabels kunnen specificeren en in één aanroep zowel entiteiten als relatietripletten kunnen verkrijgen. Alle modellen en code zijn openbaar beschikbaar.

Transformer-gebaseerde 3D-reconstructie heeft zich ontwikkeld tot een krachtig paradigma voor het terugwinnen van geometrie en verschijning uit multi-view observaties, met sterke prestaties onder uitdagende visuele omstandigheden. Naarmate deze modellen opschalen naar grotere backbones en invoer met hogere resolutie, wordt het verbeteren van hun efficiëntie steeds belangrijker voor praktische implementatie. Moderne 3D-transformerpijplijnen staan echter voor twee samenhangende uitdagingen: dichte multi-view aandacht creëert aanzienlijke token-mixing overhead, en uitvoering met lage precisie kan geometriegevoelige representaties destabiliseren en diepte, pose en 3D-consistentie aantasten. Om de eerste uitdaging aan te pakken, stellen we Lite3R voor, een model-agnostisch leraar-student raamwerk dat dichte aandacht vervangt door Sparse Lineaire Aandacht om belangrijke geometrische interacties te behouden terwijl de aandachtskosten worden verlaagd. Om de tweede uitdaging aan te pakken, introduceren we een parameter-efficiënte FP8-bewuste kwantisatiebewuste trainingsstrategie (FP8-aware QAT) met gedeeltelijke aandachtsdestillatie, die de overgrote meerderheid van de voorgetrainde backbone-parameters bevriest en alleen lichte lineaire takprojectielagen traint, waardoor stabiele implementatie met lage precisie mogelijk wordt terwijl voorgetrainde geometrische voorkennis behouden blijft. We evalueren Lite3R verder op twee representatieve backbones, VGGT en DA3-Large, over BlendedMVS en DTU64, en tonen aan dat het de latentie (1,7-2,0x) en het geheugengebruik (1,9-2,4x) aanzienlijk vermindert terwijl het over het algemeen een concurrerende reconstructiekwaliteit behoudt. Deze resultaten tonen aan dat Lite3R een effectieve algoritme-systeem co-design benadering biedt voor praktische transformer-gebaseerde 3D-reconstructie. Code: https://github.com/AIGeeksGroup/Lite3R. Website: https://aigeeksgroup.github.io/Lite3R.

Ondanks de snelle vooruitgang in de ontwikkeling van grote taalmodellen (LLM's), leidt het finetunen ervan voor specifieke taken vaak tot het catastrofaal vergeten van hun algemene, taalgebaseerde redeneervaardigheden. Dit werk onderzoekt en pakt deze uitdaging aan in de context van de Generative Retrieval (GenRetrieval) taak. Tijdens het finetunen voor GenRetrieval vinden we dat dit vergeten snel optreedt en correleert met de afstand tussen de gefinetunede en oorspronkelijke modelparameters. Gezien deze observaties stellen we ORBIT voor, een nieuwe aanpak die actief de afstand tussen gefinetunede en initiële modelgewichten bijhoudt, en een gewichtsmiddelingsstrategie gebruikt om modeldrift tijdens het finetunen voor GenRetrieval te beperken wanneer deze inter-modelafstand een maximale drempel overschrijdt. Onze resultaten tonen aan dat ORBIT aanzienlijke tekst- en retrievalsprestaties behoudt door zowel gangbare baselines voor continu leren als gerelateerde regularisatiemethoden die ook gewichtsmiddeling gebruiken te overtreffen.

Met tools uitgebreide LLM-agenten hebben de neiging om gereedschappen zonder onderscheid aan te roepen, zelfs wanneer het model direct kan antwoorden. Elke onnodige aanroep verspilt API-kosten en latentie, maar geen enkele bestaande benchmark bestudeert systematisch wanneer een toolaanroep daadwerkelijk nodig is. Wij stellen When2Tool voor, een benchmark met 18 omgevingen (15 single-hop, 3 multi-hop) die drie categorieën van toolnoodzaak bestrijken – computationele schaal, kennisgrenzen en uitvoeringsbetrouwbaarheid – elk met gecontroleerde moeilijkheidsniveaus die een duidelijke beslissingsgrens creëren tussen tool-noodzakelijke en tool-onnodige taken. We evalueren twee families van trainingsvrije baselines: alleen prompt (waarbij de prompt wordt gevarieerd om onnodige aanroepen te ontmoedigen) en redeneer-dan-handel (waarbij het model moet nadenken over de toolnoodzaak voordat het handelt). Beide bieden beperkte controle: alleen-prompt onderdrukt noodzakelijke aanroepen naast onnodige, en redeneer-dan-handel brengt nog steeds een onevenredig hoge nauwkeurigheidskost met zich mee voor moeilijke taken. Om te begrijpen waarom deze baselines falen, onderzoeken we de verborgen toestanden van de modellen en vinden we dat toolnoodzaak lineair decodeerbaar is uit de representatie vóór generatie, met een AUROC van 0,89–0,96 over zes modellen, wat aanzienlijk beter is dan de eigen verwoorde redenering van het model. Dit onthult dat modellen al weten wanneer tools nodig zijn, maar er niet naar handelen tijdens het genereren. Voortbouwend op deze bevinding stellen we Probe&Prefill voor, die een lichtgewicht lineaire probe gebruikt om het signaal uit de verborgen toestand te lezen en de respons van het model vooraf invult met een sturende zin. Bij alle geteste modellen vermindert Probe&Prefill het aantal toolaanroepen met 48% met slechts 1,7% nauwkeurigheidsverlies, terwijl de beste baseline bij vergelijkbare nauwkeurigheid slechts 6% van de toolaanroepen vermindert, of een vergelijkbare vermindering van toolaanroepen bereikt maar een 5 keer hoger nauwkeurigheidsverlies oplevert. Onze code is beschikbaar op https://github.com/Trustworthy-ML-Lab/when2tool.

Grote Taalmodellen verbeteren vaak de nauwkeurigheid bij redeneertaken door meerdere Chain-of-Thought (CoT)-traces te samplen en deze te aggregeren met meerderheidsstemming (MV), een testtijdtechniek die zelfconsistentie wordt genoemd. Wanneer we een CoT halverwege afkappen en de rest regenereren, zien we dat traces met correcte antwoorden hun oorspronkelijke antwoord vaker reproduceren dan traces met foute antwoorden. We gebruiken dit verschil als een betrouwbaarheidssignaal, prefixconsistentie, dat elk kandidaatantwoord weegt op basis van hoe vaak het opnieuw verschijnt onder regeneratie. Het vereist geen toegang tot token-logkansen of zelfbeoordelingsprompts. Over vijf redeneermodellen en vier wiskunde- en wetenschapsbenchmarks is prefixconsistentie in de meeste omgevingen de beste voorspeller van correctheid, en het herwegen van stemmen ermee bereikt de standaard MV-plateau-nauwkeurigheid bij tot 21x minder tokens (mediaan 4,6x). Onze code is beschikbaar op https://github.com/naoto-iwase/prefix-consistency.

Visie-Taalmodellen (VLMs) zijn snel vooruitgegaan in multimodale perceptie en taalbegrip, maar het blijft onduidelijk of ze taal op betrouwbare wijze kunnen gronden in ruimtelijk coherente, plausibel uitvoerbare acties in 3D-digitale omgevingen. We introduceren SleepWalk, een benchmark voor het evalueren van instructie-gegronde trajectvoorspelling in enkel-scène 3D-werelden die zijn gegenereerd uit tekstuele scènebeschrijvingen en gefilterd op navigeerbaarheid. In tegenstelling tot eerdere navigatiebenchmarks die gericht zijn op langeafstandsverkenning door kamers heen, richt SleepWalk zich op gelokaliseerd, interactiegericht belichaamd redeneren: gegeven gerenderde visuele waarnemingen en een natuurlijke-taal instructie, moet een model een traject voorspellen dat de scènegeometrie respecteert, botsingen vermijdt en eindigt op een actie-compatibele locatie. De benchmark omvat diverse binnen- en buitenomgevingen en organiseert taken in drie niveaus van ruimtelijke en temporele moeilijkheidsgraad, wat een gedetailleerde analyse van gronding onder toenemende compositionele complexiteit mogelijk maakt. Met behulp van een gestandaardiseerd puntgewijs op een beoordelaar gebaseerd evaluatieprotocol evalueren we drie frontier-VLMs op 2.472 samengestelde 3D-omgevingen met negen instructies per scène. Resultaten onthullen systematische fouten in gegronde ruimtelijke redenering, vooral onder occlusie, interactiebeperkingen en meerstapsinstructies: de prestaties dalen naarmate het moeilijkheidsniveau van de taken toeneemt. Over het algemeen kunnen huidige VLMs enigszins trajecten produceren die tegelijkertijd ruimtelijk coherent, plausibel uitvoerbaar en afgestemd op de beoogde acties zijn. Door fouten bloot te leggen in een gecontroleerde maar schaalbare omgeving, biedt SleepWalk een kritische benchmark voor het bevorderen van gegronde multimodale redenering, belichaamde planning, visie-taalnavigatie en actiebekwame agenten in 3D-omgevingen.

Grote taalmodellen (LLM's) transformeren de maatschappij en drijven toepassingen aan, van smartphone-assistenten tot autonoom rijden. Toch kunnen alleen cloudgebaseerde LLM-diensten niet voldoen aan een groeiende klasse van toepassingen, waaronder die welke werken onder intermitterende connectiviteit, subseconde latentiebudgetten, datarestricties op basis van locatie of aanhoudende hoog-volume inferentie. Implementatie op het apparaat wordt op zijn beurt beperkt door beperkte rekenkracht en geheugen. Geen enkel eindpunt kan over dit hele spectrum een hoge kwaliteit van dienstverlening bieden. Dit artikel richt zich op collaboratieve intelligentie, een paradigma waarin meerdere onafhankelijke LLM's, verdeeld over apparaat- en cloud-eindpunten, op taakniveau samenwerken via natuurlijke taal of gestructureerde berichten. Een dergelijke samenwerking streeft naar superieure responskwaliteit onder heterogene resourcebeperkingen op het gebied van rekenkracht, geheugen, communicatie en kosten over netwerkniveaus heen. We presenteren collaboratieve inferentie langs twee complementaire en samenstelbare dimensies: verticale apparaat-cloud samenwerking en horizontale multi-agent samenwerking, die in de praktijk kunnen worden gecombineerd tot hybride topologieën. Vervolgens onderzoeken we het leren samenwerken, waarbij we ingaan op het trainen van routeringsbeleid en het ontwikkelen van samenwerkingsvaardigheden tussen LLM's. Tot slot identificeren we open onderzoeksuitdagingen, waaronder schalen onder resourceheterogeniteit en betrouwbare collaboratieve intelligentie.

Identiteitsbehoudende tekst-naar-video-generatie (IPT2V) stelt gebruikers in staat om diverse en fantasierijke video's te produceren met een consistente menselijke gezichtsidentiteit. Ondanks recente vooruitgang lijden bestaande methoden vaak aan aanzienlijke identiteitsvervorming bij grote variaties in gezichtshouding of gezichtsocclusies. In dit artikel stellen we FaithfulFaces voor, een pose-getrouw leerframework voor het behoud van gezichtsidentiteit om IPT2V te verbeteren in complexe dynamische scènes. De sleutel van FaithfulFaces is een pose-gedeelde identiteitsaligneerder die gezichtshoudingen over verschillende aanzichten verfijnt en uitlijnt via een pose-gedeeld woordenboek en een beperking voor posevariatie-identiteitsinvariantie. Door invoer van één aanzicht af te beelden op een wereldwijde representatie van gezichtshoudingen met expliciete Euler-hoekinbeddingen, biedt FaithfulFaces een pose-getrouwe gezichtsprior die generatieve fundamenten stuurt naar robuuste identiteitsbehoudende generatie. In het bijzonder ontwikkelen we een gespecialiseerde pijplijn om een hoogwaardige videodataset samen te stellen met aanzienlijke diversiteit in gezichtshoudingen. Uitgebreide experimenten tonen aan dat FaithfulFaces state-of-the-art prestaties levert, met superieure identiteitsconsistentie en structurele helderheid, zelfs bij poseveranderingen en occlusies.

Het reconstrueren van de absolute 3D-houding en -vorm van de handen vanuit het perspectief van de gebruiker met behulp van een enkele hoofdmontagecamera is cruciaal voor praktische egocentrische interactie in AR/VR, telepresence en handgerichte manipulatie taken, waarbij sensoren compact en onopvallend moeten blijven. Hoewel monoculaire RGB-methoden vooruitgang hebben geboekt, worden ze beperkt door diepte-schaalambiguïteit en hebben ze moeite om te generaliseren over de uiteenlopende optische configuraties van hoofdmontageapparaten. Hierdoor vereisen modellen doorgaans uitgebreide training op apparaatspecifieke datasets, die kostbaar en arbeidsintensief zijn om te verkrijgen. Dit artikel pakt deze uitdagingen aan door EgoForce te introduceren, een moniculair 3D-handreconstructieframework dat robuuste, absolute 3D-handhoudingen en hun positie vanuit het perspectief van de gebruiker (cameraruimte) herstelt. EgoForce werkt met vissenoog-, perspectivische en vervormde groothoek-cameramodellen met behulp van één enkel verenigd netwerk. Onze aanpak combineert een differentieerbare onderarmrepresentatie die de handhouding stabiliseert, een verenigde arm-handtransformator die zowel hand- als onderarmgeometrie voorspelt vanuit één enkel egocentrisch beeld, waardoor diepte-schaalambiguïteit wordt verminderd, en een gesloten-vormoplosser in stralingsruimte die absolute 3D-houdingsherstel mogelijk maakt voor verschillende hoofdmontagecameramodellen. Experimenten op drie egocentrische benchmarks tonen aan dat EgoForce de modernste 3D-nauwkeurigheid bereikt, met een reductie van de MPJPE in cameraruimte tot 28% op de HOT3D-dataset in vergelijking met eerdere methoden, en consistente prestaties levert over cameraconfiguraties heen. Voor meer details, bezoek de projectpagina op https://dfki-av.github.io/EgoForce.

Grote taalmodellen kunnen nu steeds langere invoer verwerken, maar hun vermogen om informatie die verspreid is over lange contexten effectief te gebruiken blijft beperkt. We schrijven deze kloof toe aan hoe het aandachtsbudget wordt besteed tijdens begeleid finetunen (SFT) op lange reeksen: positionele vooroordelen en aandachtsafgronden zorgen ervoor dat het model het grootste deel van zijn aandacht besteedt aan positioneel bevoorrechte tokens in plaats van semantisch relevante inhoud. Deze verdunning van de aandacht tijdens de training (het uithongeren van inhoudstokens in de aandachtsverdeling) verzwakt het gradientsignaal, waardoor het vermogen van het model om robuuste lange-contextcapaciteiten te leren wordt beperkt. We introduceren FocuSFT, een tweeledig optimalisatiekader dat dit probleem tijdens de training aanpakt. Een binnenlus past lichte snelgewichtparameters aan op de trainingscontext om een parametrisch geheugen te vormen dat de aandacht concentreert op relevante inhoud, en de buitenlus voert SFT uit op basis van deze verscherpte representatie. Beide lussen passen bidirectionele aandacht toe over contexttokens, terwijl causale masking voor antwoorden behouden blijft, waardoor de causale asymmetrie die aanleiding geeft tot aandachtsafgronden wordt verminderd en het gedrag van binnen- en buitenlus wordt afgestemd. Op BABILong verbetert FocuSFT de nauwkeurigheid met tot +14 procentpunten over contextlengtes van 4K tot 32K; op RULER verhoogt het de CWE-aggregatie van 72,9% naar 81,1% bij 16K; en op GPQA met agentisch toolgebruik levert het een relatieve winst van 24% in pass@1. Aandachtsanalyse toont aan dat FocuSFT de aandachtsafgrondmassa met 529 keer vermindert en de contextbetrokkenheid tijdens de training verdrievoudigt. Code: https://github.com/JarvisPei/FocuSFT

Grote taalmodellen (LLM) als agenten kampen met een structurele spanning: cloud-agenten bieden sterke redeneervaardigheden maar stellen gebruikersgegevens bloot, terwijl agenten op het apparaat de privacy waarborgen ten koste van de algehele capaciteit. Bestaande apparaat-cloudontwerpen behandelen deze grens als een rekenkundige splitsing in plaats van een vertrouwensgrens die geschikt is voor agentische workloads, en bestaande sanitizers dwingen een keuze af tussen beleidsflexibiliteit en de structurele getrouwheid die toolaanroepen vereisen. In dit werk ontwikkelen wij PAAC, een privacybewust agentisch raamwerk dat de planner-executor-decompositie afstemt op de apparaat-cloudgrens, zodat rolspecialisatie zelf het privacymechanisme wordt. De cloud-agent redeneert over getypeerde plaatshoudertokens die de redeneerrol van elke gevoelige waarde behouden, terwijl de inhoud wordt weggelaten; de agent op het apparaat identificeert gevoelige fragmenten en destilleert het uitvoeringsresultaat van elke stap tot compacte kernbevindingen. Sanering beperkt het LLM op het apparaat tot het voorstellen van welke fragmenten te maskeren, terwijl een deterministisch register alle substitutie en omkering uitvoert, waardoor acties direct uitvoerbaar blijven op het apparaat. Op drie agentische benchmarks onder strikte privacy-instellingen domineert PAAC de Pareto-grens van privacy en nauwkeurigheid, met een verbetering van de gemiddelde nauwkeurigheid van 15-36% en een vermindering van de gemiddelde lekkage met 2-6 keer ten opzichte van state-of-the-art apparaat-cloudbaselines, met de grootste marges op privacydoelen buiten vaste entiteitstaxonomieën. Wij vinden consistente verbeteringen op 17 extra benchmarks uit 10 domeinen, waaronder wiskunde, wetenschap en financiën.

De animatie van menselijke beelden heeft aanzienlijke vooruitgang geboekt, maar het genereren van hoogwaardige handbewegingen blijft een hardnekkige uitdaging vanwege hun hoge vrijheidsgraden en bewegingscomplexiteit. Hoewel versterkend leren op basis van menselijke feedback, met name directe preferentieoptimalisatie, een mogelijke oplossing biedt, vereist dit de constructie van strikte preferentieparen. Het samenstellen van dergelijke paren voor dynamische handregio's is echter buitengewoon kostbaar en vaak onpraktisch vanwege inconsistenties op frameniveau. In dit artikel stellen we Impliciete Preferentie Afstemming (IPA) voor, een data-efficiënt post-trainingsraamwerk dat de noodzaak van gepaarde preferentiegegevens elimineert. Theoretisch gefundeerd in impliciete beloningsmaximalisatie stemt IPA het model af door de waarschijnlijkheid van zelf gegenereerde hoogwaardige samples te maximaliseren, terwijl afwijkingen van de voorgetrainde prior worden bestraft. Verder introduceren we een Handbewuste Lokale Optimalisatiemechanisme om het afstemmingsproces expliciet naar handregio's te sturen. Experimenten tonen aan dat onze methode effectieve preferentieoptimalisatie bereikt om de kwaliteit van handgeneratie te verbeteren, terwijl de drempel voor het construeren van preferentiegegevens aanzienlijk wordt verlaagd. De code is beschikbaar op https://github.com/mdswyz/IPA.

Hoe onthouden transformator-taalmodel feitelijke associaties? Een gangbare opvatting beschouwt interne gewichtsmatrices als associatieve geheugens over paren van embeddings, wat vereist dat het aantal parameters lineair schaalt met het aantal feiten. We ontwikkelen een theoretische en empirische beschrijving van een alternatieve, geometrische vorm van memorisatie waarin aangeleerde embeddings direct relationele structuur coderen, en de MLP een kwalitatief andere rol speelt. In een gecontroleerde setting waarin een transformator met één laag willekeurige bijecties van subjecten naar een gedeelde attribuutset moet onthouden, bewijzen we dat een logaritmische embeddimensie volstaat: subjectembeddings coderen lineaire superposities van hun bijbehorende attribuutvectoren, en een kleine MLP fungeert als een relatie-afhankelijke selector die het relevante attribuut extraheert via ReLU-poortwerking, en niet als een associatieve sleutel-waarde-afbeelding. We breiden deze resultaten uit naar de multi-hop-setting – ketens van relationele queries zoals "Wie is de moeder van de vrouw van x?" – waarbij we constructies bieden met en zonder chain-of-thought die een aantoonbare capaciteit-diepte-afweging vertonen, aangevuld met een corresponderende informatietheoretische ondergrens. Empirisch ontdekt gradiëntdaling oplossingen met precies de voorspelde structuur. Eenmaal getraind, draagt de MLP zero-shot over naar volledig nieuwe bijecties wanneer subjectembeddings op de juiste manier worden geherinitialiseerd, wat onthult dat het een generiek selectiemechanisme heeft geleerd in plaats van een specifieke set feiten te hebben gememoriseerd.

Wij presenteren Urban-ImageNet, een grootschalige multimodale dataset en evaluatiebenchmark voor de perceptie van stedelijke ruimtes op basis van door gebruikers gegenereerde socialmediabeelden. Het corpus bevat meer dan 2 miljoen openbare socialmediafoto's en bijbehorende tekstuele berichten, verzameld van Weibo op 61 stedelijke locaties in 24 Chinese steden tussen 2019 en 2025, met gecontroleerde benchmark-subsets op schalen van 1K, 10K en 100K, en een volledig 2M-corpus voor grootschalige training en evaluatie. Urban-ImageNet is georganiseerd volgens HUSIC, een hiërarchisch classificatiekader voor stedelijke ruimtebeelden dat een taxonomie van 10 klassen definieert, gebaseerd op stedentheorie. De taxonomie is ontworpen om onderscheid te maken tussen geactiveerde en niet-geactiveerde openbare ruimtes, exterieure en interieure stedelijke omgevingen, verblijfsruimtes, consumptie-inhoud, portretten en niet-ruimtelijke socialmediacontent. In plaats van stedelijke beelden te behandelen als generieke scènegegevens, evalueert Urban-ImageNet of machineperceptiemodellen ruimtelijke, sociale en functionele onderscheidingen kunnen vastleggen die centraal staan in stedelijke studies. De benchmark ondersteunt drie taken binnen één gestandaardiseerde bibliotheek: (T1) semantische classificatie van stedelijke scènes, (T2) cross-modale beeld-tekstretrieval, en (T3) instance-segmentatie. Onze experimenten evalueren representatieve visie-, visie-taal- en segmentatiemodellen, en tonen sterke prestaties aan op het gebied van gesuperviseerde scèneclassificatie, maar uitdagender gedrag bij cross-modale retrieval en instance-gebaseerde segmentatie van stedelijke objecten. Een multischaalstudie onderzoekt verder hoe modelprestaties veranderen naarmate de gebalanceerde trainingsdata toenemen van 1K, 10K tot 100K afbeeldingen. Urban-ImageNet biedt een uniforme, theoretisch onderbouwde, multi-stedelijke benchmark voor het evalueren van hoe AI-systemen hedendaagse stedelijke ruimtes waarnemen en interpreteren over modaliteiten, schalen en taakformuleringen heen. De dataset en benchmark zijn beschikbaar op: huggingface.co/datasets/Yiwei-Ou/Urban-ImageNet en github.com/yiasun/dataset-2.

Grote taalmodellen (LLM's) worden steeds vaker ingezet voor langetermijntaken in gedeeltelijk waarneembare omgevingen, waar ze moeten handelen terwijl ze een complexe omgevingstoestand over vele stappen afleiden en volgen. Dit leidt tot twee uitdagingen: gedeeltelijke waarneembaarheid vereist het handhaven van onzekerheid over niet-waargenomen wereldkenmerken, en een lange interactiegeschiedenis zorgt ervoor dat de context onbegrensd groeit, waardoor taakrelevante informatie wordt verdund. Een principiële oplossing voor beide uitdagingen is een geloofstoestand: een posterieure verdeling over omgevingstoestanden gegeven eerdere waarnemingen en acties, die de geschiedenis compact codeert voor besluitvorming, ongeacht de epioedelengte. Bij LLM-agenten maakt het open karakter van tekst het echter onduidelijk hoe een dergelijke verdeling moet worden gerepresenteerd. Daarom introduceren we Agent-BRACE: Agent Belief State Representation via Abstraction and Confidence Estimation, een methode die een LLM-agent ontkoppelt in een geloofstoestandmodel en een beleidsmodel, die gezamenlijk worden geoptimaliseerd via reinforcement learning. Het geloofstoestandmodel produceert een gestructureerde benadering van de geloofsverdeling: een reeks atomaire natuurlijke taalclaims over de omgeving, elk geannoteerd met een ordinaal verbaal zekerheidslabel variërend van zeker tot onbekend. Het beleidsmodel baseert zich op deze compacte, gestructureerde benaderende geloofstoestand in plaats van de volledige geschiedenis, en leert acties te selecteren onder expliciete onzekerheid. In langetermijn-, gedeeltelijk waarneembare belichaamde taal omgevingen behaalt Agent-BRACE een gemiddelde absolute verbetering van +14,5% (Qwen2.5-3B-Instruct) en +5,3% (Qwen3-4B-Instruct), en presteert het beter dan sterke RL-baselines terwijl het een nagenoeg constant contextvenster handhaaft dat onafhankelijk is van de epioedelengte. Verdere analyse laat zien dat de geleerde geloofstoestand gedurende een epioede steeds beter gekalibreerd raakt naarmate bewijsmateriaal zich ophoopt.

Langdurig gespreksgeheugen vereist het terughalen van bewijsmateriaal dat verspreid is over meerdere sessies, maar een eenmalige ophaling faalt bij temporele en multi-hop vragen. Bestaande iteratieve methoden verfijnen query's via gegenereerde inhoud of documentniveausignalen, maar geen enkele diagnosticeert expliciet de evidentiekloof, namelijk wat er ontbreekt in de verzamelde ophaalset, waardoor queryverfijning ongericht blijft. We presenteren EviMem, dat IRIS (Iterative Retrieval via Insufficiency Signals) combineert, een gesloten-luskader dat evidentiekloof detecteert via toereikendheidsevaluatie, diagnosticeert wat er ontbreekt en gerichte queryverfijning aanstuurt, met LaceMem (Layered Architecture for Conversational Evidence Memory), een grof-naar-fijn geheugenhiërarchie die fijnmazige kloofdiagnose ondersteunt. Op LoCoMo verbetert EviMem de Beoordelaarsnauwkeurigheid ten opzichte van MIRIX bij temporele (73,3% naar 81,6%) en multi-hop (65,9% naar 85,2%) vragen met een 4,5 keer lagere latentie. Code: https://github.com/AIGeeksGroup/EviMem.