Dagelijkse Papers

Reinforcement learning (RL) heeft toenemende aandacht gekregen in de post-training van grote taalmodellen (LLM's), maar RL-training blijft kwetsbaar en kan instabiliteit of instorting vertonen. Een cruciale oorzaak is de mismatch tussen training en inferentie: LLM's gebruiken afzonderlijke inferentie- en trainingsengines voor generatie-efficiëntie en trainingsprecisie, wat in de praktijk leidt tot inconsistente kansen voor dezelfde trajecten aan de trainings- en inferentiekant, zelfs bij gesynchroniseerde modelparameters. Dit veroorzaakt van nature een speciaal type off-policyness dat voortdurend aanwezig is en de training verstoort. Eerdere werken hebben diverse pogingen ondernomen om de off-policyness aan te pakken om het trainingsbeleid onder de mismatch te stabiliseren. In dit artikel wijzen we op de objective-misalignment die door bestaande werken wordt genegeerd: een effectieve update van het beleid in de trainingsengine garandeert niet noodzakelijk de verbetering van het inferentiebeleid, d.w.z. het beleid dat wordt gebruikt in de implementatie. Daartoe stellen we een nieuw beleidsoptimalisatiedoel voor voor LLM-RL, genaamd Monotonic Inference Policy Improvement (MIPI). Volgens dit principe introduceren we Monotonic Inference Policy Update (MIPU), een tweestaps LLM-RL-framework dat sampler-gerefereerde kandidaat-updates construeert en selectief gesynchroniseerde kandidaten accepteert met behulp van een inferentie-kloofproxy. Experimenten uitgevoerd op twee modelschalen onder hoge mismatch tonen aan dat MIPU de gemiddelde redeneerprestatie en trainingsstabiliteit verbetert.

Belichaamde AI-modellen omvatten nu visie-taal-actie (VLA) modellen en wereld-actie modellen (WAMs), maar de praktische implementatie blijft gefragmenteerd over modelspecifieke Python-stacks, backend-aannames en robot-side lijmcode, vooral op heterogene edge-apparaten. Bestaande inferentie-runtimes zijn voornamelijk ontworpen voor request-response verwerking en voldoen daarom niet aan het runtime-contract van belichaamde implementatie: multi-rate uitvoering in gesloten-lusregeling, latentie-eerst batch-1 inferentie op heterogene hardware, en uitbreidbare belichaamde interfaces voorbij vaste token-I/O. We presenteren Embodied.cpp, een draagbare C++ inferentie-runtime voor belichaamde modellen. Gebaseerd op een architectuuranalyse van representatieve VLA-modellen en WAMs, vat Embodied.cpp een gedeeld uitvoeringspad samen en organiseert dit in vijf lagen: invoeradapters, sequentiebouwers, backbone-uitvoering, head-plugins en implementatie-adapters. De runtime biedt modulaire multi-rate uitvoering, latentie-eerst gefuseerde inferentie en uitbreidbare ondersteuning voor operatoren en I/O, waardoor implementatie op heterogene apparaten, robots en simulatoren mogelijk is via één backend-abstractie. We evalueren Embodied.cpp op twee VLA-modellen, HY-VLA en pi0.5, en op een voorlopige WAM-benchmark met een LingBot-VA Transformer-blok. De VLA-implementaties behalen succesvolle gesloten-lusuitvoering met respectievelijk 100,0% en 91,0% taaksuccespercentages. De WAM-benchmark reduceert het blokgeheugen van 312,2 MiB tot 88,1 MiB. Deze resultaten tonen aan dat Embodied.cpp de implementatie-efficiëntie verbetert terwijl hoge nauwkeurigheid behouden blijft over diverse belichaamde modelarchitecturen.

Difusietransformatoren (DiTs) bereiken de state-of-the-art op het gebied van beeld- en videogeneratie, maar hun meerstapsampling en het toenemende aantal parameters maken inferentie duur. Post-training kwantisering (PTQ) is de voor de hand liggende remedie, maar DiT-activaties verschuiven over tijdstappen, prompts en sturingsvertakkingen, waardoor eerdere methoden gedwongen worden om kalibratiegegevens opnieuw aan te passen voor elk nieuw controlepunt of elke modaliteit. We presenteren OrbitQuant, een data-agnostische gewichten-activatiekwantisator die bereikschatting omzeilt door te kwantiseren in een genormaliseerde, geroteerde basis. In deze basis concentreert een gerandomiseerde, gepermuteerde blok-Hadamard-rotatie (RPBH) elke coördinaat rond één vaste, bekende marginale verdeling, ongeacht de invoer, zodat één enkele Lloyd-Max-codeboek alle tijdstappen, prompts en lagen van een gegeven invoerdimensie bedient. We breiden dezelfde kwantisator offline uit naar gewichtsrijen, waarbij we de rotatie absorberen in de gewichten, zodat deze binnen elke lineaire laag wordt opgeheven en alleen een voorwaartse rotatie op de activaties tijdens de uitvoering overblijft. Hetzelfde recept wordt overgedragen van beeld naar video zonder per-modaliteit afstemmen. Over FLUX.1, Z-Image-Turbo, Wan 2.1 en CogVideoX heen zet het de stand der techniek voor PTQ bij verschillende lage-bit-instellingen. Het duwt PTQ van beeld-difusietransformatoren ook naar W2A4 met bruikbare generatiekwaliteit.

Visie-Taal-Actie (VTA)-fundamentmodellen hebben recentelijk sterke vooruitgang geboekt in belichaamde intelligentie. Om de frequentie van beleidsaanroepen te verlagen en tegelijkertijd temporele coherentie te behouden, hanteren de meeste generatieve beleidsvormen een actiechunkmechanisme, waarbij meerdere toekomstige acties op een open-lusmanier worden uitgevoerd binnen een vaste actiehorizon. Dit 'voorspel-en-voer-blindelings-uit'-paradigma offert echter de gesloten-lusreactiviteit op: bij contactrijke fysieke interacties kunnen zelfs kleine lokale verstoringen snel escaleren binnen de blinde vlek van de open lus, wat leidt tot cumulatieve fouten en uiteindelijk taakfalen. Om deze beperking aan te pakken, stellen we VLA-Corrector voor, een lichtgewicht corrigerend inferentiekader voor actiechunk-VTA-beleid. Zonder de gewichten van het onderliggende beleid aan te passen, introduceert VLA-Corrector een lichtgewicht Latente-ruimte Visie Monitor (LVM) die continu de voorspelde en werkelijke visuele kenmerkontwikkeling vergelijkt, waardoor online detectie van afwijkingen in de visuele dynamiek mogelijk wordt. Zodra een aanhoudende afwijking wordt gedetecteerd, activeert het systeem een truncatiegebeurtenis, verwijdert de resterende verouderde acties en roept corrigerende herplanning op via Online Gradient Guidance (OGG). Het detecteer-en-corrigeer-mechanisme van VLA-Corrector leidt van nature tot een gebeurtenisgestuurde adaptieve actiehorizon: het behoudt lange-horizonuitvoering zolang de huidige chunk betrouwbaar blijft, en roept korte-horizon corrigerende herplanning op wanneer de uitvoering begint af te wijken. Op deze manier vermindert VLA-Corrector de afweging die wordt opgelegd door statische horizons tussen uitvoeringsrobuustheid en beleidsaanroepfrequentie. Het kan worden geïntegreerd in verschillende VTA-modellen zonder verdere hertraining van de VTA-backbone, waardoor cumulatieve fouten worden onderbroken terwijl veel van de efficiëntievoordelen van actiechunking behouden blijven en de robuustheid in lange-horizon, contactrijke robotmanipulatietaken aanzienlijk wordt verbeterd.

Het bouwen van performante visie-taalmodelen (VLMs) vereist het zorgvuldig samenstellen van grootschalige trainingsdatasets, maar de gemeenschap mist systematische benchmarks om dergelijke curatiestrategieën te evalueren. Wij introduceren DataComp voor VLMs (DCVLM), een benchmark voor gecontroleerde data-gerichte experimenten om VLM-training te verbeteren. Als onderdeel van DCVLM verzamelen we 160 datasets die vier datatypes omvatten – beeld-onderschriftparen, multimodale afgewisselde documenten, alleen-tekst, en instructie-afstemmingsgegevens – tot een corpus van 6T multimodale tokens. DCVLM stelt deelnemers in staat om curatiestrategieën te testen (filteren, mengen, formatteren, bemonsteren) over modellen van 1B-8B en tokenbudgetten van 6.25B-200B. De modellen worden vervolgens geëvalueerd op een zorgvuldig geselecteerde reeks van maximaal 52 downstream benchmarks uit 9 domeinen. Wij voeren uitgebreide experimenten uit op DCVLM en ontdekken dat datamenging, niet filtering, de sleutel is tot een hoogwaardige trainingsdataset: instructie-rijke mengsels schalen beter dan onderschrift-rijke, waarbij de voordelen toenemen op grotere schaal. De resulterende dataset, DCVLM-Baseline, maakt het mogelijk om een 8B VLM te trainen tot 63,6% nauwkeurigheid op onze 33-taak kernsuite met 200B trainings tokens. Vergeleken met FineVision, de state-of-the-art open VLM-trainingsdataset, is dit een verbetering van +5,4 procentpunt. DCVLM en alle bijbehorende artefacten zullen openbaar beschikbaar worden gesteld op https://www.datacomp.ai/dcvlm/.

De snelle groei van open-source AI-infrastructuur—van model-serving-engines en agentplatformen tot het Model Context Protocol (MCP)-ecosysteem en de taalmodellen zelf—heeft de beveiligingstools die beschikbaar zijn om deze te verdedigen, achterhaald. We presenteren AI-Infra-Guard, een open-source framework dat AI red teaming organiseert rond één enkele observatie: het aanvalsoppervlak van een AI-agent is gelaagd over meerdere lagen (infrastructuur, protocol/tool, agentgedrag en model), en geen enkel detectieparadigma past op alle lagen. Het framework koppelt daarom een paradigma aan elke laag: van deterministische regelmatiging over 75+ AI-componenten en 1.400+ kwetsbaarheidsregels, via LLM-gestuurde agentische auditing van MCP-servers en agent-vaardigheidspakketten en multi-turn black-box agent red teaming, tot een jailbreak-kapstok met 26+ aanvalsoperatoren over zestien datasets. Voor zover wij weten is dit het enige open-source framework dat al deze aspecten omvat, inclusief toeleveringsketenauditing van de agentvaardigheden die AI-agenten steeds vaker uitbreiden. We brengen AI-Infra-Guard uit als open source, zodat laag-paradigma-matching kan dienen als een praktische basis voor agentbeveiliging en als een gedeelde fundering waar de community op kan voortbouwen.

LLM's worden steeds vaker gebruikt om onderzoeksideeën te genereren, maar bestaande evaluaties beoordelen individuele ideeën vooral op originaliteit, haalbaarheid of de voorkeur van experts. Wij stellen een andere vraag: hoe ver liggen huidige door LLM gegenereerde ideeën af van menselijke onderzoekers? Om deze kloof te karakteriseren, bouwen we een grootschalig evaluatiekader voor ideevorming op basis van hoogwaardige menselijke onderzoeksartikelen. Voor elk artikel reconstrueren we een kleine set nauw verwante eerdere werken die waarschijnlijk de kern van het idee inspireerden. Vervolgens wordt LLM's gevraagd een nieuw idee te genereren op basis van de titels en samenvattingen van die artikelen. We introduceren een tweedelige onderzoekssmaaktaxonomie om elk idee te profileren op basis van het kansenpatroon en het onderzoeksparadigma, en gebruiken deze om de divergentie tussen menselijke en LLM-ideeën te kwantificeren. Over sets van ideeën gegenereerd door verschillende LLM's heen zien we een consistente distributiekloof: LLM-ideeën zijn onevenredig geconcentreerd rond brugachtige kansen en synthesemethoden, terwijl de referentieverdeling van menselijke artikelen breder verspreid is over manieren om hiaten te framen en bijdragen te construeren. Dit resultaat suggereert dat sterke LLM's een reeks redelijke ideeën kunnen produceren, maar dat die reeks smaller blijft dan, en systematisch verschoven is ten opzichte van, de menselijke onderzoekssmaak.

Nu gegronde QA-systemen steeds vaker worden ingezet in AI-assistenten, is het nauwkeurig toeschrijven van gegenereerde antwoorden aan bewijs van cruciaal belang voor gebruikersvertrouwen en modelveiligheid. Hoewel unimodale attributies grondig zijn onderzocht, blijft de multimodale setting relatief onderbelicht. Daarom introduceren we MultAttnAttrib, een training-vrije attributiegeneratiemethode die gebruikmaakt van de prefill-passage van een model, geselecteerde aandachtskoppen en gekalibreerde drempels om bronbewijs in een document te lokaliseren. Om basisresultaten voor de methode vast te stellen, introduceren we MultAttrEval, een complementaire benchmarkdataset geannoteerd met fijnmazige, grondwaarheid-attributies voor antwoordcomponenten die zijn gebaseerd op multimodale brondocumenten. Naar ons weten is dit de eerste evaluatiedataset die specifiek is ontworpen voor multimodale attributie in lange documenten. Experimentele resultaten tonen aan dat MultAttnAttrib consequent beter presteert dan een verscheidenheid aan attributiegeneratiemethoden, waaronder verschillende sterke prompt-gebaseerde benaderingen, en overeenkomt met de nieuwste grensverleggende modellen zoals GPT 5.4. Onze methode verbetert niet alleen de attributienauwkeurigheid aanzienlijk voor zowel unimodale als multimodale attributietypen, maar produceert ook attributies met een inferentielatentie tot een zevende van die van prompting op hetzelfde basismodel.

Wolkenverwijdering (CR) is essentieel voor optische teledetectie, omdat het een voorwaarde vormt voor betrouwbare stroomafwaartse interpretatie, zoals semantische segmentatie en veranderingsdetectie. Bestaande CR-methoden leggen echter vaak de nadruk op visueel realisme, terwijl ze de impact op daaropvolgende analytische taken over het hoofd zien, wat leidt tot semantische drift en verminderde stroomafwaartse prestaties. Om dit probleem aan te pakken, stellen we Geo-Verankerde Wolkenverwijdering (GACR) voor, een uniform raamwerk dat zowel getrouwe reconstructie als robuuste interpreteerbaarheid waarborgt. De kern van GACR bestaat uit Observatie-Verankerde Residuele Stroom (OAR-Flow), die CR herformuleert als een fysisch gefundeerd residueel inversieproces. Door het generatieve traject te verankeren aan de bewolkte observatie in plaats van aan pure ruis, maakt OAR-Flow snelle, stabiele en getrouwe reconstructie mogelijk. Om de semantische structuren die essentieel zijn voor stroomafwaartse interpretatie verder te behouden, integreert GACR Geo-Contextuele Prioriteitsuitlijning (GCPA) om de reconstructie te beperken tot een semantisch manifold dat wordt geïnduceerd door een Visie Fundamenteel Model (VFM). Hierdoor handhaaft GACR strikt de ruimtelijk-semantische integriteit van complexe landschappen. Uitgebreide experimenten met zes CR-datasets en twaalf stroomafwaartse taken tonen aan dat GACR superieure reconstructiekwaliteit levert en tegelijkertijd consequent de nauwkeurigheid van stroomafwaartse taken verbetert. De code is beschikbaar op https://github.com/wzy6055/GACR.

GraphRAG is een uitbreiding van retrieval-versterkte generatie (RAG) die grote taalmodellen (LLM's) ondersteunt door te verwijzen naar grafiekgestructureerde data als externe kennis. Hoewel deze techniek idealiter complexe relaties vastlegt, worstelt deze vaak met grafiekrepresentaties voor LLM's, met name voor bevroren LLM's, vanwege de mismatch tussen op grafieken gebaseerde en op tekst gebaseerde latente kenmerken. We pakken dit probleem aan door de {\it Adaptieve-masking voor Grafiekembedding (AGE)} te introduceren. AGE maakt gebruik van een Transformer in een op maskering gebaseerde zelfgecontroleerde leerbenadering (SSL). We hebben de architectuur ontworpen die lijkt op tekstembedding-encoders, waarmee de misalignering van latente kenmerken wordt aangepakt. In tegenstelling tot natuurlijke taalteksten zijn grafieken bondige representaties, en bestaan er {\it sleutelknooppunten} die dominante contextuele informatie bevatten, die moeilijk te voorspellen zijn op basis van hun omgeving. Het maskeren van dergelijke sleutelknooppunten leidt tot inefficiëntie in het SSL-proces. Daarom richt AGE zich op het voorspellen van knooppunten anders dan sleutelknooppunten, met behulp van een leerbare knooppuntsteekproefnemer. Onze experimentele resultaten geven aan dat AGE aanzienlijk de prestaties verbetert van methoden die een niet-parametrische zoekcomponent gebruiken in GraphQA-taken, met superieure nauwkeurigheid op vier benchmarkdatasets met verschillende kenmerken.

Beheersing van de scherptediepte is een fundamenteel hulpmiddel in de fotografie, maar het bewerken van bokeh achteraf op basis van een enkele opname blijft een uitdaging. Een praktische editor moet beelden kunnen verwerken die onder willekeurige focus- en diafragma-instellingen zijn vastgelegd. Bestaande methoden gaan doorgaans uit van een volledig scherpe invoer, of herstellen eerst een volledig scherp beeld voordat een nieuwe bokeh wordt gegenereerd. Dergelijke pijplijnen kunnen nuttige vervagingssignalen uit de bronafbeelding weggooien en reconstructie-artefacten doorgeven aan de uiteindelijke bewerking. We introduceren AnyBokeh, een natuurkundig gestuurd raamwerk voor any-to-any bokeh-bewerking. In plaats van bronvervaging louter als een te verwijderen degradatie te behandelen, schat AnyBokeh de vervagingstoestand van de bron in met behulp van een ondertekende verstrooiingscirkelkaart (signed circle-of-confusion map) en een dispariteitskaart. Door het lineaire verband tussen ondertekende verstrooiingscirkel en dispariteitsverschil te modelleren, schat AnyBokeh een bronspecifieke optische vingerafdruk en brengt het de optische kenmerken van de bron over naar de gewenste focus- en diafragma-instelling. Een generatieve editor, gebaseerd op zowel de bron- als de doel-verstrooiingscirkelkaarten, voert vervolgens relatieve vervagingssynthese uit, wat ruimtelijk adaptieve onscherptereductie, behoud en defocus-weergave mogelijk maakt. Om fysiek gesuperviseerd leren te ondersteunen, bouwen we verder een hoogwaardige synthetische dataset met accurate diepte, scherpstelafstand en volledige EXIF-metadata. Experimenten op realistische benchmarks tonen aan dat AnyBokeh getrouwe en controleerbare bewerkingen realiseert voor any-to-any bokeh-bewerking, alles-scherp-naar-bokeh-weergave en defocus-onscherptereductie, terwijl het de volledig-scherp-reconstructie en calibratie van bokehniveau tijdens testen vermijdt die bij bestaande methoden vaak vereist zijn. De code en dataset zullen beschikbaar zijn op https://github.com/itsmag11/AnyBokeh.

Specialistische expertise op het gebied van epilepsie is schaars in omgevingen met beperkte middelen, waardoor LLM-gebaseerde beslissingsondersteuning aantrekkelijk wordt voor frontline clinici die langdurige behandelingen beheren. Dergelijke systemen moeten zich aanpassen aan de lokale voorschrijfpraktijken en weten wanneer ze moeten delegeren. Wij bestuderen dit probleem in de context van pediatrische epilepsiezorg in Oeganda, waarbij we anti-epileptische medicatieregimes voorspellen op basis van longitudinale ongestructureerde klinische notities. Standaard prompting behaalt een niet-triviale overeenkomst met voorschriften van artsen, maar beoordeling door neurologen toont aan dat veel fouten voortkomen uit distributie-gekalibreerde voorschrijfstandaarden in plaats van een falen om de lokale registratie te interpreteren. Wij introduceren MANANA, een niet-parametrisch prompt-leerframework dat lokale voorschrijfrichtlijnen leert uit een kleine trainingsset op patiëntniveau. MANANA zet waargenomen voorschrijffouten om in controleerbare promptherinneringen, geïmplementeerd in varianten met één of meerdere agenten, en presteert beter dan klassieke ML-modellen, direct LLM-prompting en prompt-optimalisatie-baselines in twee onafhankelijk verzamelde Oegandese cohorten. Verder stellen we Bayesiaanse promptmiddeling voor, die de geleerde prompttrajectorie omzet in voorschrijfwaarschijnlijkheden en een op onzekerheid gebaseerd uitstelsignaal. In het onafhankelijk verzamelde aparte cohort verbetert dit de top-3-voorschrijfnauwkeurigheid per consult met 4-8 procentpunten ten opzichte van prompt-optimalisatie-baselines en maakt het selectieve voorspelling mogelijk: het systeem kan automatisch de helft van de meest zekere gevallen afhandelen met 95% precisie, of het kwart van de meest zekere gevallen met 99% precisie, terwijl minder zekere gevallen worden uitgesteld voor specialistische beoordeling.

We bestuderen Generated Contents Enrichment (GCE), een conditionele beeldgeneratietaak waarbij een schaarse scènebeschrijving eerst wordt verrijkt via een expliciete scenerepresentatie en vervolgens wordt gerenderd tot semantisch rijkere visuele inhoud. Conventionele beeldgeneratiesystemen kunnen visueel realistische output produceren op basis van beperkte scènebeschrijvingen, maar de toegevoegde inhoud blijft doorgaans impliciet in de generator in plaats van te worden gerepresenteerd als een inspecteerbare tussenliggende structuur. Daarentegen streeft GCE ernaar om scèneverrijking expliciet te maken op het niveau van de scenerepresentatie, terwijl de visuele gevolgen ervan tijdens de generatie worden onderzocht, met als doel gegenereerde inhoud aan te moedigen die visueel aannemelijk, structureel coherent en semantisch rijker is dan de schaarse invoer. Om GCE te implementeren, stellen we een gezamenlijk getraind adversariaal raamwerk voor dat scènegraphen verrijkt door objectsemantiek en inter-objectrelaties te modelleren. Onze benadering representeert eerst de invoerbeschrijving als een scènegraaf, waarbij knooppunten objecten modelleren en randen inter-objectrelaties vastleggen. Het raamwerk gebruikt graafconvolutionele netwerken om extra objecten en hun relaties met de bestaande scène te voorspellen. Ten slotte wordt de verrijkte scènegraaf door de stroomafwaartse beeldgeneratiepijplijn geleid om de bijbehorende visuele inhoud te genereren. We evalueren het raamwerk met proxy-scènegraafverrijkingsmetrieken, beeldkwaliteitsvergelijkingen, kwalitatieve voorbeelden en gebruikersstudies op de Visual Genome-dataset.