Dagelijkse Papers

Visie-taalmodellen (VLMs) hebben sterke prestaties geleverd op benchmarks voor het begrijpen van visuele documenten, zoals DocVQA, ChartQA en MMLongBench-Doc. Echter, documenten uit de praktijk combineren meerdere factoren zoals lengte, lay-outcomplexiteit, modaliteit en vraagmoeilijkheid, wat het moeilijk maakt om modelfouten aan specifieke oorzaken toe te schrijven. We introduceren SynthDocBench, een volledig synthetische benchmark voor het begrijpen van visuele documenten met lange context die systematisch factoren controleert, waaronder documentlengte, lay-outstructuur, modaliteitssamenstelling en vraagtype. De benchmark is geconstrueerd met behulp van een combinatorisch ontwerp; elke factor wordt onafhankelijk gevarieerd over gegenereerde documenten, wat gecontroleerde analyse van modelgedrag mogelijk maakt. Documenten worden end-to-end gegenereerd via een LLM-pijplijn over zes lay-outarchetypen, met een willekeurige overschrijving van 40 procent om te voorkomen dat modellen onechte correlaties exploiteren. Bovendien bestrijkt SynthDocBench documenten met lange context die aanzienlijk grotere lengte en structurele diversiteit hebben dan bestaande benchmarks. Bij het evalueren van zeven geavanceerde VLMs ontdekken we drie faalmodi die bestaande benchmarks niet aan het licht kunnen brengen: scherpe degradatie met documentlengte, een systematische positionele gevoeligheid waarbij het middelste derde deel van een document het moeilijkst is voor vijf van de zes modellen en vijf van de zes modellen een negatieve Early-to-Late-trend vertonen (sterkste daling: 8,3 procentpunt), en instorting van het begrijpen van grafieken in lange-documentomgevingen. Deze resultaten suggereren dat huidige modellen mogelijk overfitten op benchmarkartefacten in plaats van robuust begrip van visuele documenten met lange context te bereiken.

In dit artikel stellen we SpectraReward voor, een trainingsvrije beloningsfunctie die voorgetrainde multimodale grote taalmodellen (MLLMs) omzet in kant-en-klare beloningsmodellen voor versterkend leren in beeldgeneratie. In plaats van het MLLM te vragen een gegenereerde afbeelding te beoordelen of opgesplitste verificatievragen te beantwoorden, meet SpectraReward hoe goed de oorspronkelijke prompt kan worden teruggewonnen uit de gegenereerde afbeelding via een enkele beeldgeconditioneerde, docentgestuurde voorwaartse doorgang. We gebruiken de gemiddelde beeldgeconditioneerde prompt log-waarschijnlijkheid als beloning, waarbij we direct het voorgetrainde beeld-tekst-afstemmingsvermogen van het MLLM hergebruiken zonder voorkeurslabels of fijnafstelling van het beloningsmodel. We introduceren verder Self-SpectraReward, een speciaal geval voor uniforme multimodale modellen waarbij de eigen begripstak van het beleid fungeert als het beloningsmodel voor zijn generatietak, wat een gesloten-lus zelfverbeteringskader vormt zonder externe beloningsmodellen of externe kennis. Uitgebreide experimenten valideren SpectraReward door middel van een brede RL-studie voor beeldgeneratie, die twee diffusiemodellen, drie RL-algoritmen, negen belonings-MLLM-backbones uit vier MLLM-families met parameters van 4B tot 235B, en vijf buiten-de-verdeling tekst-naar-beeld-benchmarks omvat. Resultaten tonen aan dat zowel SpectraReward als Self-SpectraReward de generatieprestaties significant en consistent verbeteren en beter presteren dan eerdere van MLLM afgeleide beloningstrainingsmethoden. Verdere analyse onthult dat grotere belonings-MLLMs niet altijd beter zijn, terwijl Self-SpectraReward veel grotere externe beloningsmodellen kan evenaren of overtreffen, wat suggereert dat belonings-beleid-afstemming een sleutelfactor is voor effectief versterkend leren in beeldgeneratie. Projectpagina: https://huangrh99.github.io/SpectraReward/

Visuele generatoren blinken uit in het weergeven van beelden, maar verzinnen vol vertrouwen wat ze niet weten. Gebruikersverzoeken zijn onbegrensd, evolueren voortdurend en vertonen een diepe lange staart: nieuwe personages, trending entiteiten, gebeurtenissen na de afsluitdatum van de trainingsdata, en meer. Deze kennisknelpunt over de wereld is structureel: generatoren worden getraind op vaste corpora, maar de visuele wereld is open-eindig. We construeren SearchGen-20K en SearchGen-Bench, met 20.839 prompts die twaalf faalcategorieën en tweeëntwintig domeinen bestrijken, gekoppeld aan een vooraf uitgevoerde multimodale SearchGen-Corpus-1M om offline, reproduceerbaar onderzoek te ondersteunen. Op SearchGen-Bench scoren toonaangevende open generatoren slechts 21 tot 28 van de 100 punten, een instorting van 40 punten die onzichtbaar blijft voor bestaande benchmarks. De natuurlijke remedie is het inzetten van zoekhulpmiddelen, wat leidt tot agentische visuele generatie. We ontdekken echter dat naïef zoeken faalt: het haalt zonder onderscheid informatie op en introduceert ruis in prompts die de generator al aankan. We traceren de oorzaak naar een generatorspecifieke, evoluerende kennisdrempel: de scheiding tussen wat een generator kan internaliseren via training en wat extern in de context moet blijven. Hoewel deze drempel vooraf moeilijk te specificeren is, tonen we aan dat deze ontdekbaar is via een train-en-zoek co-training raamwerk. Zelfs een minimale versie van dit co-training recept levert monotone verbetering op, wat de basis legt voor recursieve zelfverbetering in visuele generatie die kan voldoen aan verzoeken die geworteld zijn in wereldkennis. We publiceren de volledige dataset, het co-training corpus en het zoekcorpus als een herbruikbare testopstelling voor gereedschapsversterkte, op wereldkennis gebaseerde visuele generatie.

Moderne AI-modellen presteren goed op veel gevestigde benchmarks, maar falen nog steeds bij taken die mensen vrijwel triviaal vinden, zoals het manipuleren van een string of het tekenen van een hond met vijf poten. Deze voorbeelden suggereren dat bestaande benchmarks mogelijk hardnekkige blinde vlekken in huidige systemen onderschatten. We introduceren blind-spots-bench, een benchmark die is ontworpen om dergelijke blinde vlekken bloot te leggen aan de hand van taken die eenvoudig lijken voor mensen maar uitdagend blijven voor moderne AI. We verzamelen ruwe vragen van studenten in een AI-cursus, schonen deze op en voorzien ze van gestructureerde referentieoplossingen, en stellen een taaltaxonomie voor die is afgestemd op de resulterende dataset van 235 samples. Verder ontwikkelen we een geautomatiseerde beoordelingspijplijn om een breed scala aan modellen te evalueren, waaronder taal-, visie-taal- en beeldgeneratiemodellen met open gewicht en closed-source. Onze analyse op blind-spots-bench laat zien dat closed-source grensverleggende modellen open-gewichtmodellen aanzienlijk kunnen overtreffen, met een verschil van zelfs circa 10%, zelfs wanneer ze vergelijkbare prestaties leveren op bestaande benchmarks. Een fijnmazigere analyse toont aan dat geen enkel model domineert over alle taaktypen, en dat sommige taken uitdagend blijven voor alle geëvalueerde modellen. Deze resultaten benadrukken de waarde van blind-spots-bench als een diagnostische stresstest voor het identificeren van concrete zwaktes in huidige moderne modellen.

Codeeragenten moeten externe tooluitkomsten integreren in lopende redeneringen – een vermogen waar standaard links-naar-rechts pretraining op code slechts in de voorwaartse richting in voorziet. We observeren dat de actie-observatie-voortzetting-lus van een codeeragent structureel isomorf is met een functieaanroep, waarbij een aanroeper argumenten bindt, een aangeroepene elders een waarde retourneert, en stroomafwaartse code die waarde consumeert. Deze conditioneringsstructuur bestaat op internetschaal in gewone code. We benutten deze via functiebewuste invullen-in-het-midden (FIM) midden-training: een zelfsuperviserende doelstelling die functies maskeert die zijn geselecteerd via program-afhankelijkheidsgrafiek-analyse en een dubbel criterium van complexiteit en afleidbaarheid. We passen midden-training toe op Qwen2.5-Coder-Instruct (7B/14B) en Qwen3-8B op een 2,6B-token gedecontamineerd corpus uit 968 GitHub-repositories, en passen vervolgens bestaande agentische post-training-pijplijnen toe. Midden-training verbetert SWE-Bench-Verified met +2,8/+3,0 bij 7B/14B en met +3,2 op Qwen3-8B; SWE-Bench-Lite-winsten zijn +3,7/+4,0/+5,4 op dezelfde modellen. De verbetering blijft behouden over twee post-training-pijplijnen (R2E-Gym, SWE-Smith) en op een niet-Qwen2.5-basis (Qwen3-8B met SWE-Lego). Naast domeininterne winsten beperkt midden-training ook de capaciteitserosie die agentische post-training anders veroorzaakt op niet-agentisch coderen (bijv. LiveCodeBench) en niet-coderende toolgebruik-benchmarks (tau-bench, BFCL): hoewel het midden-training-corpus alleen Python-code bevat, overleeft de functieaanroep-inductieve bias de post-training en levert consistente winsten op.

Op LLM gebaseerde codeeragenten hebben de geautomatiseerde oplossing van softwareproblemen aanzienlijk verbeterd, maar ze blijven zeer vatbaar voor feitelijke fouten als gevolg van onvoldoende repositorybegrip. Recente methoden proberen deze beperking te verhelpen door middel van repositoryverkenning vóór reparatie; echter, hun op reparatie gerichte strategieën verkennen de repository zonder de kennishiaten van de agent te identificeren, wat vaak leidt tot onnauwkeurige context die het onderliggende begripstekort niet overbrugt. In dit artikel stellen we ACQUIRE voor, een op QA (vraag-en-antwoord) gebaseerd raamwerk voor het oplossen van softwareproblemen. In navolging van hoe ervaren ontwikkelaars eerst onbekende code doorgronden alvorens een reparatie te proberen, verwerft ACQUIRE expliciet repositorykennis vóór de reparatie. Het raamwerk ontkoppelt kennisverwerving van patchgeneratie in twee fasen: in de eerste fase werken een Vraagsteller en een Beantwoorder samen om gestructureerde repositorykennis te vergaren, waarbij de Vraagsteller gerichte vragen stelt en de Beantwoorder op bewijs gebaseerde antwoorden produceert door autonome verkenning; in de tweede fase gebruikt de Oplosser de resulterende QA-kennis om geïnformeerde patches te genereren. Door impliciete kennishiaten om te zetten in expliciet, feitelijk betrouwbaar begrip, versnelt ACQUIRE kennisintensieve reparatiefasen en maakt het nauwkeurigere oplossingen mogelijk. Experimenten op SWE-bench Verified tonen aan dat ACQUIRE consequent beter presteert dan representatieve methoden vóór reparatie, met een stijging van Pass@1 met tot 4,4 procentpunten tegen bescheiden extra kosten en tijd.

Bestaande methoden voor automatische muziektranscriptie zijn vaak beperkt tot opnames van één instrument of falen bij complexe, realistische muziekmixen. Hoewel eerder werk gebruikmaakt van synthetische trainingsdata, generaliseren de resulterende modellen slecht, wat leidt tot grotendeels onbruikbare transcriptieresultaten in realistische, multi-instrumentele omgevingen. In dit werk analyseren we de effectiviteit van synthetische data voor pre-training, terwijl we dit combineren met fine-tuning op echte muziekaudio en post-training met behulp van reinforcement learning. We introduceren verder conditionering op instrumentaanwezigheid om transcripties aan te passen. Tot slot brengen we MuScriptor uit, een open-weight multi-instrument muziektranscriptiemodel dat werkt op echte muziekopnames uit een breed scala aan muziekgenres.

Mainstream visuele encoders zijn voorgetraind op natuurlijke afbeeldingen en kunnen niet effectief worden toegepast op documentafbeeldingen zonder documentgerichte aanpassing, omdat dichte tekst en fijnkorrelige karakterstrepen visuele perceptie op karakterniveau vereisen. We presenteren MonkeyOCRv2, een visueel-tekstueel voorgetraind model voor document-AI. Ten eerste construeren we MonkeyDoc v2, naar onze weten het grootste voor trainingscorpus voor documentafbeeldingen, bestaande uit 113 miljoen afbeeldingen in 17 talen. Ten tweede stellen we een voor trainingsstrategie voor die gezamenlijk beeld-naar-tekstgeneratie en reconstructie van documenten op pixelniveau leert: de eerste stemt visuele representaties af op tekstuele inhoud, terwijl de tweede karakterstrepen en lay-outdetails behoudt. Uitgebreide experimenten worden uitgevoerd op vijf representatieve documentanalysetaken, waaronder tekstherkenning, formuleherkenning, tekstdetectie, detectie van documentvervalsing en segmentatie van overlappende tekst. Het vervangen van de oorspronkelijke encoders door MonkeyOCRv2 levert consistent verbeteringen op in alle vijf taken. Ten slotte valideren we de effectiviteit ervan als visuele encoder van multimodale grote taalmodellen op de meer uitdagende taken van documentparsing en documentbegrip. In bevroren toestand en gekoppeld aan een lichtgewicht taalmodel levert het een 0,7B documentparsingmodel dat een nieuw open-source state-of-the-art behaalt op MDPBench, een recente benchmark die digitaal geboren en gefotografeerde documenten in 17 talen omvat, en daarbij de vorige beste 3B dots.mocr met 2,8% absoluut overtreft met een visuele encoder die ongeveer 11 keer kleiner is. De bevroren encoder levert ook een documentbegripmodel dat het beter doet dan tegenhangers gebaseerd op CLIP, DINO en SAM op acht benchmarks onder identieke trainingsomstandigheden. Deze resultaten suggereren dat documentgerichte visuele voor training op zichzelf kan dienen als een fundament voor documentintelligentie.

Vanaf het gebruik van diepe neurale netwerken om de toestand-actiewaardenfunctie te benaderen, wat leidde tot het winnen van een van de meest uitdagende spellen, tot algoritmische vooruitgang die het mogelijk maakte problemen op te lossen zonder dat de regels van de uitdaging expliciet werden gesteld, staat het onderzoek naar versterkend leren al een decennium lang in het middelpunt van opmerkelijke wetenschappelijke vooruitgang. In dit artikel richten we ons op de belangrijkste ingrediënten van deze onderzoeksvooruitgang en analyseren we de canonieke evaluatie- en ontwerpparadigma's in versterkend leren. We introduceren de theoretische grondslagen van schalingswetten in versterkend leren en tonen aan dat de asymptotische prestaties van algoritmen voor versterkend leren geen monotone relatie vertonen tussen prestatie-ranglijsten en dataregiems. We voeren grootschalige experimenten uit en onze resultaten laten zien dat een onderzoekslijn in versterkend leren onder de canonieke ontwerp- en evaluatieparadigma's tot onjuiste conclusies heeft geleid. Onze analyse en resultaten bieden een kernanalyse van schaling, capaciteit en complexiteit van diep versterkend leren.

Grote taalmodellen (LLM) agenten beginnen machine learning engineering (MLE) te automatiseren door planning, code-uitvoering, debuggen en empirische feedback te koppelen. Het vertalen van deze mogelijkheid naar medische beeldvorming blijft moeilijk omdat elke taak modus-specifieke experimenten en strikte vereisten voor validatieprotocollen en voorspellingsartefacten oplegt. Hier introduceren we AMID, een autonoom multi-agentframework voor de ontwikkeling van medische beeldvormingsmodellen. AMID stelt eerst Data-Gestuurde Methodeplanning voor, die grove taakniveau-zoekruimten verfijnt tot uitvoerbare, paralleliseerbare methodebanen die zijn gebaseerd op taakspecifieke data-analyse en uitvoerbare medische beeldvormingsbronnen. Vervolgens ontwikkelt het Verificatie-Gestuurde Tweetrapsoptimalisatie, die overgaat van brede vroege verkenning van diverse methodebanen naar selectieve exploitatie van veelbelovende kandidaten, terwijl gedurende de optimalisatie strenge verificatie van validatieprotocollen, metriekberekening en voorspellingsartefacten wordt afgedwongen. In 20 medische beeldvormingsuitdagingstaken, die uiteenlopende modaliteiten en voorspellingstypes omvatten, presteerde AMID beter dan geëvalueerde algemene MLE-systemen en benaderde of evenaarde het bij verschillende taken sterke, door mensen ontworpen uitdagingsoplossingen. Deze resultaten suggereren dat AMID taakspecifieke ontwikkeling van medische beeldvormingsmodellen kan omzetten van op maat gemaakte handmatige engineering naar een agentische workflow voor het produceren van hoogwaardige en controleerbare modelartefacten voor heterogene taken.

Dit werk introduceert een uniforme formulering voor visiemodellen, waarbij diverse vormen van visuele informatie buiten natuurlijke afbeeldingen, zoals maskers, dieptekaarten en andere gestructureerde visuele signalen, allemaal worden weergegeven als RGB-afbeeldingen, terwijl algemene visuele taken kunnen worden omgezet in een gemeenschappelijk RGB-naar-RGB-beeldbewerkingsprobleem. In dit paradigma delen verschillende soorten visuele informatie intern dezelfde coderings- en decoderingsarchitectuur en parameters als natuurlijke afbeeldingen, waardoor één enkel model taken kan overdragen via een uniforme visuele interface, op een manier die analoog is aan hoe taalmodellen over tekst werken. We verwijzen naar deze formulering als RGB In en RGB Out (RINO). RINO, gebouwd op een generiek beeldbewerkingsraamwerk zonder taakspecifieke fijnafstemming, vertoont robuuste en concurrerende zero-shot-prestaties op zowel dichte begripstaken zoals segmentatie en diepteschatting (waar we uitgangen als RGB uniformeren) als dicht-geconditioneerde generatietaken zoals pose-naar-beeldgeneratie (waar we ingangen als RGB uniformeren). We hopen dat deze studie nuttige inzichten biedt voor algemene uniforme visie-taal-systemen, waarin diverse visuele taken kunnen worden uitgedrukt, geïnterpreteerd en opgelost via een gedeelde visuele taal. Code is beschikbaar op https://github.com/yangtiming/RINO.

Grote taalmodellen die zijn fijngestemd voor voorspellingen kunnen accuraat zijn maar slecht gekalibreerd, en hun keten-van-gedachte (CoT) redenering kan het bewijs achter een voorspelling niet getrouw weerspiegelen. We vragen ons af of interne representaties een directer venster bieden op beide. Werkend met Eternis-Forecaster 8B op OpenForesight trainen we representatie-poolende probes op tussenliggende activaties en ontdekken we dat ze aanzienlijk betere kalibratie bereiken; een resultaat dat ook geldt voor GLM-4.7-Flash en GLM-4.5-Air. Vervolgens beoordelen we CoT-getrouwheid door middel van evidentie-ablatie en afleidende injectie: het verwijderen van een invloedrijke bron in de prompt verandert vaak de voorspelling van het model terwijl het redeneringsspoor onaangeroerd blijft. Dezelfde probes fungeren als leugendetectoren: hun activaties volgen gedragsverschuivingen veel beter dan het redeneringsspoor doet, en ze voorspellen ook de richting van verandering in 84% van de gevallen, zelfs wanneer de CoT de invloed van de verstoring verbergt. Ten slotte laat gedwongen beantwoording zien dat voorspellingen grotendeels zijn vastgesteld voordat het redeneren begint: een enkele pre-redeneringspassage verkrijgt het vastgelegde antwoord en vertrouwen, en het routeren van vragen op basis van de spreiding van deze vooraf ingestelde antwoordverdeling bespaart 30-47% van de gegenereerde tokens, zonder verlies van nauwkeurigheid. Samen vestigen deze resultaten het sonderen van interne representaties als een praktisch hulpmiddel voor het kalibreren, auditen en triëren van taalmodellen voor voorspellingen en, in bredere zin, redeneringsmodellen.