ChatPaper.aiChatPaper.aiChatPaper.ai
Startseite

arXiv

HuggingFace

PreiseKontoArbeitsbereich

•
•

•
•

•
•

•
•

•
•

Footer

Company name

ChatPaper.ai: Your advanced AI reading assistant.

Contact us: hi@pomodiary.com

X (Twitter)Discord

Products

  • AI Search
  • AI Mind Map
  • Arxiv Summary
  • Huggingface Summary

Support

  • FAQ
  • Contact

Company

  • Blog
  • Privacy Policy
  • Terms of Service

Available Languages

  • 🇬🇧English
  • 🇨🇳中文简体
  • 🇭🇰繁體中文
  • 🇯🇵日本語
  • 🇰🇷한국어
  • 🇩🇪Deutsch
  • 🇫🇷Français
  • 🇷🇺Русский
  • 🇪🇸Español

© 2025 chatpaper.ai All rights reserved.

KI-Forschungspapiere Täglich

Täglich kuratierte KI-Forschungspapiere mit Übersetzungen

1

Programm-als-Gewichte: Ein Programmierparadigma für unscharfe Funktionen
Program-as-Weights: A Programming Paradigm for Fuzzy Functions

Jul 2
ByWentao Zhang, Liliana Hotsko, Woojeong Kim, Pengyu Nie, Stuart Shieber, Yuntian Deng
56
2

Viele alltägliche Programmieraufgaben entziehen sich einer sauberen, regelbasierten Implementierung – etwa das Melden wichtiger Logzeilen, das Reparieren fehlerhafter JSONs oder das Sortieren von Suchergebnissen nach Intention – und werden zunehmend an APIs großer Sprachmodelle ausgelagert, was mit Einbußen bei Lokalität, Reproduzierbarkeit und Kosten einhergeht. Wir schlagen die Fuzzy-Funktionsprogrammierung vor: die Kompilierung einer solchen Funktion aus einer natürlichsprachlichen Spezifikation in ein kompaktes, lokal ausführbares neuronales Artefakt. Wir instanziieren dieses Paradigma mit Program-as-Weights (PAW), bei dem ein auf FuzzyBench – einem von uns veröffentlichten Datensatz mit 10 Millionen Beispielen – trainierter 4B-Kompiler parametereffiziente Adapter für einen eingefrorenen, leichten Interpreter erzeugt. Ein Qwen3-Interpreter mit 0,6B Parametern, der PAW-Programme ausführt, erreicht die Leistung des direkten Promptings von Qwen3-32B, benötigt dabei jedoch nur etwa ein Fünfzigstel des Inferenzspeichers und läuft mit 30 Tokens/s auf einem MacBook M3. PAW rahmt das Basismodell von einem eingabeabhängigen Problemlöser zu einem Werkzeugbauer um: Einmal pro Funktionsdefinition aufgerufen, erzeugt es ein kleines wiederverwendbares Artefakt, dessen nachfolgende Aufrufe pro Funktionsanwendung günstig und offline erfolgen.

2

AgenticSTS: Eine speicherbegrenzte Testumgebung für LLM-Agenten mit langem Planungshorizont
AgenticSTS: A Bounded-Memory Testbed for Long-Horizon LLM Agents

Jul 2
ByXiangchen Cheng, Yunwei Jiang, Jianwen Sun, Zizhen Li, Chuanhao Li, Xiangcheng Cao, Yihao Liu, Fanrui Zhang, Li Jin, Kaipeng Zhang
39
2

Das Gedächtnis eines LLM-Agenten mit langem Zeithorizont ist ein Vertrag darüber, was jede zukünftige Entscheidung sehen darf. Der einfachste Vertrag hängt vergangene Beobachtungen, Werkzeugaufrufe und Reflexionen an jeden Prompt an, was den Zugriff auf vorherigen Kontext erleichtert, ihn aber auch in ein undurchsichtiges Gemisch verwandelt, in dem die Wirkung einer einzelnen Gedächtniskomponente schwer zu isolieren ist. Wir führen eine alternative beschränkte Vertragsform ein und instrumentieren sie: Jede Entscheidung wird aus einer neuen, durch typisierten Abruf zusammengestellten Benutzernachricht getroffen, ohne dass ein rohes, entscheidungsübergreifendes Transkript angehängt wird. Der Prompt bleibt somit über Läufe beliebiger Länge beschränkt, und jede einzelne Schicht kann isoliert ablatiert werden. Wir setzen diesen Vertrag in *Slay the Spire 2* um, einem stochastischen Deckbauspiel mit geschlossenen Regeln, dessen Durchläufe hunderte taktischer und strategischer Entscheidungen erfordern. Ein öffentlicher Online-Benchmark mit modernsten LLMs zum selben Spiel meldet null Siege beim niedrigsten Schwierigkeitsgrad über fünf Konfigurationen hinweg; die von den Entwicklern angegebene menschliche Siegrate beim selben Schwierigkeitsgrad beträgt 16 % – die Aufgabe ist schwierig, aber nicht gesättigt. In unserer Testumgebung zeigt eine Fix-A0-Ablation den größten beobachteten Unterschied, wenn die ausgelösten strategischen Fähigkeiten aktiviert sind: Die Basislinie ohne Speicher gewinnt 3/10 Spielen, mit der zusätzlichen Fähigkeitenschicht 6/10. Bei dieser Stichprobengröße ist der Vergleich eher richtungsweisend als statistisch entscheidend (exakter Fisher-Test p ≈ 0,37); eine Backbone-übergreifende Untersuchung und öffentliche Basislinien mit akkumulierendem Kontext werden als operative Vergleiche und nicht als kontrollierte Tests der Vertragsvariablen selbst berichtet. Wir veröffentlichen einen reproduzierbaren Testaufbau: 298 abgeschlossene Trajektorien mit Bedingungs-Tags, eingefrorene Gedächtnis-/Fähigkeiten-Snapshots, Prompt-Aufzeichnungen und Analyseskripte – ein Agentendesign und eine validierte, wiederverwendbare Methodik zur Untersuchung, wie explizite Gedächtnisschichten langfristige Entscheidungen von LLM-Agenten prägen.

3

EvoPolicyGym: Bewertung autonomer Politikevolution in interaktiven Umgebungen
EvoPolicyGym: Evaluating Autonomous Policy Evolution in Interactive Environments

Jul 2
ByZhilin Wang, Han Song, Runzhe Zhan, Jusen Du, Jiacheng Chen, Tianle Li, Qingyu Yin, Yulun Wu, Zhennan Shen, Tong Zhu, Yanshu Li, Guanjie Chen, Derek F. Wong, Yafu Li, Yu Cheng, Yang Yang
39
1

Autonome Agenten sind zunehmend dazu aufgefordert, ausführbare Richtlinien durch Rückmeldung zu verbessern, doch bestehende Evaluierungen reduzieren diesen Prozess oft auf eine Endpunktzahl oder vermengen ihn mit offenen Fortschritten in der Softwaretechnik. Wir führen die *Autonome Policy-Evolution* ein, ein kontrolliertes Evaluierungsszenario, in dem ein Harness-Modell-Agent wiederholt ein ausführbares Richtliniensystem unter einem festgelegten Interaktionsbudget bearbeitet. Dieses Szenario setzen wir in *EvoPolicyGym* um, einem Benchmark, der aus kompakten interaktiven RL-Umgebungen besteht und bewertet, wie Agenten explorierte Richtlinien iterativ verbessern. Auf der *EvoPolicyGym*-Suite erzielt GPT-5.5 die stärkste aggregierte Rangpunktzahl und die zwei besten Leistungen in allen 16 Umgebungen. Über die Ranglistenergebnisse hinaus bietet *EvoPolicyGym* auch Diagnosen auf Trajektorienebene, die unterscheiden, wie Agenten ihr Budget zuweisen und Rückmeldung in parametrische Abstimmung umsetzen. Diese Analysen zeigen, dass eine starke autonome Policy-Evolution nicht nur von isolierten Aufgaben Siegen abhängt, sondern auch vom Auffinden aufgabenangemessener Mechanismen und der Verfeinerung von Richtlinien unter begrenzter Rückmeldung.

4

Morphing in hybride Aufmerksamkeitsmodelle
Morphing into Hybrid Attention Models

Jun 29
ByDisen Lan, Jianbin Zheng, Yuxi Ren, Xin Xia, Xuanda Wang, Xuefeng Xiao, Xipeng Qiu, Yu Cheng
30
4

Hybride Aufmerksamkeitsmodelle verbessern die Effizienz bei langen Kontexten, indem sie nur eine Teilmenge der vollständigen Aufmerksamkeitsschichten beibehalten und die übrigen Schichten durch lineare Aufmerksamkeit ersetzen. Die Wirksamkeit der Umwandlung von Transformatoren in hybride Architekturen hängt jedoch entscheidend davon ab, welche Schichten die vollständige Aufmerksamkeit beibehalten. Bisherige Methoden zur Auswahl hybrider Schichten beruhen typischerweise auf heuristischen Strategien wie festen Platzierungsmustern oder schichtweiser Bewertung, wobei die Schichtbedeutung implizit als isoliert betrachtet und der wechselseitige Schichteffekt unter einer globalen hybriden Konfiguration außer Acht gelassen wird. In dieser Arbeit formulieren wir die Auswahl hybrider Schichten als budgetbeschränktes Teilmengenoptimierungsproblem. Wir schlagen zudem FlashMorph (Fast LAyer Selection for Hybrid MORPHing) vor, eine effektive, effiziente und skalierbare Methode zur Schichtauswahl für die Umwandlung von Transformatoren in hybride Architekturen. FlashMorph konstruiert zunächst ein wandelbares Modell, indem jede vollständige Aufmerksamkeitsschicht mit einem umgewandelten linearen Aufmerksamkeitszweig ausgestattet wird. Anschließend werden alle Modellgewichte eingefroren und schichtweise Gatter gemeinsam auf synthetischen Daten für den Abruf langer Kontexte optimiert, wobei eine Linearisierungsregularisierung das Modell dazu anregt, sich aus Effizienzgründen auf lineare Aufmerksamkeit zu stützen. Die erlernten Gatter werden unter einem vorgegebenen Budget für vollständige Aufmerksamkeit diskretisiert, um die hybride Architektur zu instanziieren, gefolgt von einer Standard-Logits-Destillation und einer Feinabstimmung für lange Kontexte. Umfangreiche Experimente zeigen, dass FlashMorph effektivere hybride Konfigurationen entdeckt, eine hohe Langkontext-Recallrate und allgemeine Benchmarkleistung beibehält und gleichzeitig die Kosten der Schichtauswahl im Vergleich zu bestehenden Methoden erheblich reduziert, was seine Effektivität, Effizienz und Skalierbarkeit demonstriert.

5

Mehrskalen-Flussabgleich: Trainingsfreie Diffusionsbeschleunigung durch gestaffeltes Sampling
Multi-Resolution Flow Matching: Training-Free Diffusion Acceleration via Staged Sampling

Jul 2
ByXingyu Zheng, Xianglong Liu, Yifu Ding, Weilun Feng, Junqing Lin, Jinyang Guo, Haotong Qin
21
1

Hardwareunabhängige Strategien zur Beschleunigung von Text-zu-Bild-Diffusion, wie Zeitschrittdestillation und Feature-Caching, können die Inferenzzeit ohne benutzerdefinierte Kernel oder systemweite Optimierung reduzieren. Unter diesen hat die Multiauflösungsgenerierungsstrategie in letzter Zeit breite Beachtung gefunden und erreicht eine mehr als 5-fache Beschleunigung ohne jegliches Training. Allerdings führt die Gestaltung der Durchführung von Hochskalierung im latenten Raum zusammen mit der selektiven Modifikation von Teilbereichen dazu, dass diese Methoden merkliche Unschärfe oder Artefakte aufweisen. Aus diesem Grund schlagen wir MrFlow vor, eine trainingsfreie Multiauflösungsbeschleunigungsstrategie für vortrainierte Flow-Matching-Modelle, die auf einer stufenweisen Pipeline von niedriger zu hoher Auflösung aufbaut. MrFlow erzeugt zunächst schnell die Hauptstruktur bei niedriger Auflösung, führt dann eine Superauflösung im Pixelraum unter Verwendung eines leichtgewichtigen, vortrainierten GAN-basierten Modells durch, injiziert anschließend Rauschen mit geringer Stärke, um ein Hochfrequenz-Resampling zu ermöglichen, und verfeinert schließlich die Details bei hoher Auflösung. Quantitative und qualitative Ergebnisse an FLUX.1-dev und Qwen-Image zeigen, dass MrFlow die quadratische Token-Reduktion und den reduzierten Schrittbedarf der Abtastung bei niedriger Auflösung ausnutzt, um eine 10-fache End-to-End-Beschleunigung zu erreichen, während OneIG innerhalb einer Abweichung von 1 % relativ zum Wert vor der Beschleunigung bleibt, wodurch andere trainingsfreie Beschleunigungsstrategien deutlich übertroffen werden und keinerlei Training oder dynamische Identifikation zur Laufzeit erforderlich ist. MrFlow kann weiterhin direkt orthogonal mit vortrainierten Zeitschrittdestillationsstrategien kombiniert werden und erreicht so eine noch höhere Generierungsbeschleunigung von bis zu 25-fach.

6

AgenticDataBench: Ein umfassender Benchmark für Datenagenten
AgenticDataBench: A Comprehensive Benchmark for Data Agents

Jul 2
ByZhaoyan Sun, Shan Zhong, Daizhou Wen, Jiaxing Han, Guoliang Li, Ying Yan, Peng Zhang, Yu Su, Xiang Qi, Baolin Sun, Chengyuan Yang, Tao Fang, Huaiyu Ruan
21
1

Data Science zielt darauf ab, aus heterogenen Rohdaten umsetzbare Erkenntnisse zu gewinnen und den Wert der in der modernen Gesellschaft erzeugten enormen Datenmengen zu erschließen. Die Automatisierung dieses Prozesses ist entscheidend, um den arbeitsintensiven Aufwand für Data Scientists zu reduzieren und skalierbare datengesteuerte Anwendungen zu ermöglichen. In letzter Zeit sind auf großen Sprachmodellen (LLMs) basierende Datenagenten als vielversprechende Lösung zur Automatisierung von Data-Science-Workflows entstanden. Allerdings fehlen dem Bereich umfassende Benchmarks, um diese Agenten in verschiedenen Szenarien mit feinkörniger Granularität rigoros zu evaluieren. Um diese Lücke zu schließen, schlagen wir AgenticDataBench vor, einen umfassenden Benchmark mit realistischen Aufgaben aus verschiedenen Bereichen und feinkörnigen Ground-Truth-Labels. Dies ermöglicht Evaluierungen, die die Vielfalt und Komplexität von Data-Science-Workflows sowie die detaillierte Leistung der Agenten erfassen. Erstens sammeln wir zur Abdeckung verschiedener Bereiche reale Datensätze und Aufgaben aus 15 vertikalen Domänen, darunter 5 reale B2B-Anwendungsfälle eines führenden Fintech-Unternehmens. Zweitens führen wir, um Redundanz in realen Aufgaben zu vermeiden und qualitativ hochwertige Aufgaben für Bereiche ohne reale Daten zu generieren, Data-Science-Fähigkeiten, wiederkehrende datenzentrierte Betriebsmuster ein und quantifizieren die Benchmark-Abdeckung durch die Anzahl der enthaltenen Fähigkeiten. Repräsentative Fähigkeiten werden aus großangelegten Aufgabenlösungen auf Stack Overflow mittels fähigkeitsausgerichteter hierarchischer Clusterung extrahiert. Drittens wählen wir für reale Geschäftsaufgaben Aufgaben-Lösungs-Paare aus, die die Diversität der Fähigkeitszusammensetzung maximieren und so eine breite Abdeckung praktischer Szenarien gewährleisten. Viertens schlagen wir zur Generierung realistischer Aufgaben für verschiedene Bereiche ohne reale Aufgaben einen systematischen, auf LLMs basierenden Aufgaben-Generierungsansatz vor, um Workflows und Aufgaben auf Grundlage dieser Fähigkeiten zu erstellen. Schließlich evaluieren wir state-of-the-art Datenagenten mit unserem annotierten Benchmark und Open-Source-Testbed und liefern detaillierte Einblicke auf Fähigkeitsebene.

7

WorldDirector: Aufbau steuerbarer Weltsimulatoren mit persistentem dynamischen Speicher
WorldDirector: Building Controllable World Simulators with Persistent Dynamic Memory

Jul 2
ByHanlin Wang, Hao Ouyang, Qiuyu Wang, Wen Wang, Qingyan Bai, Ka Leong Cheng, Yue Yu, Yixuan Li, Yihao Meng, Zichen Liu, Yanhong Zeng, Yujun Shen, Qifeng Chen
16
1

Wir stellen WorldDirector vor, ein hochgradig steuerbares Video-Weltmodell-Framework, das für persistentes dynamisches Objektgedächtnis und uneingeschränkte Blickwinkelerkundung entwickelt wurde. Im Gegensatz zu bestehenden Weltmodellen, die physikalische Dynamik mit Pixel-Rendering verknüpfen und auf kontinuierliche visuelle Beobachtung angewiesen sind, um Bewegung aufrechtzuerhalten, entkoppelt unser Framework explizit die semantische Bewegungssteuerung von der visuellen Generierung. Durch die Nutzung eines LLM zur Koordination von 3D-Trajektorien mit Kamerabewegungen und die anschließende Verwendung dieser orchestrierten Trajektorien als Steuersignale für die Videogenerierung gewährleistet unser Ansatz strenge physikalische Logik und Erscheinungsstabilität, wodurch die genauen visuellen Identitäten dynamischer Entitäten selbst dann erfolgreich erhalten bleiben, wenn sie nach längeren Zeiträumen außerhalb des Sichtfelds wieder in die Szene eintreten. Experimentelle Ergebnisse zeigen, dass unsere Methode die Synthese komplexer und langanhaltender Ereignisse mit beispielloser Steuerbarkeit und persistentem dynamischen Objektgedächtnis unterstützt. Projektseite: https://worlddirector.github.io/

8

Durchbrechen von Fehlerkaskaden: Schrittbewusstes Reinforcement Learning für medizinisches multimodales Schlussfolgern
Breaking Failure Cascades: Step-Aware Reinforcement Learning for Medical Multimodal Reasoning

Jun 30
ByJunha Jung, Minbyul Jeong, Suhyeon Lim, Sungwook Jung, Jaehoon Yun, Taeyun Roh, Mujeen Sung, Jaewoo Kang
14
1

Jüngste multimodale große Sprachmodelle haben großes Potenzial für die klinische Bildanalyse gezeigt, doch bestehende Post-Training-Pipelines bleiben überwiegend ergebnisorientiert, indem sie auf der Korrektheit der endgültigen Antwort oder auf Sequenzpräferenzen basieren. Dies führt zu einer spärlichen Kreditzuweisung, die die Optimierung des für klinische Anwendungen essenziellen Argumentationsprozesses erschwert. Unsere Analyse zeigt, dass kaskadierende Fehler aus frühen Argumentationsfehlern eine Hauptursache für falsche Vorhersagen bei medizinischen Benchmarks zur visuellen Fragebeantwortung (VQA) sind. Motiviert dadurch schlagen wir Medical Reasoning-aware Policy Optimization (MRPO) vor, einen RL-Algorithmus, der schrittweise Prozessbelohnungen integriert. Wenn die endgültige Antwort falsch ist, weist MRPO Token in früheren ungültigen Argumentationsschritten exponentiell größere Strafen zu, wodurch Fehlerkaskaden unterbrochen werden, ohne erfolgreiche Pfade zu beeinträchtigen. Über drei multimodale LLM-Backbones hinweg übertrifft MRPO durchweg das standardmäßige GRPO und eine neuere RL-Baseline und liegt bei Qwen3-VL-8B-Instruct sogar um 2,79 Punkte über deutlich größeren medizinischen MLLMs wie HuatuoGPT-Vision-34B. Darüber hinaus reduziert MRPO frühe Argumentationsfehler von 64,0 % auf 13,0 %, was zeigt, dass eine gezielte Abschwächung von Kaskadenfehlern sowohl die Argumentationsqualität als auch die Genauigkeit der endgültigen Antwort verbessert. Unser Code ist verfügbar unter https://github.com/dmis-lab/MRPO.

9

SkillCoach: Selbstentwickelnde Rubriken zur Bewertung und Verbesserung der agentischen Fertigkeitsnutzung
SkillCoach: Self-Evolving Rubrics for Evaluating and Enhancing Agentic Skill-Use

Jul 2
ByJiayin Zhu, Kelong Mao, Yudong Guo, Dengbo He, Sulong Xu, Simiu Gu, Yutao Yue
12
0

Fähigkeiten entwickeln sich zu einer wiederverwendbaren operativen Ebene für LLM-Agenten, die SOPs, Domänenregeln, Tool-Workflows, Skripte und Validierungsroutinen kodieren. In realistischen Skill-Repositorien erschweren überlappende Fähigkeiten eine zuverlässige Nutzung. Die finale Erfolgsprüfung durch einen Verifizierer ist sowohl für die Evaluierung als auch für das Training zu grob, da ein Agent durch Versuch und Irrtum gehen kann, während er Ablenkungs-Skills auswählt, erforderliche Schritte auslässt, Workflows falsch zusammenstellt oder finale Überprüfungen unterlässt. Wir stellen SkillCoach vor, ein sich selbst weiterentwickelndes Rubriken-Framework zur Bewertung und Verbesserung der agentischen Skill-Nutzung. SkillCoach leitet skill-basierte Prozessrubriken aus realen Rollouts ab und bewertet Trajektorien entlang vier Dimensionen: Skill-Auswahl, Skill-Befolgung, Skill-Komposition und skill-basierte Reflexion. Dabei bleibt der externe Verifizierer als separates Ergebnissignal erhalten, sodass Prozessqualität von zufälligem Aufgabenerfolg unterschieden werden kann. Die weiterentwickelten Rubriken dienen zudem als Prozessüberwachung zur Auswahl hochwertiger Trainings-Trajektorien. Experimente zeigen, dass weiterentwickelte Rubriken die Evaluierungsqualität erheblich verbessern, durch finale Genauigkeit verdeckte Fehler aufdecken und stärkere Überwachungssignale liefern als eine rein ergebnisbasierte Filterung zur Verbesserung der agentischen Skill-Nutzung.

10

Optimierung visueller generativer Modelle durch verteilungsbezogene Belohnungen
Optimizing Visual Generative Models via Distribution-wise Rewards

Jul 2
ByRuihang Li, Mengde Xu, Shuyang Gu, Leigang Qu, Fuli Feng, Han Hu, Wenjie Wang
12
2

Konventionelle Reinforcement-Learning-Strategien für die visuelle Generierung verwenden typischerweise stichprobenbezogene Belohnungsfunktionen, doch diese Praxis führt häufig zu Reward Hacking, das die Bildvielfalt beeinträchtigt und visuelle Anomalien verursacht. Um diese Einschränkungen zu beheben, stellen wir ein neuartiges Framework vor, das generative Modelle mittels verteilungsbezogener Belohnungen feinabstimmt und so eine bessere Übereinstimmung mit realen Datenverteilungen gewährleistet. Im Gegensatz zu Belohnungen, die Stichproben einzeln bewerten, berücksichtigt die verteilungsbezogene Belohnung die Datenverteilung der Stichproben und mildert das Problem des Moduskollapses, das auftritt, wenn alle Stichproben unabhängig voneinander in dieselbe Richtung optimiert werden. Um den unerschwinglichen Rechenaufwand für die Schätzung dieser Belohnungen zu überwinden, führen wir eine Teilmengenersetzungsstrategie ein, die Belohnungssignale effizient bereitstellt, indem nur eine kleine Teilmenge eines generierten Referenzsatzes aktualisiert wird. Darüber hinaus wenden wir Reinforcement Learning an, um Post-hoc-Modell-Verschmelzungskoeffizienten zu optimieren, wodurch möglicherweise die Trainings-Inferenz-Inkonsistenz gemildert wird, die durch die Einführung stochastischer Differentialgleichungen (SDE) in regulären RL-Praktiken verursacht wird. Umfangreiche Experimente zeigen, dass unser Ansatz den FID-50K über verschiedene Basismodelle hinweg signifikant verbessert, von 8,30 auf 5,77 für SiT und von 3,74 auf 3,52 für EDM2. Die qualitative Bewertung bestätigt ebenfalls, dass unsere Methode die Wahrnehmungsqualität verbessert und gleichzeitig die Stichprobenvielfalt erhält.

11

Logit-Beitrags-Scoring identifiziert nicht-wörtliche Retrieval-Heads
Logit-Contribution Scoring Identifies Non-Literal Retrieval Heads

Jul 1
ByAryo Pradipta Gema, Beatrice Alex, Pasquale Minervini
11
1

Bei der Nutzung langer Kontexte synthetisieren große Sprachmodelle häufig Antworten aus der Bedeutung eines relevanten Kontextabschnitts, anstatt sie wörtlich zu kopieren. Die Identifizierung der Aufmerksamkeitsköpfe, die diese Synthese durchführen, ist für die Interpretation des Verhaltens von Modellen mit langen Kontexten von Bedeutung. Dennoch übersehen bestehende Detektoren diese Köpfe konstruktionsbedingt: Sie belohnen Köpfe, deren beachtetes Token mit dem generierten Token übereinstimmt – ein Kriterium des wörtlichen Kopierens, das erfasst, wo ein Kopf liest, nicht aber, was er durch seinen Output-Value-(OV)-Schaltkreis schreibt, genau jenen Mechanismus, der nicht-wörtliches Abrufen transportiert. Wir führen Logit-Contribution Scoring (LOCOS) ein, einen schreibbewussten Detektor, der jeden Kopf durch die Projektion seines OV-Schaltkreis-Ausgangs auf die Unembedding-Richtung des Antwort-Tokens bewertet, wobei Nadel- und Nicht-Nadel-Quellpositionen in einem einzigen Vorwärtsdurchlauf kontrastiert werden. Über drei Modellfamilien (Qwen3, Gemma-3, OLMo-3.1) hinweg führt die mittlere Ablation der höchstbewerteten LOCOS-Köpfe im NoLiMa-Benchmark für nicht-wörtliches Abrufen bei niedrigeren Kopfanzahlen zu einem Zusammenbruch von ROUGE-L als frühere aufmerksamkeitsbasierte Detektionen; bei Qwen3-8B treibt die Ablation von 50 Köpfen ROUGE-L von 0,401 auf 0,000, während die stärkste Baseline immer noch 0,292 beibehält. Die ausgewählten Köpfe sind abrufspezifisch: Parametrisches Erinnern und arithmetisches Denken bleiben unter derselben Ablation auf dem Baseline-Niveau. Bei Qwen3-8B senkt dieselbe Ablation auch MuSiQue von 0,55 auf 0,08 und BABI-Long von 0,62 auf 0,20, während eine Kontrolle mit zufälligen Köpfen innerhalb von 0,05 der Baseline bleibt.

12

Von SRA zu Self-Flow: Datenaugmentation oder Selbstüberwachung?
From SRA to Self-Flow: Data Augmentation or Self-Supervision?

Jul 2
ByDengyang Jiang, Mengmeng Wang, Harry Yang, Jingdong Wang
10
1

Repräsentationsalignment hat sich als effektive Methode erwiesen, um das Training von Diffusionstransformatoren zu beschleunigen und die Generierungsqualität zu verbessern. Neuere Selbstausrichtungsmethoden wie SRA und Self-Flow beseitigen zudem die Abhängigkeit von externen vortrainierten Encodern, indem sie das Alignment innerhalb des Diffusionsmodells selbst konstruieren. Allerdings blieb der Mechanismus hinter der Verbesserung von SRA zu Self-Flow – die Zweizeitplanung – bisher unzureichend untersucht: Self-Flow führt seinen Gewinn auf Interaktionen zwischen Tokens unterschiedlicher Rauschstufen zurück, wobei sauberere Tokens helfen, verrauschteste zu inferieren. In dieser Arbeit überprüfen wir diese Erklärung und fragen, ob der Gewinn stattdessen auf Datenaugmentierung entlang der Rauschdimension zurückzuführen ist. Um diese Faktoren zu entflechten, führen wir die Aufmerksamkeitstrennung ein, die dieselben Dual-Zeitschritt-Eingaben wie Self-Flow beibehält, während die Aufmerksamkeit zwischen Tokens, die unterschiedlichen Rauschstufen zugeordnet sind, blockiert wird. Überraschenderweise verschlechtert das Entfernen dieser Interaktion die Leistung nicht und kann sie sogar verbessern, was darauf hindeutet, dass die Verbesserung von SRA zu Self-Flow hauptsächlich auf Datenaugmentierung zurückgeht. Darüber hinaus zeigen wir, dass die Aufmerksamkeitstrennung selbst einen Augmentierungseffekt erzielt, indem sie ein einzelnes Bild in mehrere effektive Trainingsteile aufteilt, um die Trainingsdaten zu erweitern. Basierend auf diesen Beobachtungen kombinieren wir das Selbstrepräsentationsalignment mit Dual-Zeitschritt- und Aufmerksamkeitstrennungs-Augmentierung und demonstrieren die Wirksamkeit dieses Designs auf ImageNet.

13

AGVBench: Ein zuverlässigkeitsorientierter Benchmark für Datenaugmentation in der Venenerkennung
AGVBench: A Reliability-Oriented Benchmark of Data Augmentation for Vein Recognition

Jul 2
ByHaiyang Li, Yuming Fu, Qun Song, Hongchao Liao, Jing Chen, Mounim A. EI-Yacoubi, Xin Jin
9
1

Venenerkennung ist ein sicheres biometrisches Verfahren, das oft durch begrenzte annotierte Daten und Bildgebungsvariationen eingeschränkt wird. Während Datenaugmentation dem entgegenwirkt, können für natürliche Bilder entwickelte Strategien die feinkörnige Topologie und Texturen stören, die für die Identitätsunterscheidung wesentlich sind. Wir stellen AGVBench vor, das 30 repräsentative Augmentationsstrategien auf fünf öffentlichen Palmen- und Fingeraden-Datensätzen mit sieben Backbone-Architekturen evaluiert – darunter klassische CNNs, Vision Transformer und venenspezifische Erkennungsmodelle. Unsere Ergebnisse zeigen, dass Multi-Bild-Mischverfahren (z. B. MixUp, PuzzleMix, StarMixup) im Allgemeinen die stärkste Erkennungsleistung erzielen. Allerdings sind sie oft schlecht kalibriert und anfällig für adversarielle Störungen, was eine deutliche Inkonsistenz zwischen sauberer Genauigkeit und adversarieller Sicherheit offenbart. Wir stellen zudem fest, dass starke geometrische Transformationen die Erkennung häufig verschlechtern – potenziell aufgrund von Fehlausrichtung der Merkmale oder räumlichem Zuschneiden – und dass die Wirksamkeit der Augmentation zwischen Palm- und Fingeraden-Datensätzen variiert. Diese Erkenntnisse belegen, dass eine genauigkeitszentrierte Bewertung für die biometrische Augmentation unzureichend ist. AGVBench bietet standardisierte Protokolle zur Unterstützung reproduzierbarer Forschung und zur Orientierung bei der Entwicklung zuverlässiger, sicherer und robuster Venenerkennungssysteme. Unser Codebase ist verfügbar unter https://github.com/Advance-VeinTech-Innovators/AGVBench.

14

InstanceControl: Kontrollierbare komplexe Bildgenerierung ohne Instanzkennzeichnung
InstanceControl: Controllable Complex Image Generation without Instance Labeling

Jun 30
ByXiaoyu Liu, Huan Wang, Fan Li, Zhixin Wang, Jiaqi Xu, Ming Liu, Wangmeng Zuo
8
2

Kontrollierbare Bildgenerierungsmethoden wie ControlNet haben eine bemerkenswerte Fähigkeit gezeigt, visuelle Bedingungen (z. B. Tiefenkarten) zur Steuerung der Bildgenerierung einzuführen. Allerdings haben diese Methoden oft Schwierigkeiten mit komplexen Szenen mit mehreren Instanzen, was häufig zu Attributsverwechslungen zwischen den Instanzen führt. Während neuere Ansätze versuchen, dies durch manuelle Instanzkennzeichnung zu mildern, ist ein solcher Arbeitsaufwand sehr arbeitsintensiv. In dieser Arbeit schlagen wir InstanceControl vor, eine neuartige Methode zur kontrollierbaren Generierung mehrerer Instanzen, die keine Instanzkennzeichnung erfordert. Wir identifizieren den primären Engpass in bestehenden Methoden als die Unfähigkeit, Instanzbeschreibungen korrekt mit ihren entsprechenden Regionen in visuellen Bedingungen zu verknüpfen. Um dies zu adressieren, nutzen wir das Vision-Language-Modell (VLM), um instanzbezogene Korrespondenzen zwischen Textaufforderungen und visuellen Bedingungen herzustellen. Konkret parst das VLM automatisch Instanzbeschreibungen aus den Textaufforderungen und sagt gleichzeitig Instanzmasken basierend auf den visuellen Bedingungen vorher. Da die vorhergesagten Masken Rauschen enthalten können, führen wir eine adaptive Maskenverfeinerungsstrategie ein, die diese Instanzmasken während des Generierungsprozesses dynamisch verbessert. Umfangreiche Experimente zeigen, dass unser Ansatz modernste Methoden übertrifft und eine überlegene Bildtreue sowie präzise instanzbezogene Kontrolle erreicht.

15

Wann Suchagenten fragen sollten: DiscoBench für klärungsbewusste Tiefensuche
When Search Agents Should Ask: DiscoBench for Clarification-Aware Deep Search

Jun 26
ByYiling Tao, Shihan Deng, Meiling Tao, Pengzhi Wei, Zhichao Hu, Zhihao Zhu
8
1

Suchagenten, die auf großen Sprachmodellen (LLMs) basieren, werden zunehmend eingesetzt, um komplexe informationssuchende Aufgaben zu lösen, die mehrstufiges Abrufen und Schlussfolgern erfordern, um Benutzerziele zu erfüllen. Allerdings gehen bestehende Benchmarks oft davon aus, dass Benutzeranfragen vollständig und explizit sind, und übersehen dabei, dass reale Suchanfragen häufig vage, unterbestimmt oder sogar sachlich falsch sind. In tiefgehenden Suchszenarien kann sich eine solche Mehrdeutigkeit entlang mehrstufiger Schlussfolgerungsketten ausbreiten und Agenten auf falsche Suchpfade führen. Um diese Lücke zu schließen, stellen wir DiscoBench vor, einen Benchmark für klärungsbewusste Tiefensuche, der bewertet, ob Suchagenten proaktiv Mehrdeutigkeiten erkennen, effektive Klärungsfragen stellen und durch Benutzerinteraktion korrekte Schlussfolgerungspfade wiederherstellen können. DiscoBench umfasst 211 Stichproben und 463 Mehrdeutigkeitsfälle aus 11 realen Domänen, die vier Arten von Mehrdeutigkeit abdecken. Darüber hinaus entwickeln wir einen Benutzersimulator für mehrschrittige Interaktion und bewerten die Modellleistung aus vier Perspektiven: Aufgabennutzen, Mehrdeutigkeitserkennung, Interaktionsstrategie und Kosteneffizienz. Experimente mit repräsentativen LLMs zeigen, dass Mehrdeutigkeitserkennung und effektive Klärung eigenständige Fähigkeiten sind und dass wiederholtes Suchen anstatt einer Klärungsanfrage oft schlechter abschneidet als direktes Raten, was eine kritische Lücke zwischen Abruffähigkeit und interaktivem Problemlösen in aktuellen Suchagenten aufzeigt.

16

AnyGroundBench: Ein domänenspezifischer Benchmark für Video-Grounding in Vision-Language-Modellen
AnyGroundBench: A Specialized-Domain Benchmark for Video Grounding in Vision-Language Models

Jul 2
ByRintaro Otsubo, Ryo Fujii, Reina Ishikawa, Taiki Kanaya, Kanta Sawafuji, Hiroki Kajita, Shigeki Sakai, Hideo Saito, Ryo Hachiuma
7
1

Vision-Language-Modelle (VLMs) haben enormes Potenzial im Bereich des räumlich-zeitlichen Video Groundings (STVG) gezeigt. Allerdings beschränken sich die derzeitigen Evaluierungsprotokolle weitgehend auf Zero-Shot-Bewertungen auf allgemeinen, alltäglichen Benchmarks. Dies führt zu einer kritischen Diskrepanz zu realen Anwendungen in spezialisierten Bereichen, in denen Modelle zwangsläufig auf seltene visuelle Konzepte und komplexe räumlich-zeitliche Dynamiken treffen. Da ein erschöpfendes Vortraining über unendliche Datenverteilungen hinweg nicht durchführbar ist, ist die Fähigkeit zur Anpassung an neue Domänen unerlässlich. Um diese Lücke zu schließen, führen wir AnyGroundBench ein, einen Domänenanpassungs-Benchmark, der darauf abzielt, das STVG-Evaluierungsparadigma von statischen Zero-Shot-Tests hin zu einer rigorosen Domänenanpassung zu verschieben. Mit Fokus auf fünf spezialisierte Domänen (Tiere, Industrie, Sport, Chirurgie und öffentliche Sicherheit) kombiniert AnyGroundBench neu aufgenommene Videos, wie z.B. fachmännisch annotiertes Mäuseverhalten, mit etablierten Datensätzen und vereinheitlicht sie durch dichte, hochgetreue räumlich-zeitliche Annotationen. Entscheidend ist, dass der Benchmark dedizierte Trainingssubsets bereitstellt, um die Domänenanpassungsfähigkeit systematisch zu messen. Wir evaluieren umfassend 15 moderne VLMs und bewerten ihre Zero-Shot-Generalisierung und In-Context-Learning-Fähigkeiten (ICL) unter praktischen Rechenbeschränkungen. Letztendlich zeigen unsere Ergebnisse, dass aktuelle Modelle sowohl bei der Zero-Shot- als auch bei der ICL-basierten Anpassung versagen, wenn sie mit spezialisierten Domänen konfrontiert werden, und offenbaren kritische Schwächen im räumlich-zeitlichen Denken, die zukünftige Forschung adressieren muss.

17

AutoMem: Automatisiertes Lernen des Gedächtnisses als kognitive Fähigkeit
AutoMem: Automated Learning of Memory as a Cognitive Skill

Jul 1
ByShengguang Wu, Hao Zhu, Yuhui Zhang, Xiaohan Wang, Serena Yeung-Levy
6
1

Gedächtnisexpertise ist eine erlernbare Fähigkeit: zu wissen, was kodiert, wann abgerufen und wie Wissen organisiert werden soll – eine Fähigkeit, die in der Kognitionswissenschaft als Metagedächtnis bezeichnet wird. Wir übertragen diese Perspektive auf LLMs, indem wir Gedächtnisverwaltung als trainierbare Fähigkeit behandeln. Wir erheben Dateisystemoperationen zu erstklassigen Gedächtnisaktionen neben Aufgabenaktionen, sodass das Modell selbst entscheiden kann, wie es sein Gedächtnis verwaltet. Diese Gedächtnisfähigkeit verbessert sich entlang zweier Achsen: der Struktur, die sie unterstützt (Prompts, Dateischemata, Aktionsvokabular), und der Kompetenz des Modells, das sie ausübt. Beide Achsen widersetzen sich manueller Optimierung: Episoden in langfristigen Aufgaben laufen über Tausende von Schritten, und ein einzelner Gedächtnisfehler kann sich lange verstecken, bevor er auftaucht, was eine menschliche Überprüfung vollständiger Trajektorien unpraktikabel macht. Wir stellen AutoMem vor, ein Framework, das beide Achsen automatisiert. In der ersten Schleife überprüft ein starkes LLM vollständige Agententrajektorien und überarbeitet iterativ die Gedächtnisstruktur, die bestimmt, wie der Agent mit seinen Gedächtnisdateien interagiert. In der zweiten Schleife werden die eigenen guten Gedächtnisentscheidungen des Agenten aus vielen Episoden identifiziert und als Trainingssignal genutzt, um die Gedächtniskompetenz des Modells direkt zu schärfen. In drei prozedural generierten langfristigen Spielen (Crafter, MiniHack und NetHack) verbesserte die alleinige Optimierung des Gedächtnisses – ohne Änderung des Aufgabenaktionsverhaltens des Modells – die Leistung des Basisagenten um etwa das 2- bis 4-fache und brachte ein 32B Open-Weight-Modell in Wettbewerb mit führenden Systemen wie Claude Opus 4.5 und Gemini 3.1 Pro Thinking. Unsere Ergebnisse zeigen, dass Gedächtnisverwaltung eine unabhängig erlernbare Fähigkeit ist und ein Hebelobjekt mit hoher Wirkung, das große Gewinne bei langfristigen Aufgaben erzielt.

18

PACE: Ein Proxy zur Bewertung agentischer Fähigkeiten
PACE: A Proxy for Agentic Capability Evaluation

Jul 2
ByYueqi Song, Lintang Sutawika, Jiarui Liu, Lindia Tjuatja, Jiayi Geng, Yunze Xiao, Daniel Lee, Aditya Bharat Soni, Vincent Lo, Xiang Yue, Graham Neubig
5
0

Die Evaluierung von LLM-Agenten anhand von Benchmarks wie SWE-Bench und GAIA kann teuer, zeitaufwändig und mit komplexer Infrastruktur verbunden sein. Eine einzelne Evaluierung kann Tausende von Dollar kosten und Tage in Anspruch nehmen. Im Gegensatz dazu sind nicht-agentische LLM-Benchmarks, die einzelne Fähigkeiten testen (z. B. logisches Denken, Code-Generierung), schnell und kostengünstig durchführbar. In dieser Arbeit untersuchen wir, ob die Leistung bei teuren agentischen Benchmarks genau durch die Leistung anhand einer kleinen, sorgfältig ausgewählten Teilmenge atomarer Evaluierungsinstanzen vorhergesagt werden kann. Wir stellen PACE vor, ein Rahmenwerk, das Proxy-Benchmarks konstruiert, indem es Instanzen aus bestehenden nicht-agentischen Evaluierungen auswählt, deren aggregierte Ergebnisse die Modellleistungen bei agentischen Benchmarks am zuverlässigsten vorhersagen. Ausgehend von einem Pool an Kandidateninstanzen, die atomare Fähigkeiten abdecken, passt PACE eine Regression an, die die Ergebnisse eines Modells in einer kompakten Teilmenge von Quellinstanzen auf dessen Ergebnis im Ziel-Agenten-Benchmark abbildet. Die Teilmenge selbst wird durch die Kombination zweier komplementärer Instanzauswahlstrategien kuratiert: der zielrelevanten lokalen Auswahl und der global informativen globalen Auswahl. Wir wenden PACE auf die 4 Ziel-Agenten-Benchmarks in dieser Arbeit an, was zu PACE-Bench führt, dem konkreten Proxy-Benchmark, den wir in der Arbeit evaluieren. Experimente mit 14 Modellen, 4 agentischen Benchmarks und 19 nicht-agentischen Benchmarks zeigen, dass PACE-Bench agentische Ergebnisse mit einem mittleren absoluten Fehler (MAE) der Leave-One-Out-Kreuzvalidierung (LOOCV) unter 4%, einer Spearman-Korrelation über 0,80 und einer paarweisen Modell-Ranking-Genauigkeit von etwa 85% vorhersagt, und dies zu weniger als 1% der Kosten einer vollständigen agentischen Evaluierung. Wir analysieren weiterhin die ausgewählten Proxy-Instanzen und zeigen, welche Fähigkeiten jeder agentische Benchmark einzigartig erfordert. PACE ermöglicht es Praktikern, zuverlässige Schätzungen der agentischen Leistung während der Modellentwicklung, -auswahl und -lenkung zu erhalten, ohne den Aufwand einer vollständigen Agentenevaluierung.

19

Repräsentationsverteilungsabgleich für einschrittige visuelle Generierung
Representation Distribution Matching for One-Step Visual Generation

Jul 2
ByLan Feng, Wuyang Li, Eloi Zablocki, Matthieu Cord, Alexandre Alahi
4
0

Wir beleuchten den Designraum der Repräsentationsverteilungsanpassung (Representation Distribution Matching, RDM), unserem Begriff für das Paradigma, bei dem ein Ein-Schritt-Bildgenerator trainiert wird, indem erzeugte und Referenz-Merkmalsverteilungen unter eingefrorenen, vortrainierten Encodern abgeglichen werden. Wir identifizieren zwei Designachsen – wie die Verteilungen verglichen werden und in welchen Repräsentationen sie verglichen werden – und kontrollierte Studien entlang dieser Achsen liefern drei Erkenntnisse. Erstens: Der klassische MMD, der vor einem Jahrzehnt noch keine überzeugenden Generatoren trainieren konnte, wird zu einem starken und skalierbaren Ziel, sobald er richtig geschätzt wird. Zweitens: Der erzeugte Batch ist dann die operative Variable, mit einem Optimum oberhalb von 2048, weit über den üblichen Batch-Größen. Drittens: Jede einzelne Repräsentation kann ausgetrickst werden – sie sinkt unter den echten Wert, während Bilder sichtbar unecht bleiben – daher gleichen wir gegen eine ausgewogene Batterie von Encodern ab und evaluieren mit SW_r14, einem Sliced-Wasserstein-Abstand über 14 Encoder, der unabhängig vom Trainingsverlust ist und sich gegen Austricksen resistent zeigt. Die Kombination der bevorzugten Entscheidungen ergibt verbessertes RDM (iRDM): Es setzt den Ein-Schritt-Stand der Technik auf ImageNet bei SW_r14 1,30, bestätigt durch PickScore, einen menschlichen Präferenzproxy, den unser Ziel nie optimiert, und der iRDM in 71,2 % der gepaarten Stichproben gegenüber dem bisher besten Ein-Schritt-Generator bevorzugt. Das gleiche Rezept wandelt den Vier-Schritt-FLUX.2 [klein] in einen Ein-Schritt-Generator um, der die Vier-Schritt-Version bei GenEval, 0,826 zu 0,794, und bei PickScore, 22,76 zu 22,58, in 90 H200-GPU-Stunden übertrifft. Projektseite: https://alan-lanfeng.github.io/rdm/.

20

Lernen, sich zu bewegen, bevor man lernt, zu handeln: Aufgabenagnostisches Vortraining für VLAs
Learning to Move Before Learning to Do: Task-Agnostic pretraining for VLAs

Jul 2
ByJunhao Shi, Siyin Wang, Xiaopeng Yu, Li Ji, Jingjing Gong, Xipeng Qiu
4
0

Vision-Language-Action-Modelle (VLA-Modelle) werden grundlegend durch die Knappheit an Experten-Demonstrationen eingeschränkt – Tripel aus Beobachtungen, Anweisungen und Aktionen, deren Erhebung in großem Maßstab kostspielig ist. Wir argumentieren, dass dieser Engpass aus der Vermischung zweier unterschiedlicher Lernziele resultiert: dem Erwerb physischer Kompetenz (wie man sich bewegt) und dem Erwerb semantischer Ausrichtung (was zu tun ist). Entscheidend ist, dass nur letzteres sprachliche Überwachung erfordert. Aufbauend auf dieser Dekompositionshypothese schlagen wir Task-Agnostic Pretraining (TAP) vor, ein zweistufiges Framework, das zunächst übertragbare motorische Priors aus kostengünstigen, unlabeled Interaktionsdaten lernt – einschließlich verworfenen Off-Task-Trajektorien und autonomem Roboterspiel – mittels eines selbstüberwachten Inverse-Dynamics-Ziels. In einer zweiten, ressourcenschonenden Stufe werden diese Priors dann mit minimalen Expertendaten sprachlich verankert. Auf dem SIMPLER-Benchmark erreicht TAP die Leistung von Modellen, die auf über 1 Million Experten-Trajektorien trainiert wurden, während es um Größenordnungen weniger gelabelte Daten verwendet, was einem absoluten Gewinn von 10% gegenüber standardmäßigem Verhaltensklonen entspricht. Auf einer realen WidowX-Plattform behält TAP unter Kamerastörungen eine Erfolgsrate von 25%, während internetweite Baselines auf 0% einbrechen, was zeigt, dass aufgabenagnostisches Vortraining robuste, übertragbare physische Repräsentationen hervorbringt und einen skalierbaren Weg für die Embodied AI darstellt.

21

Dichter ≠ Besser: Grenzen der On-Policy-Selbstdestillation für kontinuierliches Post-Training
Denser neq Better: Limits of On-Policy Self-Distillation for Continual Post-Training

Jul 2
ByMeng Wang, Haohan Zhao, Wenzhuo Liu, Lu Yang, Geng Liu, Haiyang Guo, Guo-Sen Xie, Gaofeng Meng, Hongbin Liu, Fei Zhu
4
1

Kontinuierliches Post-Training ermöglicht es Foundation-Modellen, neues Wissen zu erwerben, während bestehende Fähigkeiten erhalten bleiben. Neuere Arbeiten legen nahe, dass On-Policy-Learning das Vergessen abmildern kann, wobei sich On-Policy-Selbstdestillation als besonders vielversprechender Ansatz herauskristallisiert. In dieser Arbeit überprüfen wir diese optimistische Sichtweise anhand von Self-Distillation Policy Optimization (SDPO). Unsere Experimente zeigen, dass SDPO die domänenspezifische Spezialisierung beschleunigen kann, wenn die Lehrer-Signale stabil und gut ausgerichtet sind, aber Schwierigkeiten hat, auf Szenarien außerhalb der Verteilung zu generalisieren. Beim kontinuierlichen Post-Training zeigt SDPO stärkeres Vergessen und kann sogar kollabieren, während On-Policy-Verstärkungslernmethoden wie GRPO konservativer adaptieren und frühere Fähigkeiten besser bewahren. Weitere Analysen offenbaren, dass dichtere Selbstdestillation zu größerem Drift sowohl im Parameterraum als auch im Antwortraum führt und hochfrequente Formatierungsartefakte durch eine sich selbst verstärkende Lehrer-Schüler-Schleife verstärken kann. Diese Ergebnisse deuten darauf hin, dass allein On-Policy-Daten für kontinuierliches Lernen nicht ausreichen. Dichte Selbstdestillation kann die Spezialisierung beschleunigen, wenn die Lehrer-Ziele stabil sind und die Überwachung auf Token-Ebene zuverlässig ist, sollte aber nicht als Standard-Stabilisator für kontinuierliches Post-Training betrachtet werden. Unser Code ist verfügbar unter https://github.com/Moenupa/SDPO-CL.

22

Diskrete Diffusions-Sprachmodelle für die interaktive Erstellung radiologischer Berichte
Discrete Diffusion Language Models for Interactive Radiology Report Drafting

Jul 1
ByMax Van Puyvelde, Halil Ibrahim Gulluk, Wim Van Criekinge, Olivier Gevaert
4
1

Diffusions-Sprachmodelle, die Text durch bidirektionales Entrauschen eines Token-Rasters und nicht durch links-nach-rechts-Emission von Token erzeugen, sind inzwischen mit autoregressiver (AR) Generierung konkurrenzfähig. Medizinische Grundlagenmodelle bleiben jedoch fast vollständig autoregressiv. Wir passen ein Diffusions-Sprachmodell auf Basis eines Experten-Mischungsmodells, DiffusionGemma-26B, an und vergleichen es unter identischem LoRA-Verfahren mit seinem gleich großen AR-Pendant Gemma-4-26B anhand medizinischer Datensätze zur visuellen Beantwortung von Fragen, bewertet durch einen auf Robustheit gegenüber Ausführlichkeit ausgerichteten LLM-Bewerter. Diffusion erreicht auf allen Datensätzen mindestens das Niveau von AR, übertrifft es teils, und das feinabgestimmte Modell (3,8 Mrd. aktive Parameter) ist mit führenden Vision-Language-Modellen konkurrenzfähig; seine Dekodierung ist zudem 3,5- bis 4,4-mal schneller. Über diese Gleichwertigkeit hinaus bietet das Diffusionsmodell eine Entwurfsfähigkeit, die AR fehlt: das beliebige Auffüllen von Lücken. Da die Leinwand bidirektional entrauscht wird, kann ein Radiologe Berichtsfragmente fixieren und das Modell den Text dazwischen ergänzen lassen – eine Operation, die für Diffusion inhärent ist, während AR darunter leidet. Dies eignet sich für reale Berichte, die über Kliniken und Institutionen hinweg oft knapp oder inkonsistent sind.

23

WARP: Gewichtsraum-Analyse zur Wiederherstellung von Trainingsdatenportfolios
WARP: Weight-Space Analysis for Recovering Training Data Portfolios

Jul 2
ByTzu-Heng Huang, Aditya Goyal, John Cooper, Frederic Sala
3
1

Grundlagenmodelle werden routinemäßig der Öffentlichkeit zugänglich gemacht, doch die Datenrezepte, die zu ihrem Training verwendet werden – etwa die Domänenmischungsgewichte, die bestimmen, wie verschiedene Quellen abgetastet werden – werden selten offengelegt. Dies schafft eine Asymmetrie beim Zugang: Forscher untersuchen die resultierenden Modelle, haben jedoch keine Einsicht in die Trainingsverteilung, die sie hervorbringt. Bisherige Arbeiten zur Inferenz von Trainingsdaten, wie etwa die Mitgliedschaftsinferenz, erkennen diese auf der Ebene einzelner Stichproben und können daher die globale Zusammensetzung des Trainingskorpus nicht charakterisieren. Wir stellen WARP vor, ein Framework, das die Trainingsmischungen eines feinabgestimmten Modells direkt aus dessen veröffentlichten Gewichten rekonstruiert. WARP interpoliert zwischen dem Basis- und dem feinabgestimmten Modell mittels Modellzusammenführung, erzeugt Pseudo-Checkpoints, die den fehlenden Trainingsverlauf annähern, und legt einen geometrischen Fußabdruck der Trainingsdaten im Gewichtsraum frei. Aus diesen simulierten Fußabdrücken extrahiert WARP geometrische Merkmale und bildet diese auf Domänenanteile ab, entweder mittels einer parameterfreien Softmax-Auslese oder eines MLP-Projektors, der auf synthetischen Mischungen trainiert wurde. In kontrollierten Experimenten mit BERT und GPT-2 rekonstruiert WARP Domänenmischungen mit einem durchschnittlichen MAE von nur 0,046 bzw. 0,104 und übertrifft damit die Mitgliedschaftsinferenz sowie eine Variante, die Zugang zum tatsächlichen Trainingsverlauf hat.

24

DuoMem: Auf dem Weg zu leistungsfähigen On-Device-Speicher-Agenten mittels Dual-Space-Destillation
DuoMem: Towards Capable On-Device Memory Agents via Dual-Space Distillation

Jun 29
ByPeyman Hosseini, Ondrej Bohdal, Ahmed Alajrami, Andrea Maracani, Ignacio Castro, Matthew Purver, Mete Ozay, Savas Ozkan, Taha Ceritli
3
1

Auf Large Language Models (LLMs) basierende Agenten können komplexe prozedurale Aufgaben lösen, indem sie über mehrere Interaktionen hinweg mit Umgebungen interagieren. Diese Fähigkeit erfordert jedoch typischerweise große Modelle, lange Kontexte und wiederholte Inferenzaufrufe. Dies erschwert den Einsatz fortschrittlicher, speichergestützter Agenten auf ressourcenbeschränkten Geräten. Wir stellen DuoMem vor, ein Destillationsframework in dualen Räumen, das prozedurale Problemlösungsfähigkeiten von einem großen Lehrermodell auf kompakte Schülermodelle überträgt. DuoMem destilliert in zwei komplementären Räumen: (1) Kontextraum-Destillation, bei der vom Schüler erzeugte Erinnerungen durch qualitativ hochwertigere, vom Lehrer erzeugte prozedurale Erinnerungen ersetzt werden, die dem Eingabekontext des Schülers vorangestellt werden, und (2) Parameterraum-Destillation, bei der leichte LoRA-Adapter auf erfolgreichen Lehrer-Trajektorien feinabgestimmt werden. Evaluiert auf ALFWorld, einem anspruchsvollen Benchmark für verkörperte Entscheidungsfindung, steigert DuoMem die Aufgaben-Erfolgsrate eines 4B-Parameter-Modells von 4,3 % auf 77,9 % und schließt damit die Lücke zu einem 72B-Lehrermodell (87,1 %) weitgehend, während weniger als 10 Millionen trainierbare Parameter und nur wenige Megabyte vorberechneter Lehrererinnerungen hinzugefügt werden. Darüber hinaus absolviert das mit DuoMem verbesserte 4B-Modell Aufgaben in der Wanduhrzeit über 3-mal schneller als das 72B-Lehrermodell, was es für Echtzeit-Edge-Bereitstellungen geeignet macht, die für das Lehrermodell herausfordernd wären. Umfangreiche Ablationen über acht Modelle mit einer Spanne von 2B bis 72B Parametern zeigen, dass beide Destillationsachsen komplementäre Beiträge leisten.

25

Übertragbarkeit für allgemeines Denken: Ein automatisiertes Curriculum für Multi-Domain-RLVR
Transferability for General Reasoning: An Automated Curriculum for Multi-Domain RLVR

Jun 27
ByYongjin Yang, Jiarui Liu, Yinghui He, Lechen Zhang, Bernhard Schölkopf, Zhijing Jin
3
1

Verstärkungslernen mit überprüfbaren Belohnungen (RLVR) wurde von domänenspezifischem Training auf mehrdimensionale Reasoning-Suiten erweitert, die Mathematik, Programmierung und Wissenschaft abdecken. Allerdings ist der Trainingslehrplan (wie oft jede Domäne abgetastet wird) typischerweise festgelegt oder manuell angepasst, obwohl Reasoning-Fähigkeiten ungleichmäßig zwischen den Domänen übertragen werden. Bestehende lernbarkeitsbasierte Curricula passen sich an, wo die Policy gerade Verbesserungen zeigt, sind jedoch blind dafür, ob ein Gradientenschritt in der ausgewählten Domäne den übrigen Domänen zugutekommt. In dieser Arbeit schlagen wir das Transfer-Aware Curriculum (TAC) vor, ein banditenartiges Online-Curriculum, das Domänen priorisiert, deren Aktualisierungen breitflächig den Rest der Trainingssuite verbessern. TAC verwendet bereits im RL-Training erzeugte Signale: domänenspezifische Advantage-Werte erfassen die lokale Lernbarkeit, und projizierte Gradienten, die aus dem gerade berechneten GRPO-Schritt stammen, schätzen die domänenübergreifende Transferierbarkeit über die Ausrichtung der Gradientengeometrie – zu vernachlässigbaren Kosten (Laufzeit-Overhead <1 %). Über eine sechs Domänen umfassende Reasoning-Suite hinweg erzielt TAC die beste Makro-Durchschnittsgenauigkeit sowohl bei Qwen3-1.7B als auch bei Llama3.2-3B, übertrifft dabei proportionales zufälliges Sampling, einen manuell erstellten Zeitplan und einen reinen Lernbarkeits-Banditen und verbessert sich gegenüber letzterem um bis zu 2,8 Punkte (10 % relativ). Ablationen zeigen, dass die Leistung stark abfällt, wenn der Transferierbarkeitsterm entfernt wird, und TAC bleibt robust bei ungleichgewichtigen Trainingsmischungen, bei denen lernbarkeitsbasierte Curricula sich übermäßig auf dominante Domänen konzentrieren. Unsere Ergebnisse etablieren domänenübergreifende Transferierbarkeit als ein zentrales Signal für die Curriculumsgestaltung in mehrdimensionalem RLVR.

26

Parameter-effiziente quanteninspirierte Schnellgewichtsprogrammierer für die Verkehrsmatrix-Vorhersage
Parameter-Efficient Quantum-Inspired Fast Weight Programmers for Traffic-Matrix Forecasting

Jun 26
ByKuo-Chung Peng, Jiun-Cheng Jiang, Chun-Hua Lin, Tai-Yue Li, Nan-Yow Chen, Samuel Yen-Chi Chen
1
1

Verkehrsmatrizen (VMs) erfassen die netzwerkweite Nachfrage zwischen Ursprung und Ziel und sind zentral für das Verkehrsmanagement. Die genaue Vorhersage der gesamten Matrix bleibt jedoch eine Herausforderung, wenn die Prognose unter den Speicher-, Aktualisierungs- und Trainingsbudgetbeschränkungen der Online-Netzwerksteuerung durchgeführt werden muss. Diese Arbeit untersucht, ob kompakte quanteninspirierte rekurrente Modelle effektive VM-Prognosen liefern können, ohne auf spezielle Graph-, Transformer- oder Diffusionsmodule angewiesen zu sein. Wir passen gegatterte quanteninspirierte Kolmogorov-Arnold-Netzwerk-Schnellgewichtsprogrammierer (QKAN-FWPs) an die direkte mehrschrittige Abilene-VM-Prognose an, wobei jedes Modell die nächsten 20 Fünf-Minuten-Rahmen einer 144-Kanal-Ursprung-Ziel-Matrix (UZ-Matrix) aus einer zweistündigen Historie vorhersagt. Wir bewerten drei QKAN-Platzierungsvarianten im Vergleich zu einem Long-Short-Term-Memory-Netzwerk (LSTM) mit angepasster Größe, einem größeren LSTM und einem klassischen gegatterten Schnellgewichtsprogrammierer unter einem gemeinsamen Trainingsprotokoll mit festem Budget. Unter den bewerteten rekurrenten Modellen erreicht G-QKANFWP den besten gepoolten RMSE (Root-Mean-Square-Fehler) und verwendet dabei nur 22,4 % des größeren LSTM. Es übertrifft sowohl das LSTM mit angepasster Größe als auch die klassische G-FWP-Baseline, was darauf hindeutet, dass der Gewinn nicht allein auf das gegatterte Schnellgewichtsframework zurückzuführen ist. Konvergenz- und kanalweise Analysen zeigen zudem, dass die quanteninspirierten Varianten eine niedrigere Fläche unter der Lernkurve des Validierungsverlusts (AULC) erzielen als die rekurrenten Baselines mit angepasster Größe, während G-QKANFWP und GQKAN-FWP deutlich mehr OD-Kanal-Gewinne erzielen. Diese Ergebnisse identifizieren einen klassischen Langsamgewichtsprogrammierer mit einem quanteninspirierten Schnellgewichtsprogrammierer als vielversprechendes Design für Genauigkeit und Effizienz bei der ressourcenbewussten Prognose von Netzwerkverkehrsmatrizen.

27

Skalierungsgesetze für die gitterbasierte approximative Nächste-Nachbarn-Suche in hohen Dimensionen
Scaling Laws for Grid-Based Approximate Nearest Neighbor Search in High Dimensions

Jul 1
ByMatthew J Liu, Wei Hang Zheng, Vidhan Purohit, Siqi Xie, Chieh-En Li, Jerry Li, Noah Flynn
0
1

Gitterbasierte Ansätze für die approximative nächste-Nachbarn-Suche (ANN) wurden in modernen Skalierungsanalysen bislang vernachlässigt. Wir präsentieren eine systematische Charakterisierung eines Multiprobe-Grid-Algorithmus in Abhängigkeit von der Datensatzgröße N und der Dimensionalität d. Unsere Experimente zeigen einen bisher nicht berichteten d-Skalierungs-Crossover in der GloVe-Embedding-Familie, bei dem die Multiprobe-Gitter-Suche einen annähernd konstanten dimensionalen Skalierungsexponenten beibehält, während andere Graphen-, Baum- und partitionsbasierte Methoden einen abnehmenden Durchsatz aufweisen. Der Vorteil liegt in einer nahezu linearen Abfrageskalierung mit N, jedoch auch in geringeren Indexierungskosten im Vergleich zu konkurrierenden ANN-Verfahren. Unsere Ergebnisse deuten darauf hin, dass gitterbasierte Methoden wie die Multiprobe-Gitter-Suche in wiederaufbauintensiven oder hochdimensionalen Umgebungen wettbewerbsfähig sein könnten, wo Indexierungskosten und dimensionale Robustheit die Leistung bestimmen. Weitergehend wurde in aktuellen Arbeiten Self-Attention als ANN-Operation formalisiert. Somit könnten die N- und d-Skalierungseigenschaften von ANN-Algorithmen die Kostenanalyse effizienter Transformer-Architekturen leiten. Der Code ist verfügbar unter: https://github.com/weiz345/MultiProbeANN.

Jul 2
Jul 3
Jul 6