Täglich kuratierte KI-Forschungspapiere mit Übersetzungen
Wir stellen Vidu S1 vor, ein Echtzeit-interaktives Videogenerierungsmodell, das die Sprachsteuerung digitaler Charaktere unterstützt. Nutzer können jederzeit per Sprachbefehle den Inhalt der Videogenerierung steuern. Vidu S1 ermöglicht die Echtzeit-Videogenerierung unbegrenzter Länge ohne Unschärfe, Drift oder visuelle Verzerrungen. Entwickelt mit TurboDiffusion und TurboServe, gibt Vidu S1 540p-Echtzeitvideos mit bis zu 42 FPS auf handelsüblichen Consumer-GPUs aus. Nutzer können benutzerdefinierte Bilder von echten Personen, Anime und Haustieren hochladen und verschiedene Sprachstimmungen für personalisierte Erlebnisse wählen. Experimente zeigen, dass Vidu S1 die beste Leistung über alle Testmetriken hinweg erzielt und gleichzeitig die Echtzeit-Inferenzanforderungen vollständig erfüllt. Eine spielbare Online-Demo ist verfügbar unter https://vidu.com/vidu-stream.
Die inhärente Komplexität der Videoverarbeitung erschwert die Bestimmung, ob die Benchmark-Leistung von Video-LLMs auf visueller Wahrnehmung, sprachlichem Schlussfolgern oder Wissensvorwissen beruht. Obwohl zahlreiche Benchmarks zur Bewertung von hochrangigen Schlussfolgerungen entwickelt wurden, bleiben gemeinsame Kriterien zur Beurteilung des Videoverständnisses weitgehend unbeachtet. Anstatt einen weiteren Benchmark einzuführen, machen wir einen Schritt zurück und überprüfen die Kriterien zur Bewertung des Videoverständnisses. In dieser Arbeit präsentieren wir Video-Oasis, ein nachhaltiges Diagnosetool zur systematischen Prüfung bestehender Videoverständnis-Benchmarks. Diese Prüfung zeigt, dass 55 % der vorhandenen Benchmark-Beispiele ohne visuelle Eingabe oder zeitlichen Kontext lösbar sind. Nach dem Herausfiltern dieser Abkürzungen offenbaren die verbleibenden videonativen Herausforderungen eine erhebliche Fähigkeitslücke: Die leistungsfähigsten Modelle schneiden nur marginal besser ab als ein zufälliges Raten. Basierend auf diesen Erkenntnissen nutzen wir die destillierten Herausforderungen als Testumgebung, um zu untersuchen, welche algorithmischen Designentscheidungen zu einem robusten Videoverständnis beitragen. Wir hoffen, dass unsere Arbeit eine praktische Grundlage für die Erstellung rigoroser Videobenchmarks und die Bewertung zukünftiger Video-LLMs bietet. Der Code ist verfügbar unter https://github.com/sejong-rcv/Video-Oasis.
Zero-Shot Compositionale Aktionserkennung (ZS-CAR) erfordert die Erkennung neuer Verb-Objekt-Kombinationen, die aus zuvor beobachteten Grundbestandteilen zusammengesetzt sind. In dieser Arbeit befassen wir uns mit einem zentralen Fehlermodus: Modelle sagen Verben mittels objektgetriebener Abkürzungen vorher (d.h., sie stützen sich auf die annotierte Objektklasse) anstatt auf zeitliche Evidenz. Wir argumentieren, dass spärliche kompositionale Überwachung und eine Asymmetrie im Verb-Objekt-Lernen das Erlernen objektgetriebener Abkürzungen begünstigen können. Unsere Analyse mit vorgeschlagenen diagnostischen Metriken zeigt, dass bestehende Methoden auf Trainings-Kookkurrenzmuster überangepasst sind und zeitliche Verbhinweise unzureichend nutzen, was zu einer schwachen Generalisierung auf ungesehene Kompositionen führt. Um objektgetriebenen Abkürzungen entgegenzuwirken, schlagen wir Robust Compositional Representations (RCORE) mit zwei Komponenten vor. Die Co-occurrence Prior Regularization (CPR) fügt explizite Überwachung für ungesehene Kompositionen hinzu und regularisiert das Modell gegen häufige Kookkurrenzpriore, indem diese als harte Negative behandelt werden. Die Temporal Order Regularization for Composition (TORC) erzwingt eine Sensitivität für zeitliche Abfolgen, um zeitlich verankerte Verb-Repräsentationen zu lernen. Auf Sth-com und EK100-com reduziert RCORE Abkürzungsdiagnostiken und verbessert folglich die kompositionale Generalisierung.
Die rasante Entwicklung großer Sprachmodelle und multimodaler großer Sprachmodelle hat die Entstehung proaktiver Agenten beschleunigt, die alltägliche Werkzeuge bedienen und Benutzern in realen Umgebungen assistieren können. Allerdings fällt es bestehenden Benchmarks schwer, solche Agenten effektiv zu bewerten, da sie häufig auf Sandbox-Umgebungen und Einzelrunden-Bewertungsparadigmen basieren. Darüber hinaus vermischen ihre szenarienbasierten Aufgabenklassifikationen mehrere Modellfähigkeiten innerhalb derselben Aufgabenkategorie, was die Identifikation der grundlegenden Ursachen für Agentenfehler erschwert. Um diese Einschränkungen zu adressieren, führen wir UniClawBench ein, den ersten fähigkeitsgetriebenen Benchmark zur Bewertung proaktiver Agenten in dynamischen, realen Umgebungen. UniClawBench ist um fünf grundlegende Modellfähigkeiten herum aufgebaut: Nutzung von Fähigkeiten, Exploration, Langkontext-Schlussfolgern, multimodales Verstehen und plattformübergreifende Koordination. Basierend auf diesen Fähigkeiten entwerfen wir 400 zweisprachige reale Aufgaben. Im Gegensatz zu früheren Benchmarks, die sich auf statische, vorab aufgezeichnete Antworten stützen, bewertet unser Benchmark Agenten in Live-Docker-Containern mithilfe detaillierter, schrittweiser Abschlussprüfpunkte. Darüber hinaus entwickeln wir eine geschlossene Bewertungsstrategie, bestehend aus einem Ausführungsagenten, einem versteckten Supervisor-Agenten und einem Benutzeragenten, um realistische mehrrundige Nutzerrückmeldungen zu simulieren, ohne Bewertungskriterien preiszugeben. Um Basismodellfähigkeiten von Entwurfsentscheidungen auf Framework-Ebene zu trennen, evaluieren wir moderne Modelle unter mehreren Agenten-Frameworks. Durch umfassende Vergleiche sowohl zwischen Modellen als auch Frameworks zeigen wir, wie Basismodellfähigkeiten und Agentenframeworks gemeinsam die Leistung in realen Umgebungen prägen. Um zukünftige Forschung zu unterstützen, stellen wir unseren Benchmark und Code öffentlich unter https://github.com/HKU-MMLab/UniClawBench zur Verfügung.
Wissenschaftliche Ideen entstehen selten auf einer leeren Seite. Sie erben Mechanismen, reparieren bekannte Einschränkungen und kombinieren Teile früherer Arbeiten neu, ähnlich wie biologische Genome. Aktuelle Benchmarks sagen noch wenig darüber aus, ob KI-Systeme dieser Vererbungsstruktur folgen können. Wir stellen IdeaGene-Bench (IG-Bench) vor, einen Benchmark für wissenschaftliche Abstammungsanalyse und abstammungsbasierte Ideengenerierung. IG-Bench ist um das IdeaGene-Framework herum aufgebaut: Jede Arbeit oder jeder Vorschlag wird als eine Menge minimaler, typisierter, evidenzbasierter Idea-Genom-Objekte dargestellt, und ein GenomeDiff gleicht diese Objekte ab, um Vererbung, Mutation, Verlust, externen Import und neuartige Insertion unter sechs operationalen evolutionären Dynamiken aufzuzeichnen. Der Benchmark enthält 1.961 goldene Abstammungsspuren, 1.085 kuratierte Idea-Genom-Objekte und 920 paarweise GenomeDiff-Datensätze aus 10 wissenschaftlichen Domänen. Er unterstützt zwei Bewertungen. IG-Exam (42 Aufgabentypen, 1.029 Instanzen) testet die formale Abstammungsanalyse über Idea-Genom-Abstraktion, Vererbungsverfolgung, evolutionäre Schlussfolgerung und Abstammungsverifikation. IG-Arena bewertet die Generierung mit einem abstammungsabhängigen Population-Evolution-Score (PES), der fragt, ob ein Vorschlag als kohärenter Nachkomme einer gegebenen Abstammungspopulation eingefügt werden kann: Er sollte die richtigen Idea-Genom-Objekte erben, sich sinnvoll von nahegelegenen Arbeiten unterscheiden und einen Selektionswert für zukünftige Forschung bieten. Experimente mit 14 LLM-basierten Wissenschaftlern offenbaren einen kompositionellen Engpass. Das stärkste System erreicht nur 27,3% exakte Genauigkeit bei der Abstammungsanalyse, und ein strukturierter Abstammungskontext führt zu einer Umordnung der Systemrankings, anstatt jedem Teilnehmer gleichermaßen zu helfen.
Die Gewinnung hochwertiger Videos aus spärlichen Ereignisströmen ist eine anspruchsvolle Aufgabe. Regressionsmethoden führen oft zu unscharfen Texturen, während bestehende generative Modelle Probleme mit der langfristigen Stabilität haben. Wir schlagen LongE2V vor, einen neuartigen Ansatz, der vortrainierte Videodiffusions-Priors nutzt, um gemeinsam die ereignisbasierte Videorekonstruktion, -vorhersage und Bildinterpolation zu behandeln. Durch das Feintuning eines grundlegenden Videomodells erreicht unser Ansatz eine hohe Dateneffizienz und überlegene visuelle Qualität. Wir führen Autoregressive Unrolling und Adaptive Context Switching ein, um zeitliche Drift in extrem langen Sequenzen zu mildern. Zudem schlagen wir Reencoding Alignment with Cross Residual Correction vor, um eine präzise bidirektionale Konsistenz bei der Bildinterpolation sicherzustellen. Darüber hinaus gewährleistet die Event Voxel Density Augmentation Robustheit über verschiedene Sensorauflösungen hinweg. Umfangreiche Experimente mit realen Benchmarks zeigen, dass LongE2V die aktuellsten Methoden in allen drei Aufgaben übertrifft und eine außergewöhnliche zeitliche Kohärenz sowie Zero-Shot-Generalisation aufweist. Projektseite: https://cdfan0627.github.io/LongE2V-page/
In dieser Arbeit stellen wir Canvas360 vor, ein zweistufiges Framework für die In-Context-Panoramagenerierung, das geometriebewusstes Vortraining mit aufgabenspezifischem Feintuning für nachgelagerte Aufgaben kombiniert. Um den Mangel an groß angelegten, hochwertigen Trainingsdaten zu adressieren, die auf In-Context-Panoramaaufgaben zugeschnitten sind, schlagen wir Canvas360Dataset vor, eine Sammlung von 1 Million hochwertigen gepaarten Panoramastichproben für Stiltransfer, Inpainting, Outpainting und Editing, die eine effektive Überwachung über verschiedene In-Context-Generierungsszenarien hinweg ermöglicht. Auf der Modellierungsseite verbessert Canvas360 die Text-zu-Panorama-Generierung durch Parallel Depth Generation, Velocity Circular Padding und Similarity Loss Regularization, wodurch das Modell in die Lage versetzt wird, geometriebewusste Repräsentationen zu erlernen, Details von Objektverzerrungen zu erfassen und die geometrische Konsistenz sowie globale Kohärenz zu verbessern. Darüber hinaus ermöglicht Canvas360, gestärkt durch starke Panorama-Priors, ein einheitliches In-Context-Panoramagenerierungs-Framework, das verschiedene nachgelagerte Aufgaben durch Token-Level-Verkettung unterstützt und damit frühere Methoden sowohl in der Aufgabenabdeckung als auch in der Modellierungsflexibilität übertrifft. Umfangreiche Experimente zeigen, dass Canvas360 die Panoramabildtreue verbessert, insbesondere starke Leistungen bei der panoramaspezifischen FAED-Metrik erzielt und in den berichteten quantitativen Bewertungen wettbewerbsfähige oder führende Ergebnisse liefert. Weitere Informationen finden Sie auf unserer Projektseite: https://zry000.github.io/Canvas360/
Aktuelle computergestützte Ansätze im Wirkstoffdesign konzentrieren sich typischerweise auf die Generierung von Molekülen, die auf spezifische Zielstrukturen oder allgemeine molekulare Eigenschaften konditioniert sind, und vernachlässigen dabei oft den Einfluss des Krankheitskontextes auf das Zielverhalten und die therapeutischen Ergebnisse. Um diese Lücke zu schließen, stellen wir DrugGen-2 vor, ein neuartiges generatives Modell, das kleine Moleküle entwirft, die sowohl auf die Krankheitsontologie als auch auf die Zielproteinsequenzen konditioniert sind. DrugGen-2 wurde durch Feinabstimmung eines vortrainierten GPT-2-Modells auf einem kuratierten Datensatz zugelassener Wirkstoffe entwickelt, die mit ihren Erkrankungen und Zielstrukturen verknüpft sind. Dabei kam eine zweistufige Strategie aus überwachter Feinabstimmung gefolgt von Verstärkungslernen mittels gruppenrelativer Politikoptimierung (GRPO) zum Einsatz. Dieser Prozess wurde durch Belohnungsfunktionen gesteuert, die auf chemische Validität, Neuheit, Diversität und eine hohe vorhergesagte Bindungsaffinität optimiert wurden. Bei der Evaluierung an fünf Proteinzielstrukturen, die für die diabetische Nephropathie relevant sind, übertraf DrugGen-2 die Basismodelle (DrugGPT und DrugGen) deutlich. Es zeigte eine überlegene Fähigkeit zur Generierung einzigartiger Moleküle, wies eine größere strukturelle Ähnlichkeit zu zugelassenen Wirkstoffen auf und erzielte verbesserte vorhergesagte Bindungsaffinitäten für alle Zielstrukturen. Molekulare Docking-Analysen bestätigten diese Ergebnisse und identifizierten Kandidatenliganden mit starkem Bindungspotenzial, darunter Verbindungen mit vorhergesagten Affinitäten (-9,917; -9,485 und -9,367), die die von Referenzwirkstoffen wie Enalapril für das Angiotensin-konvertierende Enzym (-8,283) übertrafen. Durch die Integration des krankheitsspezifischen Kontexts in die Molekülgenerierung verbessert DrugGen-2 die KI-gestützte Wirkstoffforschung und bietet ein leistungsstarkes Werkzeug für das De-novo-Design und die Wirkstoffumwidmung, das das komplexe Zusammenspiel zwischen Erkrankungen und molekularen Zielstrukturen berücksichtigt.
Die wachsende Nachfrage nach Bild-zu-Video-Erstellung auf mobilen Geräten konzentriert sich zunehmend auf filmische Bewegungseffekte wie Bullet Time, Dolly Zoom, Zeitlupe usw. Während Diffusionstransformatoren (DiTs) eine starke Leistung bei der Videogenerierung zeigen, führen ihre großen Parameterzahlen und mehrstufigen iterativen Entrauschungsprozesse zu erheblichen Rechenkosten, was eine effiziente Generierung auf mobilen Geräten erschwert. Wir schlagen CineMobile vor, um diese Lücke zu schließen. Insbesondere verfolgt CineMobile eine dreigliedrige Optimierungsstrategie: (1) Nutzung eines destillationsgestützten Pruning-Ansatzes, um ein kompaktes und dennoch effizientes Modell zu erhalten, das die wesentlichen für filmische Effekte erforderlichen Fähigkeiten zur Videogenerierung beibehält; (2) Optimierung des komprimierten Modells zu einem 4-Schritt-Generator durch eine Kombination aus Diffusionsdestillation und verstärkendem Lernen; (3) Einsatz einer hybriden Post-Training-Quantisierungsstrategie, um den Modell-Fußabdruck auf unter 1 GB zu komprimieren. Experimentelle Ergebnisse zeigen, dass CineMobile im Vergleich zum Lehrermodell mit der Wan 2.1-Architektur eine 40-fache Beschleunigung bei der Generierung bei gleichbleibender visueller Qualität erreicht. Konkret generiert CineMobile 49-Frame-480p-Videos mit einer Entrauschungslatenz von 0,6 s pro Schritt auf einer NVIDIA H200 GPU und 20 s auf der MediaTek Dimensity 8400 Ultimate 5G-Plattform, bei einem Spitzenspeicherverbrauch von 1,8 GB, was seine praktische Anwendbarkeit für die mobile Bild-zu-Video-Erstellung demonstriert.
Moderne große Sprachmodelle (LLMs) werden zunehmend in Langkontext-Anwendungen wie Retrieval-Augmented Generation, Repository-Level Coding und agentischen Workflows eingesetzt, deren akkumulierte Reasoning- und Tool-Traces die Eingabe routinemäßig um eine Größenordnung über das Vortrainingsfenster hinaus verlängern, sodass die Null-Kontext-Erweiterung (Zero-Shot Context Extension) zum dominierenden Deployment-Pfad für Open-Weight-Checkpoints wird. Die meisten existierenden Null-Kontext-Methoden legen im Voraus einen einzelnen Reskalierungsfaktor fest, sodass ein aggressiver Faktor die Kurzkontext-Treue beeinträchtigt, während ein konservativer bei langen Kontexten versagt. Wir schlagen Jet-Long vor, eine tuning-freie Null-Kontext-Methode, die ein lokal RoPE-treues Fenster mit einem langreichweitigen Fenster paart, dessen Reskalierungsfaktor sich dynamisch an die aktuelle Sequenzlänge anpasst – das Basis-Modell wird bei kurzen Eingaben exakt wiederhergestellt, während bei langen sauber extrapoliert wird. Eine Inklusions-Exklusions-Aufmerksamkeitsfusion und eine on-the-fly RoPE-Korrekturrotation machen die bifokale Konstruktion zur Inferenzzeit praktisch kostenlos; in einen einzigen CuTe-Kernel integriert, erreicht der Langkontext-Prefill einen bis zu 1,39-fachen FA2-Durchsatz auf H100 (nahe dem Hopper-only FA4), und die Single-Batch-Generierung verursacht bei jeder Länge einen Overhead von ≤ 4 %. Bei Qwen3-1,7B/4B/8B bis zu 128K Kontext führt Jet-Long RULER um +4,79/+2,18/+2,03 Prozentpunkte gegenüber der stärksten Baseline bei 1,7B/4B/8B an, erzielt die beste Gesamtgenauigkeit auf HELMET-RAG (einem Benchmark, den HELMET als den effizientesten Prädiktor für nachgelagerte Langkontext-Leistung identifizierte) und erreicht die niedrigste PG-19-Perplexität. Jet-Long generalisiert zudem auf hybride Aufmerksamkeitsarchitekturen wie Jet-Nemotron zur weiteren Langkontext-Verbesserung ohne Nachtraining und bleibt hyperparameter-resistent für eine einfache Bereitstellung.
Self-Attention ermöglicht es jedem Token, Informationen aus dem gesamten Kontext abzurufen, aber die quadratischen Kosten in Bezug auf die Sequenzlänge schränken Training und Inferenz bei langen Kontexten ein. Diese Arbeit stellt eine vergleichende Studie von Softmax-Attention und vier neueren rekurrenten linearen Aufmerksamkeitsarchitekturen vor: DeltaNet, Gated DeltaNet, Kimi Delta Attention und Gated DeltaNet-2. Wir beschreiben diese Mechanismen in einer gemeinsamen rekurrenten Gedächtnisnotation und machen explizit, wie sie sich in Ausdrucksstärke, Gedächtniszerfall, Lösch- und Schreibsteuerung, Trainingsdurchsatz und Implementierungskomplexität unterscheiden. Unsere Experimente konzentrieren sich auf Modelle mit 350 Millionen Parametern, die auf 15 Milliarden Token trainiert wurden, und umfassen Optimierer- und Lernratenvergleiche, Hybrid- versus reine Stapelvergleiche, Laufzeitmessungen bei verschiedenen Sequenzlängen, größere DeltaNet-Läufe mit 1,3 Milliarden und 3 Milliarden Parametern sowie eine kleine Menge an Downstream-Evaluierungen. Die berichteten Geschwindigkeitsergebnisse messen den Trainingsdurchsatz und die Iterationszeit; wir liefern keinen empirischen Inferenzgeschwindigkeits-Benchmark. Im Rahmen der berichteten 350-Millionen-Parameter-, 15-Milliarden-Token-Untersuchung erreicht Kimi Delta Attention mit Muon den niedrigsten endgültigen Validierungsverlust, ein reiner Gated-DeltaNet-Stapel, der mit AdamW trainiert wurde, hat den höchsten normalisierten Trainingsdurchsatz, Hybrid-Stapel verbessern im Allgemeinen den Verlust unter Durchsatzkosten, und Muon senkt konsequent den endgültigen Validierungsverlust im Vergleich zu AdamW in den von uns evaluierten übereinstimmenden Architektureinstellungen. Wir führen leichtgewichtige schichtübergreifende Routingmechanismen für DeltaNet-artige Gedächtnissysteme ein und evaluieren sie. Die natürlichste von DeltaNet inspirierte Formulierung, bei der der Delta-Regel-Schreibfehler einer unteren Schicht an das Wertziel der nächsten Schicht weitergeleitet wird, verbessert die entsprechenden Baselines nicht. Das Routing in den ausgerichteten versteckten Datenstrom und das Weiterleiten des Schreibwerts anstelle des Fehlers führt zu einer bescheidenen Verbesserung in den von uns berichteten übereinstimmenden Läufen: Cross-Layer Value Routing (CLVR) senkt den endgültigen Validierungsverlust sowohl für DeltaNet als auch für Gated DeltaNet.
Bestärkendes Lernen (RL) hat sich zum Standardparadigma zur Verbesserung der komplexen Denkfähigkeiten großer Sprachmodelle (LLMs) entwickelt. Um Stichprobeneffizienz zu erreichen, verlassen sich moderne RL-Frameworks auf Importance Sampling (IS). Allerdings leiden diese Algorithmen unter einem Explorations-Stabilitäts-Dilemma. Reines IS führt oft zu katastrophaler Trainingsinstabilität, während standardmäßige Clipping-Mechanismen, die diese Instabilität abmildern sollen, das Budget für Richtlinienaktualisierungen strikt einschränken. Durch die Formalisierung des Konzepts der Wahrscheinlichkeitskapazität (Cap) zeigen wir, dass konservatives Clipping die Exploration strukturell unterdrückt, indem es das Aktualisierungsbudget für korrekte, aber wenig vertrauenswürdige Denkpfade vorzeitig abschneidet. Um sich von diesen Einschränkungen zu befreien, schlagen wir Unbounded Positive Asymmetric Optimization (UP) vor, ein universelles und Plug-and-Play-fähiges Optimierungsziel. UP strukturiert den Optimierungsprozess theoretisch um, indem es die Richtlinie über den Stop-Gradient-Operator an ihrem aktuellen Zustand verankert. Dieses asymmetrische Design setzt ungeclippte, stabile Gradienten für positive Vorteile frei, um die Exploration zu maximieren, während es gleichzeitig standardmäßige Clipping-Sicherungen für negative Vorteile beibehält, um Trainingsinstabilität zu verhindern. Darüber hinaus lässt sich unsere Formulierung problemlos auf verschiedene Optimierungsgranularitäten erweitern, einschließlich Frameworks auf Token-Ebene (GRPO, DAPO) und Sequenz-Ebene (GSPO). Umfangreiche Experimente zeigen, dass UP die Explorationskapazität verbessert und eine überlegene Denkgenauigkeit bei verschiedenen RL-Algorithmen (DAPO, GSPO und GRPO), Modellarchitekturen (Dense, MoE und Vision-Language) und Trainingsmodalitäten (Sprache und multimodal) erzielt, was UP als eine wirklich universelle Plug-and-Play-Verbesserung für RL-basiertes Training bestätigt.
Bei Aufgaben mit langem Zeithorizont ist der entscheidungsrelevante Zustand oft über eine wachsende Trajektorie verstreut, während der Handlungsagent diesen an die Oberfläche bringen und handeln muss. Mit zunehmender Trajektorienlänge können Aufgabenanforderungen, Umgebungsfakten, vorherige Versuche, Diagnosen und offene Teilziele im Kontextfenster vergraben oder darüber hinausgedrängt werden, sodass sie Entscheidungen im entscheidenden Moment nicht mehr beeinflussen können. Wir bezeichnen diesen Fehlermodus als „Verhaltenszustandszerfall“. Wir untersuchen Gedächtnis als aktiven Interventionsmechanismus statt als passiven Abruf. Ein separater Gedächtnisagent läuft parallel zu einem unveränderten Handlungsagenten, aktualisiert eine strukturierte Gedächtnisbank aus der jüngsten Trajektorie und entscheidet, ob er eine gedächtnisgestützte Erinnerung einspielen oder stumm bleiben soll. Das Modul ist Plug-and-Play mit modernen Handlungsagenten und bestehenden Agenten-Frameworks kompatibel. Über Terminal-Bench 2.0 und τ^2-Bench hinweg verbessert es die Pass@1-Rate sowohl für schwächere als auch für stärkere Handlungsagenten, mit Zuwächsen von +8,3 Prozentpunkten auf Terminal-Bench und +6,8 Prozentpunkten auf τ^2-Bench. Ablationen zeigen, dass selektive Intervention besser abschneidet als passive Bankexposition, dauerhafte Einspielung, reine Beratungshilfe und allgemeiner Abruf. Als ersten Schritt in Richtung Open-Weight-Gedächtnispolicys trainieren wir Qwen3.5-27B auf SETA mittels SFT und GRPO, verbessern die Validierungsbelohnung und erzielen eine teilweise Übertragung auf Terminal-Bench.
Die Magnetresonanztomographie (MRT)-Superauflösung ist entscheidend für die Verbesserung der diagnostischen Zugänglichkeit, jedoch betrachten die meisten Methoden sie als deterministische Abbildung von einer festen niedrig aufgelösten Eingabe zu einem hoch aufgelösten Ziel. Dies übersieht eine Schlüsseleigenschaft der MRT-Akquisitionsphysik: Räumliche Auflösung und Signal-Rausch-Verhältnis (SRV) sind inhärent gekoppelt, sodass jeder gegebene niedrig aufgelöste Scan lediglich eine von vielen möglichen Realisierungen unter variablen Akquisitionsabwägungen darstellt. Wir überdenken die MRT-Superauflösung als ein physikbewusstes Rekonstruktionsproblem, bei dem das Ziel darin besteht, die optimale Auflösungs-SRV-Konfiguration zu identifizieren und diese dann zu superauflösen, um hochwertige MRT-Ergebnisse zu erzielen. Eine zentrale Implikation dieser Formulierung ist, dass die MRT-Auflösung dynamisch anstatt fest wird. Um solche auflösungsheterogenen Eingaben zu handhaben, passen wir das 2D Gaußsche Splatting (2D GS) an die MRT an, indem wir die Rekonstruktion als koordinatenbasiertes, auflösungsagnostisches Rendering-Problem formulieren. Zur weiteren Verbesserung der Genauigkeit führen wir drei Neuerungen ein: (1) Eine vorwissensbewusste Gauß-Darstellung, die einen Anatomischen-Struktur-Prior für gewebespezifische Kernel-Initialisierung mit einem Bildgebungs-System-Prior kombiniert, der Hardwareeigenschaften über ein Kovarianz-Wörterbuch erfasst; (2) Ein physikbeschränktes Signalmodellierungsverfahren, das intrinsische Gewebeparameter (Protonendichte ρ und effektive Relaxationsrate R₂) vorhersagt und Intensitäten durch zugrundeliegende physikalische Gleichungen synthetisiert, wodurch biophysikalisch plausible Kontraste sichergestellt werden; und (3) Ein Metalern-Framework, das die Knappheit gepaarter Daten durch Vorlernen auf simulierten Daten und Anpassung an reale Bedingungen verringert. Umfangreiche Experimente auf dynamischen Auflösungsdatensätzen und Standard-Benchmarks zeigen, dass unsere Methode eine Spitzenleistung erzielt, was ihr hohes Potenzial für den klinischen Einsatz unterstreicht.
Die Inferenzzeit-Skalierung für die Text-zu-Bild-Generierung hat sich vom einfachen Best-of-N (BoN)-Sampling hin zu geführten Suchmethoden entwickelt, die Kandidatentrajektorien in Zwischenschritten des Entrauschens verifizieren und lenken. Diese Ansätze konzentrieren sich darauf, wann und wie oft während des Entrauschens verifiziert wird, behandeln die Kosten der Generierung selbst jedoch weitgehend als fix. Zudem zählt die gängige Praxis, Methoden anhand der Anzahl der Funktionsauswertungen (NFEs) zu vergleichen, nur die Vorwärtsdurchläufe des Entrauschens und ignoriert den Verifikator-Overhead, was Effizienzrankings verzerren kann. Wir zeigen, dass unter Wanduhrzeit-Bewertung einfaches BoN bereits mehrere geführte Suchtechniken erreicht oder übertrifft, was darauf hindeutet, dass Rechenleistung besser in eine breitere Exploration investiert wird als in wiederholte Zwischenverifikationen. Dies motiviert Flash-BoN, das einen großen Pool günstiger Entwurfskandidaten erzeugt, indem es drei komplementäre Beschleunigungshebel kombiniert: Zeitschrittverkürzung, Layer-Überspringen und Aktivierungs-Proxys, die einmal pro Modell in einer einzigen Konfiguration optimiert werden. Ein effizientes mehrstufiges Verifikationsverfahren identifiziert dann den vielversprechendsten Entwurf, der in voller Qualität verfeinert wird. Über drei Benchmarks und drei Modellskalen hinweg übertrifft Flash-BoN unter festen Wanduhrzeit-Budgets durchweg alle Basislinien, wobei die Zuwächse mit größeren Modellskalen wachsen (+8 % AUC). Wir zeigen weiterhin, dass sich unsere Strategie gut mit bestehenden orthogonalen Techniken wie reflectionsbasierter Prompt-Optimierung kombinieren lässt und diese verbessert (+16 % AUC). Die Zuwächse korrelieren mit einer erhöhten Kandidatendiversität, die zudem eine entwurfsgesteuerte Auswahl zur Beschleunigung der RL-Nachtrainingskonvergenz ermöglicht.
Semantische Audioanwendungen erfordern zunehmend kontrollierbare Generierung auf handelsüblicher und eingebetteter Hardware anstatt auf framework-lastigen Rechenzentrums-Stacks. Wir stellen aria vor, eine abhängigkeitsfreie native Laufzeitumgebung, die die vollständige Text-zu-Musik-Pipeline von Stable Audio~3 (SA3) auf gewöhnlichen GPUs, reinen CPU-Systemen und einem Raspberry~Pi~5 ausführt – ohne Python oder Deep-Learning-Framework darunter. Unser Hauptbeitrag ist eine Untersuchung der Quantisierung: Das Modell wird mit niedrigerer numerischer Genauigkeit betrieben, um enge Speicherbudgets einzuhalten, wobei Speicher direkt eingespart und nicht hinzugefügt wird. Da die Laufzeitumgebung jeden internen Tensor besitzt, ermöglicht sie zudem Activation Steering, eine kostengünstige Methode zur Steuerung der Modellgenerierung. Wir bewerten die Qualitätseinbußen mit drei unabhängigen Metriken der Ausgabe (Prompt-Treue, allgemeine Audioqualität, Geschmackserhaltung), jede verglichen mit der gewöhnlichen Variation zwischen verschiedenen Zufallskeimen. Acht-Bit-Präzision zeigt bei keiner Metrik messbare Qualitätseinbußen bei gleichzeitig drastischer Speicherreduktion und ist der schnellste Modus auf der GPU; Vier-Bit fügt eine kleine, begrenzte Kosten hinzu, reduziert aber den Speicherbedarf so weit, dass das 1,2-Milliarden-Parameter-Modell auf einem 8-GB-Pi läuft. Gegenüber der offiziellen Implementierung erreicht oder übertrifft aria die Generierungsgeschwindigkeit und startet etwa siebenmal schneller. Eine Fallstudie der Steuerungsschnittstelle erzeugt Musik, die Geschmacksassoziationen trägt (sonic seasoning), mit echter, aber begrenzter Kontrolle über eine Teilmenge von Attributen. Diese Ergebnisse machen eine kompakte, quantisierte Laufzeitumgebung mit integrierter Steuerung zu einer praktischen Grundlage für On-Device semantisches Audio in Internet-of-Sounds-Umgebungen. Die aria-Laufzeitumgebung wird unter https://github.com/matteospanio/aria veröffentlicht.
Große Sprachmodelle (Large Language Models, LLMs) agieren zunehmend als integrierte Data-Science-Agenten, die abstraktes Denken mit fortgeschrittener Werkzeugnutzung verbinden. Die relevante Benchmark-Landschaft gliedert sich jedoch weitgehend in symbolische Kausalreasoning-Benchmarks ohne realistische Datenanalyse oder Datenanalyse-Benchmarks ohne prinzipielle kausale Datengenerierungsstruktur. Darüber hinaus beschränken sich bestehende kausale Evaluierungsdatensätze oft auf kuratierte Beispiele aus vorhandenen Quellen, wobei die Vielfalt eher aus begrenzten templatisierten Variationen als aus systematischer Generierung neuartiger synthetischer Kausalstrukturen stammt. Wir führen CausalDS ein, eine Benchmark zur Evaluierung kausalen Denkens in agentischen Data-Science-Workflows. Jedes Benchmark-Instanz besteht aus einer Szene, die ein abgetastetes strukturelles Kausalmodell (SCM) mit generierten Beobachtungsdaten und einer begleitenden synthetischen natürlichsprachlichen Geschichte umfasst, die in einer realistischen Domäne verankert ist. Optional verankern wir die Zusammensetzung der Benchmark-Komponenten in empirischen Verteilungen, die aus realen Datensätzen gewonnen werden, und bewahren so die empirische Struktur, während das Risiko des „Kausalpapageien“ durch vollständig synthetische Generierung reduziert wird. Aus jeder Szene leiten wir dann Aufgaben ab, die alle drei Stufen von Pearl abdecken, wobei typische Data-Science-Vorhersageaufgaben als Stufe 1 auftreten. Die meisten Aufgaben beinhalten eine Data-Science-Coding-Komponente, bei der das Modell in der Regel mehrere Werkzeuge einsetzen muss, um zur endgültigen Antwort zu gelangen, da häufig unvollkommene Beobachtungen vorliegen, die durch ein Beobachtungsmodell generiert werden. Zusätzlich wird die Erkennung, wenn eine Frage keine berechtigte Antwort zulässt, und das Enthalten als erstklassig bewertetes Ergebnis behandelt. Die Benchmark evaluiert somit gemeinsam symbolisches Kausalreasoning, Data Science, Unsicherheitsquantifizierung, Enthaltung sowie Werkzeugnutzung und Programmierung.
In einer Klasse von Quantenschaltkreisen, die als gepeakte Schaltkreise bekannt sind, besteht das Ziel darin, den wahrscheinlichsten Bitstring am Ausgang des Schaltkreises vorherzusagen. Da diese Schaltkreise so ausgelegt sind, dass sie eine scharfe Spitze in ihrer Ausgabeverteilung aufweisen, sollte es prinzipiell möglich sein, sie mithilfe eines abgeschnittenen Zustandsvektors mit einer begrenzten Anzahl von Termen oder einem Bruchteil der gesamten Wahrscheinlichkeitsmasse zu simulieren. Diese approximative Simulation kann auf einem klassischen Computer mit einer dünnbesetzten Darstellung durchgeführt werden, die nur die von Null verschiedenen Amplituden des Zustandsvektors speichert, im Gegensatz zu den dichten Darstellungen, die in den meisten Quantensimulatoren üblich sind. Aus Effizienzgründen sollten alle Operationen am Zustandsvektor weitestgehend vektorisiert werden, und falls verfügbar, kann auch Hardwarebeschleunigung eingesetzt werden. Diese Arbeit beschreibt, wie diese Anforderungen in einer Open-Source-Implementierung erfüllt wurden, und diskutiert deren Leistungsfähigkeit sowie Grenzen.
Moderne Video-Objekterkennung (VOS) umfasst die Verfolgung und Segmentierung benutzerspezifizierter Ziele. Während aktuelle Ansätze in Einzelzielszenarien bemerkenswerte Leistungen erzielt haben, führt ihre Erweiterung auf Mehrfachzielumgebungen typischerweise zur Replikation der Einzelzielverarbeitung für jedes einzelne Objekt, was mit zunehmender Zielanzahl zu reduzierten Bildraten (FPS) mit unbegrenzter Latenz führt. Aufbauend auf Segment Anything 2 (SAM2) stellen wir SAM-MT vor, das dieses Problem durch die Umwandlung des Modells in ein interaktives Framework für Echtzeit-Mehrziel-Videosegmentierung löst. SAM-MT verwendet explizite Abfragen zur Darstellung verschiedener einzelner Ziele, parallel zu einer gemeinsamen Darstellung für den globalen Kontext. Es nutzt entkoppelte maskierte Aufmerksamkeit, um einzelne Identitäten vor zielübergreifender Interferenz zu schützen, sowie spärlichen Speicher für eine stabile zeitliche Entwicklung, zusammen mit speziellen Strategien für den Umgang mit Verdeckungen und zur Überlappungsvermeidung. SAM-MT entkoppelt erfolgreich die Latenz von der Anzahl der Ziele, erreicht eine Echtzeitgeschwindigkeit vergleichbar mit Einzelziel-Baselines (>36 FPS für 10 Ziele) und behält gleichzeitig SAM2s robuste Videosegmentierungsleistung bei.
Eine zentrale Herausforderung in der arabischen NLP ist die Knappheit dialektaler Daten im Vergleich zu modernem Standardarabisch (MSA), was dazu führt, dass große Sprachmodelle (LLMs) übermäßig MSA produzieren und Schwierigkeiten mit dialektal korrekter Generierung haben. Aus Perspektive der Interpretierbarkeit wirft dies eine grundlegende Frage auf: Wo und wie werden dialektale Merkmale in den Modellinterna kodiert, und können diese Repräsentationen genutzt werden, um die Dialektgenerierung ohne Feinabstimmung zu verbessern? Diese Studie untersucht zwei komplementäre Inferenzzeit-Ansätze, die gleichzeitig als Sonden zur Interpretierbarkeit und als Kontrollmechanismen dienen. Zunächst führen wir eine Analyse auf Neuron-Ebene durch, bei der spärliche Neuronpopulationen identifiziert werden, die dialektspezifische Merkmale kodieren, und zeigen, dass die Verstärkung oder Unterdrückung dieser Neuronen die Modellausgaben in Richtung Zieldialekte lenken kann. Zweitens wenden wir, motiviert durch die Verflechtung dialektaler Merkmale auf Einzelneuron-Ebene, einen Vektorsteuerungsansatz an, der dialektspezifische Aktivierungsrichtungen extrahiert und während der Inferenz einspritzt. Zusammen beleuchten diese Methoden die Geometrie des dialektalen Wissens in arabischen LLMs und bieten ein prinzipienbasiertes, auf Interpretierbarkeit gegründetes Rahmenwerk zur Dialektsteuerung, ohne dass eine dialektspezifische Feinabstimmung erforderlich ist.
Wir stellen PAST-TIDE vor, unser Stance-Detection-System, das beide Teilaufgaben der StanceNakba Shared Task bei NakbaNLP@LREC-COLING 2026 bearbeitet. Die grundlegende Idee ist das Statement-Tuning. Wir definieren Stance als Cloze-Style-Masked-Language-Modelling (MLM) neu, wobei ein Verbalizer die Beschriftungswörter über den vortrainierten MLM-Head anstelle eines zufällig initialisierten Klassifikationsheads auf Stance-Kategorien abbildet. Dies ergänzen wir durch prototypisches kontrastives Lernen, das lernbare Klassenprototypen für ein batchgrößenunabhängiges kontrastives Training nutzt, sowie durch themenbedingte Layer-Normalisierung für themenübergreifende arabische Stance-Detection. PAST-TIDE erreicht auf der offiziellen Rangliste Macro-F1-Werte von 0,75 für Subtask A und 0,74 für Subtask B, was zeigt, dass minimale architektonische Ergänzungen eines vortrainierten Modells in ressourcenarmen Umgebungen wettbewerbsfähig bleiben können.