Täglich kuratierte KI-Forschungspapiere mit Übersetzungen
Jüngste Fortschritte im Bereich des Video-Verständnisses umfassen Bewegungen, lange Videos und interaktive Streaming-Anwendungen und treiben dieses Feld hin zu realen Anwendungen. Trotz dieser Fortschritte weisen aktuelle Open-Source-Modelle in mehrfacher Hinsicht Einschränkungen auf. Sie haben oft Schwierigkeiten, sich über verschiedene Videotypen hinweg zu verallgemeinern, was sie nur in spezifischen Domänen effektiv macht. Hohe Rechenanforderungen schränken zudem ihre Effizienz und Skalierbarkeit ein. Darüber hinaus sind die meisten Modelle nur teilweise offen; Schlüsselkomponenten wie Trainingscode, -strategie oder Datensätze sind nicht verfügbar, was die Reproduzierbarkeit behindert und die gemeinschaftsgetriebene Entwicklung verlangsamt. Um diese Probleme zu adressieren, stellen wir VideoChat3 vor, ein vollständig offenes, effizientes und generalistisches videozentrisches MLLM. VideoChat3 verbessert das Video-Verständnis durch zwei komplementäre Designansätze. Für die Effizienz führen wir den Inflated 3D Vision Transformer (I3D-ViT) und eine Adaptive Frame Resolution für die Streaming-Video-Wahrnehmung ein, die eine effiziente räumlich-zeitliche Repräsentation ermöglicht und die Kosten für die Verarbeitung von Videoeingaben während Training und Inferenz senkt. Für die Effektivität entwickeln wir eine skalierbare Pipeline zur Videosynthese, die drei vielfältige, qualitativ hochwertige Trainingsdatensätze kuratiert: VideoChat3-Academic2M, VideoChat3-LV116K und VideoChat3-OL617K, die allgemeine, lange und Streaming-Video-Szenarien abdecken und die Generalisierungsfähigkeit des Modells über Domänen hinweg verbessern. Durch die Integration dieser Designs erreicht VideoChat3 eine seltene Balance zwischen breiter Generalisierung und rechnerischer Effizienz. Experimente auf allgemeinen, langen und Streaming-Benchmarks zeigen, dass VideoChat3 frühere Open-Source-Modelle mit gleicher oder größerer Parameteranzahl mit nur 4B Parametern und höherer Effizienz übertrifft.
Große Sprachmodelle werden zunehmend als interaktive Agenten für langfristige Aufgaben trainiert, die mehrschrittige Interaktion, Werkzeugnutzung und Umgebungsfeedback umfassen. Ergebnisbasiertes bestärkendes Lernen (RL) bietet ein praktisches Optimierungsparadigma, aber seine spärlichen Belohnungen auf Trajektorienebene bieten nur begrenzte Orientierung für Zwischenentscheidungen, was eine Supervisionslücke zwischen Ergebnissen auf Episodenebene und Policylernen auf Token-Ebene hinterlässt. Wir schlagen SEED (SElf-Evolving On-Policy Distillation) vor, ein selbstevolvierendes Rahmenwerk, das abgeschlossene On-Policy-Trajektorien in während des Trainings gewonnene Rückblickfähigkeiten umwandelt und deren Verhaltenseffekt zurück in das Policymodell destilliert. SEED stimmt zunächst die Policy fein ab, um abgeschlossene Trajektorien zu analysieren und Fähigkeiten in natürlicher Sprache zu generieren, die wiederverwendbare Arbeitsabläufe, entscheidende Beobachtungen oder Fehlervermeidungsregeln erfassen. Während des RL sammelt die aktuelle Policy sowohl Trajektorien als auch dient als Analysator, der Rückblickfähigkeiten aus ihnen extrahiert. Policy-Updates verbessern daher sowohl die nachfolgende Entscheidungsfindung als auch die Fähigkeitsanalyse gemeinsam, sodass sich die Rückblick-Supervision mit der Policy weiterentwickeln kann. SEED bewertet dann die gesampelten Aktionen unter gewöhnlichen und fähigkeitserweiterten Kontexten neu und wandelt die durch Fähigkeiten induzierte Wahrscheinlichkeitsverschiebung in ein dichtes On-Policy-Destillationssignal auf Token-Ebene um. Dieses Signal wird gemeinsam mit dem ergebnisbasierten RL optimiert, wodurch die Hilfs-Supervision mit der aktuellen Trajektorienverteilung abgestimmt bleibt. Umfangreiche Experimente mit textbasierten und visuell basierten agentischen Aufgaben zeigen, dass SEED kontinuierlich die Leistung und Stichprobeneffizienz verbessert und eine robuste Generalisierung auf unbekannte Szenarien aufweist. Unser Code ist verfügbar unter https://github.com/jinyangwu/SEED.
Aktuelle Fortschritte bei werkzeugintegrierten großen Sprachmodellen haben die Websuche zu einer Kernfähigkeit informationssuchender Agenten gemacht. Mit zunehmender Länge der Interaktionsverläufe fällt es Agenten jedoch zunehmend schwer, den Aufgabenfortschritt zu verfolgen. Wenn Suchversuche keine brauchbaren Belege liefern, können aktuelle Einzel- und Multi-Agenten-Systeme in repetitive Schleifen geraten, Suchbudgets verschwenden und letztlich die Qualität und Vollständigkeit der endgültigen Ausgabe beeinträchtigen. Wir stellen SearchOS vor, ein systemweites Multi-Agenten-Framework, das fragilen, impliziten Suchfortschritt in einen expliziten, persistenten und gemeinsamen Zustand überführt. Zunächst formulieren wir die offene Informationssuche als relationale Schemavervollständigung mit belegten Zitaten, bei der Agenten Entitäten entdecken, Attribute über verknüpfte Tabellen hinweg befüllen und jeden Wert mit Quellennachweisen verankern. Anschließend entwickeln wir das suchorientierte Kontextmanagement (SOCM), das den sich entwickelnden Zustand in eine Frontier Task, einen Evidence Graph, eine Coverage Map und einen Failure Memory externalisiert. Aufbauend auf SOCM nutzt SearchOS einen Pipeline-parallelen Scheduling-Mechanismus, der die Ausführung von Unteragenten überlappt und freigewordene Slots kontinuierlich mit Aufgaben auffüllt, die auf ungelöste Abdeckungslücken abzielen, um Auslastung und Durchsatz zu verbessern. Zur Planung und Steuerung der Ausführung von Suchagenten führt SearchOS eine Search-Tool-Middleware-Harness ein, die Modell- und Tool-Interaktionen abfängt, um belegte Beweise zu erfassen und auf Stillstände oder Budgeterschöpfung zu reagieren. Zudem bietet sie ein wiederverwendbares hierarchisches Fähigkeitssystem mit Strategie- und Zugriffsfähigkeiten, um den Suchprozess der Agenten zu erweitern und die Wiederholung fehlgeschlagener Suchmuster über verschiedene Läufe hinweg zu vermeiden. Auf WideSearch und GISA übertrifft SearchOS alle Metriken der bewerteten Einzel- und Multi-Agenten-Baselines und ebnet den Weg für eine robuste informationssuchende Zusammenarbeit.
Die zunehmende Kluft zwischen Inferenzkontextlängen und RL-Posttraining wird immer deutlicher: Inferenzsysteme erreichen nahezu Millionen-Token-Kontexte, während Posttraining-Workloads oft bei 256K Token oder darunter verharren und sich bei der Bereitstellung auf Längengeneralisierung verlassen müssen. Diese Kluft ist besonders relevant für KI-Agenten, deren Beobachtungen, Toolausgaben, Dokumente und vorherige Entscheidungen sich über lange Trajektorien ansammeln. LongStraw ist ein architekturbewusster Ausführungsstack für das RL-Posttraining mit Millionen Token unter einem festen GPU-Budget, realisiert mit Group Relative Policy Optimization (GRPO). Es wertet den gemeinsamen Prompt ohne Autograd aus, behält nur modellspezifische Zustände, die von späteren Token benötigt werden, und führt kurze Antwortzweige nacheinander erneut aus, wodurch der Live-Trainingsgraph auf Kosten zusätzlicher Wiederholungszeit reduziert wird. Wir implementieren es für das hybride rekurrente und Vollaufmerksamkeitsmodell Qwen3.6-27B sowie das komprimierte Aufmerksamkeits-Mixture-of-Experts GLM-5.2. Auf acht H20-GPUs führt LongStraw gruppiertes Qwen-Scoring und Response-Backward für 2,1 Millionen Positionen bei Gruppen von 2 und 8 durch; die Erhöhung der Gruppengröße fügt nur 0,21 GB Spitzenzuweisungsspeicher hinzu, während ein separater Stresstest 4,46 Millionen Positionen erreicht. Auf 32 H20-GPUs validieren wir den End-to-End-Ausführungspfad von LongStraw für einen 2,1 Millionen Token umfassenden Prompt über alle 78 Schichten von GLM-5.2. Diese Experimente belegen eher die Ausführungskapazität als die vollständige Trainingskorrektheit, da der erfasste Prompt-Zustand losgelöst ist und einige verteilte Vorwärts- und Gradientenzusammensetzungspfade unvollständig bleiben.
Welt-Aktions-Modelle (WAMs) etablieren sich zunehmend als vielversprechende Grundlage für verkörperte Steuerung: Anstatt nur Aktionen vorherzusagen, lernen sie Repräsentationen, die die Aktionsgenerierung mit der zukünftigen Weltvorhersage koppeln. Diese Kopplung wird oft als Quelle von Robustheit, Interpretierbarkeit und Sicherheit betrachtet, da die Aktion eines Roboters im Prinzip anhand seiner imaginierten Zukunft überprüft werden kann. In dieser Arbeit zeigen wir, dass diese Annahme fragil ist. Wir führen BadWAM ein, einen einheitlichen Rahmen zur Modellierung und Bewertung von Welt-Aktions-Drift-Angriffen: eine neue Klasse von WAM-spezifischen adversarialen Angriffen, die kleine visuelle Störungen nutzen, um die Ausrichtung zwischen dem, was ein WAM imaginiert, und dem, was es ausführt, zu brechen. BadWAM charakterisiert diese Angriffsfläche anhand zweier natürlicher Kriterien: Angriffsstärke und Tarnfähigkeit. Wenn der Gegner die Störung priorisiert, instanziiert BadWAM einen rein aktionsbasierten adversarialen Angriff, der das Modell direkt zu aufgabenfehlschlagenden Aktionen treibt. Wenn der Gegner zusätzlich die Tarnung priorisiert, instanziiert BadWAM einen imaginationsbewahrenden adversarialen Angriff, der schädliche Aktionsverschiebungen induzieren soll, während die vom Modell vorhergesagte Zukunft nahe an ihrer sauberen Imagination bleibt. Zusammen erfassen diese beiden Angriffe ein Spektrum WAM-spezifischer Fehler: von offener Aktionsübernahme bis hin zu getarnteren Fällen, in denen das Modell eine plausible Zukunft zu imaginieren scheint, aber eine desynchronisierte Aktion ausführt. Wir evaluieren BadWAM über verschiedene Varianten von WAMs hinweg. Die Ergebnisse zeigen, dass unsere Angriffe die Aufgabenerfolgsraten unter Closed-Loop-Ausführung erheblich reduzieren. Beispielsweise reduziert unser reiner Aktionsangriff die Modellleistung von 96,5 % auf 43,1 % Erfolg. Die Ergebnisse unseres imaginationsbewahrenden Angriffs decken zudem eine WAM-spezifische Schwachstelle auf: Eine moderate zukunftsbewahrende Regularisierung kann eine hohe Angriffsleistung aufrechterhalten, während die Drift der zukünftigen Imagination verringert wird.
Die Videogenerierung stützt sich zunehmend auf keyframe-basierte Arbeitsabläufe, bei denen Ersteller eine Folge von Referenzbildern vorgeben, um die Generierung zu steuern. Obwohl neuere Modelle eine Multi-Keyframe-Konditionierung unterstützen, ist unklar, ob sie die vorgegebenen Keyframes originalgetreu reproduzieren können, während die Gesamtvideoqualität erhalten bleibt. Wir stellen KeyFrame-Compass vor, die erste umfassende Benchmark zur Bewertung keyframe-konditionierter Videogenerierung. Die Benchmark enthält 386 sorgfältig kuratierte Stichproben, die sich über drei Anwendungsdomänen, zwei Videostrukturen, zwei Prompt-Granularitäten, zwei Konditionierungsformate und vier Keyframe-Dichten erstrecken, was eine kontrollierte Analyse unter verschiedenen Generierungseinstellungen ermöglicht. Wir führen ferner einen automatisierten Bewertungsrahmen ein, der gemeinsam die Keyframe-Umsetzung und die Gesamtvideoqualität misst. Insbesondere zerlegen wir die Keyframe-Umsetzung in sechs komplementäre Metriken, die Präsenz, Genauigkeit, zeitliche Reihenfolge, Lokalisierung, Beständigkeit und Einzigartigkeit abdecken, während die Gesamtvideoqualität durch evidenzbasierte MLLM-Urteile bewertet wird, die durch spezialisierte Wahrnehmungsmodelle ergänzt werden. Experimente mit neun repräsentativen Videogenerierungssystemen zeigen mehrere grundlegende Einschränkungen. Aktuelle Modelle zeigen einen klaren Zielkonflikt zwischen originalgetreuer Keyframe-Umsetzung und natürlicher Videosynthese. Ihre Leistung verschlechtert sich weiter, wenn die Keyframe-Beschränkungen dichter werden, und die meisten Open-Source-Modelle sind auch nicht in der Lage, Storyboard-Gitter-Eingaben als zeitlich geordnete Keyframe-Sequenzen zu interpretieren.
Multi-Referenz-zu-Audio-Video (MR2AV)-Generierung zielt darauf ab, kohärente Audio-Video-Inhalte zu erzeugen, die anhand mehrerer Referenzen und textueller Anweisungen konditioniert sind. Bestehende Benchmarks konzentrieren sich hauptsächlich auf textgesteuerte Generierung, Einzelreferenz-Subjekterhaltung oder isolierte Audio-Video-Abstimmung, sodass das neu aufkommende MR2AV-Setting weitgehend unerforscht bleibt. Im Vergleich zu diesen Settings erfordert MR2AV von Modellen, über mehrere Referenzen hinweg gemeinsam zu schlussfolgern und gleichzeitig synchronisierte visuelle und Audioinhalte zu generieren. Die Modelle müssen nicht nur jede Referenz originalgetreu bewahren, sondern auch mehrere referenzierte Entitäten korrekt binden und zu kohärenten audiovisuellen Ereignissen komponieren. Um diese Lücke zu schließen, stellen wir MultiRef-Compass vor, einen einheitlichen Benchmark für die MR2AV-Generierung. Er umfasst 350 sorgfältig kuratierte Beispiele, die durch eine skalierbare und steuerbare Asset-Kompositionspipeline erstellt wurden und mehransichtige Subjekterhaltung, Multi-Entitätsbindung sowie Mensch-Objekt-Szenen-Komposition abdecken. Zur interpretierbaren Bewertung definiert MultiRef-Compass ein Evaluationsprotokoll mit vier Dimensionen: Grundqualität, Referenzkonsistenz, audiovisuelle Konsistenz und Befolgung von Anweisungen, unter Verwendung von 14 Submetriken. MultiRef-Compass integriert automatische Metriken mit einem durch Nachbewertung verbesserten MLLM-als-Richter-Framework, was eine skalierbare und prüfbare Bewertung sowohl der Wahrnehmungstreue als auch der referenzkonditionierten Komposition ermöglicht. Umfangreiche Experimente an acht repräsentativen MR2AV-Systemen zeigen erheblichen Verbesserungsbedarf in mehreren Evaluationsdimensionen, unterstreichen die Notwendigkeit eines umfassenden Benchmarks und positionieren MultiRef-Compass als Grundlage für zukünftige MR2AV-Forschung.
Die menschliche Kognition trennt nicht zwischen Verstehen und Generieren. Ein Lehrer spricht und zeichnet gleichzeitig an einer Tafel – jede Modalität formt die andere neu. In dieser Arbeit übertragen wir diese gekoppelte Rückkopplungsschleife auf künstliche Systeme. Maskierte Diffusionsmodelle (MDMs) sind für diese Aufgabe ideal geeignet, jedoch dekodieren bestehende Sampler entweder Text und Bild verschränkt oder aktualisieren sie unabhängig voneinander in parallelen Zweigen, die nur die Historie des vorherigen Schritts teilen, nicht jedoch die aktuellsten Entscheidungen der anderen Modalität innerhalb desselben Schritts; in Kombination mit der Unfähigkeit von MDMs, eine erneute Maskierung durchzuführen, werden kreuzmodale Widersprüche weder erkannt noch behoben. Wir führen selbstkorrigierende gekoppelte Markov-Sprungprozesse (SC-CMJP) ein, ein Framework, bei dem die Übergangsraten einer Modalität Funktionale des Konfidenzwerts der anderen Modalität sind, gewichtet durch kreuzmodule Aufmerksamkeit. Darüber hinaus macht ein erneuter Maskierungssprung Zusagen rückgängig, sobald kreuzmodule Evidenz dagegenspricht. In Verbindung mit SC-CMJP stellen wir CO₂Jump (Self-Text{CO}rrecting text{CO}upled text{Jump}) vor, einen neuartigen, trainingsfreien Single-Pass-Sampler für die gemeinsame multimodale Generierung. Für Trainings- und Evaluierungszwecke haben wir drei groß angelegte multimodale gemeinsame Generierungskorpora erstellt und werden sie veröffentlichen: JEdit-1M, JMaze-200K, JNono-200K, mit passenden In- und Out-of-Distribution-Benchmarks. CO₂Jump erzielt die beste gemeinsame Leistung bei Bildverständnis und -bearbeitung sowie visuellem Denken (Labyrinth- und Nonogramm-Lösung). Die Leistung des Samplers steigt monoton mit der Anzahl der Denoising-Schritte, ein Beleg dafür, dass die Vorteile der kreuzmodalen Kopplung entlang der Trajektorie zunehmen. Projektseite: https://coupled-jump.github.io
Building interactive worlds that respond coherently to player actions has long been a shared goal of computer graphics, games, and artificial intelligence. Recent video generative models provide a data-driven route toward this goal by predicting future observations conditioned on user actions, and are increasingly regarded as potential next-generation game engines. Realizing a genuinely interactive game world, however, requires interaction outcomes that follow rules over evolving game conditions, consequences that persist over long horizons, and a generation loop that operates in real time. Conventional game engines realize these properties through a recurrent action-state-observation loop, in which player actions update an explicit game state according to predefined rules and observations are rendered from the resulting state. Taking this loop as an organizing lens, this paper examines interactive game world modeling along four dimensions: player action control, game state dynamics, state-observation persistence, and real-time interactive generation. For each dimension, we start from the capabilities required by an interactive game world, group existing approaches into representative families, and discuss the strengths and trade-offs of each family. Complementing this analysis, we present a scalable data engine for Black Myth: Wukong that collects over 90 hours of gameplay with frame-aligned player actions, ground-truth game states, and visual observations, together with structured and semantic annotations, as a resource for state-aware game world modeling. We hope this paper offers a clear picture of where the field stands and fosters progress toward interactive game worlds.
Das Erlernen von breitem Weltwissen direkt aus rohen visuellen Daten ist eine fundamentale Fähigkeit von Intelligenz. Wir stellen UniVR vor, die erste Untersuchung, die gleichzeitig komplexes Schlussfolgern, feinkörnige physikalische Dynamiken und langfristige Planung aus rein visuellen Demonstrationen erlernt. Im Kern von UniVR steht VR-GRPO, ein Paradigma des Verstärkungslernens mit komplementären globalen und schrittweisen Belohnungen. Dieser Ansatz gewährleistet logische Kohärenz und physikalische Konsistenz während des gesamten Schlussfolgerungsprozesses, ohne dass aufgabenspezifische Heuristiken oder Bild-Text-Paare erforderlich sind. Zum Training und zur Evaluierung von UniVR erstellen wir VR-X, einen groß angelegten Benchmark, der aus 16 verschiedenen Quellen zusammengestellt wurde und langfristige Manipulation, räumliche Rätsel sowie physikalisches Schlussfolgern abdeckt. Es ist die erste umfassende Testreihe, die diese heterogenen Fähigkeiten unter einem rein visuellen Protokoll bewertet. Bemerkenswerterweise erzielt UniVR eine Verbesserung von bis zu 25 % auf VR-X, und sein überlegenes visuelles Schlussfolgern steigert auch die Leistung bei verschiedenen multimodalen Verständnis-Benchmarks. Diese Ergebnisse unterstreichen das enorme Potenzial des Schlussfolgerns in visuellen Räumen; sämtlicher Code, Daten und Modelle werden für die weitere Forschung als Open Source bereitgestellt.
Reinforcement Learning hat sich zu einem Standard-Post-Training-Verfahren für große Sprachmodelle entwickelt, jedoch erzeugen dichte vollständige Parameteraktualisierungen zwei einsatzrelevante Engpässe: eine unterdrückte Reasoning-Leistung, die sich oft in einer vorzeitigen Sättigung der Testzeit-Skalierung äußert, sowie Interferenzen bei der Konsolidierung mehrerer Fähigkeiten durch domänenübergreifendes Training oder Modellzusammenführung. Wir zeigen, dass die reasoning-wirksame Komponente dieser Aktualisierungen weitgehend im Spektralraum des Basismodells konzentriert ist, was Subspace-Aligned Rewiring (SAR) motiviert – eine nachträgliche Editierungsmethode, die diesen spektralen Kern bewahrt und orthogonale Komponenten entfernt. SAR erhält somit Reasoning-Gewinne und filtert residuale Aktualisierungsrichtungen heraus, die die Leistung unterdrücken oder domänenübergreifende Interferenzen verstärken. Über mehrere Modellfamilien und -größen hinweg extrahiert SAR kompakte Reasoning-Kerne mit nur etwa 0,58 % der Gesamtparameter: Es bewahrt über 99 % der Post-Training-Leistung, verbessert die High-k-Exploration im mathematischen Reasoning und generalisiert auf agentisches Codieren, indem es sechs von sieben offenen Benchmarks bei einem hausinternen Modell verbessert. SAR bereinigt auch gemischte Domänen-Trainingsaktualisierungen, indem es unterdrückte Programmierfähigkeiten freisetzt, während es mathematisches Reasoning und Instruktionsbefolgung beibehält. Darüber hinaus ermöglicht es die Modellzusammenführung über Experten hinweg und erzielt so eine domänenübergreifende Generalisierung, die frühere Zusammenführungs-Baselines und sogar die besten Einzeldomänen-Experten übertrifft. Insgesamt zeigt SAR, dass die Extraktion reasoning-wirksamer Aktualisierungen aus der Parametergoemetrie als trainingsfreier Mechanismus dienen kann, um Reasoning- und Multidomänen-Leistung zu verbessern.
Wir präsentieren Wan-Streamer v0.3, der unser systemeigenes Streaming-Interaktionsmodell unter einer einheitlichen Betrachtungsweise neu kontextualisiert: Ein Video ist eine Welt plus ein Ereignisstrom. Die Welt ist der beständige Kontext, in dem ein Video abläuft, einschließlich Umgebung, Szene, Subjekte, akustische Umgebungsbedingungen, Stimmcharakteristiken und andere relativ stabile Gegebenheiten. Der Ereignisstrom umfasst alles, was sich im Laufe der Zeit innerhalb dieser Welt verändert, darunter Szenen- oder Umgebungsänderungen, Subjektverhalten, Sprache und andere Geräusche. Dies ergibt eine universelle Vortrainingsaufgabe anhand großer Mengen realer Videodaten: Bei gegebener Welt und eingehendem Input vorhersagen, wie sich die Welt in Echtzeit bewegt, verändert und reagiert. Die daraus resultierende Kompetenz kann für eine breite Familie von Echtzeit-Downstream-Aufgaben spezialisiert werden. Wir setzen dies für die vollduplexe audio-visuelle Echtzeitinteraktion um, bei der der Ereignisstrom aus der Sprache des Agenten sowie freiem Verhalten besteht. Funktionell ähnelt der multimodale Verarbeitungsprozess des Modells einem Vision-Language-Action-Ansatz: Es kartiert multimodalen Benutzereingaben in sprachförmige Sprach- und Verhaltensaktionen. Wan-Streamer v0.3 behält den Betriebspunkt von v0.2 bei: 640×368 Video bei 25 FPS, eine Streamingeinheit von 160 ms, eine modellseitige Antwortlatenz von etwa 200 ms und eine gesamte Interaktionslatenz von etwa 550 ms bei einem bidirektionalen Netzwerkbudget von 350 ms.
On-Policy-Destillation (OPD) hat sich zu einem zentralen Paradigma im LLM-Post-Training entwickelt, dennoch sind ihre Trainingsdynamiken noch wenig verstanden. Wir präsentieren eine systematische Studie, die die Rolle, Pathologien und Regulierungen der OPD untersucht. Zunächst klären wir die Rolle der OPD als Explorationskatalysator: Sie lenkt den Schüler durch dichte Token-Ebene-Führung zu korrekten Lösungspfaden, ohne die Leistungsgrenze zu erweitern. Wir bestätigen dies, indem wir zeigen, dass die Prompt-Vielfalt wichtiger ist als die Anzahl der Stichproben pro Problem, und kritischerweise, dass die Wirksamkeit der OPD vollständig von der Qualität ihres Leitsignals abhängt. Diese Abhängigkeit legt zwei Pathologien offen, die die Exploration entgleisen lassen. Der Student-Teacher-Mismatch tritt auf, wenn ein großer Verteilungsabstand zwischen Lehrer und Schüler dazu führt, dass das Leitsignal nicht mit der Aufgabenkorrektheit übereinstimmt und die Exploration in kontraproduktive Richtungen lenkt. Die Längenausnutzung entsteht, wenn die aggregierte Token-Ebene-Zielgröße längenabhängige Abkürzungen schafft, die es dem Schüler ermöglichen, die Belohnungslandschaft durch Antwortkürzung oder redundante Auffüllung auszuspielen, und dabei entartete Längenmodi anstelle von Lösungsstrategien zu erkunden. Um diese Pathologien zu bändigen, untersuchen wir leichte Signalregulierungen: Advantage-Clipping und Log-Skala-Kompression, die sicherstellen, dass die Exploration durch zuverlässige Signale geleitet wird. Experimente über sieben Benchmarks hinweg zeigen, dass diese Regulierungen die Längenausnutzung abschwächen und eine effektive Destillation ermöglichen, wobei sie OPD-Varianten und RLVR-Baselines stabil übertreffen. Dies bestätigt, dass ein gut reguliertes Leitsignal, nicht bloß die Größe des Lehrers, den Erfolg der Exploration in der OPD bestimmt.
Neuere Robotik-Grundlagenmodelle arbeiten mit ein- oder kurzfristigem visuomotorischem Kontext. Wir stellen Test-Time-Training Robot Policies (RoboTTT) vor, ein Robotermodell und eine Trainingsmethode, die den visuomotorischen Kontext auf 8K Zeitschritte skalieren – drei Größenordnungen über dem Stand der Technik liegender Policys – ohne die Inferenzlatenz zu erhöhen. Bei dieser Kontextlänge erschließen wir neue Roboterfähigkeiten: einmalige kontextabhängige Imitation aus menschlichen Videodemonstrationen, Online-Verbesserung der Policy, Robustheit gegenüber Störungen und höhere Leistung bei mehrstufigen, langfristigen Aufgaben. Wir beobachten zudem erstmals stetige Verbesserungen der Closed-Loop-Leistung mit zunehmender Kontextlänge des Vortrainings. Im Kern integriert RoboTTT Test-Time Training in Robotik-Grundlagenmodelle wie Vision-Language-Action-Policys, was zu einem Sequenzmodell führt, dessen wiederkehrender Zustand aus schnellen Gewichten besteht – Parameter, die während Training und Inferenz durch Gradientenabstieg aktualisiert werden –, um Historien in den Gewichtsraum zu komprimieren und kontextuelle Informationen für die Konditionierung auf langen Kontext abzurufen. Um die Trainingskontextlänge zu skalieren, kombiniert die Methode Sequenz-Action-Forcing mit abgeschnittenem Backpropagation durch die Zeit. Bei anspruchsvollen realen Manipulationsaufgaben verbessert RoboTTT die Gesamtleistung um 87 % gegenüber der Baseline mit Ein-Schritt-Kontext und schließt eine fünfminütige, zehnstufige Montageaufgabe vollständig ab, was keine Baseline je erreicht. RoboTTT, trainiert mit 8K-Zeitschritt-Kontext, übertrifft dasselbe mit 1K Zeitschritten vortrainierte Modell um 62 %, was darauf hindeutet, dass die Kontextlänge eine neue Skalierungsachse für Robotik-Grundlagenmodelle darstellt. Videos sind verfügbar unter https://research.nvidia.com/labs/gear/robottt/
MeanFlow generators achieve fast few-step sampling by predicting average velocities over time intervals, making them attractive for efficient generation. Reinforcement learning (RL) has become a powerful way to align diffusion and flow models with human preferences and task-specific objectives. In particular, DiffusionNFT offers an efficient forward-process RL framework that does not require reverse-process trajectories or likelihood estimation. However, applying such RL methods to MeanFlow remains underexplored. DiffusionNFT optimizes instantaneous velocities, whereas MeanFlow samples with average velocities. To bridge this gap, we introduce MeanFlowNFT. Inspired by the MeanFlow identity, which bridges average and instantaneous velocities, we construct an induced instantaneous-velocity predictor. We apply the DiffusionNFT objective to this predictor, making reward optimization well-defined for MeanFlow. Sampling remains based on the average velocity, preserving MeanFlow's fast few-step generation. We further prove that MeanFlowNFT inherits DiffusionNFT's strict policy-improvement guarantee. Experiments on image and video generation show that MeanFlowNFT consistently improves baselines. Moreover, it outperforms prior state-of-the-art RL-tuned few-step generators on most metrics (6 of 8 on SD3.5-M), and can even surpass multi-step RL-tuned diffusion while using only a few sampling steps. For instance, on Wan 2.1, 4-step MeanFlowNFT reaches a VBench score of 84.33, surpassing 50-step LongCat-Video RL (82.57).
Music generation foundation models have recently attracted significant industry attention. However, achieving efficient generation and high-fidelity long-form audio while supporting controllability remains challenging. To address these needs, we present WanSong, a simple yet powerful approach for long-form, commercial-grade song generation. Unlike autoregressive (AR) and cascaded multi-stage pipelines (\eg, AR followed by diffusion), WanSong is a pure diffusion-based model that directly generates high-fidelity, multilingual songs up to 5 minutes and outputs dual stems (vocals and background music) in a single run. In addition, our diffusion framework enables faster inference through step-distillation, and offers an efficient pathway for fine-tuning and customization to support downstream editing tasks.
Geschleifte Transformer skalieren sequentielle Berechnung, indem sie einen kompakten Stapel physischer Blöcke für mehrere Durchläufe anwenden, was die entfaltete Tiefe erhöht, ohne die gespeicherten Parameter zu vergrößern. Diese Wiederverwendung verändert das Residuen-Skalierungsproblem: In einem nicht gebundenen Transformer erhält und wendet jeder Residualzweig seine eigene Parameteraktualisierung an, während in einem geschleiften Transformer eine gemeinsame Aktualisierung Gradienten aus wiederholten Besuchen aggregiert und von denselben Besuchen im nächsten linearisierten Vorwärtsdurchlauf zurückgelesen wird. Wir formalisieren diesen gebundenen Tiefeneffekt durch eine durch einen Besuchsausrichtungskoeffizienten κ_R kontrollierte Störungsgrenze erster Ordnung. Die Grenze reproduziert den DeepNorm-Exponenten, wenn die Besuche dekorrelieren, erfordert jedoch im konservativen ausgerichteten Regime eine Erhöhung des Exponenten von 1/4 auf 1/2, wenn die Schleifenanzahl bei fester physischer Tiefe steigt. Die resultierende Methode, DeepLoop, behält die Post-LN DeepNorm-Architektur bei und setzt α=(2N)^{1/2} und β=(8N)^{-1/2} für die entfaltete Tiefe N. Bei GPT-artigen geschleiften Sprachmodellen im GPT-2-Klein- und GPT-2-Mittelformat ist DeepLoop neutral, wenn kein physischer Block erneut besucht wird, und verbessert den Validierungsverlust und die nachgelagerte Genauigkeit, sobald die rekurrente Tiefe aktiviert wird. Diese Ergebnisse zeigen, dass eine stabile rekurrente Tiefe Residuen-Skalierungsregeln erfordert, die Parameterbesuche und nicht nur die nominale Schichtanzahl berücksichtigen.
Visually impaired individuals (VIIs) encounter significant daily challenges due to limited access to visual information. Although Multimodal Large Language Models (MLLMs) have achieved impressive results on general vision and language tasks, their practical utility in real-world blind assistance still remains largely underexplored. To fill this gap, we introduce VIABench, a comprehensive video benchmark specifically designed to evaluate MLLMs in Visually Impaired Assistance scenarios using first-person videos recorded or shared by VIIs themselves. VIABench defines three core tasks, each targeting a distinct requirement in visual assistance. Proactive Reminder: Assesses the model's ability to interpret ongoing video content while proactively anticipating and verbally describing upcoming navigation-critical events; Visual Question Answering (VQA): Evaluates the model's capacity to answer user-posed questions about the environment or objects within the video; Vision-Guided Interaction: Tests context-aware reasoning to accomplish intentional interactions between user and environment. To ensure a robust and fair evaluation, we propose a rigorous benchmarking pipeline that supports both online (real-time) and offline settings. Our experiments demonstrate that current MLLMs still struggle to deliver comprehensive support for VIIs, especially in the Proactive Reminder task, which demands accurate anticipation and real-time responsiveness. We hope VIABench will drive future research toward developing customized MLLMs for real-world assistance, ultimately improving navigation and interaction experiences for visually impaired individuals. Code and data will be released at https://github.com/MCG-NJU/VIABench.
Wir berichten über eine Methode, mit der ein eingefrorenes kleines Sprachmodell gleichzeitig leistungsfähiger und dramatisch kostengünstiger gemacht werden kann, ohne dass Gewichte verändert werden müssen. Verifiziertes Wissen wird einmalig als bytegenaues Key-Value (KV)-Zustandsartefakt abgelegt und später durch Pfropfung in einen neuen Inferenzkontext wiederhergestellt. Die Wiederherstellung ist bitexakt: Unter einer festgelegten deterministischen Konfiguration sind die eingepfropften Logits byteweise identisch mit einer Neuberechnung (SHA-256-Gleichheit), mit einer KL-Divergenz von null und 100%iger Argmax-Übereinstimmung über fünfzig Stichproben. Wir zeigen, dass die Pfropfung auf die eigene Position der einzige numerisch exakte Arbeitspunkt bei einem Modell mit Gleitkomma-Rotary-Codierung ist, und verifizieren die Bytegenauigkeit auf zwei Modellskalen (12B, 31B) sowie zwei GPU-Zielen, wobei eines über eine vorregistrierte Wiedergabe erfolgt. Bei AIME 2025 steigt ein eingefrorenes Gemma-4-12B von 80,0 % auf 93,3 %, sobald eine verifizierte Lösungsbibliothek eingepfropft wird, und liegt damit über seinen eigenen veröffentlichten Ankern von 77,5 % und den 89,2 % seines 31B-Pendants. Im wiederkehrenden Fall werden acht Aufgaben, die das Basismodell innerhalb eines Budgets von 401.026 Token nie löst, aus zwischengespeicherten verifizierten Lösungen mit insgesamt 61 Decode-Token beantwortet – ein Faktor von 6.574 weniger Token und etwa 8.700-fach weniger Energie; der eigentliche Leistungsanspruch stützt sich auf zurückgehaltene Übertragungen (7 von 7 bei 31B). Derselbe bytegenaue Speicher erweitert den nutzbaren Kontext von 32.768 auf 2.854.766 Token bei null zusätzlichem Beschleunigerspeicher und überträgt sich byteidentisch zwischen Maschinen derselben Architektur. Wir beschreiben das System auf Verhaltensebene; die Engine ist proprietär, und jede berichtete Zahl wird durch festgelegte Eingabe- und Ausgabe-Hashes abgesichert, sodass die Bewertung ohne sie überprüft werden kann.
In-context learning is commonly interpreted as a form of conditional inference, in which the prompt specifies a context and the model's output is treated as an estimate of the corresponding conditional distribution. If this interpretation holds, then LLM estimates should satisfy basic probabilistic identities. In particular, the law of total probability asserts that prior-weighted conditional distributions aggregate into population-level marginals over any valid partition of the population. In this work, we investigate to what extent LLM estimates adhere to this self-consistency principle. We use binary trees as an evaluation scaffold to recursively partition a population into increasingly fine-grained subpopulations. We then prompt LLMs with verbalized subpopulation descriptions in context, aggregate the resulting estimates back into population-level estimates, and compare them across partitions of varying granularity. Applying this protocol across problem domains and state-of-the-art frontier models, we show widespread violations of basic consistency properties. An in-depth study of persona prompting reveals a pattern we call the macro fallacy: estimates reconstructed from more fine-grained subpopulation responses are often better aligned with human reference data than direct population-level estimates. This effect persists across variations in tree structure and estimation task, and can be partially recovered through implicit prompting. Together, these findings suggest that models possess relevant subpopulation knowledge but do not reliably propagate it into aggregate estimates. This gap establishes statistical self-consistency as an unsaturated, reference-free criterion for evaluating LLMs.
Recent generalizable 3D Gaussian Splatting models have advanced long-sequence novel view synthesis (NVS), but at the cost of substantial redundant computation. We identify that the redundancy can be mitigated based on two observations: (i) high-precision geometry is not strictly required for high-quality NVS; (ii) appearance learning is generally easier than geometry recovery. Motivated by these insights, we propose an asymmetric architecture that decouples geometry and appearance modeling. The geometry branch processes coarse-grained tokens with most of the parameters for multi-view reconstruction, while the appearance branch operates on fine-grained tokens to capture details using significantly fewer parameters. The two branches interact through bilateral connections, enabling mutual guidance for their respective tasks. This task-aware asymmetry reduces the computational redundancy and allocates the computation more judiciously, thereby increasing parameter efficiency and enabling smaller models to achieve strong performance. On 32-view 960P inputs, our model matches optimization-based methods while delivering nearly 800x speedup, and surpasses the zero-shot performance of state-of-the-art generalizable models with markedly fewer parameters and reduced training/inference overhead, achieving an overall efficiency improvement.
Agentische Retrieval-Augmented Generation (RAG) erweitert die statische RAG, indem sie Sprachmodellen ermöglicht, iterativ zu schlussfolgern, Suchanfragen zu generieren, Belege abzurufen und Antworten vorherzusagen. Allerdings bleibt es für Modelle herausfordernd, zu entscheiden, wann abgerufen werden soll, ob lexikalisches Matching oder semantische Ähnlichkeit verwendet werden soll und wie die Kontextgranularität gesteuert werden kann, um zu verhindern, dass irrelevante Token die Logik des Agenten beeinträchtigen. In dieser Arbeit stellen wir GRASP vor, ein Framework für verstärkendes Lernen (RL), das Agenten darin trainiert, während mehrschrittiger Schlussfolgerungsprozesse adaptive komplementäre Abrufwerkzeuge zu koordinieren. GRASP stattet den Agenten mit Aktionen für semantische Suche, Stichwortsuche und Absatzlesen aus, sodass er Belege auf Satzebene abrufen und nur bei Bedarf weiteren Kontext erweitern kann. Wir trainieren die Strategie mit einer Belohnung, die gemeinsam Antwortgenauigkeit, fundiertes Lesen, komplementäre Suche und Zugriffseffizienz berücksichtigt. Experimente mit Benchmarks für mehrschrittiges Schließen zeigen, dass GRASP sowohl den Abruf-Recall als auch die Leistung bei der nachgelagerten Beantwortung von Fragen im Vergleich zu einstufigem Abruf, aufforderungsbasierter agentischer RAG und RL-basierten Abruf-Baselines verbessert. Qualitative und Ablationsanalysen zeigen, dass die erlernte Strategie interpretierbares Überfliegen- und Scannen-Verhalten entwickelt: Sie verwendet semantische Suche für breite Erkundung, Absatzlesen für lokale Verifikation und Stichwortsuche für entitätsspezifische Belege. Diese Ergebnisse deuten darauf hin, dass das Erlernen der Koordination von Abrufsignalen und Kontextgranularität entscheidend für die korrekte Logik des Agenten ist.
Verkörperte Kognition erfordert, dass Agenten abstrakte Planungsüberlegungen auf hoher Ebene mit den zu erreichenden physikalischen Zuständen verknüpfen. Wir stellen Hy-Embodied-RxBrain vor, ein Grundlagenmodell für verkörperte Kognition mit gemeinsamer Sprach-Bild-Argumentation und Imagination. Im Gegensatz zu Bild-Sprach-Modellen, die das Szenenverständnis und die textbasierte Entscheidungsfindung betonen, oder generativen Weltmodellen, die hauptsächlich zukünftige visuelle Zustände vorhersagen, repräsentiert RxBrain verkörperte Pläne in einer einzigen Planungssequenz, in der Sprache und visuelle Imagination komplementäre Rollen spielen. Sprache liefert die abstrakte Struktur eines Plans, einschließlich Aufgabenzerlegung, Planungsprimitive, Randbedingungen, zeitlicher Abfolge und Entscheidungslogik, während visuelle Imagination diese Struktur durch Weltzustandsvorhersage und gemeinsame Teilzielplanung verankert und jeden Planungsschritt mit Zwischen- und Endzuständen der physischen Welt assoziiert. RxBrain verwendet eine einheitliche multimodale Mixture-of-Transformers-Architektur, die Sprach-, Bild- und Videoverständnis sowie -generierung in einem einzigen Modell unterstützt. Um diese Fähigkeit zu trainieren, bauen wir eine automatisierte Pipeline auf, die verkörperte Videos in eine gemeinsame textuell-visuelle Planungsüberwachung umwandelt, indem sie Videos in Planungsschritte zerlegt und diese mit visuellen Zustandsübergängen abgleicht. Wir führen außerdem RxBrain-Bench ein, um zu bewerten, ob Modelle verkörperte Pläne durch gemeinsame textuelle und visuelle Komponenten repräsentieren können, anstatt durch getrenntes Verstehen oder Generieren. Experimente zeigen, dass RxBrain seine verkörperten Verstehens- und Generierungsfähigkeiten bewahrt und Pläne mit gekoppelter textueller Argumentation, Weltzustandsvorhersage und gemeinsamer Teilzielplanung erstellt. Wir erweitern RxBrain zudem auf die kontinuierliche Generierung von Roboteraktionen, wo es vielversprechende Leistungen auf echten Robotern zeigt, ohne auf groß angelegtes Aktionsdaten-Pretraining angewiesen zu sein. Diese Ergebnisse bilden einen ersten Schritt hin zu Grundlagenmodellen für verkörperte Kognition.
Ausrichtung von CAD-Modellen auf Bilder zielt darauf ab, die 9D-Pose (Rotation, Translation und anisotroper Maßstab) eines Objekts aus einem einzelnen RGB-Bild zu schätzen, was Anwendungen in der Robotik und erweiterten Realität ermöglicht. Aktuelle Nullschuss-Methoden nutzen visuelle Grundlagenmodelle, um Bildbereiche mit CAD-Modellen abzugleichen, doch typischerweise sind ihre Korrespondenzen erscheinungsgetrieben und verschlechtern sich unter Okklusion oder Sim-to-Real-Domänenverschiebung. Um diese Einschränkungen zu überwinden, führen wir SUFLECA (Scaling Up Feature LEarning for CAD Alignment) ein, ein schwach überwachtes Framework für die Nullschuss-Ausrichtung von CAD-Modellen mit zwei zentralen Beiträgen. Erstens skaliert SUFLECA das geometriebasierte Merkmalslernen aus vortrainierten visuellen Repräsentationen durch Überwachung mit normalisierten Objektkoordinaten (NOCs) auf 674.000 Bildern aus 12 realen und synthetischen Datensätzen hoch und lernt kompakte, geometriebewusste Merkmale, die über Domänen hinweg generalisieren. Zweitens schlagen wir einen geometrisch konsistenten Abgleich-Algorithmus vor, der zuverlässige Eins-zu-Eins-Korrespondenzen zwischen CAD-Modell und Bild herstellt. Zusammen ermöglichen diese Beiträge eine genaue, unter einer Sekunde dauernde Ausrichtung pro Objektinstanz ohne iterative Posenverfeinerung. Auf ScanNet25k erreicht SUFLECA eine Kategorie-/Instanzgenauigkeit von 33,4 %/42,3 % und übertrifft damit bei geringerem Rechenaufwand die stärkste Nullschuss-Baseline um 10,3/12,2 Prozentpunkte und übertrifft auf diesem Benchmark erstmals sogar vollständig überwachte Methoden. Der Code ist verfügbar unter: https://github.com/snt-arg/SUFLECA
Video models are evolving into vision foundation models, yet they still lack human-like multi-step reasoning. Streaming autoregressive diffusion models are efficient but limited in reasoning, while bidirectional diffusion enables global revision with high inference costs due to dense frame-level denoising. Both paradigms struggle to achieve logical consistency and low-latency streaming for complex reasoning tasks. We propose HDR (Hierarchical Denoising for Visual Reasoning), a unified framework that integrates hierarchical latents into causal video generation for multi-step reasoning. HDR organizes video latents into a tree-structured hierarchy, enabling coarse-to-fine reasoning before streaming output. Coarse denoising layers preserve uncertain hypotheses for global planning, while finer layers progressively refine them into concrete visual states. A sparse hierarchical attention pattern (SHAP) further reduces temporal attention costs. We introduce a level-stratified multi-step video reasoning benchmark with out-of-distribution cases, covering six tasks: maze navigation, Tower of Hanoi, one-line drawing, sliding puzzle, Sokoban, and water pouring. Compared with streaming autoregressive diffusion baselines, HDR improves success from 34.22 to 60.29 (76.2% relative gain) and increases average progress from 76.00 to 89.56, demonstrating more consistent reasoning trajectories. HDR maintains low-latency streaming at 0.70 seconds per latent, achieving 54.2 times faster inference than bidirectional diffusion. It also retains 82.9% of full-data performance with only 2% training data, compared with 52.0% for bidirectional diffusion. Real-world robot experiments further demonstrate HDR's potential for physical interaction and world modeling. Project demo: https://hierarchical-diffusion-reasoning.github.io/.
Die Validierung autonomer Fahrsysteme erfordert vielfältige, vorschriftskonforme Testszenarien. Im simulationsbasierten Testen werden Szenarien als ausführbare Skripte definiert. Die automatische Generierung solcher Skripte aus regulatorischen Beschreibungen bleibt jedoch eine offene Herausforderung, und bestehende Ansätze sind mit grundlegenden Zielkonflikten konfrontiert. Retrieval-Assemble-Methoden erzielen angemessene Kompilierungsraten, mangeln jedoch an Skalierbarkeit, während die Retrieval-basierte Vollskriptgenerierung unter niedrigen Kompilierungserfolgsraten leidet. Wir stellen Chat2Scenic vor, das erste iterative retrieval-gestützte Framework zur Generierung von Szenarioskripten in einer domänenspezifischen Sprache (DSL). Konkret bietet Chat2Scenic eine Chatbot-Schnittstelle, die eine interaktive Szenarienverfeinerung unterstützt und Retrieval-gestützte Generierung (RAG) integriert, um die Szenariengenerierung in regulatorischem Wissen und DSL-Syntax zu verankern. Darüber hinaus schlagen wir einen offenen Benchmark für die Szenariengenerierung vor, der 123 Szenarien aus verschiedenen Vorschriften umfasst, darunter NHTSA und UN-Fahrzeugvorschriften sowie andere Quellen. Eine umfassende Evaluierung mit hochmodernen Large Language Models (LLMs) zeigt, dass Chat2Scenic eine Kompilierungserfolgsrate (CSR) von 76,42 % und eine Framework-Genauigkeit (FA) von 58,17 % erreicht und damit bestehende Methoden übertrifft (Retrieval Assemble mit 30,08 % CSR und 11,03 % FA; Retrieval-Vollskriptgenerierung mit 16,26 % CSR und 10,86 % FA). Um zukünftige Forschung zu erleichtern, veröffentlichen wir unseren Code als Open Source unter https://github.com/TUM-AVS/chat2scenic.
In dieser Arbeit stellen wir Token Time Continuous Diffusion (TTCD) vor, ein neues Diffusions-Sprachmodell, das (a) im kontinuierlichen Raum arbeitet und Gaußsches Rauschen deterministisch auf eine endgültige Token-Leinwand abbildet, ohne weitere Stichprobenziehung, und das entscheidend (b) ein neues Konzept von Token-spezifischen Zeiten beinhaltet, bei dem einige Token schneller vom Rauschen zum Token übergehen als andere. Die Modellierung im kontinuierlichen Raum hilft TTCD, das parallele Sampling mehrerer Token zu vermeiden, was eine Hauptquelle von Ungenauigkeiten bei hohen Beschleunigungen für Modelle ist, die ausschließlich im diskreten Raum iterieren. Das Konzept der Token-spezifischen Zeiten hilft TTCD, die bedingte Generierung besser zu modellieren, ermöglicht es sichereren Token, schneller voranzuschreiten, und erlaubt differenzierte Inter-Token-Einflüsse während der Verfeinerung. TTCD übertrifft diskrete Modelle bei hohen Beschleunigungen. Wir trainieren ein TTCD-Modell mit 160 Millionen Parametern auf OpenWebText und destillieren es anschließend selbst; wir stellen fest, dass wir bei hohen Beschleunigungen in der Qualität der unbedingten Generierung mit mehreren bestehenden Modellen vergleichbarer Größe, die auf denselben Daten trainiert und selbst destilliert wurden, vergleichbar sind und sie in der bedingten Generierung übertreffen. Ähnliche Verbesserungen erzielen wir auch beim Lösen von Sudoku.