探索的モデリング：第三の事前学習軸とエンドツーエンド生成の切り開き

要旨

深層学習革命は、AlexNetによって幕を開け、問題を手設計の段階に分解することよりも、エンドツーエンドの学習が優れていることを我々に教えた。しかし、生成モデリングは依然として例外であり続けている。生成モデルは驚くほど高性能であるにもかかわらず、いまだにエンドツーエンドでは学習されていない。これは、その核心において、生成モデリングが多峰性を持つ分布の扱いに関するものであり、既存のスケーラブルなアプローチはすべて、生成手順を分解することによって同じ方法でこの問題を処理しており、それがエンドツーエンド生成を妨げているためである。本研究では、代わりに学習ループを分解する新しいパラダイムである探索的モデリング（Explorative Modeling）を導入する。これは、モデルの生成とデータの間でK個の候補マッチを探索し、最良のマッチに基づいて学習することで、予測がモードをぼかすのではなくモードにコミットするようにする。我々は、探索的モデル（XM）が2つの設定で有用であることを見出した。第一に、探索の増加は、既存の生成モデルにとってパラメータとデータを超えた第三の事前学習軸を追加し、この軸における探索のスケーリングは、連続領域と離散領域（画像、動画、言語）の両方にわたって性能を単調に改善する。注目すべきことに、探索による利得は規模とともに増大し、データ規模の拡大に伴い7%から36%へ、モデル規模の拡大に伴い13%から23%へと上昇し、計算量3倍では効率の利得が2倍以上となる。具体的には、探索はFLOP効率を4.1倍、サンプル効率を6.2倍、パラメータ効率を47%改善し、画像生成レシピの中でも最強のものを、ガイダンスなしでImageNet上で最先端に近い1.43のFIDへと引き上げ、既存モデルのエンドツーエンド性のスケーリングを可能にし、スケーリング汎化を実現する。第二に、XMはエンドツーエンドの再構成型生成モデリングを可能にし、制御タスクにおいて16〜256倍少ない推論ステップで拡散モデルに匹敵する。これらの結果は総合的に、XMが既存の生成モデルの新たな事前学習軸であると同時に、スタンドアロンのエンドツーエンド生成モデリングパラダイムであることを確立する。

English

The deep learning revolution, kicked off by AlexNet, taught us that end-to-end training beats decomposing a problem into hand-designed stages. Generative modeling, however, has remained the exception-despite generative models being remarkably capable, they are still not trained end-to-end. This is because, at its core, generative modeling is about handling distributions with many modes, and existing scalable approaches handle this the same way, by factoring the generation procedure, which prevents end-to-end generation. In this work, we introduce Explorative Modeling, a new paradigm that instead factors the training loop, exploring K candidate matches between model generations and data, and training on the best, so predictions commit to modes rather than blurring them. We find Explorative Models (XMs) useful in two settings. First, increasing exploration adds a third pretraining axis beyond parameters and data for existing generative models-where scaling exploration monotonically improves performance across both continuous and discrete domains (images, video, and language). Notably, gains from exploration increase with scale, climbing from 7% to 36% as data scales and from 13% to 23% as models grow, with efficiency gains more than doubling at 3x the compute. Concretely, exploration improves FLOP efficiency by 4.1x, sample efficiency by 6.2x, parameter efficiency by 47%, lifts the strongest of image-generation recipes to a near-state-of-the-art 1.43 FID on ImageNet without guidance, enables scaling how end-to-end existing models are, and unlocks scaling generalization. Second, XMs enable end-to-end reconstructive generative modeling, matching diffusion on control tasks with 16-256x fewer inference steps. Together, these results establish XMs as both a new pretraining axis for existing generative models and a standalone end-to-end generative modeling paradigm.