ZipTok3D：コンパクトなトークンプレフィックスによる高忠実度3Dトークン化

要旨

コンパクトなトークン列は効率的な3D生成に不可欠である。しかし、既存の3Dトークナイザは通常、潜在表現を空間領域ごと、または固定サイズのグローバルトークンの集合として構成しており、極めて少ないトークン予算に圧縮すると、どちらも再構成品質が大幅に劣化する。本論文では、極めて短いトークン列からの高忠実度再構成のために設計された3DトークナイザであるZipTok3Dを提案する。その主要なアイデアは、オブジェクトの幾何形状を段階的に情報量が増すグローバルトークンのプレフィックスとして構成し、それらのコンパクトな表現を反復デコードによって展開することにある。具体的には、ネストされたドロップアウトが学習中にエンコーディング後の潜在シーケンスをランダムに切り詰め、保持された各プレフィックスに完全なオブジェクトの再構成を要求することで、先頭トークンに本質的な幾何学情報を優先的に配置する。そしてデコーダは、パラメータ共有のTransformerブロックを繰り返し適用し、各プレフィックスから詳細な幾何形状を復元する。個別の生成的サンプリング段階は不要である。同じトークン次元において、ZipTok3Dは、ShapeNetではわずか1トークン、TRELLISでは4トークンで、32トークンのCOD-VAEベースラインに匹敵する再構成品質を達成し、それぞれ32倍および8倍短いトークン列を実現する。

English

Compact token sequences are essential for efficient 3D generation. However, existing 3D tokenizers typically organize latent representations either over spatial regions or as fixed-size sets of global tokens, both suffering sharp reconstruction degradation when compressed to extremely low token budgets. In this paper, we present ZipTok3D, a 3D tokenizer designed for high-fidelity reconstruction from extremely short token sequences. Its key idea is to organize object geometry into progressively informative global-token prefixes and unfold these compact representations through iterative decoding. Specifically, nested dropout randomly truncates the latent sequence after encoding during training and requires each retained prefix to reconstruct the complete object, thereby prioritizing essential geometric information in the leading tokens. The decoder then repeatedly applies a parameter-shared Transformer block to recover fine-grained geometry from each prefix without a separate generative sampling stage. With the same token dimension, ZipTok3D achieves reconstruction quality comparable to the 32-token COD-VAE baseline using only one token on ShapeNet and four on TRELLIS, yielding 32times and 8times shorter token sequences, respectively.