InsightTok: 自己回帰画像生成のための離散トークン化におけるテキストと顔の忠実度向上

要旨

テキストと顔は、視覚生成において最も知覚的に顕著で実用的に重要なパターンの一つであるが、離散トークン化に基づく自己回帰型生成器にとっては依然として課題となっている。主要なボトルネックはトークナイザにある。すなわち、過度なダウンサンプリングと量子化により、読み取り可能なグリフや特徴的な顔の詳細を保持するために必要な微細構造がしばしば失われる。このギャップは、標準的な離散トークナイザの目的関数がテキストの可読性や顔の忠実性と弱くしか対応していないことに起因していると考えられる。なぜなら、これらの目的関数は通常、汎用的な再構成を最適化しつつ、多様なコンテンツを一律に圧縮するからである。この問題に対処するため、我々はInsightTokを提案する。これは、局所的かつコンテンツ認識型の知覚損失を通じてテキストと顔の忠実性を向上させる、シンプルかつ効果的な離散視覚トークン化フレームワークである。InsightTokは、コンパクトな16kコードブックと16倍のダウンサンプリング率を備え、汎用的な再構成品質を損なうことなく、テキストと顔の再構成において従来のトークナイザを大幅に凌駕する。これらの利点は、InsightARにおける自己回帰型画像生成にも一貫して転移し、より鮮明なテキストとより忠実な顔の詳細を備えた画像を生成する。全体として、本結果は、離散画像生成の進歩に向けたトークナイザ訓練における特殊化された監督の可能性を浮き彫りにしている。

English

Text and faces are among the most perceptually salient and practically important patterns in visual generation, yet they remain challenging for autoregressive generators built on discrete tokenization. A central bottleneck is the tokenizer: aggressive downsampling and quantization often discard the fine-grained structures needed to preserve readable glyphs and distinctive facial features. We attribute this gap to standard discrete-tokenizer objectives being weakly aligned with text legibility and facial fidelity, as these objectives typically optimize generic reconstruction while compressing diverse content uniformly. To address this, we propose InsightTok, a simple yet effective discrete visual tokenization framework that enhances text and face fidelity through localized, content-aware perceptual losses. With a compact 16k codebook and a 16x downsampling rate, InsightTok significantly outperforms prior tokenizers in text and face reconstruction without compromising general reconstruction quality. These gains consistently transfer to autoregressive image generation in InsightAR, producing images with clearer text and more faithful facial details. Overall, our results highlight the potential of specialized supervision in tokenizer training for advancing discrete image generation.