BlockFusion: 潜在トライプレーン補外を用いた拡張可能な3Dシーン生成

BlockFusion: Expandable 3D Scene Generation using Latent Tri-plane Extrapolation

January 30, 2024

著者: Zhennan Wu, Yang Li, Han Yan, Taizhang Shang, Weixuan Sun, Senbo Wang, Ruikai Cui, Weizhe Liu, Hiroyuki Sato, Hongdong Li, Pan Ji

cs.AI

要旨

BlockFusionを紹介する。これは、3Dシーンをユニットブロックとして生成し、新しいブロックをシームレスに組み込んでシーンを拡張する拡散モデルである。BlockFusionは、完全な3Dシーンメッシュからランダムに切り取られた3Dブロックのデータセットを使用して訓練される。ブロックごとのフィッティングを通じて、すべての訓練ブロックはハイブリッドニューラルフィールドに変換される。これは、ジオメトリ特徴を含むトライプレーンと、それに続く符号付き距離値をデコードするための多層パーセプトロン（MLP）で構成される。変分オートエンコーダを使用して、トライプレーンを潜在トライプレーン空間に圧縮し、その上でノイズ除去拡散プロセスが実行される。潜在表現に拡散を適用することで、高品質で多様な3Dシーン生成が可能となる。生成中にシーンを拡張するには、現在のシーンと重なるように空のブロックを追加し、既存の潜在トライプレーンを外挿して新しいブロックを埋めるだけでよい。外挿は、ノイズ除去イテレーション中に重なるトライプレーンからの特徴サンプルを使用して生成プロセスを条件付けることで行われる。潜在トライプレーンの外挿は、既存のシーンと調和する意味的および幾何学的に意味のある遷移を生成する。2Dレイアウト条件付けメカニズムを使用して、シーン要素の配置と配置を制御する。実験結果は、BlockFusionが、屋内および屋外のシナリオで、多様で幾何学的に一貫性があり、かつ無限に広がる大規模な3Dシーンを、前例のない高品質の形状で生成できることを示している。

English

We present BlockFusion, a diffusion-based model that generates 3D scenes as unit blocks and seamlessly incorporates new blocks to extend the scene. BlockFusion is trained using datasets of 3D blocks that are randomly cropped from complete 3D scene meshes. Through per-block fitting, all training blocks are converted into the hybrid neural fields: with a tri-plane containing the geometry features, followed by a Multi-layer Perceptron (MLP) for decoding the signed distance values. A variational auto-encoder is employed to compress the tri-planes into the latent tri-plane space, on which the denoising diffusion process is performed. Diffusion applied to the latent representations allows for high-quality and diverse 3D scene generation. To expand a scene during generation, one needs only to append empty blocks to overlap with the current scene and extrapolate existing latent tri-planes to populate new blocks. The extrapolation is done by conditioning the generation process with the feature samples from the overlapping tri-planes during the denoising iterations. Latent tri-plane extrapolation produces semantically and geometrically meaningful transitions that harmoniously blend with the existing scene. A 2D layout conditioning mechanism is used to control the placement and arrangement of scene elements. Experimental results indicate that BlockFusion is capable of generating diverse, geometrically consistent and unbounded large 3D scenes with unprecedented high-quality shapes in both indoor and outdoor scenarios.