ProFuse: Эффективное объединение контекста между видами для 3D-гауссовского сплаттинга с открытым словарем

ProFuse: Efficient Cross-View Context Fusion for Open-Vocabulary 3D Gaussian Splatting

January 8, 2026

Авторы: Yen-Jen Chiou, Wei-Tse Cheng, Yuan-Fu Yang

cs.AI

Аннотация

Мы представляем ProFuse — эффективный контекстно-ориентированный фреймворк для открытого 3D-понимания сцен на основе 3D гауссовых сплайнов (3DGS). Пайплайн повышает кросс-видовую согласованность и внутримасочную связность в рамках прямой регистрации, добавляя минимальные накладные расходы и не требуя тонкой настройки с контролем рендеринга. Вместо использования предобученной 3DGS-сцены мы вводим фазу предварительной регистрации с управлением плотными соответствиями, которая инициализирует гауссовы функции точной геометрией, одновременно формируя 3D контекстные предложения посредством кросc-видовой кластеризации. Каждое предложение содержит глобальный признак, полученный взвешенной агрегацией вложений участников, и этот признак сливается с гауссовыми функциями в процессе прямой регистрации для обеспечения языковой согласованности на примитив across видов. Благодаря заранее установленным ассоциациям семантическое слияние не требует дополнительной оптимизации помимо стандартной реконструкции, а модель сохраняет геометрическое уточнение без уплотнения. ProFuse демонстрирует высокое качество открытого 3DGS-понимания, завершая семантическое присоединение примерно за пять минут на сцену, что в два раза быстрее современных state-of-the-art методов.

English

We present ProFuse, an efficient context-aware framework for open-vocabulary 3D scene understanding with 3D Gaussian Splatting (3DGS). The pipeline enhances cross-view consistency and intra-mask cohesion within a direct registration setup, adding minimal overhead and requiring no render-supervised fine-tuning. Instead of relying on a pretrained 3DGS scene, we introduce a dense correspondence-guided pre-registration phase that initializes Gaussians with accurate geometry while jointly constructing 3D Context Proposals via cross-view clustering. Each proposal carries a global feature obtained through weighted aggregation of member embeddings, and this feature is fused onto Gaussians during direct registration to maintain per-primitive language coherence across views. With associations established in advance, semantic fusion requires no additional optimization beyond standard reconstruction, and the model retains geometric refinement without densification. ProFuse achieves strong open-vocabulary 3DGS understanding while completing semantic attachment in about five minutes per scene, which is two times faster than SOTA.