SplAttN: Conectando 2D e 3D com Projeção Suave de Gaussianos e Atenção para Preenchimento de Nuvens de Pontos

Resumo

Embora a aprendizagem multimodal tenha avançado a conclusão de nuvens de pontos, os mecanismos teóricos permanecem pouco claros. Trabalhos recentes atribuem o sucesso à conexão entre modalidades, mas nós identificamos que a projeção padrão rígida rompe essa conexão: projetar uma nuvem de pontos esparsa no plano da imagem produz um suporte extremamente esparso, o que dificulta a propagação de *priors* visuais, um modo de falha que denominamos Colapso de Entropia Cross-Modal. Para resolver esta limitação prática, propomos o SplAttN, que substitui a projeção rígida por *Differentiable Gaussian Splatting* para produzir uma representação densa e contínua no plano da imagem. Ao reformular a projeção como uma estimativa de densidade contínua, o SplAttN evita o suporte esparso colapsado, facilita o fluxo de gradientes e melhora a capacidade de aprendizado da conexão cross-modal. Experimentos extensivos mostram que o SplAttN alcança desempenho de última geração no PCN e no ShapeNet-55/34. Crucialmente, utilizamos o benchmark do mundo real KITTI como um teste de estresse para a dependência multimodal. A avaliação contrafactual revela que, enquanto os *baselines* degeneram em recuperadores de modelos unimodais insensíveis à remoção visual, o SplAttN mantém uma dependência robusta em pistas visuais, validando que nosso método estabelece uma conexão cross-modal eficaz. O código está disponível em https://github.com/zay002/SplAttN.

English

Although multi-modal learning has advanced point cloud completion, the theoretical mechanisms remain unclear. Recent works attribute success to the connection between modalities, yet we identify that standard hard projection severs this connection: projecting a sparse point cloud onto the image plane yields an extremely sparse support, which hinders visual prior propagation, a failure mode we term Cross-Modal Entropy Collapse. To address this practical limitation, we propose SplAttN, which replaces hard projection with Differentiable Gaussian Splatting to produce a dense, continuous image-plane representation. By reformulating projection as continuous density estimation, SplAttN avoids collapsed sparse support, facilitates gradient flow, and improves cross-modal connection learnability. Extensive experiments show that SplAttN achieves state-of-the-art performance on PCN and ShapeNet-55/34. Crucially, we utilize the real-world KITTI benchmark as a stress test for multi-modal reliance. Counter-factual evaluation reveals that while baselines degenerate into unimodal template retrievers insensitive to visual removal, SplAttN maintains a robust dependency on visual cues, validating that our method establishes an effective cross-modal connection. Code is available at https://github.com/zay002/SplAttN.