Совместное создание текстур PBR с согласованием множества видов с использованием совместного управления

Jointly Generating Multi-view Consistent PBR Textures using Collaborative Control

October 9, 2024

Авторы: Shimon Vainer, Konstantin Kutsy, Dante De Nigris, Ciara Rowles, Slava Elizarov, Simon Donné

cs.AI

Аннотация

Сохранение многозрительной согласованности остается вызовом для моделей диффузии изображений. Даже в рамках проблемы Текст-в-Текстуру, где идеальные геометрические соответствия известны заранее, многие методы не могут обеспечить выравнивание прогнозов по всем видам, что требует применения нетривиальных методов слияния для интеграции результатов на исходную сетку. Мы исследуем эту проблему для рабочего процесса Совместного Управления, специфически в PBR Текст-в-Текстуру. Совместное Управление напрямую моделирует вероятностные распределения изображений PBR, включая нормальные карты выступов; насколько нам известно, это единственная модель диффузии, которая напрямую выводит полные стеки PBR. Мы обсуждаем проектировочные решения, связанные с обеспечением многозрительной согласованности этой модели, и демонстрируем эффективность нашего подхода в исследованиях по абляции, а также в практических применениях.

English

Multi-view consistency remains a challenge for image diffusion models. Even within the Text-to-Texture problem, where perfect geometric correspondences are known a priori, many methods fail to yield aligned predictions across views, necessitating non-trivial fusion methods to incorporate the results onto the original mesh. We explore this issue for a Collaborative Control workflow specifically in PBR Text-to-Texture. Collaborative Control directly models PBR image probability distributions, including normal bump maps; to our knowledge, the only diffusion model to directly output full PBR stacks. We discuss the design decisions involved in making this model multi-view consistent, and demonstrate the effectiveness of our approach in ablation studies, as well as practical applications.