Difusión de Luz Controlable para Retratos

Controllable Light Diffusion for Portraits

May 8, 2023

Autores: David Futschik, Kelvin Ritland, James Vecore, Sean Fanello, Sergio Orts-Escolano, Brian Curless, Daniel Sýkora, Rohit Pandey

cs.AI

Resumen

Presentamos la difusión de luz, un método novedoso para mejorar la iluminación en retratos, suavizando sombras duras y reflejos especulares mientras se preserva la iluminación general de la escena. Inspirado por los difusores y telas de dispersión utilizados por fotógrafos profesionales, nuestro método suaviza la iluminación utilizando únicamente una sola fotografía de retrato. Los enfoques anteriores de reiluminación de retratos se centran en cambiar todo el entorno de iluminación, eliminar sombras (ignorando los reflejos especulares intensos) o eliminar por completo el sombreado. En contraste, proponemos un método basado en aprendizaje que nos permite controlar la cantidad de difusión de luz y aplicarla en retratos capturados en condiciones naturales. Además, diseñamos un método para generar sintéticamente sombras externas plausibles con efectos de dispersión subsuperficial, adaptándose a la forma del rostro del sujeto. Finalmente, demostramos cómo nuestro enfoque puede aumentar la robustez de aplicaciones de visión de alto nivel, como la estimación de albedo, la estimación de geometría y la segmentación semántica.

English

We introduce light diffusion, a novel method to improve lighting in portraits, softening harsh shadows and specular highlights while preserving overall scene illumination. Inspired by professional photographers' diffusers and scrims, our method softens lighting given only a single portrait photo. Previous portrait relighting approaches focus on changing the entire lighting environment, removing shadows (ignoring strong specular highlights), or removing shading entirely. In contrast, we propose a learning based method that allows us to control the amount of light diffusion and apply it on in-the-wild portraits. Additionally, we design a method to synthetically generate plausible external shadows with sub-surface scattering effects while conforming to the shape of the subject's face. Finally, we show how our approach can increase the robustness of higher level vision applications, such as albedo estimation, geometry estimation and semantic segmentation.