Difusão de Luz Controlável para Retratos

Controllable Light Diffusion for Portraits

May 8, 2023

Autores: David Futschik, Kelvin Ritland, James Vecore, Sean Fanello, Sergio Orts-Escolano, Brian Curless, Daniel Sýkora, Rohit Pandey

cs.AI

Resumo

Apresentamos a difusão de luz, um método inovador para aprimorar a iluminação em retratos, suavizando sombras duras e reflexos especulares enquanto preserva a iluminação geral da cena. Inspirado pelos difusores e telas utilizados por fotógrafos profissionais, nosso método suaviza a iluminação a partir de uma única foto de retrato. Abordagens anteriores de reiluminação de retratos focam em alterar todo o ambiente de iluminação, remover sombras (ignorando reflexos especulares intensos) ou eliminar completamente o sombreamento. Em contraste, propomos um método baseado em aprendizado que nos permite controlar o grau de difusão de luz e aplicá-lo em retratos capturados em cenários reais. Além disso, desenvolvemos uma técnica para gerar sinteticamente sombras externas plausíveis com efeitos de espalhamento subsuperficial, mantendo a conformidade com o formato do rosto do sujeito. Por fim, demonstramos como nossa abordagem pode aumentar a robustez de aplicações de visão computacional de alto nível, como estimativa de albedo, estimativa de geometria e segmentação semântica.

English

We introduce light diffusion, a novel method to improve lighting in portraits, softening harsh shadows and specular highlights while preserving overall scene illumination. Inspired by professional photographers' diffusers and scrims, our method softens lighting given only a single portrait photo. Previous portrait relighting approaches focus on changing the entire lighting environment, removing shadows (ignoring strong specular highlights), or removing shading entirely. In contrast, we propose a learning based method that allows us to control the amount of light diffusion and apply it on in-the-wild portraits. Additionally, we design a method to synthetically generate plausible external shadows with sub-surface scattering effects while conforming to the shape of the subject's face. Finally, we show how our approach can increase the robustness of higher level vision applications, such as albedo estimation, geometry estimation and semantic segmentation.