Steuerbare Lichtdiffusion für Porträts

Controllable Light Diffusion for Portraits

May 8, 2023

Autoren: David Futschik, Kelvin Ritland, James Vecore, Sean Fanello, Sergio Orts-Escolano, Brian Curless, Daniel Sýkora, Rohit Pandey

cs.AI

Zusammenfassung

Wir stellen Lichtdiffusion vor, eine neuartige Methode zur Verbesserung der Beleuchtung in Porträts, die harte Schatten und spiegelnde Glanzlichter mildert, während die Gesamtbeleuchtung der Szene erhalten bleibt. Inspiriert von den Diffusoren und Streuschirmen professioneller Fotografen, mildert unsere Methode die Beleuchtung anhand eines einzigen Porträtfotos. Bisherige Ansätze zur Porträtbeleuchtungsänderung konzentrieren sich darauf, die gesamte Lichtumgebung zu verändern, Schatten zu entfernen (wobei starke spiegelnde Glanzlichter ignoriert werden) oder die Schattierung vollständig zu entfernen. Im Gegensatz dazu schlagen wir ein lernbasiertes Verfahren vor, das es uns ermöglicht, den Grad der Lichtdiffusion zu steuern und auf Porträts in natürlichen Umgebungen anzuwenden. Zusätzlich entwickeln wir eine Methode, um plausible externe Schatten mit Subsurface-Scattering-Effekten synthetisch zu erzeugen, die sich an die Form des Gesichts der Person anpassen. Schließlich zeigen wir, wie unser Ansatz die Robustheit von höherwertigen Bildverarbeitungsanwendungen wie Albedo-Schätzung, Geometrie-Schätzung und semantischer Segmentierung erhöhen kann.

English

We introduce light diffusion, a novel method to improve lighting in portraits, softening harsh shadows and specular highlights while preserving overall scene illumination. Inspired by professional photographers' diffusers and scrims, our method softens lighting given only a single portrait photo. Previous portrait relighting approaches focus on changing the entire lighting environment, removing shadows (ignoring strong specular highlights), or removing shading entirely. In contrast, we propose a learning based method that allows us to control the amount of light diffusion and apply it on in-the-wild portraits. Additionally, we design a method to synthetically generate plausible external shadows with sub-surface scattering effects while conforming to the shape of the subject's face. Finally, we show how our approach can increase the robustness of higher level vision applications, such as albedo estimation, geometry estimation and semantic segmentation.