Élagage des réseaux multitâches surparamétrés pour la restauration d'images web dégradées

Pruning Overparameterized Multi-Task Networks for Degraded Web Image Restoration

October 16, 2025

papers.authors: Thomas Katraouras, Dimitrios Rafailidis

cs.AI

papers.abstract

La qualité de l'image est un facteur crucial pour fournir un contenu visuellement attrayant sur les plateformes web. Cependant, les images subissent souvent une dégradation due aux opérations destructrices appliquées par les réseaux sociaux en ligne (OSNs), affectant négativement l'expérience utilisateur. La restauration d'image est le processus de récupération d'une image propre et de haute qualité à partir d'une entrée dégradée. Récemment, les modèles de restauration d'image multi-tâches (tout-en-un) ont suscité un intérêt significatif, grâce à leur capacité à gérer simultanément différents types de dégradations d'image. Cependant, ces modèles comportent souvent un nombre excessivement élevé de paramètres entraînables, les rendant inefficaces sur le plan computationnel. Dans cet article, nous proposons une stratégie pour compresser les modèles de restauration d'image multi-tâches. Nous visons à découvrir des sous-réseaux très épars au sein de modèles profonds surparamétrés qui peuvent égaler ou même surpasser les performances de leurs homologues denses. Le modèle proposé, nommé MIR-L, utilise une stratégie d'élagage itérative qui supprime les poids de faible magnitude sur plusieurs tours, tout en réinitialisant les poids restants à leur initialisation d'origine. Ce processus itératif est important pour l'optimisation du modèle de restauration d'image multi-tâches, découvrant efficacement des "billets gagnants" qui maintiennent ou dépassent les performances de pointe à des niveaux de parcimonie élevés. L'évaluation expérimentale sur des ensembles de données de référence pour les tâches de dépluie, de débrumage et de débruitage montre que MIR-L ne conserve que 10 % des paramètres entraînables tout en maintenant des performances élevées en restauration d'image. Notre code, ensembles de données et modèles pré-entraînés sont rendus publics à l'adresse https://github.com/Thomkat/MIR-L.

English

Image quality is a critical factor in delivering visually appealing content on web platforms. However, images often suffer from degradation due to lossy operations applied by online social networks (OSNs), negatively affecting user experience. Image restoration is the process of recovering a clean high-quality image from a given degraded input. Recently, multi-task (all-in-one) image restoration models have gained significant attention, due to their ability to simultaneously handle different types of image degradations. However, these models often come with an excessively high number of trainable parameters, making them computationally inefficient. In this paper, we propose a strategy for compressing multi-task image restoration models. We aim to discover highly sparse subnetworks within overparameterized deep models that can match or even surpass the performance of their dense counterparts. The proposed model, namely MIR-L, utilizes an iterative pruning strategy that removes low-magnitude weights across multiple rounds, while resetting the remaining weights to their original initialization. This iterative process is important for the multi-task image restoration model's optimization, effectively uncovering "winning tickets" that maintain or exceed state-of-the-art performance at high sparsity levels. Experimental evaluation on benchmark datasets for the deraining, dehazing, and denoising tasks shows that MIR-L retains only 10% of the trainable parameters while maintaining high image restoration performance. Our code, datasets and pre-trained models are made publicly available at https://github.com/Thomkat/MIR-L.