ChatPaper.aiChatPaper

Potatura di Reti Multi-Task Sovraparametrizzate per il Ripristino di Immagini Web Degradate

Pruning Overparameterized Multi-Task Networks for Degraded Web Image Restoration

October 16, 2025
Autori: Thomas Katraouras, Dimitrios Rafailidis
cs.AI

Abstract

La qualità dell'immagine è un fattore critico per la distribuzione di contenuti visivamente accattivanti sulle piattaforme web. Tuttavia, le immagini spesso subiscono un degrado a causa di operazioni lossy applicate dalle reti sociali online (OSN), influenzando negativamente l'esperienza dell'utente. Il ripristino delle immagini è il processo di recupero di un'immagine pulita e di alta qualità da un input degradato. Recentemente, i modelli di ripristino delle immagini multi-task (all-in-one) hanno attirato una significativa attenzione, grazie alla loro capacità di gestire simultaneamente diversi tipi di degrado delle immagini. Tuttavia, questi modelli spesso presentano un numero eccessivamente elevato di parametri addestrabili, rendendoli computazionalmente inefficienti. In questo articolo, proponiamo una strategia per comprimere i modelli di ripristino delle immagini multi-task. Il nostro obiettivo è scoprire sottoreti altamente sparse all'interno di modelli profondi sovraparametrizzati che possano eguagliare o addirittura superare le prestazioni delle loro controparti dense. Il modello proposto, denominato MIR-L, utilizza una strategia di potatura iterativa che rimuove i pesi di bassa magnitudine attraverso più round, ripristinando i pesi rimanenti alla loro inizializzazione originale. Questo processo iterativo è importante per l'ottimizzazione del modello di ripristino delle immagini multi-task, scoprendo efficacemente "biglietti vincenti" che mantengono o superano le prestazioni all'avanguardia a livelli di sparsità elevati. La valutazione sperimentale su dataset di riferimento per i compiti di deraining, dehazing e denoising mostra che MIR-L conserva solo il 10% dei parametri addestrabili mantenendo elevate prestazioni nel ripristino delle immagini. Il nostro codice, i dataset e i modelli pre-addestrati sono resi pubblicamente disponibili all'indirizzo https://github.com/Thomkat/MIR-L.
English
Image quality is a critical factor in delivering visually appealing content on web platforms. However, images often suffer from degradation due to lossy operations applied by online social networks (OSNs), negatively affecting user experience. Image restoration is the process of recovering a clean high-quality image from a given degraded input. Recently, multi-task (all-in-one) image restoration models have gained significant attention, due to their ability to simultaneously handle different types of image degradations. However, these models often come with an excessively high number of trainable parameters, making them computationally inefficient. In this paper, we propose a strategy for compressing multi-task image restoration models. We aim to discover highly sparse subnetworks within overparameterized deep models that can match or even surpass the performance of their dense counterparts. The proposed model, namely MIR-L, utilizes an iterative pruning strategy that removes low-magnitude weights across multiple rounds, while resetting the remaining weights to their original initialization. This iterative process is important for the multi-task image restoration model's optimization, effectively uncovering "winning tickets" that maintain or exceed state-of-the-art performance at high sparsity levels. Experimental evaluation on benchmark datasets for the deraining, dehazing, and denoising tasks shows that MIR-L retains only 10% of the trainable parameters while maintaining high image restoration performance. Our code, datasets and pre-trained models are made publicly available at https://github.com/Thomkat/MIR-L.
PDF22October 22, 2025