Destilar una vez, adaptarse de por vida: Explorando la destilación de conjuntos de datos para la adaptación continua en tiempo de prueba

Resumen

La Adaptación Continua en Tiempo de Prueba (CTTA) busca mantener el rendimiento del modelo bajo dominios objetivo en evolución mediante la adaptación en línea sin datos etiquetados. Sin embargo, en implementaciones prácticas, a menudo no es posible conservar el conjunto de datos fuente debido a restricciones de privacidad o licencias, y los métodos CTTA puramente sin fuente tienden a volverse inestables bajo cambios de distribución a largo plazo, sufriendo errores compuestos de autoentrenamiento y olvido catastrófico. Presentamos DO-ALL (Destilar una Vez, Adaptar Toda la Vida), un marco plug-and-play que recupera información de la fuente en una forma compacta y respetuosa con la privacidad mediante Destilación de Conjuntos de Datos (DD). Antes del despliegue, DO-ALL realiza DD para producir un pequeño conjunto de anclas destiladas sintéticas que resumen la distribución fuente. Durante la adaptación, cada muestra objetivo se empareja con su ancla semánticamente más alineada, la cual proporciona una referencia estable para varias técnicas de CTTA mediante repetición de la fuente, alineación de representaciones y regularización de suavizado de variedades. DO-ALL puede integrarse sin problemas en algoritmos CTTA existentes, mejorando de manera consistente la robustez a largo plazo en CIFAR100-C, ImageNet-C y el benchmark CCC. Esto demuestra el potencial de aprovechar la DD para permitir una adaptación estable y continua sin retener los datos fuente originales. El código está disponible en https://github.com/blue-531/DOALL.

English

Continual Test-Time Adaptation (CTTA) aims to maintain model performance under evolving target domains by adapting online without labeled data. However, practical deployments often cannot retain the source dataset due to privacy or licensing constraints, and purely source-free CTTA methods tend to become unstable under long-term distribution shift, suffering from compounding self-training errors and catastrophic forgetting. We introduce DO-ALL (Distill Once, Adapt Life-Long), a plug-and-play framework that revisits source information in a compact and privacy-conscious form via Dataset Distillation (DD). Before deployment, DO-ALL performs DD to produce a small set of synthetic distilled anchors that summarize the source distribution. During adaptation, each target sample is matched with its most semantically aligned anchor, which provides a stable reference for various CTTA via source replay, representation alignment, and manifold-smoothing regularization. DO-ALL can be seamlessly integrated into existing CTTA algorithms, consistently improving long-term robustness across CIFAR100-C, ImageNet-C, and the CCC benchmark. This demonstrates the potential of leveraging DD to enable stable and continuous adaptation without retaining raw source data. The code is available at https://github.com/blue-531/DOALL.