Biais de fréquence et généralisation OOD dans les opérateurs neuronaux sous une équation d'onde à coefficients variables

Résumé

Les opérateurs neuronaux apprennent à mapper les conditions initiales vers la solution terminale des équations aux dérivées partielles (EDP), fournissant ainsi un substitut pour le mappage complet de l'opérateur. Cela permet une prédiction rapide pour différentes configurations d'entrée. Bien que les architectures récentes d'opérateurs neuronaux aient démontré des performances solides sur diverses tâches d'EDP, leur comportement sous des changements de distribution structurés reste insuffisamment compris. Pour étudier cela, nous examinons l'apprentissage d'opérateurs dans un cadre de propagation d'ondes régi par une équation d'onde unidimensionnelle à coefficient variable, en utilisant deux architectures représentatives : l'Opérateur Neuronal de Fourier (FNO) et le Réseau d'Opérateurs Profonds (DeepONet). Pour examiner leur généralisation sous des changements de distribution, nous considérons des contextes structurés hors distribution (OOD) qui font varier indépendamment la fréquence d'entrée et la régularité du coefficient. Les résultats montrent que sous des changements de régularité, les deux modèles maintiennent des performances stables, le FNO obtenant une erreur plus faible. En revanche, sous des changements de fréquence, le FNO présente une forte augmentation d'erreur pour des entrées haute fréquence non vues, tandis que DeepONet montre une dégradation plus modérée malgré une erreur globale plus élevée. Notre analyse révèle que ces différences proviennent de la manière dont chaque architecture représente et répond aux variations de la structure fréquentielle. Ensemble, ces résultats mettent en évidence un écart fondamental entre les performances solides dans la distribution et la généralisation sous des changements de distribution dans l'apprentissage d'opérateurs, soulignant le rôle du biais de représentation architecturale dans le développement d'opérateurs neuronaux plus fiables pour les simulations d'EDP basées sur la physique au-delà de la distribution d'entraînement.

English

Neural operators learn to map initial conditions to the terminal solution of partial differential equations (PDEs), providing a surrogate for the full operator mapping. This enables rapid prediction across different input configurations. While recent neural operator architectures have demonstrated strong performance on diverse PDE tasks, their behavior under structured distribution shifts remains insufficiently understood. To investigate this, we study operator learning in a wave propagation setting governed by a one-dimensional variable-coefficient wave equation, using two representative architectures, the Fourier Neural Operator (FNO) and the Deep Operator Network (DeepONet). To examine their generalization under distribution shifts, we consider structured out-of-distribution (OOD) settings that independently vary input frequency and coefficient smoothness. The results show that under smoothness shifts, both models maintain stable performance, with FNO achieving lower error. In contrast, under frequency shifts, FNO exhibits a sharp increase in error under unseen high-frequency inputs, whereas DeepONet shows milder degradation despite higher overall error. Our analysis reveals that these differences arise from how each architecture represents and responds to variations in frequency structure. Together, these findings highlight a fundamental gap between strong in-distribution performance and generalization under distribution shifts in operator learning, underscoring the role of architectural representation bias in developing more reliable neural operators for physics-based PDE simulations beyond the training distribution.