PIG: 物理情報ガウス関数を適応的なパラメトリックメッシュ表現として

PIG: Physics-Informed Gaussians as Adaptive Parametric Mesh Representations

December 8, 2024

著者: Namgyu Kang, Jaemin Oh, Youngjoon Hong, Eunbyung Park

cs.AI

要旨

偏微分方程式（PDEs）の近似において、物理情報を組み込んだニューラルネットワーク（PINNs）を用いることで、顕著な進展が見られています。PINNsは最適化フレームワークが直感的であり、様々なPDEを実装する柔軟性がありますが、Multi-Layer Perceptrons（MLPs）のスペクトルバイアスにより、高周波および非線形成分を効果的に学習することが難しく、精度が制限されることがしばしばあります。最近、ニューラルネットワークと組み合わせたパラメトリックメッシュ表現が、ニューラルネットワークの帰納バイアスを除去する有望なアプローチとして研究されてきました。ただし、これらは高分解能のグリッドと多数のコロケーションポイントを必要とし、過学習問題を回避しつつ高い精度を達成するためには、通常困難が伴います。また、メッシュパラメータの固定された位置は柔軟性を制限し、複雑なPDEを正確に近似することが難しくなります。これらの制限を克服するために、私たちは物理情報を持つガウス関数（PIGs）を提案します。このアプローチでは、各ガウス関数の平均と分散のための学習可能なパラメータを使用し、トレーニング中にその位置と形状を動的に調整することができます。この適応性により、モデルは固定されたパラメータ位置を持つモデルとは異なり、PDEの解を最適に近似することが可能となります。さらに、提案されたアプローチは、PINNsで使用されている最適化フレームワークを維持しており、その優れた特性を活用することができます。実験結果は、様々なPDEにおいて私たちのモデルが競争力のある性能を発揮し、複雑なPDEを解くための堅牢なツールとしての潜在性を示しています。私たちのプロジェクトページは、https://namgyukang.github.io/Physics-Informed-Gaussians/ でご覧いただけます。

English

The approximation of Partial Differential Equations (PDEs) using neural networks has seen significant advancements through Physics-Informed Neural Networks (PINNs). Despite their straightforward optimization framework and flexibility in implementing various PDEs, PINNs often suffer from limited accuracy due to the spectral bias of Multi-Layer Perceptrons (MLPs), which struggle to effectively learn high-frequency and non-linear components. Recently, parametric mesh representations in combination with neural networks have been investigated as a promising approach to eliminate the inductive biases of neural networks. However, they usually require very high-resolution grids and a large number of collocation points to achieve high accuracy while avoiding overfitting issues. In addition, the fixed positions of the mesh parameters restrict their flexibility, making it challenging to accurately approximate complex PDEs. To overcome these limitations, we propose Physics-Informed Gaussians (PIGs), which combine feature embeddings using Gaussian functions with a lightweight neural network. Our approach uses trainable parameters for the mean and variance of each Gaussian, allowing for dynamic adjustment of their positions and shapes during training. This adaptability enables our model to optimally approximate PDE solutions, unlike models with fixed parameter positions. Furthermore, the proposed approach maintains the same optimization framework used in PINNs, allowing us to benefit from their excellent properties. Experimental results show the competitive performance of our model across various PDEs, demonstrating its potential as a robust tool for solving complex PDEs. Our project page is available at https://namgyukang.github.io/Physics-Informed-Gaussians/