論文の概要: When Does Frequency Decomposition Benefit Physics-Informed Neural Networks? A Preliminary Ablation Study
- arxiv url: http://arxiv.org/abs/2608.24940v1
- Date: Mon, 24 Aug 2026 09:48:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.285725
- Title: When Does Frequency Decomposition Benefit Physics-Informed Neural Networks? A Preliminary Ablation Study
- Title(参考訳): 周波数分解は物理インフォームドニューラルネットワークに適合するか? : 予備的アブレーション研究
- Abstract要約: 偏微分方程式(PDE)は、ニューラルネットワークが近似に苦慮する高周波およびマルチスケールの特徴を持つことが多い。
PINNはトレーニングに直接支配方程式を構築するが、スペクトルバイアスに悩まされる。
本稿では、低周波成分と高周波成分をアダプティブゲートで結合した分離構造に分割するデュアルブランチ・スペクトルゲートアーキテクチャ(DBSG-PINN)を提案する。
- 参考スコア(独自算出の注目度): 1.2081877372552605
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Partial differential equations (PDEs) often have high-frequency and multi-scale features that neural networks struggle to approximate. Physics-Informed Neural Networks (PINNs) build the governing equations directly into training, but suffer from spectral bias: they learn low-frequency components faster than high-frequency ones. Techniques such as Fourier feature embeddings and sinusoidal activations address this, but most studies assume they help across the board without checking which spectral regimes actually benefit. We introduce a dual-branch, spectrally-gated architecture (DBSG-PINN) that splits low- and high-frequency components into separate subnetworks joined by an adaptive gate, and use it to run a partially controlled ablation of frequency decomposition and spectral routing. We test this on five one-dimensional benchmark PDEs, ranging from smooth, single-scale problems to oscillatory, multi-scale ones. Frequency decomposition helps most on the spectrally complex benchmarks, cutting relative $L_2$ error by up to $59.2\%$ on a multimodal wave problem, but gives little benefit on smoother PDEs. On one benchmark (1D Wave), it performs substantially worse than a simpler fixed-combination variant. The gate's benefit scales with how spectrally rich the target solution is: the full model's advantage over the ablations is largest on multi-scale benchmarks and smallest (or negative) on single-scale ones, consistent with the gate exploiting frequency structure rather than acting as noise,though we do not directly visualize or quantify its spatial activations in this study. All results come from a single training seed across five 1D benchmarks, so we present this as an exploratory study meant to raise questions rather than answer them, and outline the additional seeds and benchmarks needed to test whether the pattern holds.
- Abstract(参考訳): 偏微分方程式(PDE)は、ニューラルネットワークが近似に苦慮する高周波およびマルチスケールの特徴を持つことが多い。
物理情報ニューラルネットワーク(PINN)は、制御方程式をトレーニングに直接構築するが、スペクトルバイアスに悩まされる。
フーリエの特徴埋め込みや正弦波の活性化といった手法はこの問題に対処するが、ほとんどの研究は、スペクトルの仕組みが実際にどのような利益をもたらすかを確認することなく、ボード全体の助けになると仮定している。
本稿では、低周波成分と高周波成分をアダプティブゲートに結合したサブネットに分割した二重分岐型スペクトルゲートアーキテクチャ(DBSG-PINN)を導入し、周波数分解とスペクトルルーティングの部分的に制御されたアブレーションを実行する。
これを5つの1次元ベンチマークPDEでテストし、スムーズな単一スケール問題から発振性のあるマルチスケールのものまで試した。
周波数分解はスペクトル的に複雑なベンチマークでほとんど役立ち、マルチモーダル波問題では相対的な$L_2$エラーを最大59.2\%削減するが、よりスムーズなPDEではほとんど利益が得られない。
一つのベンチマーク(1D Wave)では、単純な固定結合の変種よりもはるかにパフォーマンスが劣る。
完全なモデルのアドバンテージは、マルチスケールのベンチマークでは最大であり、単一スケールのベンチマークでは最小(または負)であり、ノイズとして振る舞うのではなく周波数構造を利用するゲートと一致する。
すべての結果は、5つの1Dベンチマークで1つのトレーニングシードから得られているので、私たちはこれを質問に答えるよりも質問を提起するための探索的な研究として提示し、パターンが保持されているかどうかをテストするのに必要な追加のシードとベンチマークの概要を示します。
関連論文リスト
- Frequency Shift Physics-Informed Extreme Learning Machine for Solving High-Frequency Partial Differential Equations [6.85637056992485]
高周波解を用いた偏微分方程式の解法は、物理インフォームド機械学習において依然として中心的な課題である。
本稿では、この制限に対処する周波数シフト物理インフォームドエクストリーム学習マシンフレームワークを提案する。
FS-PIELM-Lは個々のニューロンに独立した周波数等級を割り当て、FS-PIELM-Gはロバスト性を改善するためにグループ化される。
論文 参考訳(メタデータ) (2026-07-02T04:37:40Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - The Adaptive Vekua Cascade: A Differentiable Spectral-Analytic Solver for Physics-Informed Representation [0.0]
適応型ニューラルネットワークは、連続体界を表現する強力なツールとして登場した。
スペクトルバイアスと次元の呪いの2つの基本的な病理に直面する。
本稿では,関数近似から解析的デカップリングを学習するハイブリッドアーキテクチャを提案する。
論文 参考訳(メタデータ) (2025-12-12T18:41:35Z) - LSCD: Lomb-Scargle Conditioned Diffusion for Time series Imputation [55.800319453296886]
欠落または不規則なサンプルデータを持つ時系列は、機械学習において永続的な課題である。
我々は,不規則サンプルデータのパワースペクトルの信頼性の高い計算を可能にする,異なるLombiable-Scargle層を導入する。
論文 参考訳(メタデータ) (2025-06-20T14:48:42Z) - LOGLO-FNO: Efficient Learning of Local and Global Features in Fourier Neural Operators [20.77877474840923]
高周波情報は機械学習における重要な課題である。
ディープニューラルネットワークは、低周波成分の学習に対するいわゆるスペクトルバイアスを示す。
放射結合スペクトル誤差に基づく新しい周波数感受性損失項を提案する。
論文 参考訳(メタデータ) (2025-04-05T19:35:04Z) - Constructing Extreme Learning Machines with zero Spectral Bias [0.0]
極端学習機械(ELM)は、スペクトルバイアス(SB)の理論的基礎を提供する反復解過程を妨害する
この研究は、この仮定の信頼性を検証し、それが誤りであることを示す。
ELMの構造は、ANNでSBを緩和することが示されているフーリエ特徴埋め込みの変種の実装に自然に対応できる。
この手法はSBを完全に排除するために実装・検証されており、高い周波数の分解能が不可欠であるPINNのような実用上の問題に対してELMを適用可能である。
論文 参考訳(メタデータ) (2023-07-19T05:41:40Z) - One-Dimensional Deep Image Prior for Curve Fitting of S-Parameters from
Electromagnetic Solvers [57.441926088870325]
Deep Image Prior(ディープ・イメージ・プライオリ、ディープ・イメージ・プライオリ、DIP)は、ランダムなd畳み込みニューラルネットワークの重みを最適化し、ノイズや過度な測定値からの信号に適合させる技術である。
本稿では,Vector Fitting (VF) の実装に対して,ほぼすべてのテスト例において優れた性能を示す。
論文 参考訳(メタデータ) (2023-06-06T20:28:37Z) - Incremental Spatial and Spectral Learning of Neural Operators for
Solving Large-Scale PDEs [86.35471039808023]
Incrmental Fourier Neural Operator (iFNO)を導入し、モデルが使用する周波数モードの数を徐々に増加させる。
iFNOは、各種データセット間の一般化性能を維持したり改善したりしながら、トレーニング時間を短縮する。
提案手法は,既存のフーリエニューラル演算子に比べて20%少ない周波数モードを用いて,10%低いテスト誤差を示すとともに,30%高速なトレーニングを実現する。
論文 参考訳(メタデータ) (2022-11-28T09:57:15Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳(メタデータ) (2022-06-29T19:03:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。