論文の概要: When Known Physics Helps Neural PDE Models: Residual Constraints Out-Regularize Generic Priors for Nonlinear Dynamics
- arxiv url: http://arxiv.org/abs/2609.34012v1
- Date: Sun, 27 Sep 2026 23:15:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 07:49:54.257299
- Title: When Known Physics Helps Neural PDE Models: Residual Constraints Out-Regularize Generic Priors for Nonlinear Dynamics
- Title(参考訳): ニューラルPDEモデルに役立つ知識物理学:非線形ダイナミクスの遺伝的優先順位を非正規化する残差制約
- Abstract要約: 既知方程式の残差が等調予算において最高の一般正則化器より一貫して優れていることを示す。
我々の結果は、既知の物理がニューラルPDEモデルに非冗長な情報を提供するとき、そうでないとき、そしてそれを強制する時、バイアスをもたらすときを識別する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural PDE surrogates increasingly incorporate structural priors, yet it is often unclear whether their gains arise from physics-specific information or simply from regularization and training choices. We evaluate several such priors under a common protocol against a matched from-scratch neural operator baseline. Our central result is that a known-equation residual consistently outperforms the best generic regularizer at equal tuning budget. At fixed capacity this benefit appears across linear and nonlinear PDEs, but a capacity sweep reveals a sharp distinction: the advantage persists and grows for Burgers, KdV, and Allen-Cahn, while collapsing toward or below parity for linear heat and advection-diffusion. Thus, the durable value of the residual is specific to nonlinear operators. We further falsify a pre-registered hypothesis that the benefit is activated only by data sparsity: the residual remains advantageous even under full supervision. Its usefulness does, however, have a clear boundary. Under grid under-resolution, nonlinear coarse fields no longer satisfy the naive governing-equation residual, and enforcing it becomes actively harmful. In contrast, cross-family pretraining and in-context conditioning fail to outperform the strong from-scratch baseline in the regime studied. Together, these results identify when known physics provides non-redundant information to neural PDE models, when it does not, and when enforcing it introduces bias.
- Abstract(参考訳): ニューラルPDEサロゲートは、構造的先入観をますます取り入れているが、それらが物理学固有の情報から得られるのか、あるいは単に正規化と訓練の選択から得られるのかは、しばしば不明である。
一致したオフスクラッチニューラル演算子ベースラインに対する共通プロトコルの下で,そのような先行性を評価する。
我々の中心的な結果は、既知方程式の残差が等調予算で最高の一般正規化器より一貫して優れていることである。
固定容量では、この利点は線形および非線形PDEにまたがって現れるが、キャパシティ・スイープは、バーガーズ、KdV、アレン・カーンに対して持続し成長し、線形熱と対流拡散のためにパリティに向かって崩壊する。
したがって、残余の耐久性は非線形作用素に比例する。
さらに、事前登録された仮説は、その利益はデータ空間によってのみ活性化されるというものである。
しかし、その有用性には明確な境界がある。
格子下解法の下では、非線形粗い場はもはや単純な支配方程式の残留を満足せず、それを強制することは活発に有害となる。
対照的に、家族間の事前訓練やコンテクスト条件付けは、政権下での強いオフスクラッチベースラインを上回りません。
これらの結果は、既知の物理学がニューラルPDEモデルに非冗長な情報を提供するとき、そうでないとき、そしてそれを強制する時を識別する。
関連論文リスト
- Learning Physics from an Imperfect Ancestor [0.0]
我々は,不完全なNOが,PINNを正しい溶液流域に配置するために必要な構造的事前を提供することを示す。
物理インフォームドNOの基礎を凍結する3段階のフレームワークを提案する。
1次元バーガー,2次元ピッチフォーク分岐近傍の定常アレン・カーン,2次元定常蓋駆動キャビティ流の3つの非線形PDEの枠組みについて検討した。
論文 参考訳(メタデータ) (2026-09-21T17:42:17Z) - Non-normal spectral signatures of instability in neural network training dynamics [0.5307735857768683]
実用用途の線形化更新演算子は一般には非正規であることを示す。
これらの作用素に非正規安定理論を適用することにより、(V)が過渡増幅の早期警戒指標となる保守的な擬スペクトル前駆体境界を導出する。
論文 参考訳(メタデータ) (2026-05-22T10:36:48Z) - The Neural Tangent Kernel for Classification [33.20539886208262]
広いニューラルネットワークでは、ニューラル・タンジェント・カーネル(NTK)はトレーニング中にほぼ一定である。
パラメータ空間の正規化は、クロスエントロピー損失のトレーニング中に一定のNTKを保証することを示す。
正規化がない場合には、ターゲットが非退化しているとき、すなわち全てのクラスが厳密に正の確率を持つとき、レジームが回復する。
論文 参考訳(メタデータ) (2026-05-17T19:06:58Z) - Physics-Informed Laplace Neural Operator for Solving Partial Differential Equations [11.064132774859553]
物理インフォームド・ラプラス・ニューラル演算子 (PILNO) は偏微分方程式の高速サロゲート解法である。
物理をPDE、境界条件、初期条件残差による訓練に埋め込む。
PILNOは、小さなデータ設定における精度を一貫して改善し、ランダムなシード間の実行間変動を低減し、純粋なデータ駆動ベースラインよりも強力な一般化を実現する。
論文 参考訳(メタデータ) (2026-02-13T08:19:40Z) - Unregularized Linear Convergence in Zero-Sum Game from Preference Feedback [50.89125374999765]
NLHFにおける最適乗算重み更新(mathtOMWU$)に対する最初の収束保証を提供する。
本分析では, 稀に発生する行動の確率が指数関数的に小さい値から指数関数的に増大する新たな限界収束挙動を同定する。
論文 参考訳(メタデータ) (2025-12-31T12:08:29Z) - The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。
時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。
本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文 参考訳(メタデータ) (2025-12-21T06:08:22Z) - Understanding, Predicting and Better Resolving Q-Value Divergence in
Offline-RL [86.0987896274354]
まず、オフラインRLにおけるQ値推定のばらつきの主な原因として、基本パターン、自己励起を同定する。
そこで本研究では,Q-network の学習における進化特性を測定するために,SEEM(Self-Excite Eigen Value Measure)尺度を提案する。
われわれの理論では、訓練が早期に発散するかどうかを確実に決定できる。
論文 参考訳(メタデータ) (2023-10-06T17:57:44Z) - Neural Networks with Sparse Activation Induced by Large Bias: Tighter Analysis with Bias-Generalized NTK [86.45209429863858]
ニューラル・タンジェント・カーネル(NTK)における一層ReLUネットワークのトレーニングについて検討した。
我々は、ニューラルネットワークが、テクティトビア一般化NTKと呼ばれる異なる制限カーネルを持っていることを示した。
ニューラルネットの様々な特性をこの新しいカーネルで研究する。
論文 参考訳(メタデータ) (2023-01-01T02:11:39Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。