論文の概要: Quantifying constraint hierarchies in Bayesian PINNs via per-constraint Hessian decomposition
- arxiv url: http://arxiv.org/abs/2510.03278v1
- Date: Sun, 28 Sep 2025 11:06:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-07 16:52:58.640251
- Title: Quantifying constraint hierarchies in Bayesian PINNs via per-constraint Hessian decomposition
- Title(参考訳): 制約付きヘッセン分解によるベイズPINNの制約階層の定量化
- Authors: Filip Landgren,
- Abstract要約: 後方ヘシアンを各制約から寄与に分解するスケーラブルでマトリックスフリーなLaplaceフレームワークを導入する。
提案手法は, 制約がネットワークの幾何学をいかに彫り上げたかを追跡し, ヘッセン川を直接通し, 単一損失重みの変更が曲率と有効支配を非自明に再分配するかを示す。
- 参考スコア(独自算出の注目度): 0.27214777196418644
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian physics-informed neural networks (B-PINNs) merge data with governing equations to solve differential equations under uncertainty. However, interpreting uncertainty and overconfidence in B-PINNs requires care due to the poorly understood effects the physical constraints have on the network; overconfidence could reflect warranted precision, enforced by the constraints, rather than miscalibration. Motivated by the need to further clarify how individual physical constraints shape these networks, we introduce a scalable, matrix-free Laplace framework that decomposes the posterior Hessian into contributions from each constraint and provides metrics to quantify their relative influence on the loss landscape. Applied to the Van der Pol equation, our method tracks how constraints sculpt the network's geometry and shows, directly through the Hessian, how changing a single loss weight non-trivially redistributes curvature and effective dominance across the others.
- Abstract(参考訳): ベイズ物理学インフォームドニューラルネットワーク(B-PINN)は、不確実性の下で微分方程式を解くために、データを支配方程式とマージする。
しかし、B-PINNにおける不確実性や過信を解釈するには、物理的制約がネットワークに与える影響が十分に理解されていないため注意が必要である。
個々の物理的制約がこれらのネットワークをどのように形成するかをさらに明確にする必要があるため、我々は、後方ヘッセンを各制約からの貢献に分解するスケーラブルでマトリックスフリーなLaplaceフレームワークを導入し、ロスランドスケープに対する相対的な影響を定量化するための指標を提供する。
Van der Pol方程式に応用すると、制約がネットワークの幾何学をいかに彫るかをトラックし、Hessianを通して直接、単一損失重みの変更が曲率と有効支配を非自明に再分配するかを示す。
関連論文リスト
- Convolution-weighting method for the physics-informed neural network: A Primal-Dual Optimization Perspective [14.65008276932511]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く用いられている
PINNは一般に有限個の点を用いて最適化され、収束と精度を保証する上で大きな課題となる。
そこで本稿では, 減量関数に対する重み付けを, 孤立点から連続近傍領域への適応的に変更する手法を提案する。
論文 参考訳(メタデータ) (2025-06-24T17:13:51Z) - Non-Asymptotic Stability and Consistency Guarantees for Physics-Informed Neural Networks via Coercive Operator Analysis [0.0]
物理インフォームドニューラルネットワーク(PINN)の安定性と一貫性を解析するための統一的理論的枠組みを提案する。
PINNは、サンプルコロケーションと境界点上の残留損失を最小限に抑え、偏微分方程式(PDE)の近似解を求める。
我々は、整合性の作用素レベルと変分の概念の両方を形式化し、ソボレフノルムの残留最小化が、穏やかな正則性の下でエネルギーと一様ノルムの収束をもたらすことを証明した。
論文 参考訳(メタデータ) (2025-06-16T14:41:15Z) - Robust Stochastically-Descending Unrolled Networks [85.6993263983062]
Deep Unrolling(ディープ・アンローリング)は、トレーニング可能なニューラルネットワークの層に切り捨てられた反復アルゴリズムをアンロールする、新たな学習最適化手法である。
アンロールネットワークの収束保証と一般化性は、いまだにオープンな理論上の問題であることを示す。
提案した制約の下で訓練されたアンロールアーキテクチャを2つの異なるアプリケーションで数値的に評価する。
論文 参考訳(メタデータ) (2023-12-25T18:51:23Z) - Solving Forward and Inverse Problems of Contact Mechanics using
Physics-Informed Neural Networks [0.0]
出力変換によって強化された混合変数定式化でPINNをデプロイし、ハード制約とソフト制約を強制する。
PINNは純粋部分方程式(PDE)の解法として、データ強化フォワードモデルとして、そして高速に評価可能なサロゲートモデルとして機能することを示す。
論文 参考訳(メタデータ) (2023-08-24T11:31:24Z) - Mean-field Analysis of Piecewise Linear Solutions for Wide ReLU Networks [83.58049517083138]
勾配勾配勾配を用いた2層ReLUネットワークについて検討する。
SGDは単純な解に偏りがあることが示される。
また,データポイントと異なる場所で結び目が発生するという経験的証拠も提供する。
論文 参考訳(メタデータ) (2021-11-03T15:14:20Z) - Robust Learning of Physics Informed Neural Networks [2.86989372262348]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式の解法に有効であることが示されている。
本稿では、PINNがトレーニングデータのエラーに敏感であり、これらのエラーをPDEの解領域上で動的に伝播させるのに過度に適合していることを示す。
論文 参考訳(メタデータ) (2021-10-26T00:10:57Z) - Loss Bounds for Approximate Influence-Based Abstraction [81.13024471616417]
影響に基づく抽象化は、システムの残りの部分が与える「影響」とともに、局所的なサブプロブレムをモデル化することでレバレッジを得ることを目的としている。
本稿では,理論的観点から,そのような手法の性能について考察する。
交叉エントロピーで訓練されたニューラルネットワークは、近似的な影響表現を学習するのに適していることを示す。
論文 参考訳(メタデータ) (2020-11-03T15:33:10Z) - Optimizing Mode Connectivity via Neuron Alignment [84.26606622400423]
経験的に、損失関数の局所ミニマは、損失がほぼ一定であるようなモデル空間の学習曲線で接続することができる。
本稿では,ネットワークの重み変化を考慮し,対称性がランドスケープ・コネクティビティに与える影響を明らかにするための,より一般的な枠組みを提案する。
論文 参考訳(メタデータ) (2020-09-05T02:25:23Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。