論文の概要: A PAC-Bayesian View of Generalisation for Physics-Informed Machine Learning
- arxiv url: http://arxiv.org/abs/2605.26341v1
- Date: Mon, 25 May 2026 21:30:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-27 17:51:41.474661
- Title: A PAC-Bayesian View of Generalisation for Physics-Informed Machine Learning
- Title（参考訳）: PAC-Bayesianによる物理インフォームド機械学習の一般化
- Authors: Thien V. Nguyen, Amaury Habrard, Benjamin Guedj,
- Abstract要約: PAC-Bayesian framework for Physics-informed machine learning (PIML) を開発した。
非有界な損失が存在する場合に、高確率の一般化を保証する。
この結果は、物理インフォームドモデルの一般化のための、原理化された統計基盤を提供する。
- 参考スコア（独自算出の注目度）: 14.207412457685313
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Physics-informed machine learning (PIML) integrates mechanistic knowledge, typically in the form of partial differential equations (PDE), into data-driven models. Despite strong empirical performance, its statistical generalisation properties remain poorly understood, particularly in the regression setting with unbounded losses. Existing analyses rely on approximation or stability arguments and do not fully capture how physical structure influences generalisation from finite data. In this work, we develop a PAC-Bayesian framework for PIML that provides high-probability generalisation guarantees in the presence of unbounded losses. We adopt a multi-task perspective that jointly treats data fidelity, PDE residuals, initial and boundary conditions, avoiding the looseness induced by standard union-bound approaches. Our analysis leverages the structure of physics-informed objectives to derive novel bounds where the complexity scales with input-gradient norms of the losses, revealing a direct link between physical regularity and generalisation. We instantiate this framework under Sobolev and Poincaré-type assumptions, yielding two classes of bounds that trade off statistical complexity and smoothness in different regimes. Building on these results, we propose a self-bounding-aware learning algorithm that directly optimises tractable surrogates of the derived bounds, along with a practical procedure to estimate the associated constants in realistic settings. Empirical evaluations on standard PDE benchmarks demonstrate that our bounds are non-vacuous, significantly tighter than union-bound baselines, and can be effectively minimised during training. Overall, our results provide a principled statistical foundation for the generalisation of physics-informed models.
- Abstract（参考訳）: 物理インフォームド機械学習(PIML)は、典型的には偏微分方程式(PDE)の形で機械的知識をデータ駆動モデルに統合する。
強い経験的性能にもかかわらず、その統計的一般化特性は、特に非有界な損失を伴う回帰条件においてよく理解されていない。
既存の分析は近似や安定性の議論に依存しており、物理構造が有限データから一般化にどのように影響するかを完全には捉えていない。
本研究では,PIMLのためのPAC-Bayesianフレームワークを開発し,非有界損失の存在下で高確率な一般化を保証する。
我々は、データ忠実度、PDE残差、初期および境界条件を共同で扱うマルチタスクの視点を採用し、標準のユニオンバウンドアプローチによって引き起こされるゆるさを回避する。
本分析では, 物理インフォームド対象の構造を利用して, 複雑性が損失の入力次数ノルムとスケールする新たな境界を導出し, 物理正則性と一般化の直接的な関係を明らかにする。
我々は、ソボレフとポアンカレ型の仮定の下でこの枠組みをインスタンス化し、異なる状態における統計複雑性と滑らかさをトレードオフする境界の2つのクラスを生成する。
これらの結果に基づいて,抽出した境界の抽出可能なサロゲートを直接最適化する自己有界学習アルゴリズムと,関連定数を現実的な設定で推定する実践的手順を提案する。
標準PDEベンチマークにおける実証的な評価は、我々の境界は非空白であり、ユニオンバウンドベースラインよりもかなり厳密であり、トレーニング中に効果的に最小化できることを示している。
全体として、この結果は、物理インフォームドモデルの一般化のための原則化された統計基盤を提供する。
関連論文リスト
- Information as Maximum-Caliber Deviation: A bridge between Integrated Information Theory and the Free Energy Principle [51.56484100374058]
この研究は、情報が有限時間地平線上の制約付き最大曲率(MaxCal)パスアンサンブルから実現された力学の偏差$$$として定義されることを示唆している。
この定義の下では、IIT 3.0の中心となる原因/影響レパートリーは、MaxCalの変分原理から直接現れる。
情報$$は、付随する予測符号化モデルの下での予測誤差と同値である。
論文 参考訳（メタデータ） (2026-05-03T07:22:55Z) - PAC-Bayes Bounds for Gibbs Posteriors via Singular Learning Theory [10.93258787701145]
ギブス後方に対する明示的非漸近性PAC-Bayes一般化境界を導出する。
古典的な最悪ケースの複雑性境界は、大数の均一な法則に基づいているのとは異なり、我々の分析は、平均的な後続のリスク境界をもたらす。
論文 参考訳（メタデータ） (2026-04-19T03:00:18Z) - Towards A Unified PAC-Bayesian Framework for Norm-based Generalization Bounds [63.47271262149291]
PAC-Bayesianノルムに基づく一般化のための統一的なフレームワークを提案する。
提案手法の鍵となるのは、構造的重み摂動に関してネットワーク出力を定量化する感度行列である。
我々は、いくつかの既存のPAC-ベイジアン結果を特殊ケースとして回復する一般化境界の族を導出する。
論文 参考訳（メタデータ） (2026-01-13T00:42:22Z) - The Procrustean Bed of Time Series: The Optimization Bias of Point-wise Loss [53.542743390809356]
本稿では,最適化バイアス(EOB)の期待に関する第一原理解析を提案する。
時間列が決定論的で構造化されるほど、ポイントワイドの損失関数によるバイアスがより厳しくなる。
本稿では,DFTとDWTの両原理を同時に実現する具体的ソリューションを提案する。
論文 参考訳（メタデータ） (2025-12-21T06:08:22Z) - Physics-Embedded Gaussian Process for Traffic State Estimation [15.0051892692122]
物理的モデルは不確実性を統合するのが困難であり、トラフィックの真の複雑さを捉えている。
PEGPは、トラフィック状態の推定において、ドメイン知識とデータ駆動手法を統合するように設計されている。
HighD, NGSIMの実験では、非物理学ベースラインよりも一貫した改善が見られた。
論文 参考訳（メタデータ） (2025-12-03T17:43:40Z) - Mutual Information Free Topological Generalization Bounds via Stability [46.63069403118614]
既存の戦略から離れる新しい学習理論フレームワークを導入する。
トラジェクトリ安定アルゴリズムの一般化誤差をTDA項で上界化できることを示す。
論文 参考訳（メタデータ） (2025-07-09T12:03:25Z) - Non-Asymptotic Stability and Consistency Guarantees for Physics-Informed Neural Networks via Coercive Operator Analysis [0.0]
物理インフォームドニューラルネットワーク(PINN)の安定性と一貫性を解析するための統一的理論的枠組みを提案する。
PINNは、サンプルコロケーションと境界点上の残留損失を最小限に抑え、偏微分方程式(PDE)の近似解を求める。
我々は、整合性の作用素レベルと変分の概念の両方を形式化し、ソボレフノルムの残留最小化が、穏やかな正則性の下でエネルギーと一様ノルムの収束をもたらすことを証明した。
論文 参考訳（メタデータ） (2025-06-16T14:41:15Z) - Paving the way for scientific foundation models: enhancing generalization and robustness in PDEs with constraint-aware pre-training [49.8035317670223]
科学基盤モデル(SciFM)は、様々な領域にまたがる伝達可能な表現を学習するための有望なツールとして登場しつつある。
本稿では,PDE残差を単独の学習信号として,あるいはデータ損失と組み合わせて事前学習に組み込むことにより,限定的あるいは実用的でないトレーニングデータに補償することを提案する。
以上の結果から, PDE制約による事前学習は, 解データのみを訓練したモデルよりも, 一般化を著しく向上させることが示された。
論文 参考訳（メタデータ） (2025-03-24T19:12:39Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳（メタデータ） (2024-07-24T12:00:30Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳（メタデータ） (2023-11-13T01:48:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。