論文の概要: Repulsive Ensembles for Bayesian Inference in Physics-informed Neural Networks

• arxiv url: http://arxiv.org/abs/2505.17308v1
• Date: Thu, 22 May 2025 21:58:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-26 18:08:33.704469
• Title: Repulsive Ensembles for Bayesian Inference in Physics-informed Neural Networks
• Title（参考訳）: 物理インフォームドニューラルネットワークにおけるベイズ推論のための反発的アンサンブル
• Authors: Philipp Pilar, Markus Heinonen, Niklas Wahlström,
• Abstract要約: 逆問題について考察し、不確実性推定を得るためにPINNの反発アンサンブルを用いる。 反発的なアンサンブルは、はるかに正確な不確実性推定を生成し、より高いサンプル多様性を示す。
• 参考スコア（独自算出の注目度）: 10.075911116030621
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Physics-informed neural networks (PINNs) have proven an effective tool for solving differential equations, in particular when considering non-standard or ill-posed settings. When inferring solutions and parameters of the differential equation from data, uncertainty estimates are preferable to point estimates, as they give an idea about the accuracy of the solution. In this work, we consider the inverse problem and employ repulsive ensembles of PINNs (RE-PINN) for obtaining such estimates. The repulsion is implemented by adding a particular repulsive term to the loss function, which has the property that the ensemble predictions correspond to the true Bayesian posterior in the limit of infinite ensemble members. Where possible, we compare the ensemble predictions to Monte Carlo baselines. Whereas the standard ensemble tends to collapse to maximum-a-posteriori solutions, the repulsive ensemble produces significantly more accurate uncertainty estimates and exhibits higher sample diversity.
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は微分方程式の解法として有効なツールであることが証明されている。 データから微分方程式の解とパラメータを推定する場合、不確実性推定は、解の正確性についてのアイデアを与えるため、推定点を推定するよりも好ましい。 本研究では,逆問題について考察し,そのような推定を得るためにPINN(RE-PINN)の反動アンサンブル(repulsiveアンサンブル)を用いる。 この反発は損失関数に特定の反発項を加えることで実現され、これはアンサンブル予測が無限アンサンブル部材の極限において真のベイズ後部に対応する性質を持つ。 可能な場合、アンサンブル予測をモンテカルロのベースラインと比較する。 標準アンサンブルは最大アポスペリオリ溶液に崩壊する傾向にあるが、反発アンサンブルははるかに正確な不確実性評価を生じ、より高いサンプル多様性を示す。

関連論文リスト

• Improved Uncertainty Quantification in Physics-Informed Neural Networks Using Error Bounds and Solution Bundles [2.066173485843472]
  我々は、PINNが提供する微分方程式系の解に関する不確実性を提供するベイズニューラルネットワークを訓練する。 我々はPINN上で利用可能な誤差境界を用いて不確実性推定を改善する不確定分散を定式化する。
  論文  参考訳（メタデータ） (2025-05-09T22:40:39Z)
• Confidence Interval Construction and Conditional Variance Estimation with Dense ReLU Networks [11.218066045459778]
  本稿では,Rectified Linear Unit (ReLU) アクティベーション機能を持つ高密度ネットワークを用いた非パラメトリック回帰における条件分散推定と信頼区間構成の問題に対処する。 本稿では, 条件付き分散推定のための残差に基づくフレームワークを提案し, ヘテロセダスティックおよびホモセダスティックな設定下での分散推定のための漸近的境界を導出する。 本研究では,ReLUネットワークをベースとしたロバストブートストラップ手法を開発し,その適用範囲を理論的に保証し,不確実性定量化と深層学習環境における信頼性信頼区間の構築に大きく貢献する。
  論文  参考訳（メタデータ） (2024-12-29T05:17:58Z)
• Semiparametric conformal prediction [79.6147286161434]
  ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。 スコアの累積分布関数(CDF)を柔軟に推定する。 提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
  論文  参考訳（メタデータ） (2024-11-04T14:29:02Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• Nonparametric Quantile Regression: Non-Crossing Constraints and Conformal Prediction [2.654399717608053]
  本稿では,線形単位ペナルティ関数を補正したディープニューラルネットワークを用いた非パラメトリック量子レグレッション法を提案し,量子交差を回避する。 提案した非パラメトリック量子化回帰関数推定器の過剰リスクに対する非漸近上界を確立する。 シミュレーション研究と実データ例を含む数値実験を行い,提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2022-10-18T20:59:48Z)
• Jensen-Shannon Divergence Based Novel Loss Functions for Bayesian Neural Networks [2.4554686192257424]
  我々は、一般化されたJensen-Shannon(JS)の発散に新たな修正を加えて、BNNの新たな損失関数を定式化する。 JSの発散に基づく変分推論は難解であり,従ってこれらの損失を定式化するために制約付き最適化フレームワークが用いられている。 複数の回帰および分類データセットに関する理論的解析および実証実験により、提案された損失はKLの発散に基づく損失よりも良く、特にデータセットがノイズや偏りがある場合の方が優れていることが示唆された。
  論文  参考訳（メタデータ） (2022-09-23T01:47:09Z)
• Nonparametric Score Estimators [49.42469547970041]
  未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。 正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。 カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-20T15:01:03Z)
• Being Bayesian, Even Just a Bit, Fixes Overconfidence in ReLU Networks [65.24701908364383]
  我々は、ReLUネットワーク上の不確実性に対する十分条件が「少しベイズ校正される」ことを示す。 さらに,これらの知見を,共通深部ReLUネットワークとLaplace近似を用いた各種標準実験により実証的に検証した。
  論文  参考訳（メタデータ） (2020-02-24T08:52:06Z)
• An Equivalence between Bayesian Priors and Penalties in Variational Inference [8.45602005745865]
  機械学習では、パラメータのいくつかの値をペナライズするアドホック正規化項によって変調される確率モデルのパラメータを最適化することが一般的である。 我々は、この手順に従って発生する正則化器を完全に特徴付け、与えられたペナルティに対応する事前を計算する体系的な方法を提供する。
  論文  参考訳（メタデータ） (2020-02-01T09:48:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。