論文の概要: A numerical study into neural network surrogate model performance for uncertainty propagation
- arxiv url: http://arxiv.org/abs/2605.16078v1
- Date: Fri, 15 May 2026 15:39:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.343551
- Title: A numerical study into neural network surrogate model performance for uncertainty propagation
- Title(参考訳): 不確実性伝播のためのニューラルネットワーク代理モデルの性能に関する数値的研究
- Authors: Noah Wade, Kirubel Teferra,
- Abstract要約: ニューラルネットワークサロゲートモデルは、モデル解場に対する有望なアプローチとして現れている。
本研究は, 確率空間全体にわたる解場の完全な分布を, ニューラルネットワークサロゲートモデルで捉える能力について詳細に検討した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural network surrogate models have emerged as a promising approach to model solution fields for a wide variety of boundary value problems encountered in physical modeling. Stochastic problems represent an area of particularly high interest because of the potential to significantly reduce the repeated evaluation of expensive forward models via traditional numerical solvers when conducting parametric analysis. However, many studies found in the literature primarily focus on the ability of neural network surrogate models to represent deterministic samples or mean field solutions and largely overlook surrogate model performance at the tails of the distribution. The present study examines in detail the ability of neural network surrogate models to capture the full distribution of solution fields over the entire probability space, while emphasis is placed at the tails of the distribution. Serving as a canonical problem is the heat conduction equation with a highly stochastic source term, inducing extremely large variation in the thermal solution field. Comparisons are made between a classic feed-forward fully connected network and a Deep Operator Network architecture, using both data-driven and physics-informed loss functions. Results show that the worst-case prediction errors are an order of magnitude larger than the mean field error, highlighting the importance of the outlier samples. The large errors associated with extreme samples result from the networks having to extrapolate beyond the bounds of the training data. A method for identifying these samples is presented along with a discussion of potential approaches to account of their errors. Among the models considered, the fully connected neural network trained using a weak form residual loss performs best in handling these extrapolated inputs, achieving the highest prediction accuracy for the numerically produced datasets.
- Abstract(参考訳): ニューラルネットワークサロゲートモデルは、物理モデリングで遭遇する幅広い境界値問題に対して、解場をモデル化するための有望なアプローチとして現れてきた。
確率問題は、パラメトリック解析を行う際に、従来の数値解法による高価な前方モデルの繰り返し評価を著しく低減する可能性があるため、特に関心の高い領域である。
しかし、この文献で発見された多くの研究は、決定論的サンプルや平均場解を表現するニューラルネットワーク・サロゲートモデルの性能と、分布の尾部におけるサーロゲートモデルのパフォーマンスを概ね見落としていることに主に焦点を当てている。
本研究は, 確率空間全体にわたる解場の完全な分布を, ニューラルネットワークサロゲートモデルで捉える能力について詳細に検討し, 分布の尾に重きを置いている。
正準問題として機能することは熱伝導方程式であり、熱溶液場の非常に大きな変化を引き起こす。
従来のフィードフォワード完全接続ネットワークとDeep Operator Networkアーキテクチャの比較は、データ駆動と物理インフォームド損失関数の両方を用いて行われる。
その結果、最悪の予測誤差は平均場誤差よりも桁違いに大きいことが示され、外乱サンプルの重要性が浮き彫りになった。
極端なサンプルに関連する大きなエラーは、トレーニングデータの限界を超えて外挿しなければならないネットワークから生じる。
これらのサンプルを同定する手法が提案され,その誤りを考慮に入れた潜在的アプローチの議論とともに紹介される。
検討されたモデルのうち、弱い形状の残留損失を用いてトレーニングされた完全連結ニューラルネットワークは、これらの外挿された入力を処理するのに最適であり、数値化されたデータセットの予測精度が最も高い。
関連論文リスト
- Surrogate models for Rock-Fluid Interaction: A Grid-Size-Invariant Approach [0.3518016233072556]
多孔質媒質中の流動を予測するための8つの代理モデルを構築した。
そのうち4つは、圧縮のための1つのニューラルネットワークと予測のためのもう1つのニューラルネットワークに基づくリダクションオーダーモデル(ROM)である。
グリッドサイズ不変のアプローチは、トレーニング中のメモリ消費を減らすための信頼性の高い方法であることを示す。
論文 参考訳(メタデータ) (2026-02-25T18:34:03Z) - From Overfitting to Reliability: Introducing the Hierarchical Approximate Bayesian Neural Network [3.632251954989679]
HABNNは、ガウス-逆ウィッシュアート分布をネットワークの重みのハイパープライアとして利用する、新しいアプローチである。
その結果、HABNNは適合するだけでなく、しばしば最先端のモデルよりも優れていることが示唆された。
論文 参考訳(メタデータ) (2025-12-15T09:08:42Z) - Amortizing intractable inference in diffusion models for vision, language, and control [89.65631572949702]
本稿では,p(mathbfx)$以前の拡散生成モデルとブラックボックス制約,あるいは関数$r(mathbfx)$からなるモデルにおいて,データ上の後部サンプルである $mathbfxsim prm post(mathbfx)propto p(mathbfx)r(mathbfx)$について検討する。
我々は,データフリー学習目標である相対軌道バランスの正しさを,サンプルから抽出した拡散モデルの訓練のために証明する。
論文 参考訳(メタデータ) (2024-05-31T16:18:46Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization [45.72323731094864]
本稿では,2層ニューラルネットワークを用いた拡散モデル解析のための理論的枠組みを提案する。
我々は,1つの凸プログラムを解くことで,スコア予測のための浅層ニューラルネットワークのトレーニングが可能であることを証明した。
本結果は, ニューラルネットワークに基づく拡散モデルが漸近的でない環境で何を学習するかを, 正確に評価するものである。
論文 参考訳(メタデータ) (2024-02-03T00:20:25Z) - Deep Networks as Denoising Algorithms: Sample-Efficient Learning of
Diffusion Models in High-Dimensional Graphical Models [22.353510613540564]
生成モデルにおけるディープニューラルネットワークによるスコア関数の近似効率について検討する。
楽譜関数はしばしば変分推論法を用いてグラフィカルモデルでよく近似される。
深層ニューラルネットワークによってスコア関数が学習されるとき,拡散に基づく生成モデルに縛られた効率的なサンプル複雑性を提供する。
論文 参考訳(メタデータ) (2023-09-20T15:51:10Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳(メタデータ) (2023-09-02T01:27:53Z) - Generalization of Neural Combinatorial Solvers Through the Lens of
Adversarial Robustness [68.97830259849086]
ほとんどのデータセットは単純なサブプロブレムのみをキャプチャし、おそらくは突発的な特徴に悩まされる。
本研究では, 局所的な一般化特性である対向ロバスト性について検討し, 厳密でモデル固有な例と突発的な特徴を明らかにする。
他のアプリケーションとは異なり、摂動モデルは知覚できないという主観的な概念に基づいて設計されているため、摂動モデルは効率的かつ健全である。
驚くべきことに、そのような摂動によって、十分に表現力のあるニューラルソルバは、教師あり学習で共通する正確さと悪質さのトレードオフの限界に悩まされない。
論文 参考訳(メタデータ) (2021-10-21T07:28:11Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - A comprehensive study on the prediction reliability of graph neural
networks for virtual screening [0.0]
本稿では,モデルアーキテクチャ,正規化手法,損失関数が分類結果の予測性能および信頼性に与える影響について検討する。
その結果,高い成功率を達成するためには,正則化と推論手法の正しい選択が重要であることが明らかとなった。
論文 参考訳(メタデータ) (2020-03-17T10:13:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。