論文の概要: Improved Physics-informed neural networks loss function regularization with a variance-based term

• arxiv url: http://arxiv.org/abs/2412.13993v2
• Date: Wed, 26 Feb 2025 20:31:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-28 15:15:46.332002
• Title: Improved Physics-informed neural networks loss function regularization with a variance-based term
• Title（参考訳）: 分散項を用いた物理インフォームドニューラルネットワーク損失関数正規化の改良
• Authors: John M. Hanna, Hugues Talbot, Irene E. Vignon-Clementel,
• Abstract要約: 機械学習や統計モデリングにおいて、平均二乗または絶対誤差は誤差計量として一般的に用いられる(「損失関数」とも呼ばれる)。 本稿では,選択した誤差量の平均偏差と標準偏差を組み合わせた新しい損失関数を提案する。 その結果, 平均損失よりも解の質が向上し, 最大誤差も低かった。
• 参考スコア（独自算出の注目度）: 2.238153450480258
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In machine learning and statistical modeling, the mean square or absolute error is commonly used as an error metric, also called a "loss function." While effective in reducing the average error, this approach may fail to address localized outliers, leading to significant inaccuracies in regions with sharp gradients or discontinuities. This issue is particularly evident in physics-informed neural networks (PINNs), where such localized errors are expected and affect the overall solution. To overcome this limitation, we propose a novel loss function that combines the mean and the standard deviation of the chosen error metric. By minimizing this combined loss function, the method ensures a more uniform error distribution and reduces the impact of localized high-error regions. The proposed loss function is easy to implement and tested on problems of varying complexity: the 1D Poisson equation, the unsteady Burgers' equation, 2D linear elastic solid mechanics, and 2D steady Navier-Stokes equations. Results demonstrate improved solution quality and lower maximum error compared to the standard mean-based loss, with minimal impact on computational time.
• Abstract（参考訳）: 機械学習や統計モデリングでは、平均二乗あるいは絶対誤差は誤差計量として一般的に用いられる(「損失関数」とも呼ばれる)。 平均誤差を減らすのに効果的であるが、このアプローチは局所化された外れ値に対処できず、急勾配や不連続な領域で重大な不正確な結果をもたらす可能性がある。 この問題は物理情報ニューラルネットワーク(PINN)において特に顕著であり、そのような局所的なエラーが期待され、全体的なソリューションに影響を与える。 この制限を克服するために,選択した誤差メトリックの平均値と標準偏差を組み合わせた新しい損失関数を提案する。 この複合損失関数を最小化することにより、より均一なエラー分布を確保し、局所化されたハイエラー領域の影響を低減する。 提案された損失関数は, 1次元ポアソン方程式, 非定常バーガース方程式, 2次元線形弾性固体力学, 2次元定常ナヴィエ・ストークス方程式といった,様々な複雑性の問題を実装および検証する。 その結果, 平均損失よりも解の質が向上し, 最大誤差が低下し, 計算時間に最小限の影響が認められた。

関連論文リスト

• Enabling Automatic Differentiation with Mollified Graph Neural Operators [75.3183193262225]
  本稿では,任意の測地上での自動微分とエンフェクサクタクティック勾配を計算するための最初の手法であるモリファイドグラフニューラル演算子 (mGNO) を提案する。 正規格子上のPDEの例では、mGNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。 また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
  論文  参考訳（メタデータ） (2025-04-11T06:16:30Z)
• Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
  機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。 提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
  論文  参考訳（メタデータ） (2024-10-22T10:19:27Z)
• Understanding the Difficulty of Solving Cauchy Problems with PINNs [31.98081858215356]
  PINNは微分方程式の解法における古典的手法と同等の精度を達成できないことが多い。 L2$残差と初期条件誤差の和を最小化することは、真の解を保証するのに十分でないことを示す。 我々は,大域的最小値が存在しない場合,機械の精度がエラーの原因となることを示した。
  論文  参考訳（メタデータ） (2024-05-04T04:22:52Z)
• Alternate Loss Functions for Classification and Robust Regression Can Improve the Accuracy of Artificial Neural Networks [6.452225158891343]
  本稿では,ニューラルネットワークのトレーニング速度と最終的な精度が,ニューラルネットワークのトレーニングに使用する損失関数に大きく依存することを示す。 様々なベンチマークタスクの性能を著しく向上させる2つの新しい分類損失関数を提案する。
  論文  参考訳（メタデータ） (2023-03-17T12:52:06Z)
• Revisiting Rotation Averaging: Uncertainties and Robust Losses [51.64986160468128]
  現在の手法の主な問題は、推定エピポーラを通して入力データと弱い結合しか持たない最小コスト関数である。 本稿では,点対応から回転平均化への不確実性を直接伝播させることにより,基礎となる雑音分布をモデル化することを提案する。
  論文  参考訳（メタデータ） (2023-03-09T11:51:20Z)
• A Generalized Surface Loss for Reducing the Hausdorff Distance in Medical Imaging Segmentation [1.2289361708127877]
  本研究では,現在の手法よりも望ましい数値特性を持つハウスドルフ測度を最小化する新しい損失関数を提案する。 我々の損失関数は、最先端のnnUNetアーキテクチャを用いてLiTSとBraTSデータセットでテストした場合、他の損失よりも優れています。
  論文  参考訳（メタデータ） (2023-02-08T04:01:42Z)
• Physics-Informed Neural Network Method for Parabolic Differential Equations with Sharply Perturbed Initial Conditions [68.8204255655161]
  急激な摂動初期条件を持つパラボラ問題に対する物理インフォームドニューラルネットワーク(PINN)モデルを開発した。 ADE解の局所的な大きな勾配は(PINNでよく見られる)ラテンハイパーキューブで方程式の残余の高効率なサンプリングを行う。 本稿では,他の方法により選択した量よりも精度の高いPINNソリューションを生成する損失関数における重みの基準を提案する。
  論文  参考訳（メタデータ） (2022-08-18T05:00:24Z)
• Adaptive Self-supervision Algorithms for Physics-informed Neural Networks [59.822151945132525]
  物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。 これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。 モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
  論文  参考訳（メタデータ） (2022-07-08T18:17:06Z)
• Fast and Accurate Error Simulation for CNNs against Soft Errors [64.54260986994163]
  本稿では,誤りシミュレーションエンジンを用いて,コナールニューラルネットワーク(CNN)の信頼性解析のためのフレームワークを提案する。 これらの誤差モデルは、故障によって誘導されるCNN演算子の出力の破損パターンに基づいて定義される。 提案手法は,SASSIFIの欠陥効果の約99%の精度と,限定的なエラーモデルのみを実装した44倍から63倍までのスピードアップを実現する。
  論文  参考訳（メタデータ） (2022-06-04T19:45:02Z)
• The KFIoU Loss for Rotated Object Detection [115.334070064346]
  本稿では,SkewIoU損失とトレンドレベルアライメントを両立できる近似的損失を考案する上で,有効な方法の1つとして論じる。 具体的には、対象をガウス分布としてモデル化し、SkewIoUのメカニズムを本質的に模倣するためにカルマンフィルタを採用する。 KFIoUと呼ばれる新たな損失は実装が容易で、正確なSkewIoUよりもうまく動作する。
  論文  参考訳（メタデータ） (2022-01-29T10:54:57Z)
• $\sigma^2$R Loss: a Weighted Loss by Multiplicative Factors using Sigmoidal Functions [0.9569316316728905]
  我々は,二乗還元損失(sigma2$R損失)と呼ばれる新たな損失関数を導入する。 我々の損失は明らかな直観と幾何学的解釈を持ち、我々の提案の有効性を実験によって実証する。
  論文  参考訳（メタデータ） (2020-09-18T12:34:40Z)
• Local error quantification for Neural Network Differential Equation solvers [6.09170287691728]
  NN DEソルバをより正確かつ効率的にする手法を開発した。 本手法は,NNDEの精度の高い予測誤差をポイントワイズで推定する手法によって実現される。 非線形システムとカオスシステムでテストすることで,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-08-24T08:22:58Z)
• Error Estimation and Correction from within Neural Network Differential Equation Solvers [3.04585143845864]
  本稿では,ニューラルネットワーク微分方程式解法における誤差推定と補正の戦略について述べる。 提案手法では, 真の解の事前知識を必要とせず, 損失関数と解推定に伴う誤差との明確な関係を求める。
  論文  参考訳（メタデータ） (2020-07-09T11:01:44Z)
• Neural Control Variates [71.42768823631918]
  ニューラルネットワークの集合が、積分のよい近似を見つけるという課題に直面していることを示す。 理論的に最適な分散最小化損失関数を導出し、実際に安定したオンライントレーニングを行うための代替の複合損失を提案する。 具体的には、学習した光場近似が高次バウンスに十分な品質であることを示し、誤差補正を省略し、無視可能な可視バイアスのコストでノイズを劇的に低減できることを示した。
  論文  参考訳（メタデータ） (2020-06-02T11:17:55Z)
• Understanding and Mitigating the Tradeoff Between Robustness and Accuracy [88.51943635427709]
  逆行訓練は、堅牢なエラーを改善するために、摂動でトレーニングセットを増強する。 拡張摂動が最適線形予測器からノイズのない観測を行う場合であっても,標準誤差は増大する可能性がある。
  論文  参考訳（メタデータ） (2020-02-25T08:03:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。