論文の概要: RANG: A Residual-based Adaptive Node Generation Method for
Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2205.01051v1
- Date: Mon, 2 May 2022 17:37:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-03 17:15:52.267824
- Title: RANG: A Residual-based Adaptive Node Generation Method for
Physics-Informed Neural Networks
- Title（参考訳）: RANG:物理インフォームドニューラルネットワークのための残差に基づく適応ノード生成手法
- Authors: Wei Peng, Weien Zhou, Xiaoya Zhang, Wen Yao, Zheliang Liu
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)を用いた偏微分方程式(PDE)の学習法は,従来の解法よりも魅力的な方法である。
PINNは様々なPDEを正確に解くのに成功しているが、計算効率の面では依然として改善が必要である。
PINNの効率的なトレーニングのために,Residual-based Adaptive Node Generation (RANG) アプローチを提案する。
- 参考スコア（独自算出の注目度）: 4.642273921499256
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning solutions of partial differential equations (PDEs) with
Physics-Informed Neural Networks(PINNs) is an attractive alternative approach
to traditional solvers due to its flexibility and ease of incorporating
observed data. Despite the success of PINNs in accurately solving a wide
variety of PDEs, the method still requires improvements in terms of
computational efficiency. One possible improvement idea is to optimize the
generation of training point sets. Residual-based adaptive sampling and
quasi-uniform sampling approaches have been each applied to improve the
training effects of PINNs, respectively. To benefit from both methods, we
propose the Residual-based Adaptive Node Generation (RANG) approach for
efficient training of PINNs, which is based on a variable density nodal
distribution method for RBF-FD. The method is also enhanced by a memory
mechanism to further improve training stability. We conduct experiments on
three linear PDEs and three nonlinear PDEs with various node generation
methods, through which the accuracy and efficiency of the proposed method
compared to the predominant uniform sampling approach is verified numerically.
- Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)を用いた偏微分方程式(PDE)の学習法は、その柔軟性と観測データを組み込むことの容易さから、従来の解法よりも魅力的な方法である。
PINNは様々なPDEを正確に解くのに成功しているが、計算効率の面では依然として改善が必要である。
改善のアイデアのひとつは、トレーニングポイントセットの生成を最適化することです。
PINNのトレーニング効果を改善するために,残差に基づく適応サンプリングと準一様サンプリングをそれぞれ適用した。
両手法の利点を生かし, RBF-FD の変動密度結節分布法に基づく PINN の効率的なトレーニングのためのResidual-based Adaptive Node Generation (RANG) 手法を提案する。
また、記憶機構によりトレーニング安定性をさらに向上させる。
本研究では, ノード生成方式による3つの線形PDEと3つの非線形PDEの実験を行い, 提案手法の精度と効率を一様サンプリング法と比較して数値的に検証した。
関連論文リスト
- Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks [4.216184112447278]
物理インフォームドニューラルネットワーク(PINN)は、部分微分方程式(PDE)を解くための堅牢なフレームワークとして登場した。
本稿では、PDEを解くために、グリッド依存のKolmogorov-Arnold Networks(PIKAN)の高速なJAXベースの実装を提案する。
適応的特徴は解の精度を著しく向上させ,基準解に対するL2誤差を最大43.02%減少させることを示した。
論文 参考訳（メタデータ） (2024-07-24T19:55:08Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳（メタデータ） (2024-07-10T17:39:50Z) - RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。
本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。
実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
論文 参考訳（メタデータ） (2024-05-23T09:45:57Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳（メタデータ） (2023-05-24T17:26:22Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳（メタデータ） (2023-03-03T08:17:47Z) - Solving Partial Differential Equations with Point Source Based on
Physics-Informed Neural Networks [33.18757454787517]
近年では、偏微分方程式(PDE)の解法としてディープラーニング技術が用いられている。
3つの新しい手法でこの問題に対処するための普遍的な解決策を提案する。
提案手法を3つの代表的PDEを用いて評価し,提案手法が既存の深層学習手法よりも精度,効率,汎用性に優れていたことを示す。
論文 参考訳（メタデータ） (2021-11-02T06:39:54Z) - Sparse Bayesian Deep Learning for Dynamic System Identification [14.040914364617418]
本稿では,システム同定のためのディープニューラルネットワーク(DNN)の疎ベイズ処理を提案する。
提案されたベイズ的アプローチは、限界確率/モデル証拠近似による課題を緩和する原則的な方法を提供する。
提案手法の有効性を線形および非線形システム同定ベンチマークで示す。
論文 参考訳（メタデータ） (2021-07-27T16:09:48Z) - Efficient training of physics-informed neural networks via importance
sampling [2.9005223064604078]
Physics-In Neural Networks(PINN)は、偏微分方程式(PDE)によって制御されるシステムを計算するために訓練されているディープニューラルネットワークのクラスである。
重要サンプリング手法により,PINN訓練の収束挙動が改善されることが示唆された。
論文 参考訳（メタデータ） (2021-04-26T02:45:10Z) - Hybrid FEM-NN models: Combining artificial neural networks with the
finite element method [0.0]
本稿では, ニューラルネットワークと物理原理制約を組み合わせた偏微分方程式(PDE)の手法を提案する。
このアプローチでは、PDEを損失関数の一部とする最適化の強い制約として尊重しながら、ニューラルネットワークをトレーニングすることができる。
本稿では,ディープニューラルネットワークを用いた複雑な心筋モデル問題の解法を示す。
論文 参考訳（メタデータ） (2021-01-04T13:36:06Z) - Adaptive Gradient Method with Resilience and Momentum [120.83046824742455]
レジリエンスとモメンタム(AdaRem)を用いた適応勾配法を提案する。
AdaRemは、過去の1つのパラメータの変化方向が現在の勾配の方向と一致しているかどうかに応じてパラメータワイズ学習率を調整する。
本手法は,学習速度とテスト誤差の観点から,従来の適応学習率に基づくアルゴリズムよりも優れていた。
論文 参考訳（メタデータ） (2020-10-21T14:49:00Z) - Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。
我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
論文 参考訳（メタデータ） (2020-03-11T13:15:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。