論文の概要: Efficient PINNs: Multi-Head Unimodular Regularization of the Solutions Space
- arxiv url: http://arxiv.org/abs/2501.12116v1
- Date: Tue, 21 Jan 2025 13:25:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-22 14:23:48.625921
- Title: Efficient PINNs: Multi-Head Unimodular Regularization of the Solutions Space
- Title(参考訳): 効率の良いPINN:ソリューション空間のマルチヘッド一様正規化
- Authors: Pedro Tarancón-Álvarez, Pablo Tejerina-Pérez, Raul Jimenez, Pavlos Protopapas,
- Abstract要約: 非線形多スケール微分方程式の解法を容易にする機械学習フレームワークについて,特に物理インフォームドニューラルネットワーク(PINN)を用いた逆問題について述べる。
このフレームワークはマルチヘッド(MH)トレーニングと呼ばれるものに基づいており、システムの特定の解を学ぶのではなく、特定の変数を持つ方程式の集合に対するすべての解の一般的な空間を学習するためにネットワークを訓練する。
正規化と組み合わせたマルチヘッド手法は、転送学習プロセスを容易にすることでPINNの効率を大幅に向上し、非線形、結合、マルチスケールの解を見つけることができることを示す。
- 参考スコア(独自算出の注目度): 1.4061979259370274
- License:
- Abstract: We present a machine learning framework to facilitate the solution of nonlinear multiscale differential equations and, especially, inverse problems using Physics-Informed Neural Networks (PINNs). This framework is based on what is called multihead (MH) training, which involves training the network to learn a general space of all solutions for a given set of equations with certain variability, rather than learning a specific solution of the system. This setup is used with a second novel technique that we call Unimodular Regularization (UR) of the latent space of solutions. We show that the multihead approach, combined with the regularization, significantly improves the efficiency of PINNs by facilitating the transfer learning process thereby enabling the finding of solutions for nonlinear, coupled, and multiscale differential equations.
- Abstract(参考訳): 本稿では,非線形多スケール微分方程式の解法,特に物理情報ニューラルネットワーク(PINN)を用いた逆問題を容易にする機械学習フレームワークを提案する。
このフレームワークはマルチヘッド(MH)トレーニングと呼ばれるものに基づいており、システムの特定の解を学ぶのではなく、特定の変数を持つ方程式の集合に対するすべての解の一般的な空間を学習するためにネットワークを訓練する。
このセットアップは、ソリューションの潜在空間のunimodular Regularization(UR)と呼ばれる2つ目の新しいテクニックで使用される。
本稿では, 正規化と組み合わせたマルチヘッド手法により, 移動学習プロセスの容易化によりPINNの効率が大幅に向上し, 非線形, 結合, マルチスケール微分方程式の解の発見が可能となることを示す。
関連論文リスト
- MultiSTOP: Solving Functional Equations with Reinforcement Learning [56.073581097785016]
物理学における関数方程式を解くための強化学習フレームワークであるMultiSTOPを開発した。
この新しい手法は境界ではなく実際の数値解を生成する。
論文 参考訳(メタデータ) (2024-04-23T10:51:31Z) - A Block-Coordinate Approach of Multi-level Optimization with an
Application to Physics-Informed Neural Networks [0.0]
非線形最適化問題の解法として多レベルアルゴリズムを提案し,その評価複雑性を解析する。
物理インフォームドニューラルネットワーク (PINN) を用いた偏微分方程式の解に適用し, 提案手法がより良い解法と計算量を大幅に削減することを示す。
論文 参考訳(メタデータ) (2023-05-23T19:12:02Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳(メタデータ) (2022-10-14T15:01:32Z) - Improved Training of Physics-Informed Neural Networks with Model
Ensembles [81.38804205212425]
我々は、PINNを正しい解に収束させるため、解区間を徐々に拡大することを提案する。
すべてのアンサンブルのメンバーは、観測されたデータの近くで同じ解に収束する。
提案手法は, 得られた解の精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2022-04-11T14:05:34Z) - One-Shot Transfer Learning of Physics-Informed Neural Networks [2.6084034060847894]
本稿では,通常の微分方程式と偏微分方程式の両方の線形系に対して,一発の推論結果をもたらす伝達学習PINNの枠組みを提案する。
これは、多くの未知の微分方程式に対する高精度な解は、ネットワーク全体を再訓練することなく瞬時に得られることを意味する。
論文 参考訳(メタデータ) (2021-10-21T17:14:58Z) - Finite Basis Physics-Informed Neural Networks (FBPINNs): a scalable
domain decomposition approach for solving differential equations [20.277873724720987]
我々はFBPINN(Finite Basis PINNs)と呼ばれる微分方程式に関連する大きな問題を解くための新しいスケーラブルなアプローチを提案する。
FBPINNは古典的有限要素法に着想を得ており、微分方程式の解はコンパクトな支持を持つ基底関数の有限集合の和として表される。
FBPINNでは、ニューラルネットワークを使ってこれらの基底関数を学習する。
論文 参考訳(メタデータ) (2021-07-16T13:03:47Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳(メタデータ) (2021-07-08T18:01:02Z) - Optimal Transport Based Refinement of Physics-Informed Neural Networks [0.0]
我々は、最適輸送(OT)の概念に基づく偏微分方程式(PDE)の解法として、よく知られた物理情報ニューラルネットワーク(PINN)の改良戦略を提案する。
PINNの解法は、完全接続された病理のスペクトルバイアス、不安定な勾配、収束と精度の難しさなど、多くの問題に悩まされている。
本稿では,既存の PINN フレームワークを補完する OT-based sample を用いて,Fokker-Planck-Kolmogorov Equation (FPKE) を解くための新しいトレーニング戦略を提案する。
論文 参考訳(メタデータ) (2021-05-26T02:51:20Z) - Learning optimal multigrid smoothers via neural networks [1.9336815376402723]
畳み込みニューラルネットワーク(CNN)による演算子ステンシルから最適化されたスムーナを学習するための効率的なフレームワークを提案する。
CNNは、多重グリッド収束理論から導かれる教師付き損失関数に基づいて、与えられた種類のPDEから小さな問題を訓練する。
異方性回転ラプラシアン問題に対する数値解は, 従来の手作り緩和法と比較して収束率と解時間の向上を示した。
論文 参考訳(メタデータ) (2021-02-24T05:02:54Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z) - GACEM: Generalized Autoregressive Cross Entropy Method for Multi-Modal
Black Box Constraint Satisfaction [69.94831587339539]
本稿では,マスク付き自己回帰ニューラルネットワークを用いて解空間上の均一分布をモデル化するクロスエントロピー法(CEM)を提案する。
我々のアルゴリズムは複雑な解空間を表現でき、様々な異なる解領域を追跡できる。
論文 参考訳(メタデータ) (2020-02-17T20:21:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。