論文の概要: On the Pareto Front of Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2105.00862v1
- Date: Mon, 3 May 2021 13:47:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-04 13:56:32.644960
- Title: On the Pareto Front of Physics-Informed Neural Networks
- Title（参考訳）: 物理インフォームドニューラルネットワークのパレートフロントについて
- Authors: Franz M. Rohrhofer, Stefan Posch, Bernhard C. Geiger
- Abstract要約: 本稿では,物理インフォームドニューラルネットワークのトレーニングプロセスについて光を当てる。
本稿では,多目的最適化におけるシステムパラメータの役割を示す。
- 参考スコア（独自算出の注目度）: 7.41244589428771
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently a new type of deep learning method has emerged, called
physics-informed neural networks. Despite their success in solving problems
that are governed by partial differential equations, physics-informed neural
networks are often difficult to train. Frequently reported convergence issues
are still poorly understood and complicate the inference of correct system
dynamics. In this paper, we shed light on the training process of
physics-informed neural networks. By trading between data- and physics-based
constraints in the network training, we study the Pareto front in
multi-objective optimization problems. We use the diffusion equation and
Navier-Stokes equations in various test environments to analyze the effects of
system parameters on the shape of the Pareto front. Additionally, we assess the
effectiveness of state-of-the-art adaptive activation functions and adaptive
loss weighting methods. Our results demonstrate the prominent role of system
parameters in the multi-objective optimization and contribute to understanding
convergence properties of physics-informed neural networks.
- Abstract（参考訳）: 近年,物理インフォームドニューラルネットワークと呼ばれる新しいディープラーニング手法が登場している。
偏微分方程式によって支配される問題を解くことに成功しているにもかかわらず、物理インフォームドニューラルネットワークは訓練が難しいことが多い。
頻繁に報告される収束問題はいまだによく理解されておらず、正しいシステムダイナミクスの推論を複雑にしている。
本稿では,物理インフォームドニューラルネットワークのトレーニングプロセスについて光を当てる。
ネットワークトレーニングにおけるデータと物理に基づく制約のトレーディングにより,多目的最適化問題におけるParetoフロントについて検討する。
種々の試験環境における拡散方程式とナビエ・ストークス方程式を用いて, システムパラメータがパレート前面形状に与える影響を分析する。
さらに、最先端適応活性化関数と適応損失重み付け法の有効性を評価する。
本研究は,多目的最適化におけるシステムパラメータの役割を実証し,物理学的ニューラルネットワークの収束特性の理解に寄与する。
関連論文リスト
- Network scaling and scale-driven loss balancing for intelligent poroelastography [2.665036498336221]
フルウェーブフォームデータからポリ弾性媒体のマルチスケールキャラクタリゼーションのためのディープラーニングフレームワークを開発した。
2つの大きな課題は、この目的のために既存の最先端技術を直接適用することを妨げる。
本稿では, ニューラルネットワークをスケーリング層に構成した単位形状関数を用いて, ニューラルプロパティマップを構築する, エンフェネティックスケーリングの考え方を提案する。
論文 参考訳（メタデータ） (2024-10-27T23:06:29Z) - Learning Physics From Video: Unsupervised Physical Parameter Estimation for Continuous Dynamical Systems [49.11170948406405]
ビデオからの自動パラメータ推定の最先端は、大規模データセット上で教師付きディープネットワークをトレーニングすることによって解決される。
単一ビデオから, 既知, 連続制御方程式の物理パラメータを推定する手法を提案する。
論文 参考訳（メタデータ） (2024-10-02T09:44:54Z) - Physics-Informed Neural Network for Discovering Systems with
Unmeasurable States with Application to Lithium-Ion Batteries [6.375364752891239]
本稿では,損失項の少ないPINNをトレーニングするためのロバストな手法を導入し,最適化のためのより複雑なランドスケープを構築する。
各微分方程式から損失項を持つ代わりに、この方法は力学を損失関数に埋め込み、観測されたシステム出力と予測されたシステム出力の間の誤差を定量化する。
これは、既知のダイナミクスを使用してニューラルネットワーク(NN)から予測された状態を数値的に統合し、予測された出力のシーケンスを取得することで達成される。
論文 参考訳（メタデータ） (2023-11-27T23:35:40Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳（メタデータ） (2023-03-03T08:17:47Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳（メタデータ） (2022-10-14T15:01:32Z) - Critical Investigation of Failure Modes in Physics-informed Neural
Networks [0.9137554315375919]
合成定式化による物理インフォームドニューラルネットワークは、最適化が難しい非学習損失面を生成することを示す。
また,2つの楕円問題に対する2つのアプローチを,より複雑な目標解を用いて評価する。
論文 参考訳（メタデータ） (2022-06-20T18:43:35Z) - Understanding the Difficulty of Training Physics-Informed Neural
Networks on Dynamical Systems [5.878411350387833]
物理情報ニューラルネットワーク(PINN)は、微分方程式によって支配される問題の解決にデータと物理的制約をシームレスに統合する。
力学系の固定点近傍における物理損失関数について検討する。
計算領域の削減は、最適化の複雑さと非物理的解に閉じ込められる確率を低下させる。
論文 参考訳（メタデータ） (2022-03-25T13:50:14Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳（メタデータ） (2022-02-18T18:07:54Z) - Physics-Informed Neural Operator for Learning Partial Differential
Equations [55.406540167010014]
PINOは、演算子を学ぶために異なる解像度でデータとPDE制約を組み込んだ最初のハイブリッドアプローチである。
結果の PINO モデルは、多くの人気のある PDE ファミリの基底構造解演算子を正確に近似することができる。
論文 参考訳（メタデータ） (2021-11-06T03:41:34Z) - Multi-Objective Loss Balancing for Physics-Informed Deep Learning [0.0]
PINNを効果的に訓練するために、複数の競合損失関数の組み合わせを正しく重み付けする役割を観察する。
本稿では,ReLoBRaLoと呼ばれるPINNの自己適応的損失分散を提案する。
シミュレーションにより、ReLoBRaLoトレーニングは、他のバランシング手法によるPINNのトレーニングよりもはるかに高速で精度の高いことが示されている。
論文 参考訳（メタデータ） (2021-10-19T09:00:12Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳（メタデータ） (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。