論文の概要: On the Pareto Front of Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2105.00862v1
- Date: Mon, 3 May 2021 13:47:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-04 13:56:32.644960
- Title: On the Pareto Front of Physics-Informed Neural Networks
- Title(参考訳): 物理インフォームドニューラルネットワークのパレートフロントについて
- Authors: Franz M. Rohrhofer, Stefan Posch, Bernhard C. Geiger
- Abstract要約: 本稿では,物理インフォームドニューラルネットワークのトレーニングプロセスについて光を当てる。
本稿では,多目的最適化におけるシステムパラメータの役割を示す。
- 参考スコア(独自算出の注目度): 7.41244589428771
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently a new type of deep learning method has emerged, called
physics-informed neural networks. Despite their success in solving problems
that are governed by partial differential equations, physics-informed neural
networks are often difficult to train. Frequently reported convergence issues
are still poorly understood and complicate the inference of correct system
dynamics. In this paper, we shed light on the training process of
physics-informed neural networks. By trading between data- and physics-based
constraints in the network training, we study the Pareto front in
multi-objective optimization problems. We use the diffusion equation and
Navier-Stokes equations in various test environments to analyze the effects of
system parameters on the shape of the Pareto front. Additionally, we assess the
effectiveness of state-of-the-art adaptive activation functions and adaptive
loss weighting methods. Our results demonstrate the prominent role of system
parameters in the multi-objective optimization and contribute to understanding
convergence properties of physics-informed neural networks.
- Abstract(参考訳): 近年,物理インフォームドニューラルネットワークと呼ばれる新しいディープラーニング手法が登場している。
偏微分方程式によって支配される問題を解くことに成功しているにもかかわらず、物理インフォームドニューラルネットワークは訓練が難しいことが多い。
頻繁に報告される収束問題はいまだによく理解されておらず、正しいシステムダイナミクスの推論を複雑にしている。
本稿では,物理インフォームドニューラルネットワークのトレーニングプロセスについて光を当てる。
ネットワークトレーニングにおけるデータと物理に基づく制約のトレーディングにより,多目的最適化問題におけるParetoフロントについて検討する。
種々の試験環境における拡散方程式とナビエ・ストークス方程式を用いて, システムパラメータがパレート前面形状に与える影響を分析する。
さらに、最先端適応活性化関数と適応損失重み付け法の有効性を評価する。
本研究は,多目的最適化におけるシステムパラメータの役割を実証し,物理学的ニューラルネットワークの収束特性の理解に寄与する。
関連論文リスト
- Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - An Analysis of Physics-Informed Neural Networks [0.0]
我々は物理システム – 物理インフォームドニューラルネットワーク – に対する解を近似する新しいアプローチを提案する。
人工ニューラルネットワークの概念を導入し、目的関数を定義し、最適化戦略について議論する。
偏微分方程式は、問題の損失関数の制約として含まれ、ネットワークがモデリングしている物理系の力学の知識にアクセスできる。
論文 参考訳(メタデータ) (2023-03-06T04:45:53Z) - NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with
Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。
元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。
本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文 参考訳(メタデータ) (2023-02-20T19:36:52Z) - Understanding the Difficulty of Training Physics-Informed Neural
Networks on Dynamical Systems [5.878411350387833]
物理情報ニューラルネットワーク(PINN)は、微分方程式によって支配される問題の解決にデータと物理的制約をシームレスに統合する。
力学系の固定点近傍における物理損失関数について検討する。
計算領域の削減は、最適化の複雑さと非物理的解に閉じ込められる確率を低下させる。
論文 参考訳(メタデータ) (2022-03-25T13:50:14Z) - Constructing Neural Network-Based Models for Simulating Dynamical
Systems [59.0861954179401]
データ駆動モデリングは、真のシステムの観測からシステムの力学の近似を学ぼうとする代替パラダイムである。
本稿では,ニューラルネットワークを用いた動的システムのモデル構築方法について検討する。
基礎的な概要に加えて、関連する文献を概説し、このモデリングパラダイムが克服すべき数値シミュレーションから最も重要な課題を概説する。
論文 参考訳(メタデータ) (2021-11-02T10:51:42Z) - Physics informed neural networks for continuum micromechanics [68.8204255655161]
近年,応用数学や工学における多種多様な問題に対して,物理情報ニューラルネットワークの適用が成功している。
グローバルな近似のため、物理情報ニューラルネットワークは、最適化によって局所的な効果と強い非線形解を表示するのに困難である。
実世界の$mu$CT-Scansから得られた不均一構造における非線形応力, 変位, エネルギー場を, 正確に解くことができる。
論文 参考訳(メタデータ) (2021-10-14T14:05:19Z) - Dynamic Neural Diversification: Path to Computationally Sustainable
Neural Networks [68.8204255655161]
訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。
学習過程において隠れた層内のニューロンの多様性を探索する。
ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
論文 参考訳(メタデータ) (2021-09-20T15:12:16Z) - Learning Contact Dynamics using Physically Structured Neural Networks [81.73947303886753]
ディープニューラルネットワークと微分方程式の接続を用いて、オブジェクト間の接触ダイナミクスを表現するディープネットワークアーキテクチャのファミリを設計する。
これらのネットワークは,ノイズ観測から不連続な接触事象をデータ効率良く学習できることを示す。
以上の結果から,タッチフィードバックの理想化形態は,この学習課題を扱いやすくするための重要な要素であることが示唆された。
論文 参考訳(メタデータ) (2021-02-22T17:33:51Z) - Physics-informed Neural Networks for Solving Nonlinear Diffusivity and
Biot's equations [0.0]
我々は、非線形微分率とビオット方程式との関係において、前方および逆問題の両方を解決するために、物理情報ニューラルネットワークの方法論を拡張した。
また,逆の場合,ノイズ測定の効果についても検討した。
論文 参考訳(メタデータ) (2020-02-19T15:22:26Z) - Understanding and mitigating gradient pathologies in physics-informed
neural networks [2.1485350418225244]
この研究は、物理システムの結果を予測し、ノイズの多いデータから隠れた物理を発見するための物理情報ニューラルネットワークの有効性に焦点を当てる。
本稿では,モデル学習中の勾配統計を利用して,複合損失関数の異なる項間の相互作用のバランスをとる学習速度アニーリングアルゴリズムを提案する。
また、そのような勾配に耐性のある新しいニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-01-13T21:23:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。