論文の概要: PSO-PINN: Physics-Informed Neural Networks Trained with Particle Swarm
Optimization
- arxiv url: http://arxiv.org/abs/2202.01943v1
- Date: Fri, 4 Feb 2022 02:21:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-08 01:18:18.181767
- Title: PSO-PINN: Physics-Informed Neural Networks Trained with Particle Swarm
Optimization
- Title(参考訳): PSO-PINN: 粒子群最適化を用いた物理インフォームニューラルネットワーク
- Authors: Caio Davi and Ulisses Braga-Neto
- Abstract要約: そこで本研究では,ハイブリッド粒子群最適化と勾配降下法を用いてPINNを訓練する手法を提案する。
PSO-PINNアルゴリズムは、標準勾配降下法で訓練されたPINNの望ましくない挙動を緩和する。
実験の結果, PSO-PINNはアダム勾配降下法でトレーニングしたベースラインPINNよりも一貫して優れていた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Physics-informed neural networks (PINNs) have recently emerged as a promising
application of deep learning in a wide range of engineering and scientific
problems based on partial differential equation models. However, evidence shows
that PINN training by gradient descent displays pathologies and stiffness in
gradient flow dynamics. In this paper, we propose the use of a hybrid particle
swarm optimization and gradient descent approach to train PINNs. The resulting
PSO-PINN algorithm not only mitigates the undesired behaviors of PINNs trained
with standard gradient descent, but also presents an ensemble approach to PINN
that affords the possibility of robust predictions with quantified uncertainty.
Experimental results using the Poisson, advection, and Burgers equations show
that PSO-PINN consistently outperforms a baseline PINN trained with Adam
gradient descent.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)は、最近、偏微分方程式モデルに基づく幅広い工学的および科学的問題におけるディープラーニングの有望な応用として登場した。
しかし, 勾配降下によるPINNトレーニングは, 勾配流力学における病理と剛性を示すことを示す証拠がある。
本稿では,ハイブリッド粒子群最適化と勾配降下法を用いて,PINNの訓練を行う。
結果として得られるPSO-PINNアルゴリズムは、標準勾配降下で訓練されたPINNの望ましくない振る舞いを緩和するだけでなく、定量化された不確実性を伴う堅牢な予測を可能にするPINNにアンサンブルアプローチを示す。
Poisson, advection, Burgers 方程式を用いた実験の結果, PSO-PINN はアダム勾配勾配で訓練されたベースライン PINN よりも一貫して優れていた。
関連論文リスト
- Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Ensemble learning for Physics Informed Neural Networks: a Gradient
Boosting approach [4.246111018621605]
段階的強化(GB)と呼ばれる新しい訓練パラダイムを提案する。
与えられたPDEの解を1つのニューラルネットワークで直接学習する代わりに、我々のアルゴリズムは、より優れた結果を得るために、一連のニューラルネットワークを用いています。
この研究は、PINNでアンサンブル学習技術を採用するための扉も開ける。
論文 参考訳(メタデータ) (2023-02-25T19:11:44Z) - Neuroevolution of Physics-Informed Neural Nets: Benchmark Problems and
Comparative Results [25.12291688711645]
物理インフォームドニューラルネットワーク(PINN)は、最近の進歩の最前線にある重要な技術の一つである。
PINNのユニークな損失の定式化は、勾配降下に寄与しない高い複雑さと頑丈さをもたらす。
優れたグローバル検索能力を持つ神経進化アルゴリズムは、PINNにとってより良い選択であるかもしれない。
論文 参考訳(メタデータ) (2022-12-15T05:54:16Z) - Enforcing Continuous Physical Symmetries in Deep Learning Network for
Solving Partial Differential Equations [3.6317085868198467]
我々は,PDEのリー対称性によって誘導される不変表面条件をPINNの損失関数に組み込む,新しい対称性を持つ物理情報ニューラルネットワーク(SPINN)を提案する。
SPINNは、トレーニングポイントが少なく、ニューラルネットワークのよりシンプルなアーキテクチャで、PINNよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-06-19T00:44:22Z) - Auto-PINN: Understanding and Optimizing Physics-Informed Neural
Architecture [77.59766598165551]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングのパワーを科学計算にもたらし、科学と工学の実践に革命をもたらしている。
本稿では,ニューラル・アーキテクチャ・サーチ(NAS)手法をPINN設計に適用したAuto-PINNを提案する。
標準PDEベンチマークを用いた包括的事前実験により、PINNの構造と性能の関係を探索することができる。
論文 参考訳(メタデータ) (2022-05-27T03:24:31Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳(メタデータ) (2022-05-18T06:50:44Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳(メタデータ) (2022-02-18T18:07:54Z) - Physics-Informed Neural Operator for Learning Partial Differential
Equations [55.406540167010014]
PINOは、演算子を学ぶために異なる解像度でデータとPDE制約を組み込んだ最初のハイブリッドアプローチである。
結果の PINO モデルは、多くの人気のある PDE ファミリの基底構造解演算子を正確に近似することができる。
論文 参考訳(メタデータ) (2021-11-06T03:41:34Z) - Gradient-enhanced physics-informed neural networks for forward and
inverse PDE problems [2.0062792633909026]
深層学習は物理情報ニューラルネットワーク(PINN)による偏微分方程式(PDE)の解法として有効であることが示されている。
PINNはPDE残基をニューラルネットワークの損失関数に埋め込んでおり、様々な前方および逆PDE問題の解決に成功している。
そこで本研究では, PINNの精度とトレーニング効率を向上させるために, 勾配型物理インフォームドニューラルネットワーク(gPINN)を提案する。
論文 参考訳(メタデータ) (2021-11-01T18:01:38Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。