論文の概要: A Sequential Meta-Transfer (SMT) Learning to Combat Complexities of
Physics-Informed Neural Networks: Application to Composites Autoclave
Processing
- arxiv url: http://arxiv.org/abs/2308.06447v1
- Date: Sat, 12 Aug 2023 02:46:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-08-15 17:23:44.280534
- Title: A Sequential Meta-Transfer (SMT) Learning to Combat Complexities of
Physics-Informed Neural Networks: Application to Composites Autoclave
Processing
- Title(参考訳): 物理インフォームドニューラルネットワークの複雑化に対する逐次メタトランスファー(SMT)学習:コンポジットオートクレーブ処理への応用
- Authors: Milad Ramezankhani and Abbas S. Milani
- Abstract要約: PINNは非線形偏微分方程式の解法として人気がある。
PINNは、与えられたPDEシステムの特定の実現を近似するように設計されている。
新しいシステム構成に効率的に適応するために必要な一般化性は欠如している。
- 参考スコア(独自算出の注目度): 1.6317061277457001
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Physics-Informed Neural Networks (PINNs) have gained popularity in solving
nonlinear partial differential equations (PDEs) via integrating physical laws
into the training of neural networks, making them superior in many scientific
and engineering applications. However, conventional PINNs still fall short in
accurately approximating the solution of complex systems with strong
nonlinearity, especially in long temporal domains. Besides, since PINNs are
designed to approximate a specific realization of a given PDE system, they lack
the necessary generalizability to efficiently adapt to new system
configurations. This entails computationally expensive re-training from scratch
for any new change in the system. To address these shortfalls, in this work a
novel sequential meta-transfer (SMT) learning framework is proposed, offering a
unified solution for both fast training and efficient adaptation of PINNs in
highly nonlinear systems with long temporal domains. Specifically, the
framework decomposes PDE's time domain into smaller time segments to create
"easier" PDE problems for PINNs training. Then for each time interval, a
meta-learner is assigned and trained to achieve an optimal initial state for
rapid adaptation to a range of related tasks. Transfer learning principles are
then leveraged across time intervals to further reduce the computational
cost.Through a composites autoclave processing case study, it is shown that SMT
is clearly able to enhance the adaptability of PINNs while significantly
reducing computational cost, by a factor of 100.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)は、物理法則をニューラルネットワークのトレーニングに統合することで非線形偏微分方程式(PDE)を解くことで人気を集め、多くの科学的・工学的応用において優れている。
しかし、従来のPINNは、特に長い時間領域において、強い非線形性を持つ複雑なシステムの解を正確に近似するに足りていない。
さらに、PINNは与えられたPDEシステムの特定の実現を近似するように設計されているため、新しいシステム構成に効率的に適応するために必要な一般化性は欠如している。
これは、システム内の新しい変更に対して、スクラッチから計算コストの高い再トレーニングを伴います。
これらの欠点に対処するため,本研究では,時間領域が長い高非線形システムにおいて,高速トレーニングとピンの効率的な適応のための統一解を提供する,新しい逐次メタトランスファー(smt)学習フレームワークを提案する。
具体的には、PDEの時間領域を小さな時間セグメントに分解して、PINNのトレーニングに"より簡単な"PDE問題を生成する。
そして、各時間間隔毎にメタラーナーを割り当てて訓練し、関連するタスクに迅速に適応するための最適な初期状態を達成する。
次に, 移動学習の原理を時間間隔で活用して計算コストをさらに削減し, 合成オートクレーブ処理ケーススタディにより, SMTはPINNの適応性を高めつつ, 計算コストを100倍に削減できることが明らかとなった。
関連論文リスト
- Efficient Discrete Physics-informed Neural Networks for Addressing
Evolutionary Partial Differential Equations [7.235476098729406]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングを用いて偏微分方程式(PDE)を解く有望な可能性を示している。
PINNの損失における時間的特徴の全てを同時に訓練するため、PINNは時間的因果性に違反する可能性がある。
本稿では,時間的因果関係を強制するために暗黙の時間差分法を用い,空間内のPINNを異なる時間フレームにおけるPDEソリューションのサロゲートとして逐次更新するために転送学習を用いることを提案する。
論文 参考訳(メタデータ) (2023-12-22T11:09:01Z) - PINNsFormer: A Transformer-Based Framework For Physics-Informed Neural Networks [22.39904196850583]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)の数値解を近似するための有望なディープラーニングフレームワークとして登場した。
我々は,この制限に対処するために,新しいTransformerベースのフレームワークであるPINNsFormerを紹介した。
PINNsFormerは、PINNの障害モードや高次元PDEなど、様々なシナリオにおいて優れた一般化能力と精度を実現する。
論文 参考訳(メタデータ) (2023-07-21T18:06:27Z) - A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions [22.514769448363754]
PINNとXPINNの時間依存型PDEのトレーニング課題について論じる。
PINNとXPINNのギャップを埋める新しい積み重ね分解法を提案する。
また,従来のPINNの因果性にインスパイアされた新しいタイムスウィーピング・コロケーション・ポイント・アルゴリズムを定式化した。
論文 参考訳(メタデータ) (2023-02-28T01:19:21Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Separable PINN: Mitigating the Curse of Dimensionality in
Physics-Informed Neural Networks [6.439575695132489]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆問題の両方に新しいデータ駆動型PDEソルバとして登場した。
自動微分(AD)の計算は、PINNのトレーニングにおいて前方モードADを活用することで大幅に削減できることを示す。
我々は、より効率的な計算のために、前進モードADを容易に行える分離可能なPINN(SPINN)と呼ばれるネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-11-16T08:46:52Z) - Auto-PINN: Understanding and Optimizing Physics-Informed Neural
Architecture [77.59766598165551]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングのパワーを科学計算にもたらし、科学と工学の実践に革命をもたらしている。
本稿では,ニューラル・アーキテクチャ・サーチ(NAS)手法をPINN設計に適用したAuto-PINNを提案する。
標準PDEベンチマークを用いた包括的事前実験により、PINNの構造と性能の関係を探索することができる。
論文 参考訳(メタデータ) (2022-05-27T03:24:31Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳(メタデータ) (2022-05-18T06:50:44Z) - Improved Training of Physics-Informed Neural Networks with Model
Ensembles [81.38804205212425]
我々は、PINNを正しい解に収束させるため、解区間を徐々に拡大することを提案する。
すべてのアンサンブルのメンバーは、観測されたデータの近くで同じ解に収束する。
提案手法は, 得られた解の精度を向上させることができることを示す。
論文 参考訳(メタデータ) (2022-04-11T14:05:34Z) - Characterizing possible failure modes in physics-informed neural
networks [55.83255669840384]
科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。
既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。
これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
論文 参考訳(メタデータ) (2021-09-02T16:06:45Z) - Physics-informed attention-based neural network for solving non-linear
partial differential equations [6.103365780339364]
物理情報ニューラルネットワーク(PINN)は、物理プロセスのモデリングにおいて大幅な改善を実現しました。
PINNは単純なアーキテクチャに基づいており、ネットワークパラメータを最適化することで複雑な物理システムの振る舞いを学習し、基礎となるPDEの残余を最小限に抑える。
ここでは、非線形PDEの複雑な振る舞いを学ぶのに、どのネットワークアーキテクチャが最適かという問題に対処する。
論文 参考訳(メタデータ) (2021-05-17T14:29:08Z) - A Meta-Learning Approach to the Optimal Power Flow Problem Under
Topology Reconfigurations [69.73803123972297]
メタラーニング(MTL)アプローチを用いて訓練されたDNNベースのOPF予測器を提案する。
開発したOPF予測器はベンチマークIEEEバスシステムを用いてシミュレーションにより検証される。
論文 参考訳(メタデータ) (2020-12-21T17:39:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。