論文の概要: A Novel Adaptive Causal Sampling Method for Physics-Informed Neural
Networks
- arxiv url: http://arxiv.org/abs/2210.12914v1
- Date: Mon, 24 Oct 2022 01:51:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-25 22:10:28.493928
- Title: A Novel Adaptive Causal Sampling Method for Physics-Informed Neural
Networks
- Title(参考訳): 物理形ニューラルネットワークのための新しい適応因果サンプリング法
- Authors: Jia Guo, Haifeng Wang, Chenping Hou
- Abstract要約: インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)の解を得るための魅力的な機械学習手法である。
適応サンプリングに時間因果性を導入し,PINの性能と効率を向上させるための適応因果サンプリング手法を提案する。
本研究では, 比較的単純なサンプリング手法を用いることで, 予測性能を2桁まで向上できることを実証した。
- 参考スコア(独自算出の注目度): 35.25394937917774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physics-Informed Neural Networks (PINNs) have become a kind of attractive
machine learning method for obtaining solutions of partial differential
equations (PDEs). Training PINNs can be seen as a semi-supervised learning
task, in which only exact values of initial and boundary points can be obtained
in solving forward problems, and in the whole spatio-temporal domain
collocation points are sampled without exact labels, which brings training
difficulties. Thus the selection of collocation points and sampling methods are
quite crucial in training PINNs. Existing sampling methods include fixed and
dynamic types, and in the more popular latter one, sampling is usually
controlled by PDE residual loss. We point out that it is not sufficient to only
consider the residual loss in adaptive sampling and sampling should obey
temporal causality. We further introduce temporal causality into adaptive
sampling and propose a novel adaptive causal sampling method to improve the
performance and efficiency of PINNs. Numerical experiments of several PDEs with
high-order derivatives and strong nonlinearity, including Cahn Hilliard and KdV
equations, show that the proposed sampling method can improve the performance
of PINNs with few collocation points. We demonstrate that by utilizing such a
relatively simple sampling method, prediction performance can be improved up to
two orders of magnitude compared with state-of-the-art results with almost no
extra computation cost, especially when points are limited.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解を得るための魅力的な機械学習手法である。
トレーニングPINNは、前向きの問題を解決するために初期値と境界点の正確な値しか取得できない半教師付き学習タスクと見なすことができ、時空間の座標点全体を正確なラベルなしでサンプリングすることで、トレーニングの困難をもたらす。
したがって,訓練ピンではコロケーションポイントの選択とサンプリング手法が極めて重要である。
既存のサンプリング手法には固定型と動的型が含まれており、後者ではサンプリングは通常PDE残留損失によって制御される。
適応サンプリングとサンプリングの残留損失を時間的因果性に従うだけでは十分ではないと指摘する。
さらに、適応サンプリングに時間因果性を導入し、新しい適応因果サンプリング法を提案し、PINNの性能と効率を改善する。
Cahn Hilliard 方程式や KdV 方程式など,高次微分と強い非線形性を持つ複数の PDE の数値実験により,提案手法はコロケーション点の少ない PINN の性能を向上させることができることを示した。
このような比較的単純なサンプリング手法を用いることで、特に点が制限された場合には、計算コストをほとんど必要とせず、最先端の結果と比較して予測性能を最大2桁改善できることを示す。
関連論文リスト
- Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Adversarial Adaptive Sampling: Unify PINN and Optimal Transport for the Approximation of PDEs [2.526490864645154]
ニューラルネットワークモデルにより与えられた近似解とトレーニングセットのランダムサンプルを同時に最適化する新しいminmax式を提案する。
鍵となる考え方は、深層生成モデルを用いてトレーニングセット内のランダムサンプルを調整し、近似されたPDE解によって誘導される残差が滑らかなプロファイルを維持することである。
論文 参考訳(メタデータ) (2023-05-30T02:59:18Z) - Asymptotically Unbiased Instance-wise Regularized Partial AUC
Optimization: Theory and Algorithm [101.44676036551537]
One-way partial AUC (OPAUC) と Two-way partial AUC (TPAUC) はバイナリ分類器の平均性能を測定する。
既存の手法のほとんどはPAUCをほぼ最適化するしかなく、制御不能なバイアスにつながる。
本稿では,分散ロバスト最適化AUCによるPAUC問題の簡易化について述べる。
論文 参考訳(メタデータ) (2022-10-08T08:26:22Z) - Failure-informed adaptive sampling for PINNs [5.723850818203907]
物理学インフォームドニューラルネットワーク(PINN)は、幅広い領域でPDEを解決する効果的な手法として登場した。
しかし、最近の研究では、異なるサンプリング手順でPINNの性能が劇的に変化することが示されている。
本稿では,信頼度分析の視点から,故障インフォームドPINNという適応的手法を提案する。
論文 参考訳(メタデータ) (2022-10-01T13:34:41Z) - Physics-Informed Neural Network Method for Parabolic Differential
Equations with Sharply Perturbed Initial Conditions [68.8204255655161]
急激な摂動初期条件を持つパラボラ問題に対する物理インフォームドニューラルネットワーク(PINN)モデルを開発した。
ADE解の局所的な大きな勾配は(PINNでよく見られる)ラテンハイパーキューブで方程式の残余の高効率なサンプリングを行う。
本稿では,他の方法により選択した量よりも精度の高いPINNソリューションを生成する損失関数における重みの基準を提案する。
論文 参考訳(メタデータ) (2022-08-18T05:00:24Z) - A comprehensive study of non-adaptive and residual-based adaptive
sampling for physics-informed neural networks [3.0975832075350165]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の前方および逆問題の解法として有効であることが示されている。
PINNはPDEをニューラルネットワークの損失に埋め込んでおり、このPDE損失は散在する残差点のセットで評価される。
PINNの既存の研究では主に単純な残留点サンプリング法がほとんど使われていない。
論文 参考訳(メタデータ) (2022-07-21T03:57:27Z) - Adaptive Self-supervision Algorithms for Physics-informed Neural
Networks [59.822151945132525]
物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。
これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。
モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
論文 参考訳(メタデータ) (2022-07-08T18:17:06Z) - DAS: A deep adaptive sampling method for solving partial differential
equations [2.934397685379054]
偏微分方程式(PDE)を解くための深層適応サンプリング法(DAS)を提案する。
深部ニューラルネットワークを用いてPDEの解を近似し、深部生成モデルを用いてトレーニングセットを洗練させる新しいコロケーションポイントを生成する。
そこで本研究では,DAS法が誤差境界を低減し,数値実験によりその有効性を実証できることを示す理論的解析を行った。
論文 参考訳(メタデータ) (2021-12-28T08:37:47Z) - Efficient training of physics-informed neural networks via importance
sampling [2.9005223064604078]
Physics-In Neural Networks(PINN)は、偏微分方程式(PDE)によって制御されるシステムを計算するために訓練されているディープニューラルネットワークのクラスである。
重要サンプリング手法により,PINN訓練の収束挙動が改善されることが示唆された。
論文 参考訳(メタデータ) (2021-04-26T02:45:10Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z) - Bandit Samplers for Training Graph Neural Networks [63.17765191700203]
グラフ畳み込みネットワーク(GCN)の訓練を高速化するために, ばらつきを低減したサンプリングアルゴリズムが提案されている。
これらのサンプリングアルゴリズムは、グラフ注意ネットワーク(GAT)のような固定重みよりも学習重量を含む、より一般的なグラフニューラルネットワーク(GNN)には適用できない。
論文 参考訳(メタデータ) (2020-06-10T12:48:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。