論文の概要: A comprehensive study of non-adaptive and residual-based adaptive
sampling for physics-informed neural networks
- arxiv url: http://arxiv.org/abs/2207.10289v1
- Date: Thu, 21 Jul 2022 03:57:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-22 13:50:50.045974
- Title: A comprehensive study of non-adaptive and residual-based adaptive
sampling for physics-informed neural networks
- Title（参考訳）: 物理インフォームドニューラルネットワークの非適応型および残留型適応サンプリングに関する総合的研究
- Authors: Chenxi Wu, Min Zhu, Qinyang Tan, Yadhu Kartha, Lu Lu
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の前方および逆問題の解法として有効であることが示されている。
PINNはPDEをニューラルネットワークの損失に埋め込んでおり、このPDE損失は散在する残差点のセットで評価される。
PINNの既存の研究では主に単純な残留点サンプリング法がほとんど使われていない。
- 参考スコア（独自算出の注目度）: 3.0975832075350165
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Physics-informed neural networks (PINNs) have shown to be an effective tool
for solving forward and inverse problems of partial differential equations
(PDEs). PINNs embed the PDEs into the loss of the neural network, and this PDE
loss is evaluated at a set of scattered residual points. The distribution of
these points are highly important to the performance of PINNs. However, in the
existing studies on PINNs, only a few simple residual point sampling methods
have mainly been used. Here, we present a comprehensive study of two categories
of sampling: non-adaptive uniform sampling and adaptive nonuniform sampling. We
consider six uniform sampling, including (1) equispaced uniform grid, (2)
uniformly random sampling, (3) Latin hypercube sampling, (4) Halton sequence,
(5) Hammersley sequence, and (6) Sobol sequence. We also consider a resampling
strategy for uniform sampling. To improve the sampling efficiency and the
accuracy of PINNs, we propose two new residual-based adaptive sampling methods:
residual-based adaptive distribution (RAD) and residual-based adaptive
refinement with distribution (RAR-D), which dynamically improve the
distribution of residual points based on the PDE residuals during training.
Hence, we have considered a total of 10 different sampling methods, including
six non-adaptive uniform sampling, uniform sampling with resampling, two
proposed adaptive sampling, and an existing adaptive sampling. We extensively
tested the performance of these sampling methods for four forward problems and
two inverse problems in many setups. Our numerical results presented in this
study are summarized from more than 6000 simulations of PINNs. We show that the
proposed adaptive sampling methods of RAD and RAR-D significantly improve the
accuracy of PINNs with fewer residual points. The results obtained in this
study can also be used as a practical guideline in choosing sampling methods.
- Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の前方および逆問題の解法として有効であることが示されている。
PINNはPDEをニューラルネットワークの損失に埋め込んでおり、このPDE損失は散在する残差点のセットで評価される。
これらの点の分布はピンのパフォーマンスにとって非常に重要である。
しかし,既存のピンの研究では,簡易な残差点サンプリング法がほとんど用いられていない。
本稿では,非適応型一様サンプリングと適応型一様サンプリングの2つのカテゴリを総合的に検討する。
我々は,(1)等間隔一様格子,(2)一様ランダムサンプリング,(3)ラテンハイパーキューブサンプリング,(4)ハルトン配列,(5)ハマーズリー配列,(6)ソボ配列を含む6つの一様サンプリングを検討した。
また,一様サンプリングのための再サンプリング戦略も検討する。
PINNのサンプリング効率と精度を向上させるために,残差ベース適応分布(RAD)と残差ベース適応分布(RAR-D)の2つの新しい適応サンプリング手法を提案し,PDE残差に基づく残差点分布を動的に改善する。
その結果,6つの非適応型一様サンプリング,一様サンプリング,2つの適応型サンプリング,および既存の適応型サンプリングを含む,合計10種類のサンプリング手法を検討した。
4つの前方問題と2つの逆問題に対して,これらのサンプリング手法の性能を多用した。
本研究で得られた数値結果は, 6000以上のPINNシミュレーションから要約した。
RADとRAR-Dの適応サンプリング手法は,残点が少ないPINNの精度を著しく向上することを示した。
本研究で得られた結果は,サンプリング法を選択するための実践的ガイドラインとしても利用できる。
関連論文リスト
- Optimal Budgeted Rejection Sampling for Generative Models [54.050498411883495]
判別器を用いた生成モデルの性能向上のために, 還元サンプリング法が提案されている。
提案手法は,まず,最適に最適である最適予算削減サンプリング方式を提案する。
第2に,モデル全体の性能を高めるために,サンプリング方式をトレーニング手順に組み込んだエンドツーエンド手法を提案する。
論文 参考訳（メタデータ） (2023-11-01T11:52:41Z) - Adversarial Adaptive Sampling: Unify PINN and Optimal Transport for the Approximation of PDEs [2.526490864645154]
ニューラルネットワークモデルにより与えられた近似解とトレーニングセットのランダムサンプルを同時に最適化する新しいminmax式を提案する。
鍵となる考え方は、深層生成モデルを用いてトレーニングセット内のランダムサンプルを調整し、近似されたPDE解によって誘導される残差が滑らかなプロファイルを維持することである。
論文 参考訳（メタデータ） (2023-05-30T02:59:18Z) - Unsupervised Learning of Sampling Distributions for Particle Filters [80.6716888175925]
観測結果からサンプリング分布を学習する4つの方法を提案する。
実験により、学習されたサンプリング分布は、設計された最小縮退サンプリング分布よりも優れた性能を示すことが示された。
論文 参考訳（メタデータ） (2023-02-02T15:50:21Z) - A Novel Adaptive Causal Sampling Method for Physics-Informed Neural
Networks [35.25394937917774]
インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)の解を得るための魅力的な機械学習手法である。
適応サンプリングに時間因果性を導入し,PINの性能と効率を向上させるための適応因果サンプリング手法を提案する。
本研究では, 比較的単純なサンプリング手法を用いることで, 予測性能を2桁まで向上できることを実証した。
論文 参考訳（メタデータ） (2022-10-24T01:51:08Z) - PCB-RandNet: Rethinking Random Sampling for LIDAR Semantic Segmentation
in Autonomous Driving Scene [15.516687293651795]
大規模LiDAR点雲のセマンティックセグメンテーションのための新しいポーラシリンダバランスランダムサンプリング法を提案する。
さらに,セグメント化性能を向上し,異なるサンプリング法下でのモデルのばらつきを低減するため,サンプリング一貫性損失が導入された。
提案手法は,SemanticKITTIベンチマークとSemanticPOSSベンチマークの両方で優れた性能を示し,それぞれ2.8%と4.0%の改善を実現している。
論文 参考訳（メタデータ） (2022-09-28T02:59:36Z) - Calibrate and Debias Layer-wise Sampling for Graph Convolutional
Networks [39.56471534442315]
本稿では,行列近似の観点からアプローチを再考する。
本稿では,サンプリング確率と効率的なデバイアスアルゴリズムを構築するための新しい原理を提案する。
改良は、推定分散の広範囲な解析と、一般的なベンチマークの実験によって実証される。
論文 参考訳（メタデータ） (2022-06-01T15:52:06Z) - DAS: A deep adaptive sampling method for solving partial differential
equations [2.934397685379054]
偏微分方程式(PDE)を解くための深層適応サンプリング法(DAS)を提案する。
深部ニューラルネットワークを用いてPDEの解を近似し、深部生成モデルを用いてトレーニングセットを洗練させる新しいコロケーションポイントを生成する。
そこで本研究では,DAS法が誤差境界を低減し,数値実験によりその有効性を実証できることを示す理論的解析を行った。
論文 参考訳（メタデータ） (2021-12-28T08:37:47Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳（メタデータ） (2021-10-06T16:58:34Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳（メタデータ） (2021-03-15T16:16:18Z) - Bandit Samplers for Training Graph Neural Networks [63.17765191700203]
グラフ畳み込みネットワーク(GCN)の訓練を高速化するために, ばらつきを低減したサンプリングアルゴリズムが提案されている。
これらのサンプリングアルゴリズムは、グラフ注意ネットワーク(GAT)のような固定重みよりも学習重量を含む、より一般的なグラフニューラルネットワーク(GNN)には適用できない。
論文 参考訳（メタデータ） (2020-06-10T12:48:37Z) - Spatially Adaptive Inference with Stochastic Feature Sampling and
Interpolation [72.40827239394565]
スパースサンプリングされた場所のみの機能を計算することを提案する。
次に、効率的な手順で特徴写像を密に再構築する。
提案したネットワークは、様々なコンピュータビジョンタスクの精度を維持しながら、かなりの計算を省くために実験的に示されている。
論文 参考訳（メタデータ） (2020-03-19T15:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。