論文の概要: A hybrid MGA-MSGD ANN training approach for approximate solution of linear elliptic PDEs

• arxiv url: http://arxiv.org/abs/2012.11517v1
• Date: Fri, 18 Dec 2020 10:59:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2021-05-02 00:14:30.560063
• Title: A hybrid MGA-MSGD ANN training approach for approximate solution of linear elliptic PDEs
• Title（参考訳）: 線形楕円型PDEの近似解に対するハイブリッドMGA-MSGD ANNトレーニング手法
• Authors: Hamidreza Dehghani and Andreas Zilian
• Abstract要約: MGA-MSGD(Modified Genetic-Multilevel Gradient Descent)トレーニングアルゴリズムを導入しました。 ANNによるPDEによって記述された3次元機械的問題の精度と効率を大幅に改善する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce a hybrid "Modified Genetic Algorithm-Multilevel Stochastic Gradient Descent" (MGA-MSGD) training algorithm that considerably improves accuracy and efficiency of solving 3D mechanical problems described, in strong-form, by PDEs via ANNs (Artificial Neural Networks). This presented approach allows the selection of a number of locations of interest at which the state variables are expected to fulfil the governing equations associated with a physical problem. Unlike classical PDE approximation methods such as finite differences or the finite element method, there is no need to establish and reconstruct the physical field quantity throughout the computational domain in order to predict the mechanical response at specific locations of interest. The basic idea of MGA-MSGD is the manipulation of the learnable parameters' components responsible for the error explosion so that we can train the network with relatively larger learning rates which avoids trapping in local minima. The proposed training approach is less sensitive to the learning rate value, training points density and distribution, and the random initial parameters. The distance function to minimise is where we introduce the PDEs including any physical laws and conditions (so-called, Physics Informed ANN). The Genetic algorithm is modified to be suitable for this type of ANN in which a Coarse-level Stochastic Gradient Descent (CSGD) is exploited to make the decision of the offspring qualification. Employing the presented approach, a considerable improvement in both accuracy and efficiency, compared with standard training algorithms such as classical SGD and Adam optimiser, is observed. The local displacement accuracy is studied and ensured by introducing the results of Finite Element Method (FEM) at sufficiently fine mesh as the reference displacements. A slightly more complex problem is solved ensuring its feasibility.
• Abstract（参考訳）: 本稿では,psd(artificial neural networks)によるpdesによる3次元機械的問題解決の精度と効率を大幅に向上させる"modified genetic algorithm-multilevel stochastic gradient descent"(mga-msgd)訓練アルゴリズムを提案する。 このアプローチにより、状態変数が物理問題に関連する制御方程式を満たすと期待される多くの関心の場所を選択することができる。 有限差分法や有限要素法のような古典的なPDE近似法とは異なり、特定の場所における機械的応答を予測するために、計算領域全体にわたる物理場量の確立と再構成は不要である。 MGA-MSGDの基本的な考え方は、学習可能なパラメータのコンポーネントがエラーの爆発の原因となり、ローカルなミニマのトラップを避けるために、比較的大きな学習率でネットワークを訓練できるようにすることである。 提案手法は,学習速度値,学習点密度と分布,およびランダムな初期パラメータにはあまり敏感ではない。 最小化のための距離関数は、物理法則や条件を含むPDEを導入する(いわゆる物理インフォームドANN)。 遺伝的アルゴリズムは、粗レベル確率勾配降下(csgd)を利用して子孫資格を決定するこのタイプのアンに適合するように修正されている。 提案手法を用いることで,従来のSGDやAdam optimiserなどの標準トレーニングアルゴリズムと比較して,精度と効率の両面で大幅な改善が見られた。 有限要素法 (FEM) の結果を基準変位として十分に微細なメッシュに導入することにより, 局所変位精度を検討した。 もう少し複雑な問題は、その実現可能性を保証するために解決される。

関連論文リスト

• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Enabling Automatic Differentiation with Mollified Graph Neural Operators [75.3183193262225]
  本稿では,任意の測地上での自動微分とエンフェクサクタクティック勾配を計算するための最初の手法であるモリファイドグラフニューラル演算子 (mGNO) を提案する。 正規格子上のPDEの例では、mGNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。 また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
  論文  参考訳（メタデータ） (2025-04-11T06:16:30Z)
• PIG: Physics-Informed Gaussians as Adaptive Parametric Mesh Representations [5.4087282763977855]
  本稿では,ガウス関数を用いた特徴埋め込みと軽量ニューラルネットワークを組み合わせた物理インフォームドガウス(PIG)を提案する。 提案手法では,各ガウス平均と分散にトレーニング可能なパラメータを用い,トレーニング中の位置と形状を動的に調整する。 実験の結果,複雑なPDEを解くための堅牢なツールとしての可能性を示した。
  論文  参考訳（メタデータ） (2024-12-08T16:58:29Z)
• Two-Stage ML-Guided Decision Rules for Sequential Decision Making under Uncertainty [55.06411438416805]
  SDMU (Sequential Decision Making Under Uncertainty) は、エネルギー、金融、サプライチェーンといった多くの領域において、ユビキタスである。 いくつかのSDMUは、自然にマルチステージ問題(MSP)としてモデル化されているが、結果として得られる最適化は、計算の観点からは明らかに困難である。 本稿では,2段階の一般決定規則(TS-GDR)を導入し,線形関数を超えて政策空間を一般化する手法を提案する。 TS-GDRの有効性は、TS-LDR(Two-Stage Deep Decision Rules)と呼ばれるディープリカレントニューラルネットワークを用いたインスタンス化によって実証される。
  論文  参考訳（メタデータ） (2024-05-23T18:19:47Z)
• A Physics-driven GraphSAGE Method for Physical Process Simulations Described by Partial Differential Equations [2.1217718037013635]
  物理駆動型グラフSAGE法は不規則なPDEによって支配される問題を解くために提案される。 距離関連エッジ機能と特徴マッピング戦略は、トレーニングと収束を支援するために考案された。 ガウス特異性ランダム場源によりパラメータ化された熱伝導問題に対するロバストPDEサロゲートモデルの構築に成功した。
  論文  参考訳（メタデータ） (2024-03-13T14:25:15Z)
• Neural-Integrated Meshfree (NIM) Method: A differentiable programming-based hybrid solver for computational mechanics [1.7132914341329852]
  本稿では、計算力学の分野における微分可能なプログラミングに基づくハイブリッドメッシュフリーアプローチである、ニューラル積分メッシュフリー(NIM)手法を提案する。 NIMは、従来の物理ベースのメッシュフリーな離散化技術とディープラーニングアーキテクチャをシームレスに統合する。 NIM フレームワークでは,強い形式ベース NIM (S-NIM) と局所変動形式ベース NIM (V-NIM) の2つの真のメッシュフリーな解法を提案する。
  論文  参考訳（メタデータ） (2023-11-21T17:57:12Z)
• A Multi-Head Ensemble Multi-Task Learning Approach for Dynamical Computation Offloading [62.34538208323411]
  共有バックボーンと複数の予測ヘッド(PH)を組み合わせたマルチヘッドマルチタスク学習(MEMTL)手法を提案する。 MEMTLは、追加のトレーニングデータを必要とせず、推測精度と平均平方誤差の両方でベンチマーク手法より優れている。
  論文  参考訳（メタデータ） (2023-09-02T11:01:16Z)
• Learning Controllable Adaptive Simulation for Multi-resolution Physics [86.8993558124143]
  完全深層学習に基づくサロゲートモデルとして,LAMP(Learning Controllable Adaptive Simulation for Multi- resolution Physics)を導入した。 LAMPは、前方進化を学習するためのグラフニューラルネットワーク(GNN)と、空間的洗練と粗大化のポリシーを学ぶためのGNNベースのアクター批判で構成されている。 我々は,LAMPが最先端のディープラーニングサロゲートモデルより優れており,長期予測誤差を改善するために,適応的なトレードオフ計算が可能であることを実証した。
  論文  参考訳（メタデータ） (2023-05-01T23:20:27Z)
• GAS: A Gaussian Mixture Distribution-Based Adaptive Sampling Method for PINNs [6.011027400738812]
  PINNは高次元問題を効率的に処理できるが、精度は比較的低く、特に非常に不規則な問題に対してである。 適応有限要素法と漸進学習のアイデアに着想を得て,ガウス混合分布に基づくPINNの適応サンプリング法であるGASを提案する。 2次元および10次元問題の数値シミュレーションにより、GASは従来の数値解法に匹敵しながら、ディープ・ソルバの最先端の精度を実現する有望な方法であることが示された。
  論文  参考訳（メタデータ） (2023-03-28T09:40:06Z)
• Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。 本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-03-03T08:17:47Z)
• Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
  教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。 我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。 対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
  論文  参考訳（メタデータ） (2023-02-10T08:05:19Z)
• JAX-DIPS: Neural bootstrapping of finite discretization methods and application to elliptic problems with discontinuities [0.0]
  この戦略は、偏微分方程式のニューラルネットワークサロゲートモデルを効率的に訓練するために使用できる。 提案したニューラルブートストラップ法(以下 NBM と呼ぶ)は,PDE システムの有限離散化残基の評価に基づいている。 NBMは他のPINNタイプのフレームワークとメモリとトレーニングの速度で競合することを示す。
  論文  参考訳（メタデータ） (2022-10-25T20:13:26Z)
• Local AdaGrad-Type Algorithm for Stochastic Convex-Concave Minimax Problems [80.46370778277186]
  大規模凸凹型ミニマックス問題は、ゲーム理論、堅牢なトレーニング、生成的敵ネットワークのトレーニングなど、多くの応用で発生する。 通信効率のよい分散外グレードアルゴリズムであるLocalAdaSientを開発した。 サーバモデル。 等質な環境と異質な環境の両方において,その有効性を実証する。
  論文  参考訳（メタデータ） (2021-06-18T09:42:05Z)
• Bayesian Sparse learning with preconditioned stochastic gradient MCMC and its applications [5.660384137948734]
  提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束する。 提案アルゴリズムは, 温和な条件下で, 制御可能なバイアスで正しい分布に収束可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-29T20:57:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。