論文の概要: Green Multigrid Network
- arxiv url: http://arxiv.org/abs/2407.03593v1
- Date: Thu, 4 Jul 2024 03:02:10 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-08 19:31:32.366962
- Title: Green Multigrid Network
- Title(参考訳): グリーンマルチグリッドネットワーク
- Authors: Ye Lin, Young Ju Lee, Jiwei Jia,
- Abstract要約: グリーンラーニングネットワーク(GL)は物理空間におけるグリーン関数を学習し、偏微分方程式(PDE)の未知解作用素を捉えるための解釈可能なモデルとなる
本論文では,グリーン関数の特異性を考慮した演算子学習アルゴリズムであるGreen Multigrid Network (GreenMGNet) を提案する。
先駆的なGLと比較すると、新しいフレームワークは精度と効率が向上し、大幅な改善を実現している。
- 参考スコア(独自算出の注目度): 6.397295511397678
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: GreenLearning networks (GL) directly learn Green's function in physical space, making them an interpretable model for capturing unknown solution operators of partial differential equations (PDEs). For many PDEs, the corresponding Green's function exhibits asymptotic smoothness. In this paper, we propose a framework named Green Multigrid networks (GreenMGNet), an operator learning algorithm designed for a class of asymptotically smooth Green's functions. Compared with the pioneering GL, the new framework presents itself with better accuracy and efficiency, thereby achieving a significant improvement. GreenMGNet is composed of two technical novelties. First, Green's function is modeled as a piecewise function to take into account its singular behavior in some parts of the hyperplane. Such piecewise function is then approximated by a neural network with augmented output(AugNN) so that it can capture singularity accurately. Second, the asymptotic smoothness property of Green's function is used to leverage the Multi-Level Multi-Integration (MLMI) algorithm for both the training and inference stages. Several test cases of operator learning are presented to demonstrate the accuracy and effectiveness of the proposed method. On average, GreenMGNet achieves $3.8\%$ to $39.15\%$ accuracy improvement. To match the accuracy level of GL, GreenMGNet requires only about $10\%$ of the full grid data, resulting in a $55.9\%$ and $92.5\%$ reduction in training time and GPU memory cost for one-dimensional test problems, and a $37.7\%$ and $62.5\%$ reduction for two-dimensional test problems.
- Abstract(参考訳): グリーンラーニングネットワーク(GL)は、物理空間におけるグリーン関数を直接学習し、偏微分方程式(PDE)の未知解作用素を捉えるための解釈可能なモデルとなる。
多くのPDEに対して、対応するグリーン関数は漸近的滑らかさを示す。
本稿では,グリーン関数の漸近的スムーズなクラスのために設計された演算子学習アルゴリズムであるGreen Multigrid Network (GreenMGNet)を提案する。
先駆的なGLと比較すると、新しいフレームワークは精度と効率が向上し、大幅な改善を実現している。
GreenMGNetは2つの技術ノベルティで構成されている。
第一に、グリーン関数は超平面のいくつかの部分における特異な振る舞いを考慮に入れた断片的関数としてモデル化される。
このような関数は、拡張出力(AugNN)を持つニューラルネットワークによって近似され、特異点を正確に捉えることができる。
第二に、グリーン関数の漸近滑らか性は、学習段階と推論段階の両方にマルチレベル・マルチ・インテグレーション(MLMI)アルゴリズムを活用するために用いられる。
提案手法の精度と有効性を示すために,演算子学習のいくつかの試験事例を提示する。
平均して、GreenMGNetは$3.8\%から$39.15\%の精度向上を達成した。
GLの精度レベルに合わせるために、GreenMGNetは全グリッドデータの約10\%しか必要とせず、結果として1次元テスト問題に対するトレーニング時間とGPUメモリコストの削減が5,5.9\%と92.5\%、二次元テスト問題に対する37.7\%と62.5\%の削減が要求される。
関連論文リスト
- On the Convergence of Multi-objective Optimization under Generalized Smoothness [27.87166415148172]
我々はより一般的で現実的な$ell$-smooth損失関数のクラスを研究し、$ell$は一般の非減少関数ノルムである。
我々は、$ell$-smooth Generalized Multi-MOO GradientGradと、その変種である Generalized Smooth Multi-MOO descentの2つの新しいアルゴリズムを開発した。
私たちのアルゴリズムは、より厳密な$mathcalO(epsilon-2)$を各イテレーションで、より多くのサンプルを使って保証します。
論文 参考訳(メタデータ) (2024-05-29T18:36:59Z) - Learning Green's Function Efficiently Using Low-Rank Approximations [44.46178415547532]
グリーン関数に対する深層学習の実践的な制限は、計算的に高価なモンテカルロ積分近似の繰り返しである。
低ランクな分解によってグリーン関数を学習し、冗長な計算を除去する新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-08-01T07:43:46Z) - Cramer Type Distances for Learning Gaussian Mixture Models by Gradient
Descent [0.0]
今日まで、ガウス混合モデルに適合または学習できる既知のアルゴリズムはほとんどない。
一般多変量GMM学習のためのスライスクラマー2距離関数を提案する。
これらの機能は、分散強化学習とディープQネットワークに特に有用である。
論文 参考訳(メタデータ) (2023-07-13T13:43:02Z) - On Convergence of Incremental Gradient for Non-Convex Smooth Functions [63.51187646914962]
機械学習とネットワーク最適化では、ミスの数と優れたキャッシュを最小化するため、シャッフルSGDのようなアルゴリズムが人気である。
本稿では任意のデータ順序付けによる収束特性SGDアルゴリズムについて述べる。
論文 参考訳(メタデータ) (2023-05-30T17:47:27Z) - BI-GreenNet: Learning Green's functions by boundary integral network [14.008606361378149]
グリーン関数は偏微分方程式の理論解析と数値計算において重要な役割を果たしている。
我々はグリーン関数を高精度に計算する新しい方法を開発した。
論文 参考訳(メタデータ) (2022-04-28T01:42:35Z) - Graph-adaptive Rectified Linear Unit for Graph Neural Networks [64.92221119723048]
グラフニューラルネットワーク(GNN)は、従来の畳み込みを非ユークリッドデータでの学習に拡張することで、目覚ましい成功を収めた。
本稿では,周辺情報を利用した新しいパラメトリックアクティベーション機能であるグラフ適応整流線形ユニット(GRELU)を提案する。
我々は,GNNのバックボーンと様々な下流タスクによって,プラグアンドプレイGRELU法が効率的かつ効果的であることを示す包括的実験を行った。
論文 参考訳(メタデータ) (2022-02-13T10:54:59Z) - Greenformer: Factorization Toolkit for Efficient Deep Neural Networks [35.47418512373472]
Greenformerは、行列分解によるニューラルネットワークの計算を高速化するツールキットである。
実験の結果,Greenformerは幅広いシナリオに有効であることがわかった。
論文 参考訳(メタデータ) (2021-09-14T15:27:05Z) - Exploiting Adam-like Optimization Algorithms to Improve the Performance
of Convolutional Neural Networks [82.61182037130405]
勾配降下(SGD)は深いネットワークを訓練するための主要なアプローチです。
本研究では,現在と過去の勾配の違いに基づいて,Adamに基づく変分を比較する。
resnet50を勾配降下訓練したネットワークのアンサンブルと融合実験を行った。
論文 参考訳(メタデータ) (2021-03-26T18:55:08Z) - SALA: Soft Assignment Local Aggregation for Parameter Efficient 3D
Semantic Segmentation [65.96170587706148]
3dポイントクラウドセマンティクスセグメンテーションのためのパラメータ効率の良いネットワークを生成するポイントローカルアグリゲーション関数の設計に着目する。
グリッド型アグリゲーション関数における学習可能な隣り合わせソフトアロケーションの利用について検討する。
論文 参考訳(メタデータ) (2020-12-29T20:16:37Z) - Learning outside the Black-Box: The pursuit of interpretable models [78.32475359554395]
本稿では,任意の連続ブラックボックス関数の連続的大域的解釈を生成するアルゴリズムを提案する。
我々の解釈は、その芸術の以前の状態から飛躍的な進歩を表している。
論文 参考訳(メタデータ) (2020-11-17T12:39:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。