論文の概要: Physics-Guided Problem Decomposition for Scaling Deep Learning of
High-dimensional Eigen-Solvers: The Case of Schr\"{o}dinger's Equation
- arxiv url: http://arxiv.org/abs/2202.05994v2
- Date: Tue, 15 Feb 2022 15:49:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-16 11:35:22.276732
- Title: Physics-Guided Problem Decomposition for Scaling Deep Learning of
High-dimensional Eigen-Solvers: The Case of Schr\"{o}dinger's Equation
- Title（参考訳）: 高次元固有ソルバーのスケーリング深度学習のための物理誘導問題分解法 : Schr\"{o}dinger 方程式の場合
- Authors: Sangeeta Srivastava, Samuel Olin, Viktor Podolskiy, Anuj Karpatne,
Wei-Cheng Lee, Anish Arora
- Abstract要約: ディープニューラルネットワーク(NN)は、高次元固有値方程式を解くための従来のシミュレーション駆動アプローチの代替として提案されている。
本稿では,高次元固有ベクトルを単純なサブタスクに分解する複雑な回帰タスクを物理知識を用いて分解する。
量子力学におけるSchr"odinger's Equationに対する物理誘導問題分解の有効性を実証する。
- 参考スコア（独自算出の注目度）: 8.80823317679047
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Given their ability to effectively learn non-linear mappings and perform fast
inference, deep neural networks (NNs) have been proposed as a viable
alternative to traditional simulation-driven approaches for solving
high-dimensional eigenvalue equations (HDEs), which are the foundation for many
scientific applications. Unfortunately, for the learned models in these
scientific applications to achieve generalization, a large, diverse, and
preferably annotated dataset is typically needed and is computationally
expensive to obtain. Furthermore, the learned models tend to be memory- and
compute-intensive primarily due to the size of the output layer. While
generalization, especially extrapolation, with scarce data has been attempted
by imposing physical constraints in the form of physics loss, the problem of
model scalability has remained.
In this paper, we alleviate the compute bottleneck in the output layer by
using physics knowledge to decompose the complex regression task of predicting
the high-dimensional eigenvectors into multiple simpler sub-tasks, each of
which are learned by a simple "expert" network. We call the resulting
architecture of specialized experts Physics-Guided Mixture-of-Experts (PG-MoE).
We demonstrate the efficacy of such physics-guided problem decomposition for
the case of the Schr\"{o}dinger's Equation in Quantum Mechanics. Our proposed
PG-MoE model predicts the ground-state solution, i.e., the eigenvector that
corresponds to the smallest possible eigenvalue. The model is 150x smaller than
the network trained to learn the complex task while being competitive in
generalization. To improve the generalization of the PG-MoE, we also employ a
physics-guided loss function based on variational energy, which by quantum
mechanics principles is minimized iff the output is the ground-state solution.
- Abstract（参考訳）: 非線形マッピングを効果的に学習し、高速な推論を行う能力から、ディープニューラルネットワーク(NN)は、多くの科学的応用の基礎となる高次元固有値方程式(HDE)を解くための従来のシミュレーション駆動アプローチの代替手段として提案されている。
残念ながら、これらの科学的応用における学習モデルが一般化を達成するためには、大きく、多様で、好ましくは注釈付きデータセットが必要である。
さらに、学習したモデルは、主に出力層のサイズのため、メモリと計算集約性が高い傾向にある。
一般化、特に外挿は物理損失の形で物理的制約を課すことによって試みられているが、モデルのスケーラビリティの問題はまだ残っている。
本稿では,物理知識を用いて高次元固有ベクトルを複数の単純なサブタスクに予測する複雑な回帰タスクを分解することで,出力層の計算ボトルネックを軽減し,それぞれを単純な「専門家」ネットワークで学習する。
我々は、特殊専門家による物理誘導混合専門家(pg-moe)のアーキテクチャと呼ぶ。
量子力学におけるschr\"{o}dinger方程式の場合には,そのような物理誘導問題分解の有効性を示す。
提案したPG-MoEモデルは基底状態解,すなわち最小の固有値に対応する固有ベクトルを予測する。
モデルは、一般化の競争力を維持しながら複雑なタスクを学習するために訓練されたネットワークよりも150倍小さい。
また、PG-MoEの一般化を改善するために、変動エネルギーに基づく物理誘導損失関数を用い、量子力学の原理により、出力は基底状態解である。
関連論文リスト
- DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳（メタデータ） (2024-10-08T10:48:50Z) - Physics-Informed Graph-Mesh Networks for PDEs: A hybrid approach for complex problems [0.24578723416255746]
物理インフォームドグラフニューラルネットワークと有限要素からの数値カーネルを組み合わせたハイブリッドアプローチを提案する。
モデルの理論的性質を研究した後、2次元と3次元の複素幾何学に応用する。
我々の選択はアブレーション研究によって支持され,提案手法の一般化能力を評価する。
論文 参考訳（メタデータ） (2024-09-25T07:52:29Z) - Discovering Interpretable Physical Models using Symbolic Regression and
Discrete Exterior Calculus [55.2480439325792]
本稿では,記号回帰(SR)と離散指数計算(DEC)を組み合わせて物理モデルの自動発見を行うフレームワークを提案する。
DECは、SRの物理問題への最先端の応用を越えている、場の理論の離散的な類似に対して、ビルディングブロックを提供する。
実験データから連続体物理の3つのモデルを再発見し,本手法の有効性を実証する。
論文 参考訳（メタデータ） (2023-10-10T13:23:05Z) - NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with
Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。
元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。
本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文 参考訳（メタデータ） (2023-02-20T19:36:52Z) - Equivariant Graph Mechanics Networks with Constraints [83.38709956935095]
本稿では,グラフ力学ネットワーク(GMN)を提案する。
GMNは、一般化された座標により、構造体の前方運動学情報(位置と速度)を表す。
大規模な実験は、予測精度、制約満足度、データ効率の観点から、最先端のGNNと比較してGMNの利点を支持する。
論文 参考訳（メタデータ） (2022-03-12T14:22:14Z) - Physics Informed RNN-DCT Networks for Time-Dependent Partial
Differential Equations [62.81701992551728]
時間依存偏微分方程式を解くための物理インフォームド・フレームワークを提案する。
我々のモデルは離散コサイン変換を用いて空間的および反復的なニューラルネットワークを符号化する。
ナヴィエ・ストークス方程式に対するテイラー・グリーン渦解の実験結果を示す。
論文 参考訳（メタデータ） (2022-02-24T20:46:52Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳（メタデータ） (2021-10-26T14:26:25Z) - Applying physics-based loss functions to neural networks for improved
generalizability in mechanics problems [3.655021726150368]
Informed Machine Learning(PIML)は、過去5年間で、科学者や研究者が機械学習の進歩によって得られる利点を活用するために勢いを増しています。
本研究では,物理に基づく損失関数の利用に対処する,PIMLを利用するための新しいアプローチについて論じる。
論文 参考訳（メタデータ） (2021-04-30T20:31:09Z) - Kohn-Sham equations as regularizer: building prior knowledge into
machine-learned physics [13.572347341147282]
交換相関関数に対してニューラルネットワークを訓練する際のコーン・シャム方程式の解法は、一般化を大幅に改善する暗黙の正規化をもたらすことを示す。
我々のモデルはまた、目に見えないタイプの分子に一般化し、自己相互作用エラーを克服します。
論文 参考訳（メタデータ） (2020-09-17T23:06:39Z) - Physics Informed Deep Learning for Transport in Porous Media. Buckley
Leverett Problem [0.0]
貯水池モデリングのためのハイブリッド物理に基づく機械学習手法を提案する。
この手法は、物理に基づく正則化を伴う一連の深い敵対的ニューラルネットワークアーキテクチャに依存している。
提案手法は,物理知識を機械学習アルゴリズムに応用するためのシンプルでエレガントな手法である。
論文 参考訳（メタデータ） (2020-01-15T08:20:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。