論文の概要: TraceGrad: a Framework Learning Expressive SO(3)-equivariant Non-linear Representations for Electronic-Structure Hamiltonian Prediction
- arxiv url: http://arxiv.org/abs/2405.05722v5
- Date: Fri, 31 Jan 2025 09:18:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-03 14:50:17.431298
- Title: TraceGrad: a Framework Learning Expressive SO(3)-equivariant Non-linear Representations for Electronic-Structure Hamiltonian Prediction
- Title(参考訳): TraceGrad: 電子構造ハミルトニアン予測のためのフレームワーク学習用SO(3)同変非線形表現
- Authors: Shi Yin, Xinyang Pan, Fengyan Wang, Lixin He,
- Abstract要約: 電子構造ハミルトニアンの予測において、強非線形表現性と厳密なSO(3)-同変を結合する枠組みを提案する。
本手法は,ハミルトン予測に基づく8つの挑戦的ベンチマークデータベースにおいて,予測精度の最先端性を実現する。
- 参考スコア(独自算出の注目度): 1.8982950873008362
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a framework to combine strong non-linear expressiveness with strict SO(3)-equivariance in prediction of the electronic-structure Hamiltonian, by exploring the mathematical relationships between SO(3)-invariant and SO(3)-equivariant quantities and their representations. The proposed framework, called TraceGrad, first constructs theoretical SO(3)-invariant trace quantities derived from the Hamiltonian targets, and use these invariant quantities as supervisory labels to guide the learning of high-quality SO(3)-invariant features. Given that SO(3)-invariance is preserved under non-linear operations, the learning of invariant features can extensively utilize non-linear mappings, thereby fully capturing the non-linear patterns inherent in physical systems. Building on this, we propose a gradient-based mechanism to induce SO(3)-equivariant encodings of various degrees from the learned SO(3)-invariant features. This mechanism can incorporate powerful non-linear expressive capabilities into SO(3)-equivariant features with consistency of physical dimensions to the regression targets, while theoretically preserving equivariant properties, establishing a strong foundation for predicting Hamiltonian. Our method achieves state-of-the-art performance in prediction accuracy across eight challenging benchmark databases on Hamiltonian prediction. Experimental results demonstrate that this approach not only improves the accuracy of Hamiltonian prediction but also significantly enhances the prediction for downstream physical quantities, and also markedly improves the acceleration performance for the traditional Density Functional Theory algorithms.
- Abstract(参考訳): 我々は、SO(3)-不変量とSO(3)-同変量とそれらの表現の間の数学的関係を探索することにより、強非線形表現性と厳密なSO(3)-同変を電子構造ハミルトニアンの予測に組み合わせる枠組みを提案する。
提案したフレームワークはTraceGradと呼ばれ、まずハミルトン目標から導かれる理論的なSO(3)不変トレース量を構築し、これらの不変量を使って高品質なSO(3)不変特徴の学習を誘導する。
非線型演算の下でSO(3)-不変性が保存されることを考えると、不変特徴の学習は非線型写像を広範囲に利用し、物理的システムに固有の非線形パターンを完全に捉えることができる。
これに基づいて, 学習したSO(3)不変特徴から, 様々な次数のSO(3)同変符号化を誘導する勾配に基づく機構を提案する。
このメカニズムは、理論上は同変特性を保ちながら、SO(3)-同変特徴と回帰目標への物理次元の整合性を持つ強力な非線形表現能力を組み込むことができ、ハミルトン予想の強力な基礎を確立することができる。
本手法は,ハミルトン予測に基づく8つの挑戦的ベンチマークデータベースにおいて,予測精度の最先端性を実現する。
実験により、このアプローチはハミルトン予想の精度を向上するだけでなく、下流の物理量の予測を大幅に向上させるとともに、従来の密度汎関数理論アルゴリズムの加速度性能を著しく向上させることが示された。
関連論文リスト
- Efficient and Scalable Density Functional Theory Hamiltonian Prediction through Adaptive Sparsity [11.415146682472127]
ハミルトン予測に適応空間を組み込んだ,効率的でスケーラブルな同変ネットワークを提案する。
本研究では, 安定収束を確保し, 最大70%のスパシティレートで高い性能を実現する3相スパシティスケジューリング器を開発した。
ハミルトン予想以外にも、提案されたスペーシフィケーション手法は、他のSE(3)同変ネットワークの効率性とスケーラビリティを向上させる重要な可能性を秘めている。
論文 参考訳(メタデータ) (2025-02-03T09:04:47Z) - Harmonizing SO(3)-Equivariance with Neural Expressiveness: a Hybrid Deep Learning Framework Oriented to the Prediction of Electronic Structure Hamiltonian [36.13416266854978]
HarmoSEは、ディープラーニングのための2段階のケースケード回帰フレームワークである。
第1段階は、豊富なSO(3)-同変の特徴を抽出したハミルトニアンを予測する。
第2段階はハミルトニアンの詳細な予測として第1段階の出力を洗練させる。
論文 参考訳(メタデータ) (2024-01-01T12:57:15Z) - Stress representations for tensor basis neural networks: alternative
formulations to Finger-Rivlin-Ericksen [0.0]
有限条件下での超弾性変形材料モデリングのための様々なテンソルニューラルネットワークモデルについて検討する。
電位ベースおよび係数ベースのアプローチと異なるキャリブレーション手法を比較した。
9つの変種は、3つの異なる材料に対してノイズとノイズの無いデータセットの両方に対して試験される。
論文 参考訳(メタデータ) (2023-08-21T23:28:26Z) - Data-driven Nonlinear Parametric Model Order Reduction Framework using
Deep Hierarchical Variational Autoencoder [5.521324490427243]
深層ニューラルネットワークを用いたデータ駆動パラメトリックモデルオーダー削減(MOR)手法を提案する。
LSH-VAEは、非線形力学系のパラメトリックに対して、かなりの数の自由度で非線形MORを実行することができる。
論文 参考訳(メタデータ) (2023-07-10T02:44:53Z) - Stable and Consistent Prediction of 3D Characteristic Orientation via
Invariant Residual Learning [42.44798841872727]
本稿では,入力点雲の形状と意味を分離し,安定性と一貫性を両立させる新しい手法を提案する。
実験では,提案手法は優れた安定性と一貫性を示すだけでなく,最先端の性能を示す。
論文 参考訳(メタデータ) (2023-06-20T09:29:03Z) - Structure-Preserving Learning Using Gaussian Processes and Variational
Integrators [62.31425348954686]
本稿では,機械系の古典力学に対する変分積分器と,ガウス過程の回帰による残留力学の学習の組み合わせを提案する。
我々は、既知のキネマティック制約を持つシステムへのアプローチを拡張し、予測の不確実性に関する公式な境界を提供する。
論文 参考訳(メタデータ) (2021-12-10T11:09:29Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - A deep learning driven pseudospectral PCE based FFT homogenization
algorithm for complex microstructures [68.8204255655161]
提案手法は,従来の手法よりも高速に評価できる一方で,興味の中心モーメントを予測できることを示す。
提案手法は,従来の手法よりも高速に評価できると同時に,興味の中心モーメントを予測できることを示す。
論文 参考訳(メタデータ) (2021-10-26T07:02:14Z) - Nonlinearities in Steerable SO(2)-Equivariant CNNs [7.552100672006172]
我々は,SO(2)の表現に対する非線形性の影響を照らし出すために調和歪み解析を適用した。
我々は、非線形変換されたアクティベーションの表現を計算するための新しいFFTベースのアルゴリズムを開発した。
2Dおよび3Dデータを用いた実験では、連続対称性と正確な同値性において、精度の点で最先端と良好に比較できる結果が得られる。
論文 参考訳(メタデータ) (2021-09-14T17:53:45Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Neural Dynamic Mode Decomposition for End-to-End Modeling of Nonlinear
Dynamics [49.41640137945938]
ニューラルネットワークに基づくリフト関数を推定するためのニューラルダイナミックモード分解法を提案する。
提案手法により,予測誤差はニューラルネットワークとスペクトル分解によって逆伝搬される。
提案手法の有効性を,固有値推定と予測性能の観点から実証した。
論文 参考訳(メタデータ) (2020-12-11T08:34:26Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Learning Partially Known Stochastic Dynamics with Empirical PAC Bayes [12.44342023476206]
本稿では,これらのモデルの予測精度を3段階で向上させる手法を提案する。
実験では、このレシピは、部分的およびノイズの多い事前知識を改良されたモデル適合に効果的に翻訳することを示した。
論文 参考訳(メタデータ) (2020-06-17T14:47:06Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z) - On dissipative symplectic integration with applications to
gradient-based optimization [77.34726150561087]
本稿では,離散化を体系的に実現する幾何学的枠組みを提案する。
我々は、シンプレクティックな非保守的、特に散逸的なハミルトン系への一般化が、制御された誤差まで収束率を維持することができることを示す。
論文 参考訳(メタデータ) (2020-04-15T00:36:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。