論文の概要: A Framework of SO(3)-equivariant Non-linear Representation Learning and its Application to Electronic-Structure Hamiltonian Prediction

• arxiv url: http://arxiv.org/abs/2405.05722v2
• Date: Fri, 10 May 2024 01:14:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-13 11:22:39.466586
• Title: A Framework of SO(3)-equivariant Non-linear Representation Learning and its Application to Electronic-Structure Hamiltonian Prediction
• Title（参考訳）: SO(3)同変非線形表現学習の枠組みと電子構造ハミルトニアン予測への応用
• Authors: Shi Yin, Xinyang Pan, Fengyan Wang, Feng Wu, Lixin He,
• Abstract要約: 本稿では,物理システムにディープラーニングを適用する上で重要な課題に対処する理論的および方法論的枠組みを提案する。 物理学における共変理論に着想を得て、SO(3)-不変量とSO(3)-同変量とそれらの表現の間の数学的関係を探求する。 この理論と手法を電子構造ハミルトン予測タスクに適用し、6つのベンチマークデータベースにおける最先端性能を実証する。
• 参考スコア（独自算出の注目度）: 29.49980632339327
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present both a theoretical and a methodological framework that addresses a critical challenge in applying deep learning to physical systems: the reconciliation of non-linear expressiveness with SO(3)-equivariance in predictions of SO(3)-equivariant quantities, such as the electronic-structure Hamiltonian. Inspired by covariant theory in physics, we address this problem by exploring the mathematical relationships between SO(3)-invariant and SO(3)-equivariant quantities and their representations. We first construct theoretical SO(3)-invariant quantities derived from the SO(3)-equivariant regression targets, and use these invariant quantities as supervisory labels to guide the learning of high-quality SO(3)-invariant features. Given that SO(3)-invariance is preserved under non-linear operations, the encoding process for invariant features can extensively utilize non-linear mappings, thereby fully capturing the non-linear patterns inherent in physical systems. Building on this foundation, we propose a gradient-based mechanism to induce SO(3)-equivariant encodings of various degrees from the learned SO(3)-invariant features. This mechanism can incorporate non-linear expressive capabilities into SO(3)-equivariant representations, while theoretically preserving their equivariant properties as we prove. Our approach offers a promising general solution to the critical dilemma between equivariance and non-linear expressiveness in deep learning methodologies. We apply our theory and method to the electronic-structure Hamiltonian prediction tasks, demonstrating state-of-the-art performance across six benchmark databases.
• Abstract（参考訳）: 電子構造ハミルトニアンのようなSO(3)-同変量の予測において,非線形表現性とSO(3)-同変の調和という,物理系にディープラーニングを適用する上で重要な課題に対処する理論的および方法論的枠組みを提示する。 物理学における共変理論に着想を得て、SO(3)-不変量とSO(3)-同変量とそれらの表現の間の数学的関係を探求することによってこの問題に対処する。 まず、SO(3)-同変回帰目標から導かれる理論SO(3)-不変量を構築し、これらの不変量を用いて、高品質なSO(3)-不変特徴の学習を指導する。 非線型演算の下でSO(3)-不変性が保存されることを考えると、不変特徴の符号化プロセスは非線型写像を広範囲に利用し、物理的システムに固有の非線形パターンを完全に捉えることができる。 そこで本研究では, 学習したSO(3)不変特徴量から, 様々な次数のSO(3)同変符号化を誘導する勾配に基づく機構を提案する。 このメカニズムは、非線型表現能力をSO(3)-同変表現に組み込むことができ、理論上は我々が証明した同変特性を保っている。 本手法は,ディープラーニング手法における等価性と非線形表現性の間の臨界ジレンマに対して,有望な一般解を提供する。 この理論と手法を電子構造ハミルトン予測タスクに適用し、6つのベンチマークデータベースにおける最先端性能を実証する。

関連論文リスト

• Harmonizing SO(3)-Equivariance with Neural Expressiveness: a Hybrid Deep Learning Framework Oriented to the Prediction of Electronic Structure Hamiltonian [36.13416266854978]
  HarmoSEは、ディープラーニングのための2段階のケースケード回帰フレームワークである。 第1段階は、豊富なSO(3)-同変の特徴を抽出したハミルトニアンを予測する。 第2段階はハミルトニアンの詳細な予測として第1段階の出力を洗練させる。
  論文  参考訳（メタデータ） (2024-01-01T12:57:15Z)
• Stress representations for tensor basis neural networks: alternative formulations to Finger-Rivlin-Ericksen [0.0]
  有限条件下での超弾性変形材料モデリングのための様々なテンソルニューラルネットワークモデルについて検討する。 電位ベースおよび係数ベースのアプローチと異なるキャリブレーション手法を比較した。 9つの変種は、3つの異なる材料に対してノイズとノイズの無いデータセットの両方に対して試験される。
  論文  参考訳（メタデータ） (2023-08-21T23:28:26Z)
• Stable and Consistent Prediction of 3D Characteristic Orientation via Invariant Residual Learning [42.44798841872727]
  本稿では,入力点雲の形状と意味を分離し,安定性と一貫性を両立させる新しい手法を提案する。 実験では,提案手法は優れた安定性と一貫性を示すだけでなく,最先端の性能を示す。
  論文  参考訳（メタデータ） (2023-06-20T09:29:03Z)
• Structure-Preserving Learning Using Gaussian Processes and Variational Integrators [62.31425348954686]
  本稿では,機械系の古典力学に対する変分積分器と,ガウス過程の回帰による残留力学の学習の組み合わせを提案する。 我々は、既知のキネマティック制約を持つシステムへのアプローチを拡張し、予測の不確実性に関する公式な境界を提供する。
  論文  参考訳（メタデータ） (2021-12-10T11:09:29Z)
• A Variational Inference Approach to Inverse Problems with Gamma Hyperpriors [60.489902135153415]
  本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。 提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
  論文  参考訳（メタデータ） (2021-11-26T06:33:29Z)
• Equivariant vector field network for many-body system modeling [65.22203086172019]
  Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。 シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
  論文  参考訳（メタデータ） (2021-10-26T14:26:25Z)
• A deep learning driven pseudospectral PCE based FFT homogenization algorithm for complex microstructures [68.8204255655161]
  提案手法は,従来の手法よりも高速に評価できる一方で,興味の中心モーメントを予測できることを示す。 提案手法は,従来の手法よりも高速に評価できると同時に,興味の中心モーメントを予測できることを示す。
  論文  参考訳（メタデータ） (2021-10-26T07:02:14Z)
• Nonlinearities in Steerable SO(2)-Equivariant CNNs [7.552100672006172]
  我々は,SO(2)の表現に対する非線形性の影響を照らし出すために調和歪み解析を適用した。 我々は、非線形変換されたアクティベーションの表現を計算するための新しいFFTベースのアルゴリズムを開発した。 2Dおよび3Dデータを用いた実験では、連続対称性と正確な同値性において、精度の点で最先端と良好に比較できる結果が得られる。
  論文  参考訳（メタデータ） (2021-09-14T17:53:45Z)
• Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
  最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。 さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
  論文  参考訳（メタデータ） (2021-06-09T08:05:36Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。