論文の概要: Edge Cluster Expansion with Radial Rotary Attention for Interatomic Potentials
- arxiv url: http://arxiv.org/abs/2607.10664v1
- Date: Sun, 12 Jul 2026 09:17:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.501295
- Title: Edge Cluster Expansion with Radial Rotary Attention for Interatomic Potentials
- Title(参考訳): 原子間電位に対する放射状回転注意によるエッジクラスタ拡張
- Abstract要約: 機械学習の原子間ポテンシャル(MLIP)に対するSO(2)理論の体系的研究を行い,従来のSO(2)線形アーキテクチャの限界を明らかにする。
エッジ・コンプレックス・プロダクト・バスとラジアル・ロータリー・コンプレックス・アテンション(RRA)という2つの新しいインタラクション・ビルディング・ブロックを紹介します。
我々はOMat24, sAlex, MPTrjでモデルをトレーニングし, TECE-OAM-RRA-1.0を導入する。
- 参考スコア(独自算出の注目度): 2.454549662348933
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In this paper, we provide a systematic investigation of SO(2) theory to machine learning interatomic potentials (MLIPs) and identify the limitations of conventional SO(2) Linear architectures relative to SO(3) Clebsch-Gordan Tensor Products (CGTP). Building on these insights, we propose direct Cartesian construction and recursive Clebsch-Gordan construction of Wigner D-matrices and introduce two novel interaction building blocks. First, we propose the Edge Complex Product Basis based on Generalized Asymmetric Contraction, a new formulation for many-body expansion that directly constructs higher-order interactions on edges through complex-valued equivariant multiplications. Second, we introduce Radial Rotary Complex Attention(RRA), which enhances extrapolation performance and surpasses existing attention vector formulations. We also introduce several improvements to the Atomic Cluster Expansion module. Building on these advances, we train our models on OMat24, sAlex, and MPTrj, and introduce TECE-OAM-RRA-1.0, which achieve state-of-the-art (SOTA) performance on the Matbench Discovery.
- Abstract(参考訳): 本稿では,機械学習の原子間ポテンシャル(MLIP)に対するSO(2)理論の体系的な研究を行い,SO(3)クレブシュ・ゴルダンテンソル生成物(CGTP)に対する従来のSO(2)線形アーキテクチャの限界を明らかにする。
これらの知見に基づいて、Wigner D-matrices の直接カルト的構成と再帰的 Clebsch-Gordan の構成を提案し、2つの新しい相互作用構築ブロックを導入する。
まず、複素数値同変乗法により、エッジ上の高次相互作用を直接構築する多体展開の新しい定式化である一般化非対称縮合に基づくエッジ複素積基底を提案する。
第2に、外挿性能を高め、既存の注意ベクトルの定式化を超越した放射状回転複素注意(RRA)を導入する。
また、Atomic Cluster Expansionモジュールにもいくつかの改善を加えています。
これらの進歩に基づいて,我々はOMat24, sAlex, MPTrjでモデルをトレーニングし, TECE-OAM-RRA-1.0を導入する。
関連論文リスト
- Hyper-Fold: Exploring the Expressive Limit of Sequence-Geometry Learning for Proteins via Hypergraph Modeling [55.36837305276515]
コンテント幾何学的外積に対する完全双線型作用素、すなわち2階の相互作用の十分統計は、表現的天井であることを示す。
次に、メッセージパッシングコストで天井に近づく、ランク-K分離可能な畳み込みバックボーンであるHyper-Foldを紹介します。
論文 参考訳(メタデータ) (2026-08-29T11:43:25Z) - TopoOR: A Unified Topological Scene Representation for the Operating Room [54.50897207203292]
手術シーングラフは外科手術室(OR)の複雑さを実体の構造とその関連性に抽象化する。
マルチモーダルな手術室を高次構造としてモデル化する新しいパラダイムであるTopoORを紹介する。
また,多様体の構造やモジュラリティに特有な特徴を明示的に保存する高次アテンション機構を提案する。
論文 参考訳(メタデータ) (2026-03-10T10:19:42Z) - Efficient Prediction of SO(3)-Equivariant Hamiltonian Matrices via SO(2) Local Frames [49.1851978742043]
我々は、電子構造計算を高速化するためにハミルトン行列を予測することを考える。
ハミルトン行列の対角線外ブロックとSO(2)局所フレームの関係から、QHNetV2を提案する。
論文 参考訳(メタデータ) (2025-06-11T05:04:29Z) - Directional Non-Commutative Monoidal Structures for Compositional Embeddings in Machine Learning [0.0]
指向性非可換モノイド作用素上に構築された合成埋め込みのための新しい構造を導入する。
我々の構成では、各軸 i に対して異なる合成演算子 circ_i を定義し、大域的な可換性を与えることなく、各軸に沿って連想結合を保証する。
すべての軸特異作用素は互いに可換であり、一貫した交叉軸合成を可能にする大域的交換法則を強制する。
論文 参考訳(メタデータ) (2025-05-21T13:27:14Z) - Cramer-Rao Bounds for Laplacian Matrix Estimation [56.1214184671173]
クラマー・ラオ境界(CRB)の閉形式行列式をラプラシア行列推定に特化して導出した。
電力系統における(i)トポロジー同定,(ii)拡散モデルにおけるグラフフィルタ同定,(iii)ラプラシアン制約下でのガウスマルコフ確率場における精度行列推定の3つの代表的応用について示す。
論文 参考訳(メタデータ) (2025-04-06T18:28:31Z) - Expanding Expressivity in Transformer Models with MöbiusAttention [17.163751713885013]
M"obiusAttentionは、Transformerベースのモデルの注意機構にM"obius変換を統合する。
これらの性質を取り入れることで、M"obiusAttention はトークン間のより複雑な幾何学的関係を学習するモデルに権限を与える。
論文 参考訳(メタデータ) (2024-09-08T16:56:33Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - Parameter-Efficient Mixture-of-Experts Architecture for Pre-trained
Language Models [68.9288651177564]
量子多体物理学から行列積演算子(MPO)に基づく新しいMoEアーキテクチャを提案する。
分解されたMPO構造により、元のMoEアーキテクチャのパラメータを減らすことができる。
GPT2に基づく3つの有名な下流自然言語データセットの実験は、モデルキャパシティの向上における性能と効率の向上を示している。
論文 参考訳(メタデータ) (2022-03-02T13:44:49Z) - Matrix product states with large sites [0.0]
我々は、マトリクス生成状態(MPS)において、軌道をクラスターにまとめる様々な方法を探究する。
本稿では,汎用クラスタMPSが計算コストの増大につながる場合について説明する。
本稿では,第1および第2の軌道/サイトのみを含む特別なクラスタ構造を提案する。
論文 参考訳(メタデータ) (2021-09-22T20:50:25Z) - DensE: An Enhanced Non-commutative Representation for Knowledge Graph
Embedding with Adaptive Semantic Hierarchy [4.607120217372668]
本研究では,関係の複雑な構成パターンをモデル化するための新しい知識グラフ埋め込み手法DensEを開発した。
本手法は,SO(3)群に基づく回転作用素と3次元ユークリッド空間におけるスケーリング作用素に各関係を分解する。
複数のベンチマーク知識グラフの実験結果から、DensEはリンク予測の欠如に対して現在の最先端モデルよりも優れていた。
論文 参考訳(メタデータ) (2020-08-11T06:45:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。