論文の概要: FreeCG: Free the Design Space of Clebsch-Gordan Transform for Machine Learning Force Fields
- arxiv url: http://arxiv.org/abs/2407.02263v4
- Date: Mon, 9 Sep 2024 07:38:07 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-11 01:51:43.199972
- Title: FreeCG: Free the Design Space of Clebsch-Gordan Transform for Machine Learning Force Fields
- Title(参考訳): FreeCG: 機械学習力場のためのClebsch-Gordan変換の設計空間を自由に
- Authors: Shihao Shao, Haoran Geng, Zun Wang, Qinghua Cui,
- Abstract要約: 本稿では,将来の幾何学的ニューラルネットワーク設計において,効率的かつ表現力のあるCG変換を実現するための新しいパラダイムを提案する。
提案手法は, 決定対称性を損なうことなく, 層設計において完全な自由を実現できることを示す。
提案手法はFreeCGと呼ばれ, MD17, rMD17, MD22の強制予測を達成し, QM9データセットの特性予測にも適している。
- 参考スコア(独自算出の注目度): 3.2308327373486496
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine Learning Force Fields (MLFFs) are of great importance for chemistry, physics, materials science, and many other related fields. The Clebsch-Gordan Transform (CG transform) effectively encodes many-body interactions and is thus an important building block for many models of MLFFs. However, the permutation-equivariance requirement of MLFFs limits the design space of CG transform, that is, intensive CG transform has to be conducted for each neighboring edge and the operations should be performed in the same manner for all edges. This constraint results in reduced expressiveness of the model while simultaneously increasing computational demands. To overcome this challenge, we first implement the CG transform layer on the permutation-invariant abstract edges generated from real edge information. We show that this approach allows complete freedom in the design of the layer without compromising the crucial symmetry. Developing on this free design space, we further propose group CG transform with sparse path, abstract edges shuffling, and attention enhancer to form a powerful and efficient CG transform layer. Our method, known as FreeCG, achieves state-of-the-art (SOTA) results in force prediction for MD17, rMD17, MD22, and is well extended to property prediction in QM9 datasets with several improvements greater than 15% and the maximum beyond 20%. The extensive real-world applications showcase high practicality. FreeCG introduces a novel paradigm for carrying out efficient and expressive CG transform in future geometric neural network designs. To demonstrate this, the recent SOTA, QuinNet, is also enhanced under our paradigm. Code will be publicly available.
- Abstract(参考訳): 機械学習力場(MLFF)は、化学、物理学、材料科学、その他多くの関連分野において非常に重要である。
Clebsch-Gordan変換(CG変換)は、多体相互作用を効果的に符号化し、MLFFの多くのモデルにとって重要なビルディングブロックである。
しかし、MLFFの置換等価性要件は、CG変換の設計空間を制限し、すなわち、各エッジに対して集中的なCG変換を行なわなければならず、全てのエッジに対しても同様に操作を行なわなければならない。
この制約は、計算要求を同時に増加させながらモデルの表現性を低下させる。
この課題を克服するために、我々はまず、実際のエッジ情報から生成された置換不変抽象エッジ上にCG変換層を実装した。
提案手法は, 決定対称性を損なうことなく, 層設計において完全な自由を実現できることを示す。
この自由な設計空間を基盤として,スパースパス,抽象エッジシャッフル,アテンションエンハンサを備えたグループCG変換を提案し,強力かつ効率的なCG変換層を形成する。
提案手法はFreeCGと呼ばれ, MD17, rMD17, MD22の強制予測を達成し, QM9データセットにおける特性予測にまで拡張され, 15%以上の改善と最大20%を超える最大値が得られた。
現実世界の幅広い応用は、高い実用性を示している。
FreeCGは、将来の幾何学的ニューラルネットワーク設計において、効率的かつ表現力のあるCG変換を実行するための新しいパラダイムを導入している。
これを示すために、最近のSOTAであるQuinNetも、我々のパラダイムの下で拡張されています。
コードは公開されます。
関連論文リスト
- HEroBM: a deep equivariant graph neural network for universal backmapping from coarse-grained to all-atom representations [0.0]
粗粒度(CG)技術は大規模システムをサンプリングするための貴重なツールとして登場した。
彼らは、調査プロセスの解読において大きな関連性を持つ可能性のある、原子論的な詳細を犠牲にしている。
推奨されるアプローチは、重要なCGコンホメーションを特定し、それらをバックマッピング法で処理し、原子座標を検索することである。
深部等変グラフニューラルネットワークと階層的アプローチを用いて高分解能バックマッピングを実現する,動的でスケーラブルなHEroBMを提案する。
論文 参考訳(メタデータ) (2024-04-25T13:54:31Z) - ASWT-SGNN: Adaptive Spectral Wavelet Transform-based Self-Supervised
Graph Neural Network [20.924559944655392]
本稿では,適応スペクトルウェーブレット変換を用いた自己教師付きグラフニューラルネットワーク(ASWT-SGNN)を提案する。
ASWT-SGNNは高密度スペクトル領域におけるフィルタ関数を正確に近似し、コストの高い固有分解を避ける。
ノード分類タスクにおける最先端モデルに匹敵するパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-12-10T03:07:42Z) - SC-GS: Sparse-Controlled Gaussian Splatting for Editable Dynamic Scenes [59.23385953161328]
動的シーンのための新しいビュー合成は、コンピュータビジョンとグラフィックスにおいて依然として難しい問題である。
本稿では,動的シーンの動作と外観を疎制御点と高密度ガウスに明示的に分解する新しい表現を提案する。
提案手法は,高忠実度な外観を維持しつつ,ユーザ制御のモーション編集を可能にする。
論文 参考訳(メタデータ) (2023-12-04T11:57:14Z) - Learning Modulated Transformation in GANs [69.95217723100413]
生成逆数ネットワーク(GAN)のジェネレータに、変調変換モジュール(Modulated transformation module, MTM)と呼ばれるプラグアンドプレイモジュールを装備する。
MTMは、可変位置で畳み込み操作を適用可能な潜在符号の制御下で空間オフセットを予測する。
挑戦的なTaiChiデータセット上での人為的な生成に向けて、StyleGAN3のFIDを21.36から13.60に改善し、変調幾何変換の学習の有効性を実証した。
論文 参考訳(メタデータ) (2023-08-29T17:51:22Z) - DynaST: Dynamic Sparse Transformer for Exemplar-Guided Image Generation [56.514462874501675]
本稿では,動的スパースアテンションに基づくトランスフォーマーモデルを提案する。
このアプローチの核心は、ある位置がフォーカスすべき最適なトークン数の変化をカバーすることに特化した、新しいダイナミックアテンションユニットです。
3つの応用、ポーズ誘導型人物画像生成、エッジベース顔合成、歪みのない画像スタイル転送の実験により、DynaSTは局所的な詳細において優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2022-07-13T11:12:03Z) - Generative Coarse-Graining of Molecular Conformations [28.127928605838388]
本稿では,バックマッピング変換の確率的性質と幾何的整合性要件を組み込んだ新しいモデルを提案する。
われわれのアプローチは、常により現実的な構造を回復し、既存のデータ駆動手法よりも優れたマージンを持つ。
論文 参考訳(メタデータ) (2022-01-28T15:18:34Z) - Unsupervised Motion Representation Learning with Capsule Autoencoders [54.81628825371412]
Motion Capsule Autoencoder (MCAE) は、2レベル階層のモーションをモデル化する。
MCAEは、新しいTrajectory20モーションデータセットと、様々な現実世界の骨格に基づく人間のアクションデータセットで評価されている。
論文 参考訳(メタデータ) (2021-10-01T16:52:03Z) - Local-to-Global Self-Attention in Vision Transformers [130.0369761612812]
トランスフォーマーはコンピュータビジョンタスクに大きな可能性を示した。
最近のTransformerモデルは階層設計を採用しており、セルフアテンションはローカルウィンドウ内でのみ計算される。
この設計は効率を大幅に改善するが、早い段階ではグローバルな特徴推論が欠如している。
本研究では,トランスフォーマーのマルチパス構造を設計し,各ステージにおける複数の粒度での局所的・言語的推論を可能にする。
論文 参考訳(メタデータ) (2021-07-10T02:34:55Z) - MSG-Transformer: Exchanging Local Spatial Information by Manipulating
Messenger Tokens [129.10351459066501]
メッセンジャー(MSG)として機能する各領域に特化トークンを提案する。
これらのMSGトークンを操作することで、領域間で柔軟に視覚情報を交換することができる。
次に、MSGトークンをMSG-Transformerというマルチスケールアーキテクチャに統合する。
論文 参考訳(メタデータ) (2021-05-31T17:16:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。