論文の概要: GFFMERGE: Efficient Merging of Graph Neural Force Fields and Beyond
- arxiv url: http://arxiv.org/abs/2606.03232v1
- Date: Tue, 02 Jun 2026 06:48:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.813194
- Title: GFFMERGE: Efficient Merging of Graph Neural Force Fields and Beyond
- Title(参考訳): GFFMERGE: グラフニューラルフォースフィールドとそれ以上の効率的なマージ
- Authors: Parth Verma, Parv P. Singh, Vipul Garg, Ishita Thakre, N. M. Anoop Krishnan, Sayan Ranu,
- Abstract要約: グラフニューラルネットワーク(GNN)は原子論シミュレーションのためのニューラルフォース場に革命をもたらし、低コストでほぼ量子精度を達成した。
視覚と言語処理のモデルマージにインスパイアされたGFFMERGEは,GNNにおけるクローズドフォームモデルマージのための最初の原則的フレームワークである。
- 参考スコア(独自算出の注目度): 14.704123384149817
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have revolutionized Neural Force Fields for atomistic simulations, achieving near-quantum accuracy at reduced cost, yet adapting these models to new chemical systems requires expensive retraining of foundation models. Inspired by model merging in vision and language processing, we introduce GFFMERGE, the first principled framework for closed-form model merging in GNNs. We exploit the linear structure of message-passing layers and formulate merging as a convex embedding-alignment problem with an analytical solution. Through the first systematic benchmarking of model merging for GNNs, we show that existing methods designed for vision and language catastrophically fail on force field regression, while GFFMERGE recovers performance approaching gold standard joint training. Across molecular (MD17, MD22), solid-state (LiPS20), and large-scale graph benchmarks, GFFMERGE and GNNMERGE (its generic GNN counterpart) achieve 5-27$\times$ speedups while enabling modular composition of specialized models. Remarkably, our closed-form solution alone outperforms all baseline methods before fine-tuning and provides superior initialization for faster, data-efficient convergence.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は原子論シミュレーションのためのニューラルフォース場に革命をもたらし、低コストでほぼ量子精度を達成したが、これらのモデルを新しい化学系に適用するには、ファンデーションモデルの高価な再訓練が必要である。
視覚と言語処理のモデルマージにインスパイアされたGFFMERGEは,GNNにおけるクローズドフォームモデルマージのための最初の原則的フレームワークである。
本研究では, メッセージパッシング層と定式化の線形構造を, 解析解を用いた凸埋め込み配向問題として活用する。
GFFMERGEは,GNNのモデルマージを初めて体系的にベンチマークすることで,視覚や言語用に設計された既存の手法が力場回帰に失敗し,GFFMERGEは金標準関節トレーニングに近づいた性能を回復することを示した。
Across molecular (MD17, MD22), solid-state (LiPS20), and large-scale graph benchmarks, GFFMERGE and GNNMERGE (ジェネリックGNN) は5-27$\times$のスピードアップを実現し、特殊モデルのモジュラ構成を可能にする。
注目すべきことに、クローズドフォームのソリューションは、微調整の前に全てのベースライン法より優れており、より高速でデータ効率の良い収束に優れた初期化を提供する。
関連論文リスト
- Convexified Message-Passing Graph Neural Networks [12.350115354262947]
CGNN(Convexified Message Passing Graph Neural Networks)を導入する。
非線形ヒルベルトカーネルトレーニングを凸最適化問題にマッピングすることにより、CGNNは凸最適化問題に変換する。
実験ベンチマークデータセットは、CGNNが主要なGNNモデルの性能を大幅に上回っていることを示している。
論文 参考訳(メタデータ) (2025-05-23T18:33:01Z) - Scalable Graph Generative Modeling via Substructure Sequences [50.32639806800683]
本稿では,グラフ生成用トランスフォーマー事前学習フレームワークである生成グラフパターンマシン(G$2$PM)を紹介する。
G$2$PMはグラフインスタンス(ノード、エッジ、グラフ全体)をサブ構造のシーケンスとして表現する。
それは、一般化可能かつ伝達可能な表現を学ぶために、シーケンスに関する生成的事前学習を採用する。
論文 参考訳(メタデータ) (2025-05-22T02:16:34Z) - GNNMerge: Merging of GNN Models Without Accessing Training Data [12.607714697138428]
モデルのマージは、オリジナルのトレーニングデータにアクセスすることなく、複数のトレーニングされたモデルを単一のモデルに統合する方法として、機械学習において注目されている。
既存のアプローチはコンピュータビジョンやNLPのような領域で成功を示しており、グラフニューラルネットワーク(GNN)への応用は未解明のままである。
タスクに依存しないノード埋め込みアライメント戦略を用いてGNNをマージするGNNMergeを提案する。
論文 参考訳(メタデータ) (2025-03-05T11:02:29Z) - Spatiotemporal Graph Learning with Direct Volumetric Information Passing and Feature Enhancement [62.91536661584656]
本稿では,CeFeGNN(CeFeGNN)とCell-embeddedとFeature-enhanced Graph Neural Networkを学習用として提案する。
学習可能なセル属性を共通ノードエッジメッセージパッシングプロセスに埋め込むことで,地域特性の空間依存性をよりよく把握する。
各種PDEシステムと1つの実世界のデータセットを用いた実験により、CeFeGNNは他のベースラインと比較して優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2024-09-26T16:22:08Z) - Learning CO$_2$ plume migration in faulted reservoirs with Graph Neural
Networks [0.3914676152740142]
我々は,CO$$ plumeマイグレーションに対する断層の影響を捉えるグラフベースのニューラルモデルを開発した。
本研究では, 断層を有する合成貯留層において, ガス飽和度と細孔圧力の経時的変化を正確に予測できることを実証した。
この研究は、複雑な断層と破壊を伴う地下流れを正確にかつ迅速にモデル化するためのGNNベースの手法の可能性を強調している。
論文 参考訳(メタデータ) (2023-06-16T06:47:47Z) - Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural
Networks [52.566735716983956]
本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。
LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。
提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
論文 参考訳(メタデータ) (2022-07-18T14:23:31Z) - EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural
Networks [51.42338058718487]
グラフニューラルネットワーク(GNN)は、グラフ機械学習における有望なパフォーマンスについて、広範な研究の注目を集めている。
GCNやGPRGNNのような既存のアプローチは、テストグラフ上のホモフィリな変化に直面しても堅牢ではない。
偶数多項式グラフフィルタに対応するスペクトルGNNであるEvenNetを提案する。
論文 参考訳(メタデータ) (2022-05-27T10:48:14Z) - Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。
GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。
本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
論文 参考訳(メタデータ) (2021-01-06T17:36:26Z) - Eigen-GNN: A Graph Structure Preserving Plug-in for GNNs [95.63153473559865]
グラフニューラルネットワーク(GNN)は、グラフ上の新たな機械学習モデルである。
既存のGNNモデルの多くは浅く、本質的に機能中心である。
我々は,既存の浅いGNNがグラフ構造をよく保存できないことを経験的かつ解析的に示す。
本稿では,グラフ構造保存におけるGNNの能力を高めるプラグインモジュールであるEigen-GNNを提案する。
論文 参考訳(メタデータ) (2020-06-08T02:47:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。