論文の概要: An Empirical Study of Graphormer on Large-Scale Molecular Modeling
Datasets
- arxiv url: http://arxiv.org/abs/2203.06123v2
- Date: Mon, 14 Mar 2022 08:25:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2022-03-20 23:08:50.357069
- Title: An Empirical Study of Graphormer on Large-Scale Molecular Modeling
Datasets
- Title(参考訳): 大規模分子モデリングデータセットにおけるグラフマーの実証的研究
- Authors: Yu Shi, Shuxin Zheng, Guolin Ke, Yifei Shen, Jiacheng You, Jiyan He,
Shengjie Luo, Chang Liu, Di He, Tie-Yan Liu
- Abstract要約: グラフマー-V2」は、バニラモデルよりも大規模な分子モデルデータセットにおいてより良い結果が得られる可能性がある。
グローバルな受信フィールドとアダプティブアグリゲーション戦略により、Graphormerは従来のメッセージパッシングベースのGNNよりも強力である。
- 参考スコア(独自算出の注目度): 87.00711479972503
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: This technical note describes the recent updates of Graphormer, including
architecture design modifications, and the adaption to 3D molecular dynamics
simulation. The "Graphormer-V2" could attain better results on large-scale
molecular modeling datasets than the vanilla one, and the performance gain
could be consistently obtained on downstream tasks. In addition, we show that
with a global receptive field and an adaptive aggregation strategy, Graphormer
is more powerful than classic message-passing-based GNNs. Graphormer-V2
achieves much less MAE than the vanilla Graphormer on the PCQM4M quantum
chemistry dataset used in KDD Cup 2021, where the latter one won the first
place in this competition. In the meanwhile, Graphormer-V2 greatly outperforms
the competitors in the recent Open Catalyst Challenge, which is a competition
track on NeurIPS 2021 workshop, and aims to model the catalyst-adsorbate
reaction system with advanced AI models. All models could be found at
\url{https://github.com/Microsoft/Graphormer}.
- Abstract(参考訳): この技術ノートは、アーキテクチャ設計の変更や3D分子動力学シミュレーションへの適応を含む、最近のGraphormerのアップデートについて説明している。
グラフマーv2」は、バニラよりも大規模な分子モデリングデータセットでより良い結果を得ることができ、下流タスクで一貫して性能向上が得られる。
さらに、グローバルな受容場と適応的な集約戦略により、Graphormerは従来のメッセージパッシングベースのGNNよりも強力であることを示す。
graphormer-v2は、kddカップ2021で使用されたpcqm4m量子化学データセットにおいて、バニラグラフマーよりもはるかに少ないmaeを達成している。
一方、Graphormer-V2は、NeurIPS 2021ワークショップのコンペティショントラックであるOpen Catalyst Challengeにおいて、高度なAIモデルで触媒-吸着反応システムをモデル化することを目的として、競合他社を大きく上回っている。
すべてのモデルは \url{https://github.com/Microsoft/Graphormer} で見ることができる。
関連論文リスト
- VecFormer: Towards Efficient and Generalizable Graph Transformer with Graph Token Attention [61.96837866507746]
VecFormerはノード分類のための効率的かつ高一般化可能なモデルである。
VecFormerは、パフォーマンスとスピードの両方で、既存のGraph Transformerを上回っている。
論文 参考訳(メタデータ) (2026-02-23T09:10:39Z) - From Moments to Models: Graphon Mixture-Aware Mixup and Contrastive Learning [37.00052626796266]
本稿では,グラフトンで表される基礎となるグラフ生成モデルの混合として,データを明示的にモデル化する統合フレームワークを提案する。
これにより、混合成分を解離させ、それらの異なる生成機構を同定することができる。
教師なし学習では、MGCLは最先端の結果を達成し、8つのデータセットの平均ランクを得る。
教師付き学習では、GMAMは既存の戦略を一貫して上回り、7つのデータセットのうち6つで新しい最先端の精度を達成する。
論文 参考訳(メタデータ) (2025-10-04T06:03:04Z) - GraphPFN: A Prior-Data Fitted Graph Foundation Model [27.47522328312435]
大規模データセットで事前訓練された基礎モデルは、自然言語処理やコンピュータビジョンといった分野に変化をもたらした。
ノードレベルの予測のための事前データ付きネットワークであるGraphPFNを提案する。
最大50,000ノードのさまざまな実世界のグラフデータセットでは、GraphPFNは、微調整後の強いコンテキスト内学習のパフォーマンスと最先端の結果を示している。
論文 参考訳(メタデータ) (2025-09-25T19:47:49Z) - Graph Generative Pre-trained Transformer [25.611007241470645]
この研究は、グラフをノードセットとエッジセットのシーケンスとして表現する別のアプローチを再考する。
本稿では,グラフ生成事前学習型変換器(G2PT)について紹介する。
G2PTは、ジェネリックグラフと分子データセットの両方において優れた生成性能を実現する。
論文 参考訳(メタデータ) (2025-01-02T05:44:11Z) - Hi-GMAE: Hierarchical Graph Masked Autoencoders [90.30572554544385]
階層型グラフマスク付きオートエンコーダ(Hi-GMAE)
Hi-GMAEは、グラフ内の階層構造を扱うために設計された、新しいマルチスケールGMAEフレームワークである。
15のグラフデータセットに対する実験は、Hi-GMAEが17の最先端の自己管理競合より優れていることを一貫して示している。
論文 参考訳(メタデータ) (2024-05-17T09:08:37Z) - On the Scalability of GNNs for Molecular Graphs [7.402389334892391]
グラフニューラルネットワーク(GNN)は、スパース演算の効率の低下、大規模なデータ要求、さまざまなアーキテクチャの有効性の明確さの欠如など、スケールのメリットをまだ示していない。
我々は,2次元分子グラフの公開コレクションにおいて,メッセージパッシングネットワーク,グラフトランスフォーマー,ハイブリッドアーキテクチャを解析する。
初めて、GNNは、深度、幅、分子数、ラベルの数、事前訓練データセットの多様性の増大によって、非常に恩恵を受けることを観察した。
論文 参考訳(メタデータ) (2024-04-17T17:11:31Z) - Micro and Macro Level Graph Modeling for Graph Variational Auto-Encoders [16.302222204710276]
本稿では,ノードレベルの特性とグラフレベルの統計を協調的にモデル化する,新しいマルチレベルフレームワークを提案する。
本稿では,ノードレベルとグラフレベルの損失を組み合わせたグラフ生成のための新しいマイクロマクロトレーニング手法を提案する。
実験の結果,GraphVAEモデルにマイクロマクロモデリングを追加することで,5つのベンチマークデータセットにおいて最大2桁のグラフ品質スコアが向上することがわかった。
論文 参考訳(メタデータ) (2022-10-30T13:45:21Z) - MolGraph: a Python package for the implementation of molecular graphs
and graph neural networks with TensorFlow and Keras [51.92255321684027]
MolGraphは、分子機械学習(ML)のためのグラフニューラルネットワーク(GNN)パッケージである
MolGraphは、分子ML問題を解決するためにGNNアルゴリズムに渡すことができる小さな分子グラフを生成するための化学モジュールを実装している。
GNNは分子識別に有用であり,クロマトグラフィー保持時間データの解釈性が向上した。
論文 参考訳(メタデータ) (2022-08-21T18:37:41Z) - Graph Generative Model for Benchmarking Graph Neural Networks [73.11514658000547]
本稿では,プライバシ制御により実世界のグラフの分布を学習し,再現する新しいグラフ生成モデルを提案する。
我々のモデルは、GNNモデルのベンチマークに効果的に使用できる大規模な実世界のグラフの、プライバシ制御された合成代用をうまく生成することができる。
論文 参考訳(メタデータ) (2022-07-10T06:42:02Z) - Benchmarking Graphormer on Large-Scale Molecular Modeling Datasets [87.00711479972503]
このノートには、最近のGraphormerのアップデートについて書かれている。
グローバルな受信フィールドとアダプティブアグリゲーション戦略により、Graphormerは従来のメッセージパッシングベースのGNNよりも強力である。
一方、最近のOpen Catalyst Challengeでは、競合他社よりも大幅に優れています。
論文 参考訳(メタデータ) (2022-03-09T15:40:10Z) - Conditional Constrained Graph Variational Autoencoders for Molecule
Design [70.59828655929194]
本稿では、このキーイデアを最先端のモデルで実装した、条件制約付きグラフ変分オートエンコーダ(CCGVAE)を提案する。
分子生成のために広く採用されている2つのデータセットについて、いくつかの評価指標について改善した結果を示す。
論文 参考訳(メタデータ) (2020-09-01T21:58:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。