論文の概要: Learning Attributed Graph Representations with Communicative Message Passing Transformer

• arxiv url: http://arxiv.org/abs/2107.08773v1
• Date: Mon, 19 Jul 2021 11:58:32 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-20 15:15:37.518197
• Title: Learning Attributed Graph Representations with Communicative Message Passing Transformer
• Title（参考訳）: 通信メッセージパッシング変換器を用いたグラフ表現の学習
• Authors: Jianwen Chen, Shuangjia Zheng, Ying Song, Jiahua Rao, Yuedong Yang
• Abstract要約: 分子グラフ表現を改善するために,コミュニケーティブメッセージパッシングトランス (CoMPT) ニューラルネットワークを提案する。 分子を完全連結グラフとして扱う従来のトランスフォーマースタイルのGNNとは異なり、グラフ接続帰納バイアスを利用するメッセージ拡散機構を導入する。
• 参考スコア（独自算出の注目度）: 3.812358821429274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Constructing appropriate representations of molecules lies at the core of numerous tasks such as material science, chemistry and drug designs. Recent researches abstract molecules as attributed graphs and employ graph neural networks (GNN) for molecular representation learning, which have made remarkable achievements in molecular graph modeling. Albeit powerful, current models either are based on local aggregation operations and thus miss higher-order graph properties or focus on only node information without fully using the edge information. For this sake, we propose a Communicative Message Passing Transformer (CoMPT) neural network to improve the molecular graph representation by reinforcing message interactions between nodes and edges based on the Transformer architecture. Unlike the previous transformer-style GNNs that treat molecules as fully connected graphs, we introduce a message diffusion mechanism to leverage the graph connectivity inductive bias and reduce the message enrichment explosion. Extensive experiments demonstrated that the proposed model obtained superior performances (around 4$\%$ on average) against state-of-the-art baselines on seven chemical property datasets (graph-level tasks) and two chemical shift datasets (node-level tasks). Further visualization studies also indicated a better representation capacity achieved by our model.
• Abstract（参考訳）: 分子の適切な表現を構築することは、物質科学、化学、薬物設計など多くのタスクの中核にある。 近年の研究では、抽象分子を属性グラフとして、分子表現学習にグラフニューラルネットワーク(GNN)を用いており、分子グラフモデリングにおいて顕著な成果を上げている。 強力だが、現在のモデルは局所的な集約操作に基づいており、高次のグラフ特性を見逃すか、エッジ情報を完全に使用せずにノード情報のみに集中する。 そこで本研究では,ノードとエッジ間のメッセージインタラクションをトランスフォーマアーキテクチャに基づいて強化することにより,分子グラフ表現を改善するための通信型メッセージパッシングトランスフォーマ(compt)ニューラルネットワークを提案する。 分子を完全連結グラフとして扱う従来のトランスフォーマースタイルのGNNとは異なり、グラフ接続誘導バイアスを利用したメッセージ拡散機構を導入し、メッセージエンリッチメント爆発を低減する。 広範な実験により、7つの化学特性データセット(グラフレベルタスク)と2つの化学シフトデータセット(ノードレベルタスク)の最先端ベースラインに対して、提案モデルが優れた性能(平均で約4$\%$)を得た。 また,さらなる可視化研究により,モデルによる表現能力の向上も示された。

関連論文リスト

• Pre-trained Molecular Language Models with Random Functional Group Masking [54.900360309677794]
  SMILESをベースとしたアンダーリネム分子アンダーリネム言語アンダーリネムモデルを提案し,特定の分子原子に対応するSMILESサブシーケンスをランダムにマスキングする。 この技術は、モデルに分子構造や特性をよりよく推測させ、予測能力を高めることを目的としている。
  論文  参考訳（メタデータ） (2024-11-03T01:56:15Z)
• Molecular Graph Representation Learning via Structural Similarity Information [11.38130169319915]
  我々は新しい分子グラフ表現学習法である textbf Structure similarity Motif GNN (MSSM-GNN) を紹介する。 特に,分子間の類似性を定量的に表現するために,グラフカーネルアルゴリズムを利用した特殊設計グラフを提案する。 我々はGNNを用いて分子グラフから特徴表現を学習し、追加の分子表現情報を組み込むことで特性予測の精度を高めることを目的としている。
  論文  参考訳（メタデータ） (2024-09-13T06:59:10Z)
• MolGrapher: Graph-based Visual Recognition of Chemical Structures [50.13749978547401]
  化学構造を視覚的に認識するためにMolGrapherを導入する。 すべての候補原子と結合をノードとして扱い、それらをグラフ化する。 グラフニューラルネットワークを用いてグラフ内の原子と結合ノードを分類する。
  論文  参考訳（メタデータ） (2023-08-23T16:16:11Z)
• Bi-level Contrastive Learning for Knowledge-Enhanced Molecule Representations [55.42602325017405]
  本稿では,分子の2レベル構造を考慮した新しいGODE法を提案する。 異なるグラフ構造上で2つのグラフニューラルネットワーク(GNN)を事前訓練し、対照的な学習と組み合わせることで、GODEは分子構造を対応する知識グラフサブ構造と融合させる。 11の化学特性タスクを微調整した場合、我々のモデルは既存のベンチマークよりも優れており、分類タスクの平均ROC-AUCアップリフトは13.8%、回帰タスクの平均RMSE/MAEエンハンスメントは35.1%である。
  論文  参考訳（メタデータ） (2023-06-02T15:49:45Z)
• Molecular Joint Representation Learning via Multi-modal Information [11.493011069441188]
  MMSGと呼ばれるSMILESと分子グラフのマルチモーダル情報を用いた分子共同表現学習フレームワークを提案する。 トランスフォーマーのアテンションバイアスとしてボンドレベルグラフ表現を導入することにより,自己注意機構を改善した。 さらに,グラフから集約された情報フローを強化するために,双方向メッセージ通信グラフニューラルネットワーク(BMC GNN)を提案する。
  論文  参考訳（メタデータ） (2022-11-25T11:53:23Z)
• Graph neural networks for the prediction of molecular structure-property relationships [59.11160990637615]
  グラフニューラルネットワーク(GNN)は、分子グラフ上で直接動作する新しい機械学習手法である。 GNNは、エンドツーエンドでプロパティを学習できるため、情報記述子の必要性を回避することができる。 本稿では、分子特性予測のための2つの例を通して、GNNの基礎を説明し、GNNの応用を実証する。
  論文  参考訳（メタデータ） (2022-07-25T11:30:44Z)
• Molecular Graph Generation via Geometric Scattering [7.796917261490019]
  グラフニューラルネットワーク(GNN)は、薬物の設計と発見の問題を解決するために広く使われている。 分子グラフ生成における表現第一のアプローチを提案する。 我々のアーキテクチャは、医薬品のデータセットの有意義な表現を学習し、目標指向の薬物合成のためのプラットフォームを提供する。
  論文  参考訳（メタデータ） (2021-10-12T18:00:23Z)
• Self-Supervised Graph Transformer on Large-Scale Molecular Data [73.3448373618865]
  分子表現学習のための新しいフレームワークGROVERを提案する。 GROVERは、分子の豊富な構造的および意味的な情報を、巨大な未標識分子データから学習することができる。 分子表現学習において、最大のGNNであり、最大のトレーニングデータセットである、1000万個の未標識分子に1億のパラメータを持つGROVERを事前訓練します。
  論文  参考訳（メタデータ） (2020-06-18T08:37:04Z)
• Multi-View Graph Neural Networks for Molecular Property Prediction [67.54644592806876]
  マルチビューグラフニューラルネットワーク(MV-GNN)を提案する。 MV-GNNでは,学習過程を安定させるために,自己注意型読み出しコンポーネントと不一致損失を導入する。 我々は、相互依存型メッセージパッシング方式を提案することにより、MV-GNNの表現力をさらに強化する。
  論文  参考訳（メタデータ） (2020-05-17T04:46:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。