論文の概要: MoCL: Contrastive Learning on Molecular Graphs with Multi-level Domain
Knowledge
- arxiv url: http://arxiv.org/abs/2106.04509v1
- Date: Sat, 5 Jun 2021 18:00:51 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-14 01:45:31.354162
- Title: MoCL: Contrastive Learning on Molecular Graphs with Multi-level Domain
Knowledge
- Title（参考訳）: MoCL:マルチレベルドメイン知識を用いた分子グラフのコントラスト学習
- Authors: Mengying Sun, Jing Xing, Huijun Wang, Bin Chen, Jiayu Zhou
- Abstract要約: そこで我々は,表現学習を支援するために,地域レベルとグローバルレベルの両方でドメイン知識を利用するMoCLという新しいフレームワークを提案する。
我々は, 線形および半教師付き条件下で, 種々の分子データセット上でMoCLを評価する。
- 参考スコア（独自算出の注目度）: 28.386302970315736
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent years have seen a rapid growth of utilizing graph neural networks
(GNNs) in the biomedical domain for tackling drug-related problems. However,
like any other deep architectures, GNNs are data hungry. While requiring labels
in real world is often expensive, pretraining GNNs in an unsupervised manner
has been actively explored. Among them, graph contrastive learning, by
maximizing the mutual information between paired graph augmentations, has been
shown to be effective on various downstream tasks. However, the current graph
contrastive learning framework has two limitations. First, the augmentations
are designed for general graphs and thus may not be suitable or powerful enough
for certain domains. Second, the contrastive scheme only learns representations
that are invariant to local perturbations and thus does not consider the global
structure of the dataset, which may also be useful for downstream tasks.
Therefore, in this paper, we study graph contrastive learning in the context of
biomedical domain, where molecular graphs are present. We propose a novel
framework called MoCL, which utilizes domain knowledge at both local- and
global-level to assist representation learning. The local-level domain
knowledge guides the augmentation process such that variation is introduced
without changing graph semantics. The global-level knowledge encodes the
similarity information between graphs in the entire dataset and helps to learn
representations with richer semantics. The entire model is learned through a
double contrast objective. We evaluate MoCL on various molecular datasets under
both linear and semi-supervised settings and results show that MoCL achieves
state-of-the-art performance.
- Abstract（参考訳）: 近年,薬物関連問題に対処するためのバイオメディカル領域におけるグラフニューラルネットワーク(GNN)の利用が急速に増加している。
しかし、他のディープアーキテクチャと同様に、GNNはデータに飢えている。
実世界のラベルが必要な場合、しばしばコストがかかるが、教師なしの方法でGNNを事前訓練することは活発に研究されている。
その中でも,グラフ強化間の相互情報の最大化によるグラフコントラスト学習は,下流タスクに有効であることが示されている。
しかし、現在のグラフコントラスト学習フレームワークには2つの制限がある。
まず、拡張は一般グラフのために設計されており、そのため特定の領域に十分適さない、あるいは強力ではないかもしれない。
第二に、対照的なスキームは局所摂動に不変な表現のみを学習し、従ってデータセットのグローバル構造を考慮しない。
そこで本研究では,分子グラフが存在する生物医学領域におけるグラフの対比学習について検討する。
本稿では,表現学習を支援するために,地域レベルとグローバルレベルのドメイン知識を利用するMoCLという新しいフレームワークを提案する。
ローカルレベルのドメイン知識は、グラフのセマンティクスを変更することなく変化を導入するように拡張プロセスを導く。
グローバルレベルの知識は、データセット全体のグラフ間の類似情報をエンコードし、よりリッチなセマンティクスで表現を学ぶのに役立つ。
モデル全体が二重コントラストの目的を通して学習される。
線形および半教師付き条件下での分子集合上でのMoCLの評価を行い,MoCLが最先端の性能を発揮することを示す。
関連論文リスト
- GRE^2-MDCL: Graph Representation Embedding Enhanced via Multidimensional Contrastive Learning [0.0]
グラフ表現学習は、ノードをベクトル表現にマッピングする際にグラフトポロジを保存する強力なツールとして登場した。
現在のグラフニューラルネットワークモデルは、広範なラベル付きデータを必要とするという課題に直面している。
多次元コントラスト学習によるグラフ表現埋め込みを提案する。
論文 参考訳（メタデータ） (2024-09-12T03:09:05Z) - TGNN: A Joint Semi-supervised Framework for Graph-level Classification [34.300070497510276]
我々は、ツイングラフニューラルネットワーク(TGNN)と呼ばれる新しい半教師付きフレームワークを提案する。
グラフ構造情報を補完的なビューから探索するために、TGNNにはメッセージパッシングモジュールとグラフカーネルモジュールがあります。
我々は,TGNNを様々な公開データセットで評価し,高い性能が得られることを示す。
論文 参考訳（メタデータ） (2023-04-23T15:42:11Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳（メタデータ） (2023-01-14T09:15:49Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳（メタデータ） (2022-05-15T11:38:14Z) - Graph Structure Learning with Variational Information Bottleneck [70.62851953251253]
本稿では,新しい変分情報ボトルネックガイド付きグラフ構造学習フレームワーク,すなわちVIB-GSLを提案する。
VIB-GSLは情報的かつ圧縮的なグラフ構造を学習し、特定の下流タスクに対して実行可能な情報を蒸留する。
論文 参考訳（メタデータ） (2021-12-16T14:22:13Z) - Graph Representation Learning via Contrasting Cluster Assignments [57.87743170674533]
GRCCAと呼ばれるクラスタ割り当てを対比して、教師なしグラフ表現モデルを提案する。
クラスタリングアルゴリズムとコントラスト学習を組み合わせることで、局所的およびグローバルな情報を合成的にうまく活用する動機付けがある。
GRCCAは、ほとんどのタスクにおいて強力な競争力を持っている。
論文 参考訳（メタデータ） (2021-12-15T07:28:58Z) - Multi-Level Graph Contrastive Learning [38.022118893733804]
本稿では,グラフの空間ビューを対比することで,グラフデータの堅牢な表現を学習するためのマルチレベルグラフコントラスト学習(MLGCL)フレームワークを提案する。
元のグラフは1次近似構造であり、不確実性や誤りを含むが、符号化機能によって生成された$k$NNグラフは高次近接性を保持する。
MLGCLは、7つのデータセット上の既存の最先端グラフ表現学習法と比較して有望な結果が得られることを示す。
論文 参考訳（メタデータ） (2021-07-06T14:24:43Z) - Graph Contrastive Learning with Augmentations [109.23158429991298]
グラフデータの教師なし表現を学習するためのグラフコントラスト学習(GraphCL)フレームワークを提案する。
我々のフレームワークは、最先端の手法と比較して、類似またはより良い一般化可能性、転送可能性、堅牢性のグラフ表現を作成できることを示す。
論文 参考訳（メタデータ） (2020-10-22T20:13:43Z) - Sub-graph Contrast for Scalable Self-Supervised Graph Representation
Learning [21.0019144298605]
既存のグラフニューラルネットワークは、計算量やメモリコストが限られているため、完全なグラフデータで供給される。
textscSubg-Conは、中央ノードとそのサンプルサブグラフ間の強い相関を利用して、地域構造情報をキャプチャすることで提案される。
既存のグラフ表現学習アプローチと比較して、textscSubg-Conは、より弱い監視要件、モデル学習のスケーラビリティ、並列化において、顕著なパフォーマンス上のアドバンテージを持っています。
論文 参考訳（メタデータ） (2020-09-22T01:58:19Z) - Multi-Level Graph Convolutional Network with Automatic Graph Learning
for Hyperspectral Image Classification [63.56018768401328]
HSI分類のための自動グラフ学習法(MGCN-AGL)を用いたマルチレベルグラフ畳み込みネットワーク(GCN)を提案する。
空間的に隣接する領域における重要度を特徴付けるために注意機構を利用することで、最も関連性の高い情報を適応的に組み込んで意思決定を行うことができる。
MGCN-AGLは局所的に生成した表現表現に基づいて画像領域間の長距離依存性を符号化する。
論文 参考訳（メタデータ） (2020-09-19T09:26:20Z) - Differentiable Graph Module (DGM) for Graph Convolutional Networks [44.26665239213658]
Differentiable Graph Module (DGM) は、下流タスクに最適なグラフのエッジ確率を予測する学習可能な関数である。
医療分野(退院予測)、脳画像(年齢予測)、コンピュータグラフィックス(3Dポイントクラウドセグメンテーション)、コンピュータビジョン(ゼロショット学習)の応用を幅広く評価する。
論文 参考訳（メタデータ） (2020-02-11T12:59:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。