論文の概要: Graph-wise Common Latent Factor Extraction for Unsupervised Graph Representation Learning

• arxiv url: http://arxiv.org/abs/2112.08830v1
• Date: Thu, 16 Dec 2021 12:22:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-17 13:47:15.869577
• Title: Graph-wise Common Latent Factor Extraction for Unsupervised Graph Representation Learning
• Title（参考訳）: 教師なしグラフ表現学習のためのグラフワイズ共通潜在因子抽出
• Authors: Thilini Cooray and Ngai-Man Cheung
• Abstract要約: 我々は、教師なしグラフ表現学習のための新しい原則を提案する:グラフワイド共通潜在因子抽出(GCFX) GCFXは入力グラフから一般的な潜伏因子を明示的に抽出し、現在の最先端のタスクで改善された結果を達成する。 広範囲な実験と分析により,GCFXは個々のノードや周辺地域の局所的な変動による障害を軽減するため,グラフレベルのタスクに有用であることを示す。
• 参考スコア（独自算出の注目度）: 40.70562886682939
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unsupervised graph-level representation learning plays a crucial role in a variety of tasks such as molecular property prediction and community analysis, especially when data annotation is expensive. Currently, most of the best-performing graph embedding methods are based on Infomax principle. The performance of these methods highly depends on the selection of negative samples and hurt the performance, if the samples were not carefully selected. Inter-graph similarity-based methods also suffer if the selected set of graphs for similarity matching is low in quality. To address this, we focus only on utilizing the current input graph for embedding learning. We are motivated by an observation from real-world graph generation processes where the graphs are formed based on one or more global factors which are common to all elements of the graph (e.g., topic of a discussion thread, solubility level of a molecule). We hypothesize extracting these common factors could be highly beneficial. Hence, this work proposes a new principle for unsupervised graph representation learning: Graph-wise Common latent Factor EXtraction (GCFX). We further propose a deep model for GCFX, deepGCFX, based on the idea of reversing the above-mentioned graph generation process which could explicitly extract common latent factors from an input graph and achieve improved results on downstream tasks to the current state-of-the-art. Through extensive experiments and analysis, we demonstrate that, while extracting common latent factors is beneficial for graph-level tasks to alleviate distractions caused by local variations of individual nodes or local neighbourhoods, it also benefits node-level tasks by enabling long-range node dependencies, especially for disassortative graphs.
• Abstract（参考訳）: 教師なしグラフレベルの表現学習は、特にデータアノテーションが高価である場合、分子特性予測やコミュニティ分析といった様々なタスクにおいて重要な役割を果たす。 現在、最も優れたグラフ埋め込み法のほとんどはInfomax原則に基づいている。 これらの手法の性能は, サンプルが慎重に選択されていない場合, 負のサンプルの選択に大きく依存し, 性能を損なう。 グラフ間の相似性に基づく手法は、相似性マッチングのための選択されたグラフの集合が品質が低い場合にも苦しむ。 これに対処するために,現在の入力グラフを組込み学習にのみ活用することに注力する。 我々は、グラフのすべての要素(例えば、議論スレッドのトピック、分子の溶解度レベル)に共通する1つ以上の大域的因子に基づいてグラフが形成される実世界のグラフ生成プロセスからの観察によって動機づけられる。 これらの共通因子の抽出は極めて有益であると考えられる。 そこで本研究では,教師なしグラフ表現学習の新たな原則として,グラフワイド共通潜在因子抽出(GCFX)を提案する。 さらに、入力グラフから共通潜時因子を明示的に抽出し、下流タスクにおける改善された結果から現在の状態へ変換できる、上述のグラフ生成プロセスの逆転に基づく、GCFXのディープモデル、ディープGCFXを提案する。 広範にわたる実験と分析により、グラフレベルのタスクを抽出することで、個々のノードや周辺地域の局所的な変動による障害を軽減することができる一方で、特に非競合グラフにおいて、長距離ノード依存性を有効にすることでノードレベルのタスクにもメリットがあることを示した。

関連論文リスト

• What makes a good feedforward computational graph? [0.8370225749625163]
  フィードフォワード計算グラフの望ましい性質について検討し、忠実度と混合時間という2つの重要な相補的尺度を探索する。 我々の研究は、様々なグラフに対するメトリクスの振る舞いに関する理論的分析と、これらのメトリクスをトレーニングされたニューラルネットワークモデルの性能に関連付けることの両方から裏付けられている。
  論文  参考訳（メタデータ） (2025-02-10T18:26:40Z)
• Revisiting the Necessity of Graph Learning and Common Graph Benchmarks [2.1125997983972207]
  グラフ機械学習は、グラフコンテキストにおけるディープラーニングの導入以来、人気が高まってきた。 ノード機能はこれらのタスクに不十分であるため、ベンチマークのパフォーマンスはグラフ学習の改善を正確に反映している。 驚くべきことに、ノード機能はこれらのタスクで十分であることが多い。
  論文  参考訳（メタデータ） (2024-12-09T03:09:04Z)
• Fine-grained Graph Rationalization [51.293401030058085]
  グラフ機械学習のための微粒なグラフ合理化(FIG)を提案する。 私たちのアイデアは、入力ノード間のリッチなインタラクションを提供するセルフアテンションメカニズムによって推進されます。 実験では,実世界の7つのデータセットを対象とし,提案したFIGは,13のベースライン手法と比較して大きな性能上の優位性を示した。
  論文  参考訳（メタデータ） (2023-12-13T02:56:26Z)
• State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
  グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。 グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。 ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
  論文  参考訳（メタデータ） (2023-01-14T09:15:49Z)
• Similarity-aware Positive Instance Sampling for Graph Contrastive Pre-training [82.68805025636165]
  トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。 私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。 さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
  論文  参考訳（メタデータ） (2022-06-23T20:12:51Z)
• Edge but not Least: Cross-View Graph Pooling [76.71497833616024]
  本稿では,重要なグラフ構造情報を活用するために,クロスビューグラフプーリング(Co-Pooling)手法を提案する。 クロスビュー相互作用、エッジビュープーリング、ノードビュープーリングにより、相互にシームレスに強化され、より情報的なグラフレベルの表現が学習される。
  論文  参考訳（メタデータ） (2021-09-24T08:01:23Z)
• A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
  本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。 AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。 本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
  論文  参考訳（メタデータ） (2021-05-22T07:05:48Z)
• Accurate Learning of Graph Representations with Graph Multiset Pooling [45.72542969364438]
  本稿では,その構造的依存関係に応じてノード間の相互作用をキャプチャするグラフマルチセットトランス (GMT) を提案する。 実験の結果,GMTはグラフ分類ベンチマークにおいて,最先端のグラフプーリング法を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-02-23T07:45:58Z)
• Sub-graph Contrast for Scalable Self-Supervised Graph Representation Learning [21.0019144298605]
  既存のグラフニューラルネットワークは、計算量やメモリコストが限られているため、完全なグラフデータで供給される。 textscSubg-Conは、中央ノードとそのサンプルサブグラフ間の強い相関を利用して、地域構造情報をキャプチャすることで提案される。 既存のグラフ表現学習アプローチと比較して、textscSubg-Conは、より弱い監視要件、モデル学習のスケーラビリティ、並列化において、顕著なパフォーマンス上のアドバンテージを持っています。
  論文  参考訳（メタデータ） (2020-09-22T01:58:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。