論文の概要: HDMI: High-order Deep Multiplex Infomax

• arxiv url: http://arxiv.org/abs/2102.07810v1
• Date: Mon, 15 Feb 2021 19:30:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-18 02:33:35.489349
• Title: HDMI: High-order Deep Multiplex Infomax
• Title（参考訳）: HDMI:高階深度多重情報最大
• Authors: Baoyu Jing, Chanyoung Park, Hanghang Tong
• Abstract要約: 本稿では,マルチプレックスネットワークへのノード埋め込みを自己管理的に学習するための新しいフレームワークである High-order Deep Multiplex Infomax (HDMI) を提案する。 HDMIは、監視されていないクラスタリングや監視された分類など、さまざまな下流タスクで最先端のパフォーマンスを実現します。
• 参考スコア（独自算出の注目度）: 41.13493111000184
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Networks have been widely used to represent the relations between objects such as academic networks and social networks, and learning embedding for networks has thus garnered plenty of research attention. Self-supervised network representation learning aims at extracting node embedding without external supervision. Recently, maximizing the mutual information between the local node embedding and the global summary (e.g. Deep Graph Infomax, or DGI for short) has shown promising results on many downstream tasks such as node classification. However, there are two major limitations of DGI. Firstly, DGI merely considers the extrinsic supervision signal (i.e., the mutual information between node embedding and global summary) while ignores the intrinsic signal (i.e., the mutual dependence between node embedding and node attributes). Secondly, nodes in a real-world network are usually connected by multiple edges with different relations, while DGI does not fully explore the various relations among nodes. To address the above-mentioned problems, we propose a novel framework, called High-order Deep Multiplex Infomax (HDMI), for learning node embedding on multiplex networks in a self-supervised way. To be more specific, we first design a joint supervision signal containing both extrinsic and intrinsic mutual information by high-order mutual information, and we propose a High-order Deep Infomax (HDI) to optimize the proposed supervision signal. Then we propose an attention based fusion module to combine node embedding from different layers of the multiplex network. Finally, we evaluate the proposed HDMI on various downstream tasks such as unsupervised clustering and supervised classification. The experimental results show that HDMI achieves state-of-the-art performance on these tasks.
• Abstract（参考訳）: ネットワークは、学術ネットワークやソーシャルネットワークなどのオブジェクト間の関係を表すために広く使用され、ネットワークのための埋め込みの学習は、多くの研究の注目を集めています。 自己監視型ネットワーク表現学習は、外部の監督なしにノード埋め込みを抽出することを目的としている。 近年,ローカルノード埋め込みとグローバルサマリーの相互情報を最大化している(例)。 Deep Graph Infomax(略してDGI)は、ノード分類などの多くの下流タスクで有望な結果を示しています。 しかし、DGIには2つの大きな制限がある。 まず、DGIは内在的な信号(すなわちノード埋め込みとグローバル要約の間の相互情報)を無視しながら、外在的な監視信号(すなわちノード埋め込みとノード属性間の相互依存)を単に考慮する。 第二に、現実世界のネットワークのノードは通常、異なる関係を持つ複数のエッジで接続されるが、DGIはノード間の様々な関係を完全には探索しない。 そこで本研究では,マルチプレックスネットワークへのノード埋め込みを自己監視的に学習するための,HDMI(High-order Deep Multiplex Infomax)と呼ばれる新しいフレームワークを提案する。 より具体的には、まず、高次相互情報による外部情報と内在情報の両方を含む共同監視信号を設計し、提案した監視信号を最適化するための高次深度情報マックス(HDI)を提案する。 次に,マルチプレックスネットワークの異なる層からのノード埋め込みを組み合わせるための注意に基づく融合モジュールを提案する。 最後に,非教師付きクラスタリングや教師付き分類などの下流タスクで提案するhdmiの評価を行った。 実験の結果,HDMIはこれらのタスクの最先端性能を実現することがわかった。

関連論文リスト

• HiDAnet: RGB-D Salient Object Detection via Hierarchical Depth Awareness [2.341385717236931]
  本稿では,RGB-Dサリエンシ検出のための階層的深度認識ネットワーク(HiDAnet)を提案する。 我々のモチベーションは、幾何学的先行の多粒性特性がニューラルネットワーク階層とよく相関しているという観察から来ています。 当社のHiDAnetは最先端の手法よりも大きなマージンで良好に動作します。
  論文  参考訳（メタデータ） (2023-01-18T10:00:59Z)
• DPAR: Decoupled Graph Neural Networks with Node-Level Differential Privacy [30.15971370844865]
  我々は,ノードとエッジが保護されるように,GNNをトレーニングするためのノードレベルの差分プライバシー(DP)の実現を目指している。 プライバシーとユーティリティのトレードオフが強化されたGNNをトレーニングするために,DPAR(Dariially Private Approximate Personalized PageRank)を用いたデカップリングGNNを提案する。
  論文  参考訳（メタデータ） (2022-10-10T05:34:25Z)
• MGAE: Masked Autoencoders for Self-Supervised Learning on Graphs [55.66953093401889]
  Masked Graph Autoencoder (MGAE) フレームワークは、グラフ構造データの効果的な学習を行う。 自己指導型学習から洞察を得て、私たちはランダムに大量のエッジを隠蔽し、トレーニング中に欠落したエッジを再構築しようとします。
  論文  参考訳（メタデータ） (2022-01-07T16:48:07Z)
• Reasoning Graph Networks for Kinship Verification: from Star-shaped to Hierarchical [85.0376670244522]
  階層型推論グラフネットワークの学習による顔の親和性検証の問題点について検討する。 より強力で柔軟なキャパシティを利用するために,星型推論グラフネットワーク(S-RGN)を開発した。 また、より強力で柔軟なキャパシティを利用する階層型推論グラフネットワーク(H-RGN)も開発しています。
  論文  参考訳（メタデータ） (2021-09-06T03:16:56Z)
• Hop-Aware Dimension Optimization for Graph Neural Networks [11.341455005324104]
  LADDER-GNNという,単純で効果的なラグスタイルのGNNアーキテクチャを提案する。 具体的には、異なるホップからメッセージを分離し、ノード表現を得るためにそれらを結合する前に異なる次元を割り当てます。 その結果,提案した単純なホップ認識型表現学習ソリューションは,ほとんどのデータセットで最先端のパフォーマンスを達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-05-30T10:12:56Z)
• Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
  今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。 対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。 また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
  論文  参考訳（メタデータ） (2021-01-06T03:05:37Z)
• Multi-hop Attention Graph Neural Network [70.21119504298078]
  マルチホップアテンショングラフニューラルネットワーク(MAGNA)は、マルチホップコンテキスト情報を注目計算のすべての層に組み込む方法である。 MAGNAは各層における大規模構造情報を捕捉し,低域効果によりグラフデータからノイズの多い高周波情報を除去することを示す。
  論文  参考訳（メタデータ） (2020-09-29T22:41:19Z)
• Integrating Network Embedding and Community Outlier Detection via Multiclass Graph Description [15.679313861083239]
  そこで本稿では,ノード埋め込みとアウトレーヤとコミュニティ検出を統合した非教師なしグラフ埋め込み手法(DMGD)を提案する。 DMGDにより検出された外れ値の数に関する理論的境界を示す。 我々の定式化は、外れ値、コミュニティ割り当て、ノード埋め込み関数の間の興味深いミニマックスゲームに起因する。
  論文  参考訳（メタデータ） (2020-07-20T16:21:07Z)
• Multi-Stage Hybrid Federated Learning over Large-Scale D2D-Enabled Fog Networks [61.30171206892684]
  ネットワークを多層クラスタベース構造とみなす階層内モデル学習と層間モデル学習のハイブリッドを開発する。 MH-FLは、デバイス間通信(D2D)を介して形成されたローカルネットワークを含む、クラスタ内のノード間のトポロジー構造を考察している。 異なるネットワーク層におけるデバイスを協調的/協調的にオーケストレーションし、モデルパラメータの局所的なコンセンサスを形成する。
  論文  参考訳（メタデータ） (2020-07-18T20:03:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。