論文の概要: Long-range Dependency based Multi-Layer Perceptron for Heterogeneous
Information Networks
- arxiv url: http://arxiv.org/abs/2307.08430v1
- Date: Mon, 17 Jul 2023 12:20:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-18 13:37:31.596578
- Title: Long-range Dependency based Multi-Layer Perceptron for Heterogeneous
Information Networks
- Title(参考訳): 異種情報ネットワークのための長距離依存型多層パーセプトロン
- Authors: Chao Li, Zijie Guo, Qiuting He, Hao Xu and Kun He
- Abstract要約: 長距離依存性に基づく多層パーセプトロン(LDMLP)
長距離依存性に基づく多層パーセプトロン(LDMLP)
8つの異種データセットの実験により、LDMLPが最先端のパフォーマンスを達成することが示された。
- 参考スコア(独自算出の注目度): 14.746115829062349
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing heterogeneous graph neural networks (HGNNs) have achieved great
success in utilizing the rich semantic information in heterogeneous information
networks (HINs). However, few works have delved into the utilization of
long-range dependencies in HINs, which is extremely valuable as many real-world
HINs are sparse, and each node has only a few directly connected neighbors.
Although some HGNNs can utilize distant neighbors by stacking multiple layers
or leveraging long meta-paths, the exponentially increased number of nodes in
the receptive field or the number of meta-paths incurs high computation and
memory costs. To address these issues, we investigate the importance of
different meta-paths and propose Long-range Dependency based Multi-Layer
Perceptron (LDMLP). Specifically, to solve the high-cost problem of leveraging
long-range dependencies, LDMLP adopts a search stage to discover effective
meta-paths automatically, reducing the exponentially increased number of
meta-paths to a constant. To avoid the influence of specific modules on search
results, LDMLP utilizes a simple architecture with only multi-layer perceptions
in the search stage, improving the generalization of searched meta-paths. As a
result, the searched meta-paths not only perform well in LDMLP but also enable
other HGNNs like HAN and SeHGNN to perform better. Extensive experiments on
eight heterogeneous datasets demonstrate that LDMLP achieves state-of-the-art
performance while enjoying high efficiency and generalization, especially on
sparse HINs.
- Abstract(参考訳): 既存のヘテロジニアスグラフニューラルネットワーク(HGNN)は、ヘテロジニアス情報ネットワーク(HIN)におけるリッチセマンティック情報の利用において大きな成功を収めている。
しかし、多くの現実世界のHINが疎結合であるため、HINにおける長距離依存の利用について研究する研究はほとんどなく、各ノードは直接接続された隣人しか持たない。
いくつかのHGNNは、複数のレイヤを積み重ねたり、長いメタパスを利用することで、遠く離れた隣人を利用することができるが、受容領域におけるノードの数やメタパスの数の増加は、高い計算とメモリコストを引き起こす。
これらの問題に対処するために、異なるメタパスの重要性を調査し、長期依存型多層パーセプトロン(ldmlp)を提案する。
具体的には、長距離依存を利用した高コストな問題を解決するため、LDMLPは探索段階を採用し、効果的なメタパスを自動的に発見し、指数関数的に増加するメタパス数を一定に削減する。
特定のモジュールが検索結果に与える影響を避けるため,LDMLPは,検索段階における多層認識のみを備えたシンプルなアーキテクチャを用いて,検索されたメタパスの一般化を改善する。
その結果、検索されたメタパスは LDMLP でよく機能するだけでなく、HAN や SeHGNN などの他の HGNN でも性能が向上する。
8つのヘテロジニアスデータセットに対する大規模な実験により、LDMLPは高い効率と一般化を享受しながら、特にスパースHINにおいて最先端の性能を達成することが示された。
関連論文リスト
- GSINA: Improving Subgraph Extraction for Graph Invariant Learning via
Graph Sinkhorn Attention [52.67633391931959]
グラフ不変学習(GIL)は,グラフデータとそのラベル間の不変性を発見するための効果的な手法である。
グラフシンクホーン注意機構(GSINA)を提案する。
GSINAは、制御可能な空間性と柔らかさを持つ有意義で微分可能な不変部分グラフを得ることができる。
論文 参考訳(メタデータ) (2024-02-11T12:57:16Z) - Efficient Heterogeneous Graph Learning via Random Projection [65.65132884606072]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳(メタデータ) (2023-10-23T01:25:44Z) - Search to Capture Long-range Dependency with Stacking GNNs for Graph
Classification [41.84399177525008]
浅いGNNは、より深いGNNに直面しているよく知られたオーバースムースな問題のため、より一般的である。
LRGNN(Long-Range Graph Neural Networks)と呼ばれるニューラルアーキテクチャサーチ(NAS)による新しいアプローチを提案する。
論文 参考訳(メタデータ) (2023-02-17T03:40:17Z) - Differentiable Meta Multigraph Search with Partial Message Propagation
on Heterogeneous Information Networks [18.104982772430102]
異種情報ネットワーク(HIN)上でのニューラルネットワーク設計を自動的に最適化するPMMM(Partial Message Meta Multigraph Search)を提案する。
PMMMは、意味のあるメタマルチグラフを探すために効率的な微分可能なフレームワークを採用しており、メタグラフよりも柔軟で複雑なセマンティックな関係を捉えることができる。
我々の手法は、最先端の異種GNNより優れ、意味のあるメタマルチグラフを見つけ、より安定している。
論文 参考訳(メタデータ) (2022-11-27T07:35:42Z) - Heterogeneous Graph Tree Networks [8.50892442127182]
異種グラフニューラルネットワーク(HGNN)は近年,研究の関心が高まっている。
1つのクラスはメタパスベースのHGNNで、メタパスをハンドクラフトするためにドメイン知識を必要とするか、メタパスを自動的に構築するために大量の時間とメモリを消費する。
HetGTCN(Heterogeneous Graph Tree Convolutional Network)とHetGTAN(Hetogeneous Graph Tree Attention Network)の2つのモデルを提案する。
論文 参考訳(メタデータ) (2022-09-01T17:22:01Z) - SHGNN: Structure-Aware Heterogeneous Graph Neural Network [77.78459918119536]
本稿では、上記の制約に対処する構造対応不均一グラフニューラルネットワーク(SHGNN)を提案する。
まず,メタパス内の中間ノードの局所構造情報を取得するために,特徴伝搬モジュールを利用する。
次に、ツリーアテンションアグリゲータを使用して、グラフ構造情報をメタパス上のアグリゲーションモジュールに組み込む。
最後に、メタパスアグリゲータを利用して、異なるメタパスから集約された情報を融合する。
論文 参考訳(メタデータ) (2021-12-12T14:18:18Z) - Node Feature Extraction by Self-Supervised Multi-scale Neighborhood
Prediction [123.20238648121445]
我々は、新しい自己教師型学習フレームワーク、グラフ情報支援ノード機能exTraction (GIANT)を提案する。
GIANT は eXtreme Multi-label Classification (XMC) 形式を利用しており、これはグラフ情報に基づいた言語モデルの微調整に不可欠である。
我々は,Open Graph Benchmarkデータセット上での標準GNNパイプラインよりもGIANTの方が優れた性能を示す。
論文 参考訳(メタデータ) (2021-10-29T19:55:12Z) - Learning Multi-Granular Hypergraphs for Video-Based Person
Re-Identification [110.52328716130022]
ビデオベースの人物識別(re-ID)はコンピュータビジョンにおいて重要な研究課題である。
MGH(Multi-Granular Hypergraph)という新しいグラフベースのフレームワークを提案する。
MARSの90.0%のトップ-1精度はMGHを用いて達成され、最先端のスキームよりも優れていた。
論文 参考訳(メタデータ) (2021-04-30T11:20:02Z) - Learnable Graph Matching: Incorporating Graph Partitioning with Deep
Feature Learning for Multiple Object Tracking [58.30147362745852]
フレーム間のデータアソシエーションは、Multiple Object Tracking(MOT)タスクの中核にある。
既存の手法は、主にトラックレットとフレーム内検出の間のコンテキスト情報を無視する。
そこで本研究では,学習可能なグラフマッチング手法を提案する。
論文 参考訳(メタデータ) (2021-03-30T08:58:45Z) - DiffMG: Differentiable Meta Graph Search for Heterogeneous Graph Neural
Networks [45.075163625895286]
我々はメタグラフを探索し、メタパスよりも複雑なセマンティック関係をキャプチャし、グラフニューラルネットワークが異なるタイプのエッジに沿ってメッセージを伝播する方法を決定する。
我々は、HINの候補メタグラフを表すために、有向非巡回グラフ(DAG)の形式で表現型検索空間を設計する。
本稿では,1回のGNNトレーニングに匹敵する検索コストを1対1に抑えるための,新しい効率的な探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-07T08:09:29Z) - GLSearch: Maximum Common Subgraph Detection via Learning to Search [33.9052190473029]
検索モデルに対するグラフニューラルネットワーク(GNN)に基づく学習手法であるGLSearchを提案する。
このモデルでは2つの入力グラフから1対のノードを選択して一度に拡張する。
我々のGLSearchは、グラフ上の制約で他の多くの問題を解決するために拡張できる可能性がある。
論文 参考訳(メタデータ) (2020-02-08T10:03:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。