論文の概要: Toward Data-centric Directed Graph Learning: An Entropy-driven Approach
- arxiv url: http://arxiv.org/abs/2505.00983v1
- Date: Fri, 02 May 2025 04:06:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-05 17:21:19.899271
- Title: Toward Data-centric Directed Graph Learning: An Entropy-driven Approach
- Title（参考訳）: データ中心指向グラフ学習に向けて:エントロピー駆動アプローチ
- Authors: Xunkai Li, Zhengyu Wu, Kaichi Yu, Hongchao Qin, Guang Zeng, Rong-Hua Li, Guoren Wang,
- Abstract要約: 本稿では,データ中心のグラフ学習パラダイムや,モデルに依存しないホット・アンド・プラグデータ中心の知識蒸留(KD)モジュールとして機能するEDENを提案する。
EDENはまず、トポロジーの観点からの直接的構造測定を利用して、粗粒階層的知識木(HKT)を構築する。
一般的なフレームワークとして、EDENは自然に間接的なシナリオに拡張することができ、良好なパフォーマンスを示すことができます。
- 参考スコア（独自算出の注目度）: 25.480164922103352
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The directed graph (digraph), as a generalization of undirected graphs, exhibits superior representation capability in modeling complex topology systems and has garnered considerable attention in recent years. Despite the notable efforts made by existing DiGraph Neural Networks (DiGNNs) to leverage directed edges, they still fail to comprehensively delve into the abundant data knowledge concealed in the digraphs. This data-level limitation results in model-level sub-optimal predictive performance and underscores the necessity of further exploring the potential correlations between the directed edges (topology) and node profiles (feature and labels) from a data-centric perspective, thereby empowering model-centric neural networks with stronger encoding capabilities. In this paper, we propose \textbf{E}ntropy-driven \textbf{D}igraph knowl\textbf{E}dge distillatio\textbf{N} (EDEN), which can serve as a data-centric digraph learning paradigm or a model-agnostic hot-and-plug data-centric Knowledge Distillation (KD) module. The core idea is to achieve data-centric ML, guided by our proposed hierarchical encoding theory for structured data. Specifically, EDEN first utilizes directed structural measurements from a topology perspective to construct a coarse-grained Hierarchical Knowledge Tree (HKT). Subsequently, EDEN quantifies the mutual information of node profiles to refine knowledge flow in the HKT, enabling data-centric KD supervision within model training. As a general framework, EDEN can also naturally extend to undirected scenarios and demonstrate satisfactory performance. In our experiments, EDEN has been widely evaluated on 14 (di)graph datasets (homophily and heterophily) and across 4 downstream tasks. The results demonstrate that EDEN attains SOTA performance and exhibits strong improvement for prevalent (Di)GNNs.
- Abstract（参考訳）: 有向グラフ(ディグラフ)は、無向グラフの一般化として、複雑なトポロジーシステムのモデリングにおいて優れた表現能力を示し、近年かなりの注目を集めている。
有向エッジを活用するために既存のDiGraph Neural Networks(DiGNNs)が行った注目すべき努力にもかかわらず、ダイグラフに隠された豊富なデータ知識を包括的に掘り下げることはできなかった。
このデータレベルの制限は、モデルレベルの準最適予測性能をもたらし、データ中心の観点から、有向エッジ(トポロジー)とノードプロファイル(機能とラベル)間の潜在的な相関関係をさらに探求する必要性を強調し、より強力なエンコーディング機能を備えたモデル中心ニューラルネットワークの強化を可能にする。
本稿では,データ中心のグラフ学習パラダイムやモデルに依存しないホット・アンド・プラグ・データ中心の知識蒸留(KD)モジュールとして機能する,XMLbf{E}ntropy-driven \textbf{D}igraph knowl\textbf{E}dge distillatio\textbf{N} (EDEN)を提案する。
その中核となる考え方は、構造化データの階層的符号化理論によって導かれる、データ中心のMLを実現することである。
特にEDENは、まず、トポロジの観点からの指示的構造測定を利用して、粗い粒度の階層的知識木(HKT)を構築する。
その後、EDENはノードプロファイルの相互情報を定量化し、HKT内の知識の流れを洗練させ、モデルトレーニングにおけるデータ中心KDの監督を可能にする。
一般的なフレームワークとして、EDENは自然に間接的なシナリオに拡張することができ、良好なパフォーマンスを示すことができます。
実験では,14(di)グラフデータセット(ホモフィリーおよびヘテロフィリー)と4つの下流タスクにおいて,EDENが広く評価されている。
その結果, EDENはSOTA性能が向上し, 広範(Di)GNNの大幅な改善が見られた。
関連論文リスト
- DA-MoE: Addressing Depth-Sensitivity in Graph-Level Analysis through Mixture of Experts [70.21017141742763]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを処理することで人気を集めている。
既存のメソッドは通常、固定数のGNNレイヤを使用して、すべてのグラフの表現を生成する。
本稿では,GNNに2つの改良を加えたDA-MoE法を提案する。
論文 参考訳（メタデータ） (2024-11-05T11:46:27Z) - DGNN: Decoupled Graph Neural Networks with Structural Consistency
between Attribute and Graph Embedding Representations [62.04558318166396]
グラフニューラルネットワーク(GNN)は、複雑な構造を持つグラフ上での表現学習の堅牢性を示す。
ノードのより包括的な埋め込み表現を得るために、Decoupled Graph Neural Networks (DGNN)と呼ばれる新しいGNNフレームワークが導入された。
複数のグラフベンチマークデータセットを用いて、ノード分類タスクにおけるDGNNの優位性を検証した。
論文 参考訳（メタデータ） (2024-01-28T06:43:13Z) - Label Deconvolution for Node Representation Learning on Large-scale
Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。
実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文 参考訳（メタデータ） (2023-09-26T13:09:43Z) - Semantic Graph Neural Network with Multi-measure Learning for
Semi-supervised Classification [5.000404730573809]
近年,グラフニューラルネットワーク(GNN)が注目されている。
近年の研究では、GNNはグラフの複雑な基盤構造に弱いことが示されている。
半教師付き分類のための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2022-12-04T06:17:11Z) - Diving into Unified Data-Model Sparsity for Class-Imbalanced Graph
Representation Learning [30.23894624193583]
非ユークリッドグラフデータに基づくグラフニューラルネットワーク(GNN)トレーニングは、しばしば比較的高い時間コストに直面する。
グラフ決定(Graph Decantation, GraphDec)と呼ばれる統一されたデータモデル動的疎結合フレームワークを開発し, 大規模なクラス不均衡グラフデータのトレーニングによる課題に対処する。
論文 参考訳（メタデータ） (2022-10-01T01:47:00Z) - Data-Free Adversarial Knowledge Distillation for Graph Neural Networks [62.71646916191515]
グラフ構造化データ(DFAD-GNN)を用いたデータフリー逆知識蒸留のための第1のエンドツーエンドフレームワークを提案する。
具体的には、DFAD-GNNは、教師モデルと学生モデルとを2つの識別器とみなし、教師モデルから学生モデルに知識を抽出するために学習グラフを導出するジェネレータという、主に3つの成分からなる生成的対向ネットワークを採用している。
我々のDFAD-GNNは、グラフ分類タスクにおける最先端のデータフリーベースラインを大幅に上回っている。
論文 参考訳（メタデータ） (2022-05-08T08:19:40Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳（メタデータ） (2022-05-06T03:37:00Z) - Density-Aware Hyper-Graph Neural Networks for Graph-based
Semi-supervised Node Classification [3.698434507617248]
本稿では,密度認識型ハイパーグラフニューラルネットワーク(DA-HGNN)を提案する。
提案手法では,データ間の高次セマンティック相関を探索するためにハイパーグラフを提供し,高次接続関係を探索するために密度対応ハイパーグラフアテンションネットワークを提案する。
論文 参考訳（メタデータ） (2022-01-27T13:43:14Z) - Learnable Hypergraph Laplacian for Hypergraph Learning [34.28748027233654]
HyperGraph Convolutional Neural Networks (HGCNN) は、グラフ構造化データに保存された高次関係をモデル化する可能性を示した。
我々はHypERgrAph Laplacian aDaptor(HERALD)と呼ばれる適応的なハイパーグラフ構造を構築するための最初の学習ベース手法を提案する。
HERALDは、ハイパーノードとハイパーエッジの隣接関係をエンドツーエンドで適応的に最適化し、タスク認識ハイパーグラフを学習する。
論文 参考訳（メタデータ） (2021-06-12T02:07:07Z) - Learnable Hypergraph Laplacian for Hypergraph Learning [34.28748027233654]
HyperGraph Convolutional Neural Networks (HGCNN) は、グラフ構造化データに保存された高次関係をモデル化する可能性を示した。
我々はHypERgrAph Laplacian aDaptor(HERALD)と呼ばれる適応的なハイパーグラフ構造を構築するための最初の学習ベース手法を提案する。
HERALDは、ハイパーノードとハイパーエッジの隣接関係をエンドツーエンドで適応的に最適化し、タスク認識ハイパーグラフを学習する。
論文 参考訳（メタデータ） (2021-06-10T12:37:55Z) - Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。
FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
論文 参考訳（メタデータ） (2020-10-19T21:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。