論文の概要: A Graph Data Augmentation Strategy with Entropy Preserving
- arxiv url: http://arxiv.org/abs/2107.06048v1
- Date: Tue, 13 Jul 2021 12:58:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-14 20:03:21.677966
- Title: A Graph Data Augmentation Strategy with Entropy Preserving
- Title(参考訳): エントロピー保存によるグラフデータ拡張戦略
- Authors: Xue Liu, Dan Sun, Wei Wei
- Abstract要約: 本稿では,グラフ間の特徴情報を評価するための定量的指標として,新しいグラフエントロピー定義を提案する。
グラフエントロピーの保存を考慮し、摂動機構を用いてトレーニングデータを生成する効果的な方法を提案する。
提案手法はトレーニング過程におけるGCNの堅牢性と一般化能力を大幅に向上させる。
- 参考スコア(独自算出の注目度): 11.886325179121226
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Graph Convolutional Networks (GCNs) proposed by Kipf and Welling are
effective models for semi-supervised learning, but facing the obstacle of
over-smoothing, which will weaken the representation ability of GCNs. Recently
some works are proposed to tackle with above limitation by randomly perturbing
graph topology or feature matrix to generate data augmentations as input for
training. However, these operations have to pay the price of information
structure integrity breaking, and inevitably sacrifice information
stochastically from original graph. In this paper, we introduce a novel graph
entropy definition as an quantitative index to evaluate feature information
diffusion among a graph. Under considerations of preserving graph entropy, we
propose an effective strategy to generate perturbed training data using a
stochastic mechanism but guaranteeing graph topology integrity and with only a
small amount of graph entropy decaying. Extensive experiments have been
conducted on real-world datasets and the results verify the effectiveness of
our proposed method in improving semi-supervised node classification accuracy
compared with a surge of baselines. Beyond that, our proposed approach
significantly enhances the robustness and generalization ability of GCNs during
the training process.
- Abstract(参考訳): Kipf と Welling が提案した Graph Convolutional Networks (GCNs) は、半教師付き学習に有効なモデルであるが、オーバースムーシングの障害に直面し、GCN の表現能力を弱める。
近年,グラフトポロジや特徴行列をランダムに摂動することで,学習用入力としてデータ拡張を生成する手法が提案されている。
しかし、これらの操作は、情報構造完全性の破れの代償を払い、必然的に元のグラフから情報を犠牲にしなければならない。
本稿では,グラフ間の特徴情報の拡散を評価する定量的指標として,新しいグラフエントロピー定義を提案する。
本稿では,グラフエントロピーの保存を考慮し,グラフトポロジの完全性を保証するとともに,少量のグラフエントロピー減衰を伴って,確率的機構を用いて摂動トレーニングデータを生成する効果的な方法を提案する。
実世界のデータセットについて広範な実験を行い,提案手法がベースライン数の増加と比較して,半教師付きノード分類精度の向上に有効であることを検証した。
さらに,本提案手法は,トレーニング過程におけるGCNの堅牢性と一般化能力を大幅に向上させる。
関連論文リスト
- Rewiring Techniques to Mitigate Oversquashing and Oversmoothing in GNNs: A Survey [0.0]
グラフニューラルネットワーク(GNN)は,グラフ構造化データから学習するための強力なツールだが,その有効性は2つの重要な課題によって制約されることが多い。
オーバーキャッシング(Oversquashing) – 遠いノードからの情報の過剰な圧縮が大きな情報損失と過度なスムース化をもたらし、繰り返しメッセージパッシングの繰り返しがノード表現を均質化し、意味のある区別を隠蔽する。
本研究では,グラフトポロジを改良して情報拡散を高めることで,これらの構造的ボトルネックに対処する手法であるグラフリウィリング手法について検討する。
論文 参考訳(メタデータ) (2024-11-26T13:38:12Z) - Self-Supervised Conditional Distribution Learning on Graphs [15.730933577970687]
本稿では,従来の特徴に対して,弱い特徴と強く拡張された特徴の条件分布を整列するエンドツーエンドグラフ表現学習モデルを提案する。
このアライメントは、グラフ構造化データ拡張による本質的な意味情報の破壊のリスクを効果的に低減する。
論文 参考訳(メタデータ) (2024-11-20T07:26:36Z) - GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。
我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
論文 参考訳(メタデータ) (2023-04-06T03:02:54Z) - Diving into Unified Data-Model Sparsity for Class-Imbalanced Graph
Representation Learning [30.23894624193583]
非ユークリッドグラフデータに基づくグラフニューラルネットワーク(GNN)トレーニングは、しばしば比較的高い時間コストに直面する。
グラフ決定(Graph Decantation, GraphDec)と呼ばれる統一されたデータモデル動的疎結合フレームワークを開発し, 大規模なクラス不均衡グラフデータのトレーニングによる課題に対処する。
論文 参考訳(メタデータ) (2022-10-01T01:47:00Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Learning Graph Structure from Convolutional Mixtures [119.45320143101381]
本稿では、観測されたグラフと潜伏グラフのグラフ畳み込み関係を提案し、グラフ学習タスクをネットワーク逆(デコンボリューション)問題として定式化する。
固有分解に基づくスペクトル法の代わりに、近似勾配反復をアンロール・トランケートして、グラフデコンボリューションネットワーク(GDN)と呼ばれるパラメータ化ニューラルネットワークアーキテクチャに到達させる。
GDNは、教師付き方式でグラフの分布を学習し、損失関数を適応させることでリンク予測やエッジウェイト回帰タスクを実行し、本質的に帰納的である。
論文 参考訳(メタデータ) (2022-05-19T14:08:15Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Scaling Up Graph Neural Networks Via Graph Coarsening [18.176326897605225]
グラフニューラルネットワーク(GNN)のスケーラビリティは、マシンラーニングにおける大きな課題のひとつだ。
本稿では,GNNのスケーラブルなトレーニングにグラフ粗大化を用いることを提案する。
既成の粗大化法を単純に適用すれば,分類精度を著しく低下させることなく,ノード数を最大10倍に削減できることを示す。
論文 参考訳(メタデータ) (2021-06-09T15:46:17Z) - GraphMI: Extracting Private Graph Data from Graph Neural Networks [59.05178231559796]
GNNを反転させてトレーニンググラフのプライベートグラフデータを抽出することを目的とした textbfGraph textbfModel textbfInversion attack (GraphMI) を提案する。
具体的には,グラフ特徴の空間性と滑らかさを保ちながら,グラフエッジの離散性に対処する勾配モジュールを提案する。
エッジ推論のためのグラフトポロジ、ノード属性、ターゲットモデルパラメータを効率的に活用するグラフ自動エンコーダモジュールを設計する。
論文 参考訳(メタデータ) (2021-06-05T07:07:52Z) - Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。
FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
論文 参考訳(メタデータ) (2020-10-19T21:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。