論文の概要: Learning to Control the Smoothness of Graph Convolutional Network Features
- arxiv url: http://arxiv.org/abs/2410.14604v1
- Date: Fri, 18 Oct 2024 16:57:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-21 14:23:53.234628
- Title: Learning to Control the Smoothness of Graph Convolutional Network Features
- Title(参考訳): グラフ畳み込みネットワーク機能の平滑性制御の学習
- Authors: Shih-Hsin Wang, Justin Baker, Cory Hauck, Bao Wang,
- Abstract要約: 本稿では,グラフ畳み込みネットワーク(GCN)が所望の滑らかさでノード特徴を学習するための新しい戦略を提案する。
我々はReLUの入力と出力の幾何学的関係を確立する。
幾何学的洞察に基づいて、我々はグラフ畳み込み層のメッセージパッシングプロセスを学習可能な用語で拡張し、ノードの特徴の滑らかさを調節する。
- 参考スコア(独自算出の注目度): 9.949988676706418
- License:
- Abstract: The pioneering work of Oono and Suzuki [ICLR, 2020] and Cai and Wang [arXiv:2006.13318] initializes the analysis of the smoothness of graph convolutional network (GCN) features. Their results reveal an intricate empirical correlation between node classification accuracy and the ratio of smooth to non-smooth feature components. However, the optimal ratio that favors node classification is unknown, and the non-smooth features of deep GCN with ReLU or leaky ReLU activation function diminish. In this paper, we propose a new strategy to let GCN learn node features with a desired smoothness -- adapting to data and tasks -- to enhance node classification. Our approach has three key steps: (1) We establish a geometric relationship between the input and output of ReLU or leaky ReLU. (2) Building on our geometric insights, we augment the message-passing process of graph convolutional layers (GCLs) with a learnable term to modulate the smoothness of node features with computational efficiency. (3) We investigate the achievable ratio between smooth and non-smooth feature components for GCNs with the augmented message-passing scheme. Our extensive numerical results show that the augmented message-passing schemes significantly improve node classification for GCN and some related models.
- Abstract(参考訳): 大野・鈴木(ICLR, 2020)とCai・Wang(arXiv:2006.13318)の先駆的な研究は、グラフ畳み込みネットワーク(GCN)の機能の滑らかさの解析を初期化している。
これらの結果から,ノード分類精度とスムーズな特徴成分と非滑らかな特徴成分の比との複雑な経験的相関が明らかとなった。
しかし、ノード分類に有利な最適比は不明であり、ReLUまたはリークReLUアクティベーション関数を持つディープGCNの非滑らかな特徴は減少する。
本稿では,GCNが目的とするスムーズなノード特徴(データやタスクに適応する)を学習し,ノード分類を強化するための新しい戦略を提案する。
提案手法には3つの重要なステップがある: 1) ReLUの入力と出力の幾何学的関係を確立する。
2) 幾何学的洞察に基づいて, グラフ畳み込み層(GCL)のメッセージ通過過程を学習可能な用語で拡張し, ノード特徴の滑らかさを計算効率で調節する。
(3) 拡張メッセージパス方式によるGCNのスムーズな特徴成分と非滑らかな特徴成分の達成可能な比について検討する。
拡張メッセージパス方式はGCNと関連するモデルのノード分類を大幅に改善することを示す。
関連論文リスト
- Scalable Graph Compressed Convolutions [68.85227170390864]
ユークリッド畳み込みのための入力グラフのキャリブレーションに置換を適用する微分可能手法を提案する。
グラフキャリブレーションに基づいて,階層型グラフ表現学習のための圧縮畳み込みネットワーク(CoCN)を提案する。
論文 参考訳(メタデータ) (2024-07-26T03:14:13Z) - LinGCN: Structural Linearized Graph Convolutional Network for
Homomorphically Encrypted Inference [19.5669231249754]
本稿では,乗算深度を低減し,HEに基づくGCN推論の性能を最適化するLinGCNを提案する。
注目すべきは、LinGCNはCryptoGCNと比較して14.2倍のレイテンシ向上を実現し、推論精度は75%、乗算深度は顕著に減少することである。
論文 参考訳(メタデータ) (2023-09-25T17:56:54Z) - Orthogonal Graph Neural Networks [53.466187667936026]
グラフニューラルネットワーク(GNN)は,ノード表現の学習において優れていたため,大きな注目を集めている。
より畳み込み層を積み重ねることで、GNNのパフォーマンスが大幅に低下する。
本稿では,モデルトレーニングの安定化とモデル一般化性能の向上のために,既存のGNNバックボーンを拡張可能なOrtho-GConvを提案する。
論文 参考訳(メタデータ) (2021-09-23T12:39:01Z) - Data Augmentation for Graph Convolutional Network on Semi-Supervised
Classification [6.619370466850894]
グラフ畳み込みネットワーク(GCN)におけるグラフデータ拡張の問題について検討する。
具体的には、元の特徴に基づいてコサイン類似性に基づくクロスオペレーションを行い、新しいノード属性を含む新しいグラフ機能を作成する。
また,これらのGCNによって符号化された隠れノード埋め込みを最終ノード埋め込みに重み付けした注意統合モデルを提案する。
論文 参考訳(メタデータ) (2021-06-16T15:13:51Z) - Towards Efficient Graph Convolutional Networks for Point Cloud Handling [181.59146413326056]
ポイントクラウド上で学習するためのグラフ畳み込みネットワーク(GCN)の計算効率の向上を目指します。
一連の実験により、最適化されたネットワークは計算複雑性を減らし、メモリ消費を減らし、推論速度を加速した。
論文 参考訳(メタデータ) (2021-04-12T17:59:16Z) - Smoothness Sensor: Adaptive Smoothness-Transition Graph Convolutions for
Attributed Graph Clustering [10.905770964670191]
適応的滑らか度-遷移グラフ畳み込みに基づく属性グラフクラスタリングのための滑らか度センサを提案する。
グラフレベルの滑らかさの代替として,新しい細粒度ノード単位の滑らかさ評価法を提案する。
実験の結果,提案手法は3つの異なる指標で,他の12の最先端のベースラインを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2020-09-12T08:12:27Z) - CatGCN: Graph Convolutional Networks with Categorical Node Features [99.555850712725]
CatGCNはグラフ学習に適したノード機能である。
エンドツーエンドでCatGCNを訓練し、半教師付きノード分類でそれを実証する。
論文 参考訳(メタデータ) (2020-09-11T09:25:17Z) - AM-GCN: Adaptive Multi-channel Graph Convolutional Networks [85.0332394224503]
グラフ畳み込みネットワーク(GCN)は,豊富な情報を持つ複雑なグラフにおいて,ノードの特徴と位相構造を最適に統合できるかどうかを検討する。
半教師付き分類(AM-GCN)のための適応型マルチチャネルグラフ畳み込みネットワークを提案する。
実験の結果,AM-GCNはノードの特徴とトポロジ的構造の両方から最も相関性の高い情報を抽出することがわかった。
論文 参考訳(メタデータ) (2020-07-05T08:16:03Z) - Cross-GCN: Enhancing Graph Convolutional Network with $k$-Order Feature
Interactions [153.6357310444093]
Graph Convolutional Network(GCN)は,グラフデータの学習と推論を行う新興技術である。
我々は、GCNの既存の設計がクロスフィーチャをモデリングし、クロスフィーチャが重要であるタスクやデータに対してGCNの効率を損なうことを論じている。
我々は、任意の次交叉特徴を、特徴次元と順序サイズに線形に複雑にモデル化した、クロスフィーチャーグラフ畳み込みという新しい演算子を設計する。
論文 参考訳(メタデータ) (2020-03-05T13:05:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。