論文の概要: Bayesian Graph Neural Networks with Adaptive Connection Sampling
- arxiv url: http://arxiv.org/abs/2006.04064v3
- Date: Tue, 30 Jun 2020 22:59:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 07:27:57.994775
- Title: Bayesian Graph Neural Networks with Adaptive Connection Sampling
- Title(参考訳): 適応接続サンプリングを用いたベイズグラフニューラルネットワーク
- Authors: Arman Hasanzadeh, Ehsan Hajiramezanali, Shahin Boluki, Mingyuan Zhou,
Nick Duffield, Krishna Narayanan, Xiaoning Qian
- Abstract要約: グラフニューラルネットワーク(GNN)における適応接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
- 参考スコア(独自算出の注目度): 62.51689735630133
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a unified framework for adaptive connection sampling in graph
neural networks (GNNs) that generalizes existing stochastic regularization
methods for training GNNs. The proposed framework not only alleviates
over-smoothing and over-fitting tendencies of deep GNNs, but also enables
learning with uncertainty in graph analytic tasks with GNNs. Instead of using
fixed sampling rates or hand-tuning them as model hyperparameters in existing
stochastic regularization methods, our adaptive connection sampling can be
trained jointly with GNN model parameters in both global and local fashions.
GNN training with adaptive connection sampling is shown to be mathematically
equivalent to an efficient approximation of training Bayesian GNNs.
Experimental results with ablation studies on benchmark datasets validate that
adaptively learning the sampling rate given graph training data is the key to
boost the performance of GNNs in semi-supervised node classification, less
prone to over-smoothing and over-fitting with more robust prediction.
- Abstract(参考訳): 本稿では,既存の確率正規化手法を一般化したグラフニューラルネットワーク(GNN)における適応的接続サンプリングのための統一的なフレームワークを提案する。
提案フレームワークは,深部GNNの過度なスムース化や過度に適合する傾向を緩和するだけでなく,グラフ解析タスクにおけるGNNによる不確実性の学習を可能にする。
既存の確率正規化手法では,固定サンプリング率やモデルハイパーパラメータとして手動チューニングを行う代わりに,GNNモデルパラメータとグローバルおよびローカルの両方で協調して適応接続サンプリングを訓練することができる。
適応的な接続サンプリングによるGNNトレーニングは,ベイジアンGNNの効率的な近似と数学的に等価であることが示されている。
グラフトレーニングデータに与えられたサンプリングレートを適応的に学習することが、半教師付きノード分類におけるgnnの性能向上の鍵であり、過剰なスムーシングやより堅牢な予測による過剰フィッティングを減少させる。
関連論文リスト
- DFA-GNN: Forward Learning of Graph Neural Networks by Direct Feedback Alignment [57.62885438406724]
グラフニューラルネットワークは、様々なアプリケーションにまたがる強力なパフォーマンスで認識されている。
BPには、その生物学的妥当性に挑戦する制限があり、グラフベースのタスクのためのトレーニングニューラルネットワークの効率、スケーラビリティ、並列性に影響を与える。
半教師付き学習のケーススタディを用いて,GNNに適した新しい前方学習フレームワークであるDFA-GNNを提案する。
論文 参考訳(メタデータ) (2024-06-04T07:24:51Z) - Online GNN Evaluation Under Test-time Graph Distribution Shifts [92.4376834462224]
オンラインGNN評価という新たな研究課題は、よく訓練されたGNNが現実世界の未ラベルグラフに一般化する能力について、貴重な洞察を提供することを目的としている。
我々は、よく訓練されたGNNモデルのテスト時間一般化誤差を推定するために、LeBeDと呼ばれる効果的な学習行動不一致スコアを開発する。
論文 参考訳(メタデータ) (2024-03-15T01:28:08Z) - Accurate and Scalable Estimation of Epistemic Uncertainty for Graph
Neural Networks [40.95782849532316]
固有GNNの不確実性推定を改善するための新しいトレーニングフレームワークを提案する。
我々のフレームワークは、新しいグラフアンカー戦略を通じて、データをグラフデータに中心付けるという原則に適応する。
本研究は,GNNの不確実性推定に関する知見を提供し,信頼度推定におけるG-$Delta$UQの有用性を実証する。
論文 参考訳(メタデータ) (2024-01-07T00:58:33Z) - Learning to Reweight for Graph Neural Network [63.978102332612906]
グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。
既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。
本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
論文 参考訳(メタデータ) (2023-12-19T12:25:10Z) - Label Deconvolution for Node Representation Learning on Large-scale
Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。
実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文 参考訳(メタデータ) (2023-09-26T13:09:43Z) - GNN-Ensemble: Towards Random Decision Graph Neural Networks [3.7620848582312405]
グラフニューラルネットワーク(GNN)は、グラフ構造化データに広く応用されている。
GNNは、大量のテストデータに基づいて推論を行うために、限られた量のトレーニングデータから潜伏パターンを学習する必要がある。
本稿では、GNNのアンサンブル学習を一歩前進させ、精度、堅牢性、敵攻撃を改善した。
論文 参考訳(メタデータ) (2023-03-20T18:24:01Z) - Distribution Free Prediction Sets for Node Classification [0.0]
我々は、共形予測の最近の進歩を活用し、帰納学習シナリオにおけるノード分類のための予測セットを構築する。
我々は、一般的なGNNモデルを用いた標準ベンチマークデータセットの実験を通して、共形予測の簡単な応用よりも、より厳密でより良い予測セットを提供することを示す。
論文 参考訳(メタデータ) (2022-11-26T12:54:45Z) - Graph Neural Network Based Node Deployment for Throughput Enhancement [20.56966053013759]
本稿では,ネットワークノード配置問題に対する新しいグラフニューラルネットワーク(GNN)手法を提案する。
提案手法の理論的サポートとして,表現型GNNが関数値とトラフィック置換の両方を近似する能力を持つことを示す。
論文 参考訳(メタデータ) (2022-08-19T08:06:28Z) - Stochastic Graph Neural Networks [123.39024384275054]
グラフニューラルネットワーク(GNN)は、分散エージェント調整、制御、計画に応用したグラフデータの非線形表現をモデル化する。
現在のGNNアーキテクチャは理想的なシナリオを前提として,環境やヒューマンファクタ,あるいは外部攻撃によるリンク変動を無視している。
これらの状況において、GNNは、トポロジカルなランダム性を考慮していない場合、その分散タスクに対処することができない。
論文 参考訳(メタデータ) (2020-06-04T08:00:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。