論文の概要: Graph Structure Learning with Interpretable Bayesian Neural Networks
- arxiv url: http://arxiv.org/abs/2406.14786v1
- Date: Thu, 20 Jun 2024 23:27:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-24 15:12:21.100399
- Title: Graph Structure Learning with Interpretable Bayesian Neural Networks
- Title(参考訳): 解釈可能なベイズニューラルネットワークを用いたグラフ構造学習
- Authors: Max Wasserman, Gonzalo Mateos,
- Abstract要約: 独立に解釈可能なパラメータを持つ新しい反復を導入する。
これらのパラメータは、エッジ空間のような推定グラフの特性に影響を与える。
これらの反復を解いた後、そのようなグラフの特徴に関する事前知識は、事前分布を形作る。
高速な実行とパラメータ効率により、高忠実度後部近似が可能となる。
- 参考スコア(独自算出の注目度): 10.957528713294874
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graphs serve as generic tools to encode the underlying relational structure of data. Often this graph is not given, and so the task of inferring it from nodal observations becomes important. Traditional approaches formulate a convex inverse problem with a smoothness promoting objective and rely on iterative methods to obtain a solution. In supervised settings where graph labels are available, one can unroll and truncate these iterations into a deep network that is trained end-to-end. Such a network is parameter efficient and inherits inductive bias from the optimization formulation, an appealing aspect for data constrained settings in, e.g., medicine, finance, and the natural sciences. But typically such settings care equally about uncertainty over edge predictions, not just point estimates. Here we introduce novel iterations with independently interpretable parameters, i.e., parameters whose values - independent of other parameters' settings - proportionally influence characteristics of the estimated graph, such as edge sparsity. After unrolling these iterations, prior knowledge over such graph characteristics shape prior distributions over these independently interpretable network parameters to yield a Bayesian neural network (BNN) capable of graph structure learning (GSL) from smooth signal observations. Fast execution and parameter efficiency allow for high-fidelity posterior approximation via Markov Chain Monte Carlo (MCMC) and thus uncertainty quantification on edge predictions. Synthetic and real data experiments corroborate this model's ability to provide well-calibrated estimates of uncertainty, in test cases that include unveiling economic sector modular structure from S$\&$P$500$ data and recovering pairwise digit similarities from MNIST images. Overall, this framework enables GSL in modest-scale applications where uncertainty on the data structure is paramount.
- Abstract(参考訳): グラフは、基礎となるデータリレーショナル構造をエンコードするための一般的なツールとして機能する。
しばしばこのグラフは与えられず、結節観察からこのグラフを推測する作業が重要となる。
従来のアプローチでは、凸逆問題を滑らか性促進目的で定式化し、解を得るために反復的な方法に依存する。
グラフラベルが利用可能な教師付き設定では、これらのイテレーションをエンドツーエンドにトレーニングされたディープネットワークにアンロールして切り離すことができる。
このようなネットワークはパラメータ効率が高く、最適化の定式化から帰納的バイアスを継承する。
しかし、一般的にそのような設定は、単に点推定だけでなく、エッジ予測に対する不確実性にも等しく気を配ります。
ここでは、独立に解釈可能なパラメータを持つ新しい反復、すなわち、他のパラメータの設定に依存しない値がエッジ空間のような推定グラフの特性に比例するパラメータを導入する。
これらの反復を解いた後、これらのグラフ特性に関する事前知識は、独立に解釈可能なネットワークパラメータに事前分布を形成し、滑らかな信号観測からグラフ構造学習(GSL)が可能なベイズニューラルネットワーク(BNN)を生成する。
高速な実行とパラメータ効率により、マルコフ・チェイン・モンテカルロ(MCMC)による高忠実な後続近似が可能となり、したがってエッジ予測の不確実な定量化が可能になる。
合成および実データ実験は、S$$&$P$500$のデータから経済セクターのモジュラー構造を明らかにし、MNIST画像からペア桁の類似性を回復するテストケースにおいて、不確実性に関するよく校正された見積もりを提供するこのモデルの能力を裏付けるものである。
全体として、このフレームワークは、データ構造に不確実性が最重要であるような、控えめなスケールのアプリケーションでGSLを可能にする。
関連論文リスト
- The Effectiveness of Curvature-Based Rewiring and the Role of Hyperparameters in GNNs Revisited [0.7373617024876725]
グラフニューラルネットワーク(GNN)におけるメッセージパッシングは支配的なパラダイムである
近年、データと計算グラフから入力グラフを切断し、メッセージパッシングを行うグラフリウィリング技術に力を入れている。
オーバーシャッシングは合成データセットで実証されているが、この研究では、曲率ベースのリワイアリングが現実のデータセットにもたらすパフォーマンス向上を再評価する。
論文 参考訳(メタデータ) (2024-07-12T16:03:58Z) - Chasing Fairness in Graphs: A GNN Architecture Perspective [73.43111851492593]
グラフニューラルネットワーク(GNN)の統一最適化フレームワーク内で設計されたtextsfFair textsfMessage textsfPassing(FMP)を提案する。
FMPでは、アグリゲーションがまず隣人の情報を活用するために採用され、バイアス軽減ステップにより、人口集団ノードのプレゼンテーションセンタが明示的に統合される。
ノード分類タスクの実験により、提案されたFMPは、実世界の3つのデータセットの公平性と正確性の観点から、いくつかのベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2023-12-19T18:00:15Z) - Towards Robust Fidelity for Evaluating Explainability of Graph Neural Networks [32.345435955298825]
グラフニューラルネットワーク(GNN)は、グラフノード間のメッセージパッシングを介してグラフィカルデータの依存性構造を利用するニューラルネットワークである。
GNN説明可能性の研究における主な課題は、これらの説明機能の性能を評価するための忠実度尺度を提供することである。
本稿では,この基礎的課題について考察し,その限界を浮き彫りにする。
論文 参考訳(メタデータ) (2023-10-03T06:25:14Z) - Graph Neural Processes for Spatio-Temporal Extrapolation [36.01312116818714]
グラフ内の周囲のコンテキストから対象地点のデータを生成する補間時間プロセスのタスクについて検討する。
既存の手法では、ニューラルネットワークのような学習に精通したモデルや、ガウスのような統計的アプローチが使用されている。
本稿では,これらの機能を同時に制御するニューラル潜在変数モデルであるスポースグラフニューラル・プロセス(STGNP)を提案する。
論文 参考訳(メタデータ) (2023-05-30T03:55:37Z) - Uncertainty Quantification over Graph with Conformalized Graph Neural
Networks [52.20904874696597]
グラフニューラルネットワーク(GNN)は、グラフ構造化データに基づく強力な機械学習予測モデルである。
GNNには厳密な不確実性見積が欠如しており、エラーのコストが重要な設定での信頼性の高いデプロイメントが制限されている。
本稿では,共形予測(CP)をグラフベースモデルに拡張した共形GNN(CF-GNN)を提案する。
論文 参考訳(メタデータ) (2023-05-23T21:38:23Z) - Accurate Node Feature Estimation with Structured Variational Graph
Autoencoder [21.436706159840014]
ノードの特徴を部分的に観察したグラフを考えると、不足する特徴を正確に見積もるにはどうすればよいのか?
特徴量推定のための精度の高いSVGA(Structured Variational Graph Autoencoder)を提案する。
その結果、SVGAは確率的推論とグラフニューラルネットワークの利点を組み合わせて、実際のデータセットで最先端のパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2022-06-09T14:07:45Z) - Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。
本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
論文 参考訳(メタデータ) (2022-01-30T16:43:40Z) - Interpreting Graph Neural Networks for NLP With Differentiable Edge
Masking [63.49779304362376]
グラフニューラルネットワーク(GNN)は、構造的帰納バイアスをNLPモデルに統合する一般的なアプローチとなっている。
本稿では,不要なエッジを識別するGNNの予測を解釈するポストホック手法を提案する。
モデルの性能を劣化させることなく,多数のエッジを落とせることを示す。
論文 参考訳(メタデータ) (2020-10-01T17:51:19Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Residual Correlation in Graph Neural Network Regression [39.54530450932135]
我々は条件付き独立仮定が予測力を著しく制限していることを示します。
この問題を解釈可能かつ効率的なフレームワークで解決する。
我々のフレームワークは、競合するベースラインよりもかなり高い精度を実現している。
論文 参考訳(メタデータ) (2020-02-19T16:32:54Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。