論文の概要: Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts

• arxiv url: http://arxiv.org/abs/2403.05026v1
• Date: Fri, 8 Mar 2024 04:07:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-11 21:08:21.415354
• Title: Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts
• Title（参考訳）: 分布シフト下の動的グラフに対するスペクトル不変学習
• Authors: Zeyang Zhang, Xin Wang, Ziwei Zhang, Zhou Qin, Weigao Wen, Hui Xue, Haoyang Li, Wenwu Zhu
• Abstract要約: 動的グラフニューラルネットワーク(DyGNN)は現在、動的グラフ固有の分散シフトを扱うのに苦労している。 本稿では,スペクトル領域における動的グラフの分布変化を初めて研究する。
• 参考スコア（独自算出の注目度）: 57.19908334882441
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Dynamic graph neural networks (DyGNNs) currently struggle with handling distribution shifts that are inherent in dynamic graphs. Existing work on DyGNNs with out-of-distribution settings only focuses on the time domain, failing to handle cases involving distribution shifts in the spectral domain. In this paper, we discover that there exist cases with distribution shifts unobservable in the time domain while observable in the spectral domain, and propose to study distribution shifts on dynamic graphs in the spectral domain for the first time. However, this investigation poses two key challenges: i) it is non-trivial to capture different graph patterns that are driven by various frequency components entangled in the spectral domain; and ii) it remains unclear how to handle distribution shifts with the discovered spectral patterns. To address these challenges, we propose Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts (SILD), which can handle distribution shifts on dynamic graphs by capturing and utilizing invariant and variant spectral patterns. Specifically, we first design a DyGNN with Fourier transform to obtain the ego-graph trajectory spectrums, allowing the mixed dynamic graph patterns to be transformed into separate frequency components. We then develop a disentangled spectrum mask to filter graph dynamics from various frequency components and discover the invariant and variant spectral patterns. Finally, we propose invariant spectral filtering, which encourages the model to rely on invariant patterns for generalization under distribution shifts. Experimental results on synthetic and real-world dynamic graph datasets demonstrate the superiority of our method for both node classification and link prediction tasks under distribution shifts.
• Abstract（参考訳）: 動的グラフニューラルネットワーク(DyGNN)は現在、動的グラフ固有の分散シフトを扱うのに苦労している。 既存のdygnnの分散設定での作業は、時間領域のみに焦点を当てており、スペクトル領域の分布シフトを伴うケースの処理に失敗した。 本稿では、スペクトル領域で観測可能でありながら、時間領域では分布シフトが観測不可能なケースがあることを発見し、スペクトル領域における動的グラフの分布シフトを初めて研究することを提案する。 しかし、この調査には2つの大きな課題がある。 一 スペクトル領域に絡み合った様々な周波数成分によって駆動される異なるグラフパターンを捉えることは自明ではない。 ii) 検出されたスペクトルパターンによる分布シフトの処理方法はまだ不明である。 これらの課題に対処するために、分散シフト(SILD)下での動的グラフのスペクトル不変学習を提案し、不変および変分スペクトルパターンをキャプチャして利用することにより、動的グラフ上の分散シフトを処理できる。 具体的には、まずフーリエ変換付きdygnnを設計し、エゴグラフ軌道スペクトルを求め、混合動的グラフパターンを別々の周波数成分に変換する。 次に、様々な周波数成分からグラフのダイナミクスをフィルタリングし、不変および変種スペクトルパターンを発見するために、異方性スペクトルマスクを開発した。 最後に,分布シフト下での一般化のために不変パターンに依存することをモデルに促す不変スペクトルフィルタリングを提案する。 合成および実世界の動的グラフデータセットに対する実験結果から,分布シフトによるノード分類とリンク予測タスクにおいて,本手法の優位性が示された。

関連論文リスト

• Rank and Align: Towards Effective Source-free Graph Domain Adaptation [16.941755478093153]
  グラフニューラルネットワーク(GNN)は、グラフ領域適応において素晴らしいパフォーマンスを達成した。 しかし、プライバシやストレージ上の懸念から、大規模なソースグラフは現実のシナリオでは利用できない可能性がある。 そこで我々は,Range and Align (RNA)と呼ばれる新しいGNNベースのアプローチを導入し,ロバストセマンティクス学習のためのスペクトルセレーションとグラフ類似性をランク付けする。
  論文  参考訳（メタデータ） (2024-08-22T08:00:50Z)
• Equivariant Machine Learning on Graphs with Nonlinear Spectral Filters [12.709930975472698]
  グラフ汎函数シフトを対称性群、つまりグラフシフト作用素と可換なユニタリ作用素と考える。 グラフ関数シフトに完全同値な非線形スペクトルフィルタ(NLSF)を提案する。 ノードおよびグラフ分類ベンチマークにおいて、既存のスペクトルGNNよりもNLSFの方が優れた性能を示す。
  論文  参考訳（メタデータ） (2024-06-03T12:07:01Z)
• Graph Generation via Spectral Diffusion [51.60814773299899]
  本稿では,1)グラフラプラシア行列のスペクトル分解と2)拡散過程に基づく新しいグラフ生成モデルGRASPを提案する。 具体的には、固有ベクトルと固有値のサンプリングにデノナイジングモデルを用い、グラフラプラシアン行列と隣接行列を再構成する。 我々の置換不変モデルは各ノードの固有ベクトルに連結することでノードの特徴を扱える。
  論文  参考訳（メタデータ） (2024-02-29T09:26:46Z)
• Out-of-Distribution Generalized Dynamic Graph Neural Network with Disentangled Intervention and Invariance Promotion [61.751257172868186]
  動的グラフニューラルネットワーク(DyGNN)は、グラフと時間力学を利用して強力な予測能力を実証している。 既存のDyGNNは、動的グラフに自然に存在する分散シフトを処理できない。
  論文  参考訳（メタデータ） (2023-11-24T02:42:42Z)
• HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
  従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。 ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。 本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
  論文  参考訳（メタデータ） (2023-10-03T17:42:09Z)
• Specformer: Spectral Graph Neural Networks Meet Transformers [51.644312964537356]
  スペクトルグラフニューラルネットワーク(GNN)は、スペクトル領域グラフ畳み込みを通じてグラフ表現を学習する。 本稿では、全ての固有値の集合を効果的に符号化し、スペクトル領域で自己アテンションを行うSpecformerを紹介する。 複数のSpecformerレイヤを積み重ねることで、強力なスペクトルGNNを構築することができる。
  論文  参考訳（メタデータ） (2023-03-02T07:36:23Z)
• Spectral-Spatial Global Graph Reasoning for Hyperspectral Image Classification [50.899576891296235]
  畳み込みニューラルネットワークは、ハイパースペクトル画像分類に広く応用されている。 近年の手法は空間トポロジのグラフ畳み込みによってこの問題に対処しようとしている。
  論文  参考訳（メタデータ） (2021-06-26T06:24:51Z)
• Bridging the Gap Between Spectral and Spatial Domains in Graph Neural Networks [8.563354084119062]
  空間領域やスペクトル領域におけるグラフ畳み込み過程の等価性を示す。 提案フレームワークは、空間領域に適用しながら、独自の周波数プロファイルを持つスペクトル領域の新しい畳み込みを設計するために使用される。
  論文  参考訳（メタデータ） (2020-03-26T01:49:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。