論文の概要: From Coupled Oscillators to Graph Neural Networks: Reducing Over-smoothing via a Kuramoto Model-based Approach

• arxiv url: http://arxiv.org/abs/2311.03260v2
• Date: Wed, 6 Mar 2024 01:28:16 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-07 17:42:22.336248
• Title: From Coupled Oscillators to Graph Neural Networks: Reducing Over-smoothing via a Kuramoto Model-based Approach
• Title（参考訳）: 結合発振器からグラフニューラルネットワークへ: 倉本モデルに基づくアプローチによる過剰スムーシングの低減
• Authors: Tuan Nguyen, Hirotada Honda, Takashi Sano, Vinh Nguyen, Shugo Nakamura, Tan M. Nguyen
• Abstract要約: 本稿では,倉本モデルを用いた連続深度グラフニューラルネットワーク(GNN)の新たなクラスを提案する。 本研究は,グラフ深層学習ベンチマークタスクのオーバースムース化を抑えるため,倉本GNNのベースラインGNNに対する利点と既存手法を実験的に検証する。
• 参考スコア（独自算出の注目度）: 3.750593744552374
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose the Kuramoto Graph Neural Network (KuramotoGNN), a novel class of continuous-depth graph neural networks (GNNs) that employs the Kuramoto model to mitigate the over-smoothing phenomenon, in which node features in GNNs become indistinguishable as the number of layers increases. The Kuramoto model captures the synchronization behavior of non-linear coupled oscillators. Under the view of coupled oscillators, we first show the connection between Kuramoto model and basic GNN and then over-smoothing phenomenon in GNNs can be interpreted as phase synchronization in Kuramoto model. The KuramotoGNN replaces this phase synchronization with frequency synchronization to prevent the node features from converging into each other while allowing the system to reach a stable synchronized state. We experimentally verify the advantages of the KuramotoGNN over the baseline GNNs and existing methods in reducing over-smoothing on various graph deep learning benchmark tasks.
• Abstract（参考訳）: 本研究では,GNNのノード特徴が層数の増加とともに識別不能になる現象を緩和するために,倉本モデルを用いた連続深度グラフニューラルネットワーク(GNN)の新たなクラスである倉本グラフニューラルネットワーク(Kuramoto GNN)を提案する。 倉本モデルは非線形結合振動子の同期挙動を捉える。 結合振動子の観点からは、まず倉本モデルと基本GNNの接続を示し、続いてGNNにおける過平滑化現象を倉本モデルにおける位相同期と解釈できる。 KuramotoGNNはこのフェーズ同期を周波数同期に置き換え、ノードの特徴が互いに収束することを防ぐと同時に、システムが安定した同期状態に到達できるようにする。 本研究は,グラフ深層学習ベンチマークタスクのオーバースムース化を抑えるため,倉本GNNのベースラインGNNに対する利点と既存手法を実験的に検証する。

関連論文リスト

• Signal-SGN: A Spiking Graph Convolutional Network for Skeletal Action Recognition via Learning Temporal-Frequency Dynamics [2.9578022754506605]
  骨格に基づく行動認識では、グラフ畳み込みネットワーク(GCN)はその複雑さと高エネルギー消費のために制限に直面している。 本稿では、骨格配列の時間次元をスパイキング時間ステップとして活用するSignal-SGN(Spiking Graph Convolutional Network)を提案する。 実験により,提案モデルが既存のSNN法を精度で上回るだけでなく,学習時の計算記憶コストも低減できることがわかった。
  論文  参考訳（メタデータ） (2024-08-03T07:47:16Z)
• SimCalib: Graph Neural Network Calibration based on Similarity between Nodes [60.92081159963772]
  グラフニューラルネットワーク(GNN)は、さまざまなアプリケーションで実証されたグラフデータのモデリングにおいて、優れたパフォーマンスを示している。 理論解析により,GNNキャリブレーションとノードワイド類似性の関係について考察した。 SimCalibと名付けられた新しい校正フレームワークは、グローバルレベルとローカルレベルにおけるノード間の類似性を検討するために提案されている。
  論文  参考訳（メタデータ） (2023-12-19T04:58:37Z)
• DD-GCN: Directed Diffusion Graph Convolutional Network for Skeleton-based Human Action Recognition [10.115283931959855]
  Graphal Networks (GCNs) は骨格に基づく人間の行動認識に広く利用されている。 本稿では,行動モデリングのための指向的拡散を構築し,行動分割戦略を導入する。 また、同期時間意味論を組み込むことも提案する。
  論文  参考訳（メタデータ） (2023-08-24T01:53:59Z)
• Re-Think and Re-Design Graph Neural Networks in Spaces of Continuous Graph Diffusion Functionals [7.6435511285856865]
  グラフニューラルネットワーク(GNN)は、ソーシャルネットワークや生体システムのようなドメインで広く使われている。 GNNのローカリティ仮定は、グラフ内の長距離依存関係とグローバルパターンをキャプチャする能力を損なう。 本稿では,ブラヒクロニスト問題から着想を得た変分解析に基づく新しい帰納バイアスを提案する。
  論文  参考訳（メタデータ） (2023-07-01T04:44:43Z)
• Graph-Coupled Oscillator Networks [23.597444325599835]
  Graph-Coupled Networks (GraphCON)は、グラフのディープラーニングのための新しいフレームワークである。 我々のフレームワークは,様々なグラフベースの学習タスクにおける最先端技術に関して,競争力のあるパフォーマンスを提供する。
  論文  参考訳（メタデータ） (2022-02-04T18:29:49Z)
• Hyperbolic Variational Graph Neural Network for Modeling Dynamic Graphs [77.33781731432163]
  我々は,ノード表現の推論を目的とした双曲空間における動的グラフ表現を初めて学習する。 本稿では,HVGNNと呼ばれる新しいハイパーボリック変動グラフネットワークを提案する。 特に,動力学をモデル化するために,理論的に接地した時間符号化手法に基づく時間gnn(tgnn)を導入する。
  論文  参考訳（メタデータ） (2021-04-06T01:44:15Z)
• Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
  最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。 我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
  論文  参考訳（メタデータ） (2020-10-06T01:20:27Z)
• A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
  グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。 本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。 UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
  論文  参考訳（メタデータ） (2020-10-05T04:57:18Z)
• Stochastic Graph Neural Networks [123.39024384275054]
  グラフニューラルネットワーク(GNN)は、分散エージェント調整、制御、計画に応用したグラフデータの非線形表現をモデル化する。 現在のGNNアーキテクチャは理想的なシナリオを前提として,環境やヒューマンファクタ,あるいは外部攻撃によるリンク変動を無視している。 これらの状況において、GNNは、トポロジカルなランダム性を考慮していない場合、その分散タスクに対処することができない。
  論文  参考訳（メタデータ） (2020-06-04T08:00:00Z)
• Binarized Graph Neural Network [65.20589262811677]
  我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。 提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。 実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
  論文  参考訳（メタデータ） (2020-04-19T09:43:14Z)
• Scattering GCN: Overcoming Oversmoothness in Graph Convolutional Networks [0.0]
  グラフ畳み込みネットワーク(GCN)は,構造認識の特徴を抽出することによって,グラフデータ処理において有望な結果を示した。 本稿では、幾何学的散乱変換と残差畳み込みによる従来のGCNの増大を提案する。 前者はグラフ信号の帯域通過フィルタリングが可能であり、GCNでしばしば発生する過度な過度な処理を緩和する。
  論文  参考訳（メタデータ） (2020-03-18T18:03:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。