論文の概要: Robust Knowledge Adaptation for Dynamic Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2207.10839v2
- Date: Thu, 11 Apr 2024 05:46:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-04-12 19:46:03.453341
- Title: Robust Knowledge Adaptation for Dynamic Graph Neural Networks
- Title(参考訳): 動的グラフニューラルネットワークのためのロバスト知識適応
- Authors: Hanjie Li, Changsheng Li, Kaituo Feng, Ye Yuan, Guoren Wang, Hongyuan Zha,
- Abstract要約: 動的グラフニューラルネットワークのための強化学習による堅牢な知識適応フレームワークであるAda-DyGNNを提案する。
我々のアプローチは、強化学習による堅牢な知識適応を探求する最初の試みである。
3つのベンチマークデータセットの実験は、Ada-DyGNNが最先端のパフォーマンスを達成することを示した。
- 参考スコア(独自算出の注目度): 61.8505228728726
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph structured data often possess dynamic characters in nature. Recent years have witnessed the increasing attentions paid to dynamic graph neural networks for modelling graph data. However, almost all existing approaches operate under the assumption that, upon the establishment of a new link, the embeddings of the neighboring nodes should undergo updates to learn temporal dynamics. Nevertheless, these approaches face the following limitation: If the node introduced by a new connection contains noisy information, propagating its knowledge to other nodes becomes unreliable and may even lead to the collapse of the model. In this paper, we propose Ada-DyGNN: a robust knowledge Adaptation framework via reinforcement learning for Dynamic Graph Neural Networks. In contrast to previous approaches, which update the embeddings of the neighbor nodes immediately after adding a new link, Ada-DyGNN adaptively determines which nodes should be updated. Considering that the decision to update the embedding of one neighbor node can significantly impact other neighbor nodes, we conceptualize the node update selection as a sequence decision problem and employ reinforcement learning to address it effectively. By this means, we can adaptively propagate knowledge to other nodes for learning robust node embedding representations. To the best of our knowledge, our approach constitutes the first attempt to explore robust knowledge adaptation via reinforcement learning specifically tailored for dynamic graph neural networks. Extensive experiments on three benchmark datasets demonstrate that Ada-DyGNN achieves the state-of-the-art performance. In addition, we conduct experiments by introducing different degrees of noise into the dataset, quantitatively and qualitatively illustrating the robustness of Ada-DyGNN.
- Abstract(参考訳): グラフ構造化データは自然界において動的文字を持つことが多い。
近年、グラフデータモデリングのための動的グラフニューラルネットワークへの注目が高まっている。
しかし、既存のほとんどのアプローチは、新しいリンクの確立時に、隣接するノードの埋め込みが時間的ダイナミクスを学ぶために更新されるべきだという仮定の下で機能する。
新たな接続によって導入されたノードがノイズの多い情報を含んでいる場合、その知識を他のノードに伝達することは信頼性が低くなり、モデルが崩壊する可能性さえある。
本稿では,動的グラフニューラルネットワークのための強化学習による堅牢な知識適応フレームワークであるAda-DyGNNを提案する。
新しいリンクを追加した直後に隣ノードの埋め込みを更新する以前のアプローチとは対照的に、Ada-DyGNNはどのノードを更新すべきかを適応的に決定する。
1つの隣接ノードの埋め込みを更新するという決定が他の隣接ノードに大きな影響を与えることを考慮し、ノード更新選択をシーケンス決定問題として概念化し、それを効果的に対処するために強化学習を用いる。
これにより、ロバストなノード埋め込み表現を学習するために、知識を他のノードに適応的に伝達することができる。
我々の知識を最大限に活用するために、我々のアプローチは、動的グラフニューラルネットワークに特化された強化学習を通じて、堅牢な知識適応を探求する最初の試みである。
3つのベンチマークデータセットに対する大規模な実験は、Ada-DyGNNが最先端のパフォーマンスを達成することを示す。
さらに,Ada-DyGNNの頑健さを定量的かつ定性的に評価し,データセットに異なるノイズの度合いを導入する実験を行った。
関連論文リスト
- Global Context Enhanced Anomaly Detection of Cyber Attacks via Decoupled Graph Neural Networks [0.0]
非線形ネットワーク情報をキャプチャする問題を克服するために、分離したGNNをデプロイする。
ノード表現学習のために,ノード特徴情報を集約する2つのモジュールを持つGNNアーキテクチャを開発する。
その結果,非結合型トレーニングとグローバルコンテキストの強化されたノード表現は,AUCにおける最先端モデルよりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-09-04T21:54:07Z) - Dynamic Link Prediction for New Nodes in Temporal Graph Networks [6.13245948813717]
新しいノードの動的リンク予測のための時間ネットワークのモデル化には、多くの実世界の応用がある。
新しいノードには履歴リンクがほとんどないため、動的リンク予測タスクには課題がある。
既存の動的モデルの多くは全てのノードを等しく扱い、新しいノードに特化していないため、亜最適性能をもたらす。
論文 参考訳(メタデータ) (2023-10-15T09:54:18Z) - Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural
Networks [68.9026534589483]
RioGNNはReinforceed, recursive, flexible neighborhood selection guided multi-relational Graph Neural Network architectureである。
RioGNNは、各関係の個々の重要性の認識により、説明性を高めた差別的なノード埋め込みを学ぶことができる。
論文 参考訳(メタデータ) (2021-04-16T04:30:06Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳(メタデータ) (2021-01-06T03:05:37Z) - Streaming Graph Neural Networks via Continual Learning [31.810308087441445]
グラフニューラルネットワーク(GNN)は様々なアプリケーションで高いパフォーマンスを実現している。
本稿では,連続学習に基づくストリーミングGNNモデルを提案する。
モデルパラメータを効率的に更新し、モデル再トレーニングに匹敵する性能が得られることを示す。
論文 参考訳(メタデータ) (2020-09-23T06:52:30Z) - Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
関係データに対するKENNの拡張を提案する。
その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
論文 参考訳(メタデータ) (2020-09-13T21:12:20Z) - GRADE: Graph Dynamic Embedding [76.85156209917932]
GRADEは、軌道に先立ってランダムウォークを課すことで、進化するノードとコミュニティ表現を生成することを学ぶ確率モデルである。
我々のモデルは、遷移行列を介して時間ステップ間で更新されるノードコミュニティメンバシップも学習する。
実験では、GRADEは動的リンク予測においてベースラインを上回る性能を示し、動的コミュニティ検出において好適な性能を示し、一貫性と解釈可能な進化するコミュニティを特定する。
論文 参考訳(メタデータ) (2020-07-16T01:17:24Z) - Temporal Network Representation Learning via Historical Neighborhoods
Aggregation [28.397309507168128]
本稿では,EHNAアルゴリズムによる埋め込みを提案する。
まず,歴史地区のノードを特定できる時間的ランダムウォークを提案する。
次に,ノード埋め込みを誘導するカスタムアテンション機構を用いたディープラーニングモデルを適用する。
論文 参考訳(メタデータ) (2020-03-30T04:18:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。