論文の概要: Robust Knowledge Adaptation for Dynamic Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2207.10839v1
- Date: Fri, 22 Jul 2022 02:06:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-25 13:27:12.712657
- Title: Robust Knowledge Adaptation for Dynamic Graph Neural Networks
- Title(参考訳): 動的グラフニューラルネットワークのためのロバスト知識適応
- Authors: Hanjie Li, Changsheng Li, Kaituo Feng, Ye Yuan, Guoren Wang, Hongyuan
Zha
- Abstract要約: AdaNetは、動的グラフニューラルネットワークのための堅牢な知識適応フレームワークである。
AdaNetは3つのベンチマークデータセット上で最先端のパフォーマンスを実現する。
- 参考スコア(独自算出の注目度): 62.06754330340128
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph structured data often possess dynamic characters in nature, e.g., the
addition of links and nodes, in many real-world applications. Recent years have
witnessed the increasing attentions paid to dynamic graph neural networks for
modelling such graph data, where almost all the existing approaches assume that
when a new link is built, the embeddings of the neighbor nodes should be
updated by learning the temporal dynamics to propagate new information.
However, such approaches suffer from the limitation that if the node introduced
by a new connection contains noisy information, propagating its knowledge to
other nodes is not reliable and even leads to the collapse of the model. In
this paper, we propose AdaNet: a robust knowledge Adaptation framework via
reinforcement learning for dynamic graph neural Networks. In contrast to
previous approaches immediately updating the embeddings of the neighbor nodes
once adding a new link, AdaNet attempts to adaptively determine which nodes
should be updated because of the new link involved. Considering that the
decision whether to update the embedding of one neighbor node will have great
impact on other neighbor nodes, we thus formulate the selection of node update
as a sequence decision problem, and address this problem via reinforcement
learning. By this means, we can adaptively propagate knowledge to other nodes
for learning robust node embedding representations. To the best of our
knowledge, our approach constitutes the first attempt to explore robust
knowledge adaptation via reinforcement learning for dynamic graph neural
networks. Extensive experiments on three benchmark datasets demonstrate that
AdaNet achieves the state-of-the-art performance. In addition, we perform the
experiments by adding different degrees of noise into the dataset,
quantitatively and qualitatively illustrating the robustness of AdaNet.
- Abstract(参考訳): グラフ構造化データは、実世界の多くのアプリケーションにおいて、リンクやノードの追加など、本質的に動的文字を持つことが多い。
近年、このようなグラフデータをモデル化するための動的グラフニューラルネットワークへの関心が高まっており、既存のほとんどのアプローチでは、新しいリンクが構築されると、近隣ノードの埋め込みは、新しい情報を伝達するために時間的ダイナミクスを学習することによって更新されるべきであると仮定している。
しかし、そのようなアプローチは、新しいコネクションによって導入されたノードがノイズ情報を含んでいる場合、その知識を他のノードに伝達することは信頼性がなく、モデルが崩壊する可能性さえあるという制限に苦しむ。
本稿では,動的グラフニューラルネットワークのための強化学習による強固な知識適応フレームワーク adanet を提案する。
新しいリンクを追加すると、隣接ノードの埋め込みを即座に更新する以前のアプローチとは対照的に、adanetは、関連する新しいリンクのためにどのノードを更新するべきかを適応的に決定しようとする。
隣接ノードの埋め込みを更新するかどうかが他の隣接ノードに大きな影響を与えることを考慮し、ノード更新の選択をシーケンス決定問題として定式化し、強化学習を通じてこの問題に対処する。
これにより、堅牢なノード埋め込み表現を学習するために、知識を他のノードに適応的に伝達することができる。
我々の知識を最大限に活用するために、我々のアプローチは動的グラフニューラルネットワークのための強化学習を通して堅牢な知識適応を探求する最初の試みである。
3つのベンチマークデータセットに関する広範な実験は、adanetが最先端のパフォーマンスを達成していることを示している。
さらに,AdaNetの頑健さを定量的かつ質的に評価し,データセットに異なるノイズの度合いを加えることで実験を行った。
関連論文リスト
- Global Context Enhanced Anomaly Detection of Cyber Attacks via Decoupled Graph Neural Networks [0.0]
非線形ネットワーク情報をキャプチャする問題を克服するために、分離したGNNをデプロイする。
ノード表現学習のために,ノード特徴情報を集約する2つのモジュールを持つGNNアーキテクチャを開発する。
その結果,非結合型トレーニングとグローバルコンテキストの強化されたノード表現は,AUCにおける最先端モデルよりも優れていることがわかった。
論文 参考訳(メタデータ) (2024-09-04T21:54:07Z) - Dynamic Link Prediction for New Nodes in Temporal Graph Networks [6.13245948813717]
新しいノードの動的リンク予測のための時間ネットワークのモデル化には、多くの実世界の応用がある。
新しいノードには履歴リンクがほとんどないため、動的リンク予測タスクには課題がある。
既存の動的モデルの多くは全てのノードを等しく扱い、新しいノードに特化していないため、亜最適性能をもたらす。
論文 参考訳(メタデータ) (2023-10-15T09:54:18Z) - Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural
Networks [68.9026534589483]
RioGNNはReinforceed, recursive, flexible neighborhood selection guided multi-relational Graph Neural Network architectureである。
RioGNNは、各関係の個々の重要性の認識により、説明性を高めた差別的なノード埋め込みを学ぶことができる。
論文 参考訳(メタデータ) (2021-04-16T04:30:06Z) - Uniting Heterogeneity, Inductiveness, and Efficiency for Graph
Representation Learning [68.97378785686723]
グラフニューラルネットワーク(GNN)は,グラフ上のノード表現学習の性能を大幅に向上させた。
GNNの過半数クラスは均質グラフのためにのみ設計されており、より有益な異種グラフに劣る適応性をもたらす。
本稿では,低次ノードと高次ノードの両方のエッジに付随するヘテロジニアスなノード特徴をパッケージ化する,新しい帰納的メタパスフリーメッセージパッシング方式を提案する。
論文 参考訳(メタデータ) (2021-04-04T23:31:39Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳(メタデータ) (2021-01-06T03:05:37Z) - Streaming Graph Neural Networks via Continual Learning [31.810308087441445]
グラフニューラルネットワーク(GNN)は様々なアプリケーションで高いパフォーマンスを実現している。
本稿では,連続学習に基づくストリーミングGNNモデルを提案する。
モデルパラメータを効率的に更新し、モデル再トレーニングに匹敵する性能が得られることを示す。
論文 参考訳(メタデータ) (2020-09-23T06:52:30Z) - Neural Networks Enhancement with Logical Knowledge [83.9217787335878]
関係データに対するKENNの拡張を提案する。
その結果、KENNは、存在関係データにおいても、基礎となるニューラルネットワークの性能を高めることができることがわかった。
論文 参考訳(メタデータ) (2020-09-13T21:12:20Z) - GRADE: Graph Dynamic Embedding [76.85156209917932]
GRADEは、軌道に先立ってランダムウォークを課すことで、進化するノードとコミュニティ表現を生成することを学ぶ確率モデルである。
我々のモデルは、遷移行列を介して時間ステップ間で更新されるノードコミュニティメンバシップも学習する。
実験では、GRADEは動的リンク予測においてベースラインを上回る性能を示し、動的コミュニティ検出において好適な性能を示し、一貫性と解釈可能な進化するコミュニティを特定する。
論文 参考訳(メタデータ) (2020-07-16T01:17:24Z) - Temporal Network Representation Learning via Historical Neighborhoods
Aggregation [28.397309507168128]
本稿では,EHNAアルゴリズムによる埋め込みを提案する。
まず,歴史地区のノードを特定できる時間的ランダムウォークを提案する。
次に,ノード埋め込みを誘導するカスタムアテンション機構を用いたディープラーニングモデルを適用する。
論文 参考訳(メタデータ) (2020-03-30T04:18:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。