論文の概要: Catastrophic Forgetting in Deep Graph Networks: an Introductory Benchmark for Graph Classification

• arxiv url: http://arxiv.org/abs/2103.11750v1
• Date: Mon, 22 Mar 2021 12:07:21 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-23 14:55:44.794883
• Title: Catastrophic Forgetting in Deep Graph Networks: an Introductory Benchmark for Graph Classification
• Title（参考訳）: ディープグラフネットワークにおける破滅的予測:グラフ分類入門ベンチマーク
• Authors: Antonio Carta, Andrea Cossu, Federico Errica, Davide Bacciu
• Abstract要約: グラフ表現学習シナリオにおける破滅的忘れ現象について検討する。 リプレイはこれまでのところ最も効果的な戦略であり、正規化の使用も最もメリットがあります。
• 参考スコア（独自算出の注目度）: 12.423303337249795
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we study the phenomenon of catastrophic forgetting in the graph representation learning scenario. The primary objective of the analysis is to understand whether classical continual learning techniques for flat and sequential data have a tangible impact on performances when applied to graph data. To do so, we experiment with a structure-agnostic model and a deep graph network in a robust and controlled environment on three different datasets. The benchmark is complemented by an investigation on the effect of structure-preserving regularization techniques on catastrophic forgetting. We find that replay is the most effective strategy in so far, which also benefits the most from the use of regularization. Our findings suggest interesting future research at the intersection of the continual and graph representation learning fields. Finally, we provide researchers with a flexible software framework to reproduce our results and carry out further experiments.
• Abstract（参考訳）: 本研究では,グラフ表現学習シナリオにおける破滅的忘れの現象について検討する。 解析の主目的は,フラットデータとシーケンシャルデータに対する古典的連続学習手法が,グラフデータに適用した場合のパフォーマンスに有意な影響を及ぼすか否かを理解することである。 そこで我々は,3つの異なるデータセット上でロバストで制御された環境において,構造非依存モデルとディープグラフネットワークを実験する。 このベンチマークは、構造保存正則化技術が破滅的忘れに及ぼす影響に関する調査によって補完される。 これまでのところ、リプレイは最も効果的な戦略であり、レギュライゼーションの利用から最大限の恩恵を受けています。 本研究は,連続およびグラフ表現学習分野の交点における興味深い今後の研究を示唆する。 最後に、結果を再現し、さらなる実験を行うための柔軟なソフトウェアフレームワークを研究者に提供する。

関連論文リスト

• Challenging the Myth of Graph Collaborative Filtering: a Reasoned and Reproducibility-driven Analysis [50.972595036856035]
  本稿では,6つの人気グラフと最近のグラフ推薦モデルの結果を再現するコードを提案する。 これらのグラフモデルと従来の協調フィルタリングモデルを比較する。 ユーザの近所からの情報フローを調べることにより,データセット構造における内在的特徴にどのようなモデルが影響するかを同定することを目的とする。
  論文  参考訳（メタデータ） (2023-08-01T09:31:44Z)
• A Comprehensive Survey on Graph Summarization with Graph Neural Networks [21.337505372979066]
  過去には、グラフの最も重要な部分を統計的に捉えるために、ほとんどのグラフ要約技術が試みられていた。 今日では、現代のグラフデータの高次元性と複雑さにより、ディープラーニング技術がより普及している。 我々の調査は、GNN、畳み込みGNN、グラフオートエンコーダ、グラフアテンションネットワークなど、現在の最先端アプローチのレビューを含む。
  論文  参考訳（メタデータ） (2023-02-13T05:43:24Z)
• Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
  コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。 近年の研究では、グラフ表現学習における事前学習の有用性が示されている。 本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
  論文  参考訳（メタデータ） (2023-02-06T16:26:29Z)
• Graph-Free Learning in Graph-Structured Data: A More Efficient and Accurate Spatiotemporal Learning Perspective [11.301939428860404]
  本稿では,グラフ時間学習における空間相関を捉えるための正規化のためのグラフ自由学習モジュールを提案する。 厳密な理論的な証明は、時間複雑性が提案されたグラフ畳み込み演算よりもはるかに優れていることを証明している。
  論文  参考訳（メタデータ） (2023-01-27T14:26:11Z)
• Robust Causal Graph Representation Learning against Confounding Effects [21.380907101361643]
  本稿では,ロバスト因果グラフ表現学習(RCGRL)を提案する。 RCGRLは、無条件のモーメント制約の下でインストゥルメンタル変数を生成するアクティブなアプローチを導入し、グラフ表現学習モデルにより、共同設立者を排除している。
  論文  参考訳（メタデータ） (2022-08-18T01:31:25Z)
• Latent Augmentation For Better Graph Self-Supervised Learning [20.082614919182692]
  我々は、潜在的な拡張と強力なデコーダを備えた予測モデルは、対照的なモデルよりも同等またはそれ以上の表現力を達成することができると論じている。 Wiener Graph Deconvolutional Networkと呼ばれる新しいグラフデコーダは、拡張潜在表現から情報再構成を行うように設計されている。
  論文  参考訳（メタデータ） (2022-06-26T17:41:59Z)
• Data Augmentation for Deep Graph Learning: A Survey [66.04015540536027]
  まず,グラフデータ拡張のための分類法を提案し,その拡張情報モダリティに基づいて関連研究を分類し,構造化されたレビューを提供する。 DGLにおける2つの課題(すなわち、最適グラフ学習と低リソースグラフ学習)に焦点を当て、グラフデータ拡張に基づく既存の学習パラダイムについて議論し、レビューする。
  論文  参考訳（メタデータ） (2022-02-16T18:30:33Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• Adaptive Graph Auto-Encoder for General Data Clustering [90.8576971748142]
  グラフベースのクラスタリングは、クラスタリング領域において重要な役割を果たす。 グラフ畳み込みニューラルネットワークに関する最近の研究は、グラフ型データにおいて驚くべき成功を収めている。 本稿では,グラフの生成的視点に応じて適応的にグラフを構成する汎用データクラスタリングのためのグラフ自動エンコーダを提案する。
  論文  参考訳（メタデータ） (2020-02-20T10:11:28Z)
• Deep Learning for Learning Graph Representations [58.649784596090385]
  グラフデータのマイニングはコンピュータ科学においてポピュラーな研究トピックとなっている。 ネットワークデータの膨大な量は、効率的な分析に大きな課題をもたらしている。 これはグラフ表現の出現を動機付け、グラフを低次元ベクトル空間にマッピングする。
  論文  参考訳（メタデータ） (2020-01-02T02:13:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。