論文の概要: Learning Continually on a Sequence of Graphs -- The Dynamical System Way
- arxiv url: http://arxiv.org/abs/2305.12030v1
- Date: Fri, 19 May 2023 23:00:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-24 01:16:33.447112
- Title: Learning Continually on a Sequence of Graphs -- The Dynamical System Way
- Title（参考訳）: 一連のグラフで継続的に学習する -- 力学系の方法
- Authors: Krishnan Raghavan and Prasanna Balaprakash
- Abstract要約: 連続学習(英: Continual Learning, CL)とは、一連の相互関連タスクを回帰的あるいは分類的な意味で定義したタスクで学習する分野である。
本研究では,新しいタスク(一般化)を学習する行為と,以前に学習したタスク(フォーゲッティング)を記憶する2人プレイヤゲームを定式化する。
- 参考スコア（独自算出の注目度）: 1.0965065178451106
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Continual learning~(CL) is a field concerned with learning a series of
inter-related task with the tasks typically defined in the sense of either
regression or classification. In recent years, CL has been studied extensively
when these tasks are defined using Euclidean data-- data, such as images, that
can be described by a set of vectors in an n-dimensional real space. However,
the literature is quite sparse, when the data corresponding to a CL task is
nonEuclidean-- data , such as graphs, point clouds or manifold, where the
notion of similarity in the sense of Euclidean metric does not hold. For
instance, a graph is described by a tuple of vertices and edges and
similarities between two graphs is not well defined through a Euclidean metric.
Due to this fundamental nature of the data, developing CL for nonEuclidean data
presents several theoretical and methodological challenges. In particular, CL
for graphs requires explicit modelling of nonstationary behavior of vertices
and edges and their effects on the learning problem. Therefore, in this work,
we develop a adaptive dynamic programming viewpoint for CL with graphs. In this
work, we formulate a two-player sequential game between the act of learning new
tasks~(generalization) and remembering previously learned tasks~(forgetting).
We prove mathematically the existence of a solution to the game and demonstrate
convergence to the solution of the game. Finally, we demonstrate the efficacy
of our method on a number of graph benchmarks with a comprehensive ablation
study while establishing state-of-the-art performance.
- Abstract（参考訳）: 連続学習~(CL)は一連の相互関連タスクの学習に関わる分野であり、典型的には回帰または分類の意味で定義される。
近年、CL は、これらのタスクが n 次元実空間におけるベクトルの集合によって記述できる画像のようなユークリッドデータを用いて定義されるとき、広範囲に研究されている。
しかし、CLタスクに対応するデータが非ユークリッドデータであるとき、グラフ、点雲、多様体など、ユークリッド計量の意味における類似性の概念が持たないとき、文献はかなり疎い。
例えば、グラフは頂点と辺のタプルによって記述され、2つのグラフ間の類似性はユークリッド計量によって明確に定義されない。
このデータの基本的な性質から、非ユークリッドデータのためのclの開発には、いくつかの理論的および方法論的な課題がある。
特にグラフのCLは、頂点と辺の非定常挙動の明示的なモデリングと学習問題に対するそれらの影響を必要とする。
そこで本研究では,グラフ付きCLに対する適応動的プログラミングの視点を開発する。
本研究では,新しいタスクを学習する行為〜(一般化)と,以前に学習したタスクを記憶する行為〜(フォーゲッティング)の間に,2つのプレイヤーシーケンシャルゲームを定式化する。
我々は,ゲームに対する解の存在を数学的に証明し,ゲームの解に対する収束性を実証する。
最後に,提案手法の有効性を,最先端性能を確立しつつ,総合的なアブレーション研究を行ったグラフベンチマークで示す。
関連論文リスト
- Shedding Light on Problems with Hyperbolic Graph Learning [2.3743504594834635]
グラフ機械学習文学における近年の論文は、双曲表現学習に多くのアプローチを導入している。
現在、双曲グラフ表現学習の分野を注意深く見ていく。
多くの論文では,アルゴリズム構築時にベースラインの厳密な提示に失敗し,ミスリード指標を用いてグラフデータセットの幾何を定量化している。
論文 参考訳（メタデータ） (2024-11-11T03:12:41Z) - AGALE: A Graph-Aware Continual Learning Evaluation Framework [7.892731722253387]
シングルラベルノードとマルチラベルノードの両方に対応可能なグラフ認識評価フレームワークを開発した。
特に、新しいインクリメンタル設定を定義し、データセットに適したアルゴリズムを考案する。
理論的にアガレを解析し、比較手法の性能におけるホモフィリーの役割について新たな知見を提供する。
論文 参考訳（メタデータ） (2024-06-03T11:50:47Z) - Continual Learning on Graphs: Challenges, Solutions, and Opportunities [72.7886669278433]
本稿では,既存の連続グラフ学習(CGL)アルゴリズムの総合的なレビューを行う。
従来の連続学習手法と比較し,従来の連続学習手法の適用性を分析した。
アクセス可能なアルゴリズムの包括的なリストを含む、最新のリポジトリを維持します。
論文 参考訳（メタデータ） (2024-02-18T12:24:45Z) - Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。
我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。
グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
論文 参考訳（メタデータ） (2023-11-29T12:48:33Z) - Extended Graph Assessment Metrics for Graph Neural Networks [13.49677006107642]
回帰タスクと連続隣接行列のための拡張グラフアセスメントメトリクス(GAM)を導入する。
異なる医学集団グラフと異なる学習環境下で、これらの指標とモデル性能の相関関係を示す。
論文 参考訳（メタデータ） (2023-07-13T13:55:57Z) - Tight and fast generalization error bound of graph embedding in metric
space [54.279425319381374]
非ユークリッド計量空間へのグラフ埋め込みは、既存の有界よりもはるかに少ない訓練データを持つユークリッド空間におけるグラフ埋め込みよりも優れていることを示す。
我々の新しい上限は、既存の上限よりもかなり強く速く、最大で$R$と$O(frac1S)$に指数関数できる。
論文 参考訳（メタデータ） (2023-05-13T17:29:18Z) - Learnable Graph Matching: A Practical Paradigm for Data Association [74.28753343714858]
これらの問題に対処するための一般的な学習可能なグラフマッチング法を提案する。
提案手法は,複数のMOTデータセット上での最先端性能を実現する。
画像マッチングでは,一般的な屋内データセットであるScanNetで最先端の手法より優れている。
論文 参考訳（メタデータ） (2023-03-27T17:39:00Z) - Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。
GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。
4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
論文 参考訳（メタデータ） (2022-06-25T03:54:53Z) - Hermitian Symmetric Spaces for Graph Embeddings [0.0]
C 上の対称行列空間におけるグラフの連続表現を学ぶ。
これらの空間は双曲部分空間とユークリッド部分空間を同時に認めるリッチな幾何学を提供する。
提案するモデルは, apriori のグラフ特徴を見積もることなく, まったく異なる配置に自動的に適応することができる。
論文 参考訳（メタデータ） (2021-05-11T18:14:52Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳（メタデータ） (2021-01-16T16:18:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。