論文の概要: Contrastive Augmented Graph2Graph Memory Interaction for Few Shot Continual Learning

• arxiv url: http://arxiv.org/abs/2403.04140v1
• Date: Thu, 7 Mar 2024 01:41:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-08 15:34:21.752484
• Title: Contrastive Augmented Graph2Graph Memory Interaction for Few Shot Continual Learning
• Title（参考訳）: ショット連続学習のための対比強化Graph2グラフメモリインタラクション
• Authors: Biqing Qi, Junqi Gao, Xingquan Chen, Dong Li, Jianxing Liu, Ligang Wu and Bowen Zhou
• Abstract要約: 近年,FSCIL(Few-Shot Class-Incremental Learning)が注目されている。 新しいセッションでサンプルが不足するとオーバーフィッティングが増加し、新しいクラスと古いクラスの出力特徴が相容れない。 一般的な戦略は、クラスプロトタイプからなるExplicit Memory (EM)を通じて破滅的な忘れを緩和することである。
• 参考スコア（独自算出の注目度）: 20.21862836238426
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Few-Shot Class-Incremental Learning (FSCIL) has gained considerable attention in recent years for its pivotal role in addressing continuously arriving classes. However, it encounters additional challenges. The scarcity of samples in new sessions intensifies overfitting, causing incompatibility between the output features of new and old classes, thereby escalating catastrophic forgetting. A prevalent strategy involves mitigating catastrophic forgetting through the Explicit Memory (EM), which comprise of class prototypes. However, current EM-based methods retrieves memory globally by performing Vector-to-Vector (V2V) interaction between features corresponding to the input and prototypes stored in EM, neglecting the geometric structure of local features. This hinders the accurate modeling of their positional relationships. To incorporate information of local geometric structure, we extend the V2V interaction to Graph-to-Graph (G2G) interaction. For enhancing local structures for better G2G alignment and the prevention of local feature collapse, we propose the Local Graph Preservation (LGP) mechanism. Additionally, to address sample scarcity in classes from new sessions, the Contrast-Augmented G2G (CAG2G) is introduced to promote the aggregation of same class features thus helps few-shot learning. Extensive comparisons on CIFAR100, CUB200, and the challenging ImageNet-R dataset demonstrate the superiority of our method over existing methods.
• Abstract（参考訳）: 近年,FSCIL(Few-Shot Class-Incremental Learning)が注目されている。 しかし、追加の課題に遭遇する。 新しいセッションでのサンプルの不足はオーバーフィッティングを増大させ、新しいクラスと古いクラスの出力特性の互換性を損なう。 一般的な戦略は、クラスプロトタイプを構成するExplicit Memory (EM) を通じて破滅的な忘れを緩和することである。 しかし、現在のEMベースの手法は、EMに格納された入力とプロトタイプに対応する特徴間のベクトル-ベクトル(V2V)相互作用を実行し、局所特徴の幾何学的構造を無視して、メモリをグローバルに検索する。 これにより、位置関係の正確なモデル化が妨げられる。 局所幾何学構造の情報を組み込むため、V2V相互作用をグラフ間相互作用(G2G)に拡張する。 g2gアライメントの改善と局所的特徴崩壊の防止を目的として,局所的グラフ保存(lgp)機構を提案する。 さらに、新しいセッションからのクラスにおけるサンプルの不足に対処するために、同じクラスの機能の集約を促進するために、Contrast-Augmented G2G(CAG2G)が導入された。 CIFAR100, CUB200, およびImageNet-Rデータセットの大規模比較により, 既存の手法に比べて, 提案手法が優れていることを示す。

関連論文リスト

• Inductive Graph Few-shot Class Incremental Learning [34.19083477893245]
  本稿では,新しいノードを持つ新しいクラスを継続的に学習するインダクティブGFSCILを提案する。 トランスダクティブGFSCILと比較して、インダクティブ設定は、アクセス不能な先行データにより破滅的忘れを悪化させる。 そこで我々はTopology-based class Augmentation and Prototype calibrationと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-11-11T00:06:20Z)
• GRE^2-MDCL: Graph Representation Embedding Enhanced via Multidimensional Contrastive Learning [0.0]
  グラフ表現学習は、ノードをベクトル表現にマッピングする際にグラフトポロジを保存する強力なツールとして登場した。 現在のグラフニューラルネットワークモデルは、広範なラベル付きデータを必要とするという課題に直面している。 多次元コントラスト学習によるグラフ表現埋め込みを提案する。
  論文  参考訳（メタデータ） (2024-09-12T03:09:05Z)
• A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
  グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。 我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。 GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
  論文  参考訳（メタデータ） (2024-06-19T22:30:08Z)
• Two-level Graph Network for Few-Shot Class-Incremental Learning [7.815043173207539]
  FSCIL(Few-shot class-incremental Learning)は、いくつかのデータポイントから新しい概念を継続的に学習できる機械学習アルゴリズムを設計することを目的としている。 既存のFSCILメソッドは、サンプルレベルとクラスレベルの意味関係を無視する。 本稿では,サンプルレベルとクラスレベルグラフニューラルネット(SCGN)というFSCIL用の2レベルグラフネットワークを設計した。
  論文  参考訳（メタデータ） (2023-03-24T08:58:08Z)
• GSMFlow: Generation Shifts Mitigating Flow for Generalized Zero-Shot Learning [55.79997930181418]
  Generalized Zero-Shot Learningは、目に見えないクラスから見えないクラスに意味的な知識を移すことで、目に見えないクラスと見えないクラスの両方から画像を認識することを目的としている。 生成モデルの利点を生かして、見学したクラスから学んだ知識に基づいて、現実的な見知らぬサンプルを幻覚させることは、有望な解決策である。 本研究では,複数の条件付きアフィン結合層からなるフローベース生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-05T04:04:37Z)
• Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
  本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。 具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
  論文  参考訳（メタデータ） (2022-01-17T11:57:29Z)
• Graph Representation Learning via Contrasting Cluster Assignments [57.87743170674533]
  GRCCAと呼ばれるクラスタ割り当てを対比して、教師なしグラフ表現モデルを提案する。 クラスタリングアルゴリズムとコントラスト学習を組み合わせることで、局所的およびグローバルな情報を合成的にうまく活用する動機付けがある。 GRCCAは、ほとんどのタスクにおいて強力な競争力を持っている。
  論文  参考訳（メタデータ） (2021-12-15T07:28:58Z)
• Self-Supervised Class Incremental Learning [51.62542103481908]
  既存のクラスインクリメンタルラーニング(CIL)手法は、データラベルに敏感な教師付き分類フレームワークに基づいている。 新しいクラスデータに基づいて更新する場合、それらは破滅的な忘れがちである。 本稿では,SSCILにおける自己指導型表現学習のパフォーマンスを初めて考察する。
  論文  参考訳（メタデータ） (2021-11-18T06:58:19Z)
• Spatial-spectral Hyperspectral Image Classification via Multiple Random Anchor Graphs Ensemble Learning [88.60285937702304]
  本稿では,複数のランダムアンカーグラフアンサンブル学習(RAGE)を用いた空間スペクトルHSI分類手法を提案する。 まず、各選択されたバンドのより記述的な特徴を抽出し、局所的な構造と領域の微妙な変化を保存するローカルバイナリパターンを採用する。 次に,アンカーグラフの構成に適応隣接代入を導入し,計算複雑性を低減した。
  論文  参考訳（メタデータ） (2021-03-25T09:31:41Z)
• Class-incremental Learning with Rectified Feature-Graph Preservation [24.098892115785066]
  本論文の中心的なテーマは,逐次的な段階を経る新しいクラスを学習することである。 旧知識保存のための重み付きユークリッド正規化を提案する。 新しいクラスを効果的に学習するために、クラス分離を増やすためにバイナリクロスエントロピーでどのように機能するかを示す。
  論文  参考訳（メタデータ） (2020-12-15T07:26:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。