論文の概要: Continual Zero-Shot Learning through Semantically Guided Generative Random Walks

• arxiv url: http://arxiv.org/abs/2308.12366v1
• Date: Wed, 23 Aug 2023 18:10:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-25 16:37:19.582181
• Title: Continual Zero-Shot Learning through Semantically Guided Generative Random Walks
• Title（参考訳）: 逐次誘導型生成ランダムウォークによるゼロショット学習
• Authors: Wenxuan Zhang, Paul Janson, Kai Yi, Ivan Skorokhodov, Mohamed Elhoseiny
• Abstract要約: 生成モデルを利用して、学習中に見えない情報が提供されない連続ゼロショット学習の課題に対処する。 本稿では,新しい意味誘導型生成ランダムウォーク(GRW)損失を用いた学習アルゴリズムを提案する。 提案アルゴリズムは,AWA1,AWA2,CUB,SUNデータセットの最先端性能を達成し,既存のCZSL手法を3～7%上回る結果を得た。
• 参考スコア（独自算出の注目度）: 56.65465792750822
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning novel concepts, remembering previous knowledge, and adapting it to future tasks occur simultaneously throughout a human's lifetime. To model such comprehensive abilities, continual zero-shot learning (CZSL) has recently been introduced. However, most existing methods overused unseen semantic information that may not be continually accessible in realistic settings. In this paper, we address the challenge of continual zero-shot learning where unseen information is not provided during training, by leveraging generative modeling. The heart of the generative-based methods is to learn quality representations from seen classes to improve the generative understanding of the unseen visual space. Motivated by this, we introduce generalization-bound tools and provide the first theoretical explanation for the benefits of generative modeling to CZSL tasks. Guided by the theoretical analysis, we then propose our learning algorithm that employs a novel semantically guided Generative Random Walk (GRW) loss. The GRW loss augments the training by continually encouraging the model to generate realistic and characterized samples to represent the unseen space. Our algorithm achieves state-of-the-art performance on AWA1, AWA2, CUB, and SUN datasets, surpassing existing CZSL methods by 3-7\%. The code has been made available here \url{https://github.com/wx-zhang/IGCZSL}
• Abstract（参考訳）: 新たな概念を学び、過去の知識を思い出し、将来のタスクに適応させることは、人間の生涯を通じて同時に起こる。 このような包括的能力をモデル化するために,連続的ゼロショット学習(czsl)が最近導入されている。 しかし、既存のほとんどのメソッドは、現実的な設定では継続的にアクセスできないような目に見えないセマンティック情報を過度に利用した。 本稿では,生成的モデリングを活用し,学習中に未知の情報が提供されない連続的ゼロショット学習の課題に対処する。 生成的手法の核心は、見えない視覚空間の生成的理解を改善するために、目に見えないクラスから品質表現を学ぶことである。 そこで本研究では,一般化ツールを導入し,CZSLタスクに対する生成モデリングの利点を理論的に説明する。 そこで,理論解析に導かれ,新しい意味的誘導型生成ランダムウォーク(grw)損失を用いた学習アルゴリズムを提案する。 GRW損失はモデルに現実的で特徴のあるサンプルを生成して、目に見えない空間を表現することによってトレーニングを強化する。 提案アルゴリズムは, AWA1, AWA2, CUB, SUNデータセット上での最先端性能を達成し, 既存のCZSL手法を3～7%超えた。 コードはここで利用可能である。 \url{https://github.com/wx-zhang/igczsl}

関連論文リスト

• Exploiting the Semantic Knowledge of Pre-trained Text-Encoders for Continual Learning [70.64617500380287]
  継続的な学習は、モデルが学習した知識を維持しながら、新しいデータから学習することを可能にする。 画像のラベル情報で利用できるセマンティック知識は、以前に取得したセマンティッククラスの知識と関連する重要なセマンティック情報を提供する。 テキスト埋め込みを用いて意味的類似性を把握し,タスク内およびタスク間のセマンティックガイダンスの統合を提案する。
  論文  参考訳（メタデータ） (2024-08-02T07:51:44Z)
• Premonition: Using Generative Models to Preempt Future Data Changes in Continual Learning [63.850451635362425]
  継続的な学習には、データ分散の継続的な変化に対応するためのモデルが必要である。 本稿では,大規模言語モデルと画像生成モデルの組み合わせが有用であることを示す。 トレーニング済みネットワークのバックボーンは、下流の連続学習問題に有用な表現を学習できることがわかった。
  論文  参考訳（メタデータ） (2024-03-12T06:29:54Z)
• Dynamic VAEs with Generative Replay for Continual Zero-shot Learning [1.90365714903665]
  本稿では,タスクごとにサイズが拡大する新しいゼロショット学習(DVGR-CZSL)モデルを提案する。 ZSL(Zero-Shot Learning)を用いた逐次学習において,本手法が優れていることを示す。
  論文  参考訳（メタデータ） (2021-04-26T10:56:43Z)
• Attribute-Modulated Generative Meta Learning for Zero-Shot Classification [52.64680991682722]
  ゼロショット学習のためのAttribute-Modulated GenerAtive Meta-modelを提案する。 本モデルは属性対応変調ネットワークと属性対応生成ネットワークから構成される。 実験により,AMAZはZSLで3.8%,ZSLで5.1%改善し,ZSL設定を一般化した。
  論文  参考訳（メタデータ） (2021-04-22T04:16:43Z)
• Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot Learning [82.07273754143547]
  トレーニング中に見られないカテゴリにモデルを一般化するためのメタ連続ゼロショット学習(MCZSL)アプローチを提案する。 属性の自己決定とスケールしたクラス正規化をメタラーニングベースのトレーニングと組み合わせることで、最先端の成果を上回ることができるのです。
  論文  参考訳（メタデータ） (2021-02-23T18:36:14Z)
• Adversarial Training of Variational Auto-encoders for Continual Zero-shot Learning [1.90365714903665]
  本稿では,全タスクの情報を保持する共有VAEモジュールとタスク固有のプライベートVAEモジュールで構成されるハイブリッドネットワークを提案する。 モデルのサイズは各タスクで増加し、タスク固有のスキルの破滅的な忘れを防止する。 ZSL (Zero-Shot Learning) と GZSL (Generalized Zero-Shot Learning) による逐次学習よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-02-07T11:21:24Z)
• Generative Replay-based Continual Zero-Shot Learning [7.909034037183046]
  再生再生型連続ZSL(GRCZSL)を開発した。 提案手法は従来のZSLにストリーミングデータから学び、以前のタスクの経験を忘れることなく新しい知識を得ることができる。 GRZSL法は,実世界の問題設定をシミュレートした連続学習の単一ヘッド設定のために開発された。
  論文  参考訳（メタデータ） (2021-01-22T00:03:34Z)
• Incremental Embedding Learning via Zero-Shot Translation [65.94349068508863]
  現在の最先端のインクリメンタル学習手法は、従来の分類ネットワークにおける破滅的な忘れ方問題に取り組む。 ゼロショット変換クラス増分法(ZSTCI)と呼ばれる新しい組込みネットワークのクラス増分法を提案する。 さらに、ZSTCIを既存の正規化ベースのインクリメンタル学習手法と組み合わせることで、組み込みネットワークの性能をより向上させることができる。
  論文  参考訳（メタデータ） (2020-12-31T08:21:37Z)
• Insights from the Future for Continual Learning [45.58831178202245]
  我々は,授業データに先立って,授業に関する既存の情報を組み込むための,新しい実験環境である先進的連続学習を提案する。 私たちの設定には、トレーニングサンプルがまったくない将来のクラスが追加されます。 損失を慎重に調整した表現空間の生成モデルにより、将来のクラスからの洞察を利用して過去のクラスと現在のクラスの空間配置を制約することができる。
  論文  参考訳（メタデータ） (2020-06-24T14:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。