論文の概要: Learning latent representations across multiple data domains using
Lifelong VAEGAN
- arxiv url: http://arxiv.org/abs/2007.10221v1
- Date: Mon, 20 Jul 2020 16:08:36 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 13:04:11.584800
- Title: Learning latent representations across multiple data domains using
Lifelong VAEGAN
- Title(参考訳): Lifelong VAEGAN を用いた複数のデータ領域にまたがる潜在表現の学習
- Authors: Fei Ye and Adrian G. Bors
- Abstract要約: 本稿では,生涯学習手法であるライフロングVAEGANを提案する。
L-VAEGANは強力な生成的リプレイネットワークを誘導し、意味のある潜在表現も学習する。
提案モデルは、従来の生成的再生手法ではできない多くの下流タスクをサポートしており、推論や異なるデータドメイン間を含む。
- 参考スコア(独自算出の注目度): 11.540150938141034
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The problem of catastrophic forgetting occurs in deep learning models trained
on multiple databases in a sequential manner. Recently, generative replay
mechanisms (GRM), have been proposed to reproduce previously learned knowledge
aiming to reduce the forgetting. However, such approaches lack an appropriate
inference model and therefore can not provide latent representations of data.
In this paper, we propose a novel lifelong learning approach, namely the
Lifelong VAEGAN (L-VAEGAN), which not only induces a powerful generative replay
network but also learns meaningful latent representations, benefiting
representation learning. L-VAEGAN can allow to automatically embed the
information associated with different domains into several clusters in the
latent space, while also capturing semantically meaningful shared latent
variables, across different data domains. The proposed model supports many
downstream tasks that traditional generative replay methods can not, including
interpolation and inference across different data domains.
- Abstract(参考訳): 破滅的な忘れの問題は、複数のデータベースで逐次訓練されたディープラーニングモデルに発生する。
近年, 忘れを減らそうとする学習知識を再現するために, 生成的再生機構 (GRM) が提案されている。
しかし、そのようなアプローチには適切な推論モデルがないため、データの潜在表現は提供できない。
本稿では,強力な生成的リプレイネットワークを誘導するだけでなく,有意義な潜在表現を学習し,表現学習の恩恵を受ける,生涯のvaegan(l-vaegan)という新しい学習手法を提案する。
L-VAEGANは、異なるデータドメイン間で意味的に意味のある共有潜在変数をキャプチャしながら、異なるドメインに関連する情報を複数のクラスタに潜在空間に自動的に埋め込むことができる。
提案モデルは、異なるデータドメイン間の補間や推論を含む、従来の生成リプレイ法ではできない多くのダウンストリームタスクをサポートする。
関連論文リスト
- Exploiting Graph Structured Cross-Domain Representation for Multi-Domain
Recommendation [71.45854187886088]
マルチドメインレコメンデータシステムは、クロスドメイン表現学習とポジティブな知識伝達の恩恵を受ける。
我々はMAGRecと呼ばれる手法のコンテキスト情報として時間的ドメイン内相互作用とドメイン間相互作用を用いる。
我々は、MAGRecが最先端の手法を一貫して上回る様々なシナリオで、公開データセットで実験を行う。
論文 参考訳(メタデータ) (2023-02-12T19:51:32Z) - Generative appearance replay for continual unsupervised domain
adaptation [4.623578780480946]
GarDAは生成再生に基づくアプローチで、セグメンテーションモデルをラベルのない新しいドメインに順次適用することができる。
臓器とモダリティの異なる2つのデータセット上でGarDAを評価する。
論文 参考訳(メタデータ) (2023-01-03T17:04:05Z) - Multimodal hierarchical Variational AutoEncoders with Factor Analysis latent space [45.418113011182186]
本研究では,変分オートエンコーダ(VAE)と因子解析潜時空間(FA-VAE)を組み合わせることで,制約に対処する新しい手法を提案する。
FA-VAE法は複数のVAEを用いて連続潜伏空間における各異種データビューのプライベート表現を学習する。
論文 参考訳(メタデータ) (2022-07-19T10:46:02Z) - On Generalizing Beyond Domains in Cross-Domain Continual Learning [91.56748415975683]
ディープニューラルネットワークは、新しいタスクを学んだ後、これまで学んだ知識の破滅的な忘れ込みに悩まされることが多い。
提案手法は、ドメインシフト中の新しいタスクを精度良く学習することで、DomainNetやOfficeHomeといった挑戦的なデータセットで最大10%向上する。
論文 参考訳(メタデータ) (2022-03-08T09:57:48Z) - HRKD: Hierarchical Relational Knowledge Distillation for Cross-domain
Language Model Compression [53.90578309960526]
大規模事前学習言語モデル(PLM)は、従来のニューラルネットワーク手法と比較して圧倒的な性能を示している。
階層的および領域的関係情報の両方を抽出する階層的関係知識蒸留法(HRKD)を提案する。
論文 参考訳(メタデータ) (2021-10-16T11:23:02Z) - Variational Attention: Propagating Domain-Specific Knowledge for
Multi-Domain Learning in Crowd Counting [75.80116276369694]
群集カウントでは, 激しいラベル付けの問題により, 新しい大規模データセットを収集する難易度が知覚される。
マルチドメイン共同学習を活用し,DKPNet(Domain-specific Knowledge Propagating Network)を提案する。
主に、異なるドメインに対する注意分布を明示的にモデル化する、新しい変動注意法(VA)技術を提案する。
論文 参考訳(メタデータ) (2021-08-18T08:06:37Z) - Generalized Zero-Shot Learning using Multimodal Variational Auto-Encoder
with Semantic Concepts [0.9054540533394924]
近年の手法では,意味空間と画像空間の相互マッピングの学習が試みられている。
画像特徴と意味空間の共有潜在空間を学習できるマルチモーダル変分自動エンコーダ(M-VAE)を提案する。
提案手法は, ゼロショット学習における最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-26T20:08:37Z) - Multi-Domain Adversarial Feature Generalization for Person
Re-Identification [52.835955258959785]
マルチデータセット特徴一般化ネットワーク(MMFA-AAE)を提案する。
複数のラベル付きデータセットから普遍的なドメイン不変の特徴表現を学習し、それを見えないカメラシステムに一般化することができる。
また、最先端の教師付き手法や教師なしのドメイン適応手法を大きなマージンで超えている。
論文 参考訳(メタデータ) (2020-11-25T08:03:15Z) - Relation-Guided Representation Learning [53.60351496449232]
本稿では,サンプル関係を明示的にモデル化し,活用する表現学習手法を提案する。
私たちのフレームワークは、サンプル間の関係をよく保存します。
サンプルをサブスペースに埋め込むことにより,本手法が大規模なサンプル外問題に対処可能であることを示す。
論文 参考訳(メタデータ) (2020-07-11T10:57:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。