論文の概要: CMVAE: Causal Meta VAE for Unsupervised Meta-Learning
- arxiv url: http://arxiv.org/abs/2302.09731v1
- Date: Mon, 20 Feb 2023 02:49:35 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-21 16:56:08.441709
- Title: CMVAE: Causal Meta VAE for Unsupervised Meta-Learning
- Title(参考訳): CMVAE:教師なしメタラーニングのための因果メタVAE
- Authors: Guodong Qi, Huimin Yu
- Abstract要約: 教師なしメタ学習は、ラベルのないデータからメタ知識を学習し、新しいタスクに迅速に適応することを目的としている。
既存のアプローチは、トレーニングデータからコンテキストバイアスに誤解される可能性がある。
因果空間の潜伏符号に先行情報をエンコードし,それらの関係を同時に学習し,下流の複数ショット画像分類タスクを実現するための因果メタVAE(CMVAE)を提案する。
- 参考スコア(独自算出の注目度): 3.0839245814393728
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised meta-learning aims to learn the meta knowledge from unlabeled
data and rapidly adapt to novel tasks. However, existing approaches may be
misled by the context-bias (e.g. background) from the training data. In this
paper, we abstract the unsupervised meta-learning problem into a Structural
Causal Model (SCM) and point out that such bias arises due to hidden
confounders. To eliminate the confounders, we define the priors are
\textit{conditionally} independent, learn the relationships between priors and
intervene on them with casual factorization. Furthermore, we propose Causal
Meta VAE (CMVAE) that encodes the priors into latent codes in the causal space
and learns their relationships simultaneously to achieve the downstream
few-shot image classification task. Results on toy datasets and three benchmark
datasets demonstrate that our method can remove the context-bias and it
outperforms other state-of-the-art unsupervised meta-learning algorithms
because of bias-removal. Code is available at
\url{https://github.com/GuodongQi/CMVAE}
- Abstract(参考訳): unsupervised meta-learningは、ラベルのないデータからメタ知識を学び、新しいタスクに迅速に適応することを目的としている。
しかし、既存のアプローチはトレーニングデータからコンテキストバイアス(背景など)によって誤解される可能性がある。
本稿では,教師なしメタラーニング問題を構造因果モデル (Structure Causal Model: SCM) に抽象化し,そのようなバイアスが隠れた共同設立者によって生じることを指摘する。
共同設立者を排除するため、前者はtextit{conditionally} 独立であると定義し、前者間の関係を学習し、それらをカジュアルな分解で介入する。
さらに,先行コードを因果空間内の潜在符号にエンコードし,それらの関係を同時に学習し,下流の少数ショット画像分類タスクを実現する因果メタvae(cmvae)を提案する。
おもちゃのデータセットと3つのベンチマークデータセットの結果から、この手法は文脈バイアスを取り除き、バイアス除去のため、他の最先端の教師なしメタラーニングアルゴリズムよりも優れています。
コードは \url{https://github.com/GuodongQi/CMVAE} で入手できる。
関連論文リスト
- Privacy Challenges in Meta-Learning: An Investigation on Model-Agnostic Meta-Learning [2.8948274245812327]
現在のメタラーニング手法では、タスク学習者は、サポートセットと呼ばれるセンシティブなデータからモデルをローカルに学習する。
明示的なデータ共有がないにもかかわらず、プライバシーの懸念は続いている。
本稿では,メタラーニングアルゴリズム,特にモデル非依存メタラーニング(MAML)における潜在的なデータ漏洩について検討する。
論文 参考訳(メタデータ) (2024-06-01T01:10:35Z) - Gromov-Wasserstein Autoencoders [36.656435006076975]
我々はGromov-Wasserstein Autoencoders(GWAE)という新しい表現学習手法を提案する。
可能性に基づく目的ではなく、GWAEモデルはGromov-Wasserstein (GW) 計量を最小化することによって、事前最適化可能なトレーニングが可能となる。
トレーニング可能な事前のファミリーを制限することで、下流タスクの潜在表現を制御するメタプライアを導入することができる。
論文 参考訳(メタデータ) (2022-09-15T02:34:39Z) - Unpaired Referring Expression Grounding via Bidirectional Cross-Modal
Matching [53.27673119360868]
表現基盤の参照はコンピュータビジョンにおいて重要かつ困難な課題である。
本稿では,これらの課題に対処する新しい双方向クロスモーダルマッチング(BiCM)フレームワークを提案する。
私たちのフレームワークは、2つの一般的なグラウンドデータセットで、以前の作業の6.55%と9.94%を上回っています。
論文 参考訳(メタデータ) (2022-01-18T01:13:19Z) - Transfer Meta-Learning: Information-Theoretic Bounds and Information
Meta-Risk Minimization [47.7605527786164]
メタ学習は、複数の関連するタスクからのデータを観察し、誘導バイアスを自動的に推論する。
本稿では,メタテスト中に目標タスク環境からタスクを抽出するトランスファーメタラーニングの問題を紹介する。
論文 参考訳(メタデータ) (2020-11-04T12:55:43Z) - Meta-Learning with Context-Agnostic Initialisations [86.47040878540139]
メタ学習プロセスにコンテキスト・逆成分を導入する。
これにより、コンテキストに依存しないタスクを一般化したターゲットへの微調整の初期化が実現される。
我々は,3つのメタ学習アルゴリズムと2つの問題に対するアプローチを評価した。
論文 参考訳(メタデータ) (2020-07-29T08:08:38Z) - Semi-Supervised Learning with Meta-Gradient [123.26748223837802]
半教師付き学習における簡単なメタ学習アルゴリズムを提案する。
その結果,提案アルゴリズムは最先端の手法に対して良好に動作することがわかった。
論文 参考訳(メタデータ) (2020-07-08T08:48:56Z) - Rethinking Few-Shot Image Classification: a Good Embedding Is All You
Need? [72.00712736992618]
メタトレーニングセット上で教師付きあるいは自己教師型表現を学習する単純なベースラインが、最先端の数ショット学習方法より優れていることを示す。
追加の増量は自己蒸留によって達成できる。
我々は,この発見が,画像分類ベンチマークとメタ学習アルゴリズムの役割を再考する動機となっていると考えている。
論文 参考訳(メタデータ) (2020-03-25T17:58:42Z) - Meta Cyclical Annealing Schedule: A Simple Approach to Avoiding
Meta-Amortization Error [50.83356836818667]
循環型アニーリングスケジュールとMMD基準を用いた新しいメタレギュラー化目標を構築した。
実験の結果,本手法は標準的なメタ学習アルゴリズムよりもかなり優れていることがわかった。
論文 参考訳(メタデータ) (2020-03-04T04:43:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。