論文の概要: Distribution Embedding Networks for Meta-Learning with Heterogeneous Covariate Spaces

• arxiv url: http://arxiv.org/abs/2202.01940v1
• Date: Fri, 4 Feb 2022 02:06:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-07 14:35:18.919098
• Title: Distribution Embedding Networks for Meta-Learning with Heterogeneous Covariate Spaces
• Title（参考訳）: 異種共変空間を用いたメタラーニングのための分布埋め込みネットワーク
• Authors: Lang Liu and Mahdi Milani Fard and Sen Zhao
• Abstract要約: メタラーニング手法を用いて,小さなデータを用いた分類のための分散埋め込みネットワーク(DEN)を提案する。 DENは、多種多様なトレーニングタスクでトレーニングされるように設計されている。 DENは、数値研究において、多くの合成および実際のタスクにおいて、既存の手法よりも優れている。
• 参考スコア（独自算出の注目度）: 7.010362907889494
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose Distribution Embedding Networks (DEN) for classification with small data using meta-learning techniques. Unlike existing meta-learning approaches that focus on image recognition tasks and require the training and target tasks to be similar, DEN is specifically designed to be trained on a diverse set of training tasks and applied on tasks whose number and distribution of covariates differ vastly from its training tasks. Such property of DEN is enabled by its three-block architecture: a covariate transformation block followed by a distribution embedding block and then a classification block. We provide theoretical insights to show that this architecture allows the embedding and classification blocks to be fixed after pre-training on a diverse set of tasks; only the covariate transformation block with relatively few parameters needs to be updated for each new task. To facilitate the training of DEN, we also propose an approach to synthesize binary classification training tasks, and demonstrate that DEN outperforms existing methods in a number of synthetic and real tasks in numerical studies.
• Abstract（参考訳）: メタラーニング手法を用いて,小さなデータを分類するための分散埋め込みネットワーク(DEN)を提案する。 画像認識タスクにフォーカスし、トレーニングとターゲットタスクを類似させる既存のメタラーニングアプローチとは異なり、denはトレーニングタスクの多種多様なセットでトレーニングされ、covariateの数と分布がトレーニングタスクと大きく異なるタスクに適用されるように設計されている。 DENのそのような特性は、共変量変換ブロック、次いで分布埋め込みブロック、そして分類ブロックの3ブロックアーキテクチャによって実現される。 本アーキテクチャでは,各タスクに対して,比較的少数のパラメータを持つ共変量変換ブロックのみを更新する必要のある,多様なタスクの事前学習後に,埋め込みブロックと分類ブロックを固定可能であることを示す理論的知見を提供する。 また,denの学習を容易にするために,二分分類訓練タスクを合成する手法を提案し,数値研究において,denが既存の手法よりも多くの合成課題や実課題において優れていることを示す。

関連論文リスト

• CSL: Class-Agnostic Structure-Constrained Learning for Segmentation Including the Unseen [62.72636247006293]
  クラス非依存構造制約学習(Class-Agnostic Structure-Constrained Learning)は、既存のメソッドと統合可能なプラグインフレームワークである。 OODオブジェクトセグメンテーションを強化するソフトアサインとマスク分割手法を提案する。 実証的な評価は、OODセグメンテーション、ZS3、DAセグメンテーションにまたがる既存のアルゴリズムの性能を向上させるCSLの進歩を示している。
  論文  参考訳（メタデータ） (2023-12-09T11:06:18Z)
• Set-based Meta-Interpolation for Few-Task Meta-Learning [79.4236527774689]
  そこで本研究では,メタトレーニングタスクの分散化を目的とした,ドメインに依存しないタスク拡張手法Meta-Interpolationを提案する。 様々な領域にまたがる8つのデータセットに対してメタ補間の有効性を実証的に検証した。
  論文  参考訳（メタデータ） (2022-05-20T06:53:03Z)
• Interval Bound Interpolation for Few-shot Learning with Few Tasks [15.85259386116784]
  少ないショット学習は、さまざまなタスクのトレーニングから得られた知識を、限られたラベル付きデータで見つからないタスクに転送することを目的としている。 そこで本研究では,頑健な学習文献から数ショット学習まで,インターバルバウンダリの概念を紹介した。 次に、利用可能なタスクと各インターバル境界を補間することにより、トレーニングのための新しいタスクを人工的に形成する。
  論文  参考訳（メタデータ） (2022-04-07T15:29:27Z)
• Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
  現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。 タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。 実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-06-04T20:15:34Z)
• Cross-Domain Few-Shot Classification via Adversarial Task Augmentation [16.112554109446204]
  少数のショット分類は、各クラスのラベル付きサンプルがほとんどなく、見えないクラスを認識することを目的とする。 数ショット分類のためのメタラーニングモデルの多くは、そのようなタスクを解決するために様々なタスク共有帰納バイアス(メタ知識)を精巧に設計する。 本研究は,タスク強化による帰納バイアスの堅牢性向上を目的としている。
  論文  参考訳（メタデータ） (2021-04-29T14:51:53Z)
• Training Generative Adversarial Networks in One Stage [58.983325666852856]
  本稿では,1段階のみに効率よくGANを訓練できる汎用的なトレーニング手法を提案する。 提案手法は,データフリーな知識蒸留など,他の逆学習シナリオにも容易に適用可能であることを示す。
  論文  参考訳（メタデータ） (2021-02-28T09:03:39Z)
• Improving filling level classification with adversarial training [90.01594595780928]
  単一画像からカップや飲料グラスのコンテントのレベルを分類する問題について検討する。 汎用ソースデータセットで逆トレーニングを使用し、タスク固有のデータセットでトレーニングを洗練します。 ソース領域における逆学習による伝達学習は,テストセットの分類精度を常に向上させることを示す。
  論文  参考訳（メタデータ） (2021-02-08T08:32:56Z)
• Separable Batch Normalization for Robust Facial Landmark Localization with Cross-protocol Network Training [41.82379935715916]
  大規模で多様でバランスの取れたトレーニングデータは、ディープニューラルネットワークトレーニングの成功の鍵です。 多様性とバランスの取れたトレーニングサンプルを持たない小さなデータセットは、ディープネットワークのトレーニングを効果的にサポートできない。 本稿では, 顔のランドマークのロバスト化のためのクロスプロトコールネットワークトレーニング(CNT)戦略を用いた, 分離型バッチ正規化(SepBN)モジュールを提案する。
  論文  参考訳（メタデータ） (2021-01-17T13:04:06Z)
• Meta-Learning of Structured Task Distributions in Humans and Machines [15.34209852089588]
  メタラーニングの評価は依然として課題であり、メタラーニングが実際にタスク内に埋め込まれた構造を使っているかどうかを見逃すことができる。 我々は,モデルなし強化学習で訓練されたリカレントネットワークである標準的なメタ学習エージェントを訓練し,それを人間のパフォーマンスと比較する。 エージェントはNullタスク分布において優れているのに対し、構造化されたタスク分布では人間の方が優れている二重解離が見つかる。
  論文  参考訳（メタデータ） (2020-10-05T20:18:10Z)
• Training few-shot classification via the perspective of minibatch and pretraining [10.007569291231915]
  少ないショット分類は、人間が限られた事前データから概念を学ぶ能力を定式化することを目的とした課題である。 近年,メタラーニングが注目されている。 分類問題におけるミニバッチと事前学習に対応する多相・横断訓練手法を提案する。
  論文  参考訳（メタデータ） (2020-04-10T03:14:48Z)
• Adversarial Continual Learning [99.56738010842301]
  本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。 本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
  論文  参考訳（メタデータ） (2020-03-21T02:08:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。