論文の概要: Multidimensional Belief Quantification for Label-Efficient Meta-Learning
- arxiv url: http://arxiv.org/abs/2203.12768v1
- Date: Wed, 23 Mar 2022 23:37:16 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-26 01:17:06.217404
- Title: Multidimensional Belief Quantification for Label-Efficient Meta-Learning
- Title(参考訳): ラベル効率のよいメタラーニングのための多次元的信念定量化
- Authors: Deep Pandey, Qi Yu
- Abstract要約: ラベル付きメタ学習のための新しい不確実性を考慮したタスク選択モデルを提案する。
提案したモデルは、既知の不確実性を定量化し、与えられたタスクの未知の不確実性を低くする多次元的信念尺度を定式化する。
複数の実世界の複数ショット画像分類タスクに対して行われた実験は、提案モデルの有効性を実証する。
- 参考スコア(独自算出の注目度): 7.257751371276488
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Optimization-based meta-learning offers a promising direction for few-shot
learning that is essential for many real-world computer vision applications.
However, learning from few samples introduces uncertainty, and quantifying
model confidence for few-shot predictions is essential for many critical
domains. Furthermore, few-shot tasks used in meta training are usually sampled
randomly from a task distribution for an iterative model update, leading to
high labeling costs and computational overhead in meta-training. We propose a
novel uncertainty-aware task selection model for label efficient meta-learning.
The proposed model formulates a multidimensional belief measure, which can
quantify the known uncertainty and lower bound the unknown uncertainty of any
given task. Our theoretical result establishes an important relationship
between the conflicting belief and the incorrect belief. The theoretical result
allows us to estimate the total uncertainty of a task, which provides a
principled criterion for task selection. A novel multi-query task formulation
is further developed to improve both the computational and labeling efficiency
of meta-learning. Experiments conducted over multiple real-world few-shot image
classification tasks demonstrate the effectiveness of the proposed model.
- Abstract(参考訳): 最適化ベースのメタ学習は、多くの現実世界のコンピュータビジョンアプリケーションに不可欠な、数ショットの学習に有望な方向を提供する。
しかし、少数のサンプルから学ぶことは不確実性をもたらし、少数の予測に対するモデルの信頼度を定量化することは、多くの重要な領域において不可欠である。
さらに、メタトレーニングで使われるわずかなショットタスクは通常、反復モデル更新のタスク分散からランダムにサンプリングされ、高いラベリングコストとメタトレーニングの計算オーバーヘッドをもたらす。
ラベル付きメタ学習のための新しい不確実性を考慮したタスク選択モデルを提案する。
提案モデルは、既知の不確実性と与えられたタスクの未知の不確実性の下限を定量化できる多次元の信念測度を定式化する。
我々の理論的結果は、矛盾する信念と誤った信念の間に重要な関係を確立する。
理論的結果から,タスク選択の原則的基準を提供するタスクの完全不確実性を推定することができる。
メタラーニングの計算効率とラベリング効率を向上させるために,新たなマルチクエリタスク定式化が開発されている。
複数の実世界の複数ショット画像分類タスクに対して行われた実験は、提案モデルの有効性を示す。
関連論文リスト
- Fair Few-shot Learning with Auxiliary Sets [53.30014767684218]
多くの機械学習(ML)タスクでは、ラベル付きデータサンプルしか収集できないため、フェアネスのパフォーマンスが低下する可能性がある。
本稿では,限定的なトレーニングサンプルを用いたフェアネス認識学習課題をemphfair few-shot Learning問題として定義する。
そこで我々は,学習した知識をメタテストタスクに一般化し,様々なメタトレーニングタスクに公平な知識を蓄積する新しいフレームワークを考案した。
論文 参考訳(メタデータ) (2023-08-28T06:31:37Z) - Unsupervised Meta-Learning via Few-shot Pseudo-supervised Contrastive
Learning [72.3506897990639]
本稿では,Pseudo-supervised Contrast (PsCo) という,シンプルだが効果的なメタ学習フレームワークを提案する。
PsCoは、さまざまなドメイン内およびクロスドメインのいくつかのショット分類ベンチマークの下で、既存の教師なしメタラーニングメソッドより優れています。
論文 参考訳(メタデータ) (2023-03-02T06:10:13Z) - Post-hoc Uncertainty Learning using a Dirichlet Meta-Model [28.522673618527417]
本研究では,不確実性定量化能力の優れた事前学習モデルを構築するための新しいベイズメタモデルを提案する。
提案手法は追加のトレーニングデータを必要としないため,不確かさの定量化に十分な柔軟性がある。
提案するメタモデルアプローチの柔軟性と,これらのアプリケーションに対する優れた経験的性能を実証する。
論文 参考訳(メタデータ) (2022-12-14T17:34:11Z) - The Effect of Diversity in Meta-Learning [79.56118674435844]
少ないショット学習は、少数の例から見れば、新しいタスクに対処できる表現を学習することを目的としている。
近年の研究では,タスク分布がモデルの性能に重要な役割を担っていることが示されている。
タスクの多様性がメタ学習アルゴリズムに与える影響を評価するために,多種多様なモデルとデータセットのタスク分布について検討する。
論文 参考訳(メタデータ) (2022-01-27T19:39:07Z) - Diverse Distributions of Self-Supervised Tasks for Meta-Learning in NLP [39.457091182683406]
非ラベルテキストから自動的に提案される自己教師型タスクを考慮し,メタラーニングのためのタスク分布の提供を目指す。
分析の結果,これらすべての要因がタスク分布を有意に変化させることが示され,メタ学習モデルの下流における数ショット精度の大幅な改善がもたらされた。
論文 参考訳(メタデータ) (2021-11-02T01:50:09Z) - Meta-learning with an Adaptive Task Scheduler [93.63502984214918]
既存のメタ学習アルゴリズムは、一様確率でランダムにメタトレーニングタスクをサンプリングする。
タスクは、限られた数のメタトレーニングタスクを考えると、ノイズや不均衡に有害である可能性が高い。
メタトレーニングプロセスのための適応タスクスケジューラ(ATS)を提案する。
論文 参考訳(メタデータ) (2021-10-26T22:16:35Z) - BAMLD: Bayesian Active Meta-Learning by Disagreement [39.59987601426039]
本稿では,メタトレーニングタスクのラベル付け要求数を削減するための情報理論アクティブタスク選択機構を提案する。
本稿では,既存の取得メカニズムと比較した実験結果について報告する。
論文 参考訳(メタデータ) (2021-10-19T13:06:51Z) - Meta-learning Amidst Heterogeneity and Ambiguity [11.061517140668961]
我々は異質性・曖昧性(MAHA)の中でメタラーニングと呼ばれる新しいメタラーニングフレームワークを考案する。
回帰と分類のいくつかの実験を広範囲に実施することにより、モデルの有効性を実証する。
論文 参考訳(メタデータ) (2021-07-05T18:54:31Z) - Learning Diverse Representations for Fast Adaptation to Distribution
Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。
分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文 参考訳(メタデータ) (2020-06-12T12:23:50Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳(メタデータ) (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。