論文の概要: Squeezing Backbone Feature Distributions to the Max for Efficient
Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2110.09446v1
- Date: Mon, 18 Oct 2021 16:29:17 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-19 17:46:55.320413
- Title: Squeezing Backbone Feature Distributions to the Max for Efficient
Few-Shot Learning
- Title（参考訳）: 効率的なFew-Shot学習のためのバックボーン特徴分布の最大化
- Authors: Yuqing Hu, Vincent Gripon, St\'ephane Pateux
- Abstract要約: ラベル付きサンプルの少ない使用によって生じる不確実性のため、ほとんどショット分類が難しい問題である。
本稿では,特徴ベクトルをガウス分布に近づけるように処理するトランスファーベース手法を提案する。
また,学習中に未学習のサンプルが利用可能となる多段階的数ショット学習では,達成された性能をさらに向上させる最適なトランスポートインスピレーションアルゴリズムも導入する。
- 参考スコア（独自算出の注目度）: 3.1153758106426603
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot classification is a challenging problem due to the uncertainty
caused by using few labelled samples. In the past few years, many methods have
been proposed with the common aim of transferring knowledge acquired on a
previously solved task, what is often achieved by using a pretrained feature
extractor. Following this vein, in this paper we propose a novel transfer-based
method which aims at processing the feature vectors so that they become closer
to Gaussian-like distributions, resulting in increased accuracy. In the case of
transductive few-shot learning where unlabelled test samples are available
during training, we also introduce an optimal-transport inspired algorithm to
boost even further the achieved performance. Using standardized vision
benchmarks, we show the ability of the proposed methodology to achieve
state-of-the-art accuracy with various datasets, backbone architectures and
few-shot settings.
- Abstract（参考訳）: ラベル付きサンプルの少ない使用によって生じる不確実性のため、ほとんどショット分類が難しい問題である。
過去数年間、事前学習された特徴抽出器を用いてしばしば達成される、以前に解決されたタスクで獲得した知識を転送するという共通の目的により、多くの方法が提案されてきた。
本稿では,ガウス分布に近づき,精度が向上する特徴ベクトルの処理を目的とした,新しい転送方式を提案する。
非ラベルテストサンプルがトレーニング中に使用可能なトランスダクティブな少数ショット学習の場合、さらに、達成したパフォーマンスをさらに高めるために、最適なトランスポートインスパイアアルゴリズムも導入する。
標準化されたビジョンベンチマークを用いて、様々なデータセット、バックボーンアーキテクチャ、少数ショット設定で最先端の精度を達成するための提案手法の能力を示す。
関連論文リスト
- Enhancing Out-of-Distribution Detection with Multitesting-based Layer-wise Feature Fusion [11.689517005768046]
アウト・オブ・ディストリビューション(Out-of-distriion)サンプルは、トレーニング分布と比較して、局所的またはグローバルな特徴の変化を示す可能性がある。
本稿では,新しいフレームワーク,Multitesting-based Layer-wise Out-of-Distribution (OOD) を提案する。
本手法は, ベースライン法と比較して, 分布外検出の性能を効果的に向上させる。
論文 参考訳（メタデータ） (2024-03-16T04:35:04Z) - A Maximum Log-Likelihood Method for Imbalanced Few-Shot Learning Tasks [3.2895195535353308]
数ショットアーキテクチャのための新しい最大ログ類似度指標を提案する。
提案手法は,従来の類似度指標よりも優れた性能を実現することを示す。
また,提案アルゴリズムは,評価データが不均衡である場合に,最先端のトランスダクティブな数ショット性能を実現することを示す。
論文 参考訳（メタデータ） (2022-11-26T21:31:00Z) - On Measuring the Intrinsic Few-Shot Hardness of Datasets [49.37562545777455]
トレーニング済みのモデルに対して、データセットに固有の数ショットの硬さを示す。
そこで我々は,数発の学習が可能な直感をとらえる,シンプルで軽量な尺度"Spread"を提案する。
我々の測定基準は、既存の硬さの概念に比べて数発の硬さを考慮し、計算が8～100倍高速である。
論文 参考訳（メタデータ） (2022-11-16T18:53:52Z) - POODLE: Improving Few-shot Learning via Penalizing Out-of-Distribution
Samples [19.311470287767385]
そこで本研究では,対象クラス外からのラベル付きサンプルの配布外サンプルを用いて,数発の学習を改善することを提案する。
提案手法は, 実装が簡単で, 特徴抽出器に非依存であり, 事前学習に要する追加コストを伴わず軽量であり, インダクティブ設定とトランスダクティブ設定の両方に適用可能である。
論文 参考訳（メタデータ） (2022-06-08T18:59:21Z) - SURF: Semi-supervised Reward Learning with Data Augmentation for
Feedback-efficient Preference-based Reinforcement Learning [168.89470249446023]
我々は、大量のラベルなしサンプルとデータ拡張を利用する半教師付き報酬学習フレームワークSURFを提案する。
報奨学習にラベルのないサンプルを活用するために,選好予測器の信頼性に基づいてラベルのないサンプルの擬似ラベルを推定する。
本実験は, ロボット操作作業における嗜好に基づく手法のフィードバック効率を有意に向上させることを実証した。
論文 参考訳（メタデータ） (2022-03-18T16:50:38Z) - MetaKernel: Learning Variational Random Features with Limited Labels [120.90737681252594]
少数の注釈付きサンプルから学習し、新しいタスクでうまく一般化できるという根本的かつ困難な問題に、少数のショットラーニングが対処します。
マルチショット学習のためのランダムなフーリエ機能を備えたメタラーニングカーネルをMeta Kernelと呼びます。
論文 参考訳（メタデータ） (2021-05-08T21:24:09Z) - Exploring Complementary Strengths of Invariant and Equivariant
Representations for Few-Shot Learning [96.75889543560497]
多くの現実世界では、多数のラベル付きサンプルの収集は不可能です。
少ないショット学習はこの問題に対処するための主要なアプローチであり、目的は限られた数のサンプルの存在下で新しいカテゴリに迅速に適応することです。
幾何学的変換の一般集合に対する等分散と不変性を同時に強制する新しい訓練機構を提案する。
論文 参考訳（メタデータ） (2021-03-01T21:14:33Z) - Ask-n-Learn: Active Learning via Reliable Gradient Representations for
Image Classification [29.43017692274488]
深い予測モデルは、ラベル付きトレーニングデータという形で人間の監督に依存する。
Ask-n-Learnは,各アルゴリズムで推定されたペスドラベルを用いて得られる勾配埋め込みに基づく能動的学習手法である。
論文 参考訳（メタデータ） (2020-09-30T05:19:56Z) - Multi-Scale Positive Sample Refinement for Few-Shot Object Detection [61.60255654558682]
Few-shot Object Detection (FSOD) は、ディテクターがトレーニングインスタンスをほとんど持たない未確認のクラスに適応するのに役立つ。
FSODにおけるオブジェクトスケールを拡張化するためのMPSR(Multi-scale Positive Sample Refinement)アプローチを提案する。
MPSRは、オブジェクトピラミッドとして多スケールの正のサンプルを生成し、様々なスケールで予測を洗練させる。
論文 参考訳（メタデータ） (2020-07-18T09:48:29Z) - CSI: Novelty Detection via Contrastive Learning on Distributionally
Shifted Instances [77.28192419848901]
コントラストシフトインスタンス (CSI) という,単純かつ効果的な手法を提案する。
従来のコントラスト学習法のように,サンプルを他の例と対比することに加えて,本トレーニング手法では,サンプルを分散シフトによる拡張と対比する。
本実験は, 種々の新規検出シナリオにおける本手法の優位性を実証する。
論文 参考訳（メタデータ） (2020-07-16T08:32:56Z) - Leveraging the Feature Distribution in Transfer-based Few-Shot Learning [2.922007656878633]
ラベル付きサンプルの少ない使用によって生じる不確実性のため、ほとんどショット分類が難しい問題である。
本稿では,(1)特徴ベクトルをガウス分布に近づけるように前処理し,2)最適輸送インスパイアされたアルゴリズムを用いて,この前処理を活用する。
提案手法は,様々なデータセット,バックボーンアーキテクチャ,少数ショット設定を用いて,最先端の精度を実現することができる。
論文 参考訳（メタデータ） (2020-06-06T07:32:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。