論文の概要: Powering Finetuning in Few-shot Learning: Domain-Agnostic Feature
Adaptation with Rectified Class Prototypes
- arxiv url: http://arxiv.org/abs/2204.03749v1
- Date: Thu, 7 Apr 2022 21:29:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-11 13:12:53.263082
- Title: Powering Finetuning in Few-shot Learning: Domain-Agnostic Feature
Adaptation with Rectified Class Prototypes
- Title(参考訳): マイナショット学習における微調整:整流クラスプロトタイプを用いたドメインに依存しない機能適応
- Authors: Ran Tao, Han Zhang, Yutong Zheng, Marios Savvides
- Abstract要約: ファインタニングは、新しいクラスの特徴分布におけるバイアスを減らすことに重点を置いている。
DCMとSSで微調整を行うことで、メタデータセットの最先端結果が得られる。
- 参考スコア(独自算出の注目度): 32.622613524622075
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent works, utilizing a deep network trained on meta-training set serves
as a strong baseline in few-shot learning. In this paper, we move forward to
refine novel-class features by finetuning a trained deep network. Finetuning is
designed to focus on reducing biases in novel-class feature distributions,
which we define as two aspects: class-agnostic and class-specific biases.
Class-agnostic bias is defined as the distribution shifting introduced by
domain difference, which we propose Distribution Calibration Module(DCM) to
reduce. DCM owes good property of eliminating domain difference and fast
feature adaptation during optimization. Class-specific bias is defined as the
biased estimation using a few samples in novel classes, which we propose
Selected Sampling(SS) to reduce. Without inferring the actual class
distribution, SS is designed by running sampling using proposal distributions
around support-set samples. By powering finetuning with DCM and SS, we achieve
state-of-the-art results on Meta-Dataset with consistent performance boosts
over ten datasets from different domains. We believe our simple yet effective
method demonstrates its possibility to be applied on practical few-shot
applications.
- Abstract(参考訳): 最近の研究では、メタトレーニングセットでトレーニングされた深層ネットワークを活用することが、少数の学習において強力なベースラインとなっている。
本稿では,訓練された深層ネットワークを微調整することで,新古典的特徴を洗練する。
ファインタニングは、クラス非依存とクラス固有のバイアスの2つの側面として定義する、新しいクラスの特徴分布におけるバイアスを減らすことに重点を置いている。
クラス非依存バイアスは,領域差による分布シフトとして定義され,分散校正モジュール(DCM)を提案する。
dcmは最適化中にドメインの違いをなくし、機能適応が速いという利点がある。
クラス固有のバイアスは、新しいクラスにおけるいくつかのサンプルを用いてバイアス推定として定義され、Selected Smpling(SS)を提案する。
ssは、実際のクラス分布を推測せずに、サポートセットのサンプルに関する提案ディストリビューションを使ってサンプリングを実行する。
DCMとSSによる微調整によって、Meta-Datasetの最先端の結果が得られ、さまざまなドメインから10のデータセットに対して一貫したパフォーマンスが向上します。
我々は,本手法が実用的少数ショットアプリケーションに適用可能であることを実証する。
関連論文リスト
- Rethinking Few-shot 3D Point Cloud Semantic Segmentation [62.80639841429669]
本稿では,FS-PCSによる3Dポイント・クラウドセマンティックセマンティックセグメンテーションについて再検討する。
我々は、最先端の2つの重要な問題、前景の漏洩とスパースポイントの分布に焦点をあてる。
これらの問題に対処するために、新しいベンチマークを構築するための標準化されたFS-PCS設定を導入する。
論文 参考訳(メタデータ) (2024-03-01T15:14:47Z) - GRSDet: Learning to Generate Local Reverse Samples for Few-shot Object
Detection [15.998148904793426]
Few-shot Object Detection (FSOD) は、いくつかの新しいクラストレーニングデータを用いてのみオブジェクト検出を実現することを目的としている。
既存の手法の多くは、新しいクラス分布を構築するために移行学習戦略を採用するのが一般的である。
本稿では,新しいクラス分布の中心位置と境界範囲を適応的に調整するために,プロトタイプ参照フレームに局所逆サンプル(LRSamples)を生成することを提案する。
論文 参考訳(メタデータ) (2023-12-27T13:36:29Z) - ActiveDC: Distribution Calibration for Active Finetuning [36.64444238742072]
本研究では,アクティブ微調整タスクのためのActiveDCと呼ばれる新しい手法を提案する。
我々は,無ラベルプールにおける暗黙のカテゴリ情報を利用して,選択したサンプルの分布を校正する。
その結果,ActiveDCは画像分類タスクのベースライン性能を一貫して上回ることがわかった。
論文 参考訳(メタデータ) (2023-11-13T14:35:18Z) - Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Robust Class-Conditional Distribution Alignment for Partial Domain
Adaptation [0.7892577704654171]
部分的なドメイン適応設定の学習目的におけるプライベートソースカテゴリからの不要なサンプルは、負の転送を招き、分類性能を低下させる可能性がある。
既存の手法、例えば、ターゲット予測の再重み付けや集約などは、この問題に対して脆弱である。
提案手法は,一階のモーメントだけを深く掘り下げて,異なる,コンパクトなカテゴリー分布を導出することによって,これらの制限を克服しようとするものである。
論文 参考訳(メタデータ) (2023-10-18T15:49:46Z) - P3DC-Shot: Prior-Driven Discrete Data Calibration for Nearest-Neighbor
Few-Shot Classification [6.61282019235397]
P3DC-Shotは、事前駆動型データキャリブレーションによって強化された、隣り合う近距離数ショット分類法である。
それぞれのベースクラスを表すプロトタイプを先行として扱い、異なるベースプロトタイプとの類似性に基づいて各サポートデータを校正する。
論文 参考訳(メタデータ) (2023-01-02T16:26:16Z) - Proposal Distribution Calibration for Few-Shot Object Detection [65.19808035019031]
few-shot object detection (FSOD)では、重度のサンプル不均衡を軽減するために、2段階の訓練パラダイムが広く採用されている。
残念ながら、極端なデータ不足は、提案の分布バイアスを増大させ、RoIヘッドが新しいクラスに進化するのを妨げます。
本稿では,RoIヘッドのローカライゼーションと分類能力を高めるために,単純かつ効果的な提案分布キャリブレーション(PDC)手法を提案する。
論文 参考訳(メタデータ) (2022-12-15T05:09:11Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳(メタデータ) (2022-06-01T03:02:07Z) - On Universal Black-Box Domain Adaptation [53.7611757926922]
実践的な展開という観点から,ドメイン適応の最小限の制約条件について検討する。
ソースモデルのインターフェースのみがターゲットドメインで利用可能であり、2つのドメイン間のラベル空間関係が異なることや未知であることが許されている。
対象試料の局所近傍における予測の整合性によって正規化された自己訓練フレームワークに統一することを提案する。
論文 参考訳(メタデータ) (2021-04-10T02:21:09Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。