論文の概要: Powering Finetuning in Few-shot Learning: Domain-Agnostic Feature
Adaptation with Rectified Class Prototypes
- arxiv url: http://arxiv.org/abs/2204.03749v1
- Date: Thu, 7 Apr 2022 21:29:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-11 13:12:53.263082
- Title: Powering Finetuning in Few-shot Learning: Domain-Agnostic Feature
Adaptation with Rectified Class Prototypes
- Title（参考訳）: マイナショット学習における微調整:整流クラスプロトタイプを用いたドメインに依存しない機能適応
- Authors: Ran Tao, Han Zhang, Yutong Zheng, Marios Savvides
- Abstract要約: ファインタニングは、新しいクラスの特徴分布におけるバイアスを減らすことに重点を置いている。
DCMとSSで微調整を行うことで、メタデータセットの最先端結果が得られる。
- 参考スコア（独自算出の注目度）: 32.622613524622075
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent works, utilizing a deep network trained on meta-training set serves
as a strong baseline in few-shot learning. In this paper, we move forward to
refine novel-class features by finetuning a trained deep network. Finetuning is
designed to focus on reducing biases in novel-class feature distributions,
which we define as two aspects: class-agnostic and class-specific biases.
Class-agnostic bias is defined as the distribution shifting introduced by
domain difference, which we propose Distribution Calibration Module(DCM) to
reduce. DCM owes good property of eliminating domain difference and fast
feature adaptation during optimization. Class-specific bias is defined as the
biased estimation using a few samples in novel classes, which we propose
Selected Sampling(SS) to reduce. Without inferring the actual class
distribution, SS is designed by running sampling using proposal distributions
around support-set samples. By powering finetuning with DCM and SS, we achieve
state-of-the-art results on Meta-Dataset with consistent performance boosts
over ten datasets from different domains. We believe our simple yet effective
method demonstrates its possibility to be applied on practical few-shot
applications.
- Abstract（参考訳）: 最近の研究では、メタトレーニングセットでトレーニングされた深層ネットワークを活用することが、少数の学習において強力なベースラインとなっている。
本稿では,訓練された深層ネットワークを微調整することで,新古典的特徴を洗練する。
ファインタニングは、クラス非依存とクラス固有のバイアスの2つの側面として定義する、新しいクラスの特徴分布におけるバイアスを減らすことに重点を置いている。
クラス非依存バイアスは,領域差による分布シフトとして定義され,分散校正モジュール(DCM)を提案する。
dcmは最適化中にドメインの違いをなくし、機能適応が速いという利点がある。
クラス固有のバイアスは、新しいクラスにおけるいくつかのサンプルを用いてバイアス推定として定義され、Selected Smpling(SS)を提案する。
ssは、実際のクラス分布を推測せずに、サポートセットのサンプルに関する提案ディストリビューションを使ってサンプリングを実行する。
DCMとSSによる微調整によって、Meta-Datasetの最先端の結果が得られ、さまざまなドメインから10のデータセットに対して一貫したパフォーマンスが向上します。
我々は,本手法が実用的少数ショットアプリケーションに適用可能であることを実証する。
関連論文リスト
- Step-wise Distribution Alignment Guided Style Prompt Tuning for Source-free Cross-domain Few-shot Learning [53.60934432718044]
クロスドメインの少数ショット学習手法は、アクセス不能なソースデータとトレーニング戦略により、大規模事前学習モデルの課題に直面している。
本稿では,ステップワイド配向ガイド型プロンプトチューニング(StepSPT)を紹介する。
StepSPTは予測分布最適化を通じて暗黙的にドメインギャップを狭める。
論文 参考訳（メタデータ） (2024-11-15T09:34:07Z) - Enhanced Online Test-time Adaptation with Feature-Weight Cosine Alignment [7.991720491452191]
オンラインテスト時間適応(OTTA)は、分散シフトを扱う効果的な戦略として登場した。
本稿では,双対目的損失関数を用いたコサインアライメント最適化手法を提案する。
提案手法は最先端技術より優れ,複数のデータセットに新しいベンチマークを設定できる。
論文 参考訳（メタデータ） (2024-05-12T05:57:37Z) - Rethinking Few-shot 3D Point Cloud Semantic Segmentation [62.80639841429669]
本稿では,FS-PCSによる3Dポイント・クラウドセマンティックセマンティックセグメンテーションについて再検討する。
我々は、最先端の2つの重要な問題、前景の漏洩とスパースポイントの分布に焦点をあてる。
これらの問題に対処するために、新しいベンチマークを構築するための標準化されたFS-PCS設定を導入する。
論文 参考訳（メタデータ） (2024-03-01T15:14:47Z) - GRSDet: Learning to Generate Local Reverse Samples for Few-shot Object
Detection [15.998148904793426]
Few-shot Object Detection (FSOD) は、いくつかの新しいクラストレーニングデータを用いてのみオブジェクト検出を実現することを目的としている。
既存の手法の多くは、新しいクラス分布を構築するために移行学習戦略を採用するのが一般的である。
本稿では,新しいクラス分布の中心位置と境界範囲を適応的に調整するために,プロトタイプ参照フレームに局所逆サンプル(LRSamples)を生成することを提案する。
論文 参考訳（メタデータ） (2023-12-27T13:36:29Z) - ActiveDC: Distribution Calibration for Active Finetuning [36.64444238742072]
本研究では,アクティブ微調整タスクのためのActiveDCと呼ばれる新しい手法を提案する。
我々は,無ラベルプールにおける暗黙のカテゴリ情報を利用して,選択したサンプルの分布を校正する。
その結果,ActiveDCは画像分類タスクのベースライン性能を一貫して上回ることがわかった。
論文 参考訳（メタデータ） (2023-11-13T14:35:18Z) - Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳（メタデータ） (2023-10-21T09:53:17Z) - P3DC-Shot: Prior-Driven Discrete Data Calibration for Nearest-Neighbor
Few-Shot Classification [6.61282019235397]
P3DC-Shotは、事前駆動型データキャリブレーションによって強化された、隣り合う近距離数ショット分類法である。
それぞれのベースクラスを表すプロトタイプを先行として扱い、異なるベースプロトタイプとの類似性に基づいて各サポートデータを校正する。
論文 参考訳（メタデータ） (2023-01-02T16:26:16Z) - Proposal Distribution Calibration for Few-Shot Object Detection [65.19808035019031]
few-shot object detection (FSOD)では、重度のサンプル不均衡を軽減するために、2段階の訓練パラダイムが広く採用されている。
残念ながら、極端なデータ不足は、提案の分布バイアスを増大させ、RoIヘッドが新しいクラスに進化するのを妨げます。
本稿では,RoIヘッドのローカライゼーションと分類能力を高めるために,単純かつ効果的な提案分布キャリブレーション(PDC)手法を提案する。
論文 参考訳（メタデータ） (2022-12-15T05:09:11Z) - CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。
本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
論文 参考訳（メタデータ） (2022-06-01T03:02:07Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳（メタデータ） (2021-04-03T01:33:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。