論文の概要: Ranking Distance Calibration for Cross-Domain Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2112.00260v1
- Date: Wed, 1 Dec 2021 03:36:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-02 14:02:45.651056
- Title: Ranking Distance Calibration for Cross-Domain Few-Shot Learning
- Title(参考訳): クロスドメインFew-Shot学習におけるランキング距離校正
- Authors: Pan Li, Shaogang Gong, Yanwei Fu, Chengjie Wang
- Abstract要約: 数ショット学習の最近の進歩は、より現実的なクロスドメイン設定を促進する。
ドメインギャップとソースとターゲットデータセット間のラベル空間の相違により、共有される知識は極めて限られている。
我々は,タスク内の相互k-アネレスト近傍を発見することで,目標距離行列の校正を行う。
- 参考スコア(独自算出の注目度): 91.22458739205766
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent progress in few-shot learning promotes a more realistic cross-domain
setting, where the source and target datasets are from different domains. Due
to the domain gap and disjoint label spaces between source and target datasets,
their shared knowledge is extremely limited. This encourages us to explore more
information in the target domain rather than to overly elaborate training
strategies on the source domain as in many existing methods. Hence, we start
from a generic representation pre-trained by a cross-entropy loss and a
conventional distance-based classifier, along with an image retrieval view, to
employ a re-ranking process for calibrating a target distance matrix by
discovering the reciprocal k-nearest neighbours within the task. Assuming the
pre-trained representation is biased towards the source, we construct a
non-linear subspace to minimise task-irrelevant features therewithin while keep
more transferrable discriminative information by a hyperbolic tangent
transformation. The calibrated distance in this target-aware non-linear
subspace is complementary to that in the pre-trained representation. To impose
such distance calibration information onto the pre-trained representation, a
Kullback-Leibler divergence loss is employed to gradually guide the model
towards the calibrated distance-based distribution. Extensive evaluations on
eight target domains show that this target ranking calibration process can
improve conventional distance-based classifiers in few-shot learning.
- Abstract(参考訳): 数ショット学習の最近の進歩は、ソースとターゲットデータセットが異なるドメインから存在する、より現実的なクロスドメイン設定を促進する。
ドメインギャップとソースとターゲットデータセット間のラベル空間の相違により、共有される知識は極めて限られている。
これは、既存の多くのメソッドのように、ソースドメインのトレーニング戦略を過度に詳細化するのではなく、ターゲットドメインでより多くの情報を調べることを奨励します。
そこで我々は,クロスエントロピー損失によって事前訓練された汎用表現と,従来の距離ベース分類器,および画像検索ビューからスタートし,タスク内の相互k-アネレスト近傍を発見して,目標距離行列を校正する再分類プロセスを採用する。
事前学習された表現がソースに偏っていると仮定すると、双曲的接変換によるより転送可能な識別情報を保ちながら、タスク無関係な特徴を最小化する非線形部分空間を構築する。
この対象を意識しない非線形部分空間の校正距離は、事前訓練された表現のそれと相補的である。
このような距離キャリブレーション情報を事前訓練された表現に付与するために、クルバック・リブラー分散損失を用いて、徐々にキャリブレーションされた距離分布に向けてモデルを誘導する。
8つの対象領域の広範な評価は、この目標ランキング校正プロセスが、マイトショット学習における従来の距離ベース分類器を改善することを示している。
関連論文リスト
- Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Instance Level Affinity-Based Transfer for Unsupervised Domain
Adaptation [74.71931918541748]
ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。
まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。
ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
論文 参考訳(メタデータ) (2021-04-03T01:33:14Z) - TraND: Transferable Neighborhood Discovery for Unsupervised Cross-domain
Gait Recognition [77.77786072373942]
本稿では、教師なしクロスドメイン歩行認識のための領域ギャップを橋渡しするTransferable Neighborhood Discovery (TraND) フレームワークを提案する。
我々は、潜在空間におけるラベルなしサンプルの自信ある近傍を自動的に発見するために、エンドツーエンドのトレーニング可能なアプローチを設計する。
提案手法は,CASIA-BとOU-LPの2つの公開データセットに対して,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-02-09T03:07:07Z) - Flexible deep transfer learning by separate feature embeddings and
manifold alignment [0.0]
オブジェクト認識は、業界と防衛において重要な存在である。
残念ながら、既存のラベル付きデータセットでトレーニングされたアルゴリズムは、データ分布が一致しないため、直接新しいデータに一般化しない。
本稿では,各領域の特徴抽出を個別に学習することで,この制限を克服する新しいディープラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2020-12-22T19:24:44Z) - Discriminative Cross-Domain Feature Learning for Partial Domain
Adaptation [70.45936509510528]
部分的なドメイン適応は、より大きく多様なソースドメインからの知識を、より少ないクラス数でより小さなターゲットドメインに適応させることを目的としています。
ドメイン適応の最近の実践は、ターゲットドメインの擬似ラベルを組み込むことで、効果的な特徴を抽出する。
ターゲットデータを少数のソースデータのみにアライメントすることが不可欠である。
論文 参考訳(メタデータ) (2020-08-26T03:18:53Z) - Physically-Constrained Transfer Learning through Shared Abundance Space
for Hyperspectral Image Classification [14.840925517957258]
本稿では、ソースとターゲットドメイン間のギャップを埋める新しい転送学習手法を提案する。
提案手法は,共有空間を経由した物理制約付き移動学習と呼ばれる。
論文 参考訳(メタデータ) (2020-08-19T17:41:37Z) - Unsupervised Cross-domain Image Classification by Distance Metric Guided
Feature Alignment [11.74643883335152]
教師なしドメイン適応は、ソースドメインからターゲットドメインに知識を転送する有望な道である。
本稿では,距離メトリックガイド機能アライメント(MetFA)を提案する。
我々のモデルは、クラス分布アライメントを統合して、ソースドメインからターゲットドメインにセマンティック知識を転送します。
論文 参考訳(メタデータ) (2020-08-19T13:36:57Z) - Understanding Self-Training for Gradual Domain Adaptation [107.37869221297687]
段階的なドメイン適応は、対象領域へ徐々にシフトするラベルのないデータのみを与えられたソースドメインで訓練された初期分類器を適応させることが目的である。
目標領域への直接適応が非有界誤差をもたらすような設定下において、段階的なシフトを伴う自己学習の誤差に対する最初の非無空上界を証明した。
この理論解析はアルゴリズムの洞察を導き、無限のデータを持つ場合でも正規化とラベルのシャープ化が不可欠であることを強調し、より小さなワッサーシュタイン無限距離のシフトに対して自己学習が特にうまく働くことを示唆している。
論文 参考訳(メタデータ) (2020-02-26T08:59:40Z) - Unsupervised Domain Adaptive Object Detection using Forward-Backward
Cyclic Adaptation [13.163271874039191]
本稿では,フォワード・バック・サイクリック(FBC)トレーニングによる物体検出のための教師なし領域適応手法を提案する。
近年, 対角訓練に基づく領域適応法は, 限界特徴分布アライメントによる領域差最小化に有効であることが示された。
本稿では,後方ホッピングによるソースからターゲットへの適応と,前方通過によるターゲットからソースへの適応を反復的に計算するフォワード・バック・サイクル適応を提案する。
論文 参考訳(メタデータ) (2020-02-03T06:24:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。