論文の概要: Feature Transformation Ensemble Model with Batch Spectral Regularization
for Cross-Domain Few-Shot Classification
- arxiv url: http://arxiv.org/abs/2005.08463v3
- Date: Thu, 21 May 2020 02:44:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 23:48:49.317679
- Title: Feature Transformation Ensemble Model with Batch Spectral Regularization
for Cross-Domain Few-Shot Classification
- Title(参考訳): Batch Spectral Regularization を用いたクロスドメインFew-Shot分類のための特徴変換アンサンブルモデル
- Authors: Bingyu Liu, Zhen Zhao, Zhenpeng Li, Jianan Jiang, Yuhong Guo, Jieping
Ye
- Abstract要約: 特徴抽出ネットワークの後に多様な特徴変換を行うことにより,アンサンブル予測モデルを提案する。
我々は,事前学習中に特徴行列の特異値を抑制するために,バッチスペクトル正規化項を用い,モデルの一般化能力を向上させる。
提案したモデルは、ターゲット領域で微調整して、数発の分類に対処することができる。
- 参考スコア(独自算出の注目度): 66.91839845347604
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we propose a feature transformation ensemble model with batch
spectral regularization for the Cross-domain few-shot learning (CD-FSL)
challenge. Specifically, we proposes to construct an ensemble prediction model
by performing diverse feature transformations after a feature extraction
network. On each branch prediction network of the model we use a batch spectral
regularization term to suppress the singular values of the feature matrix
during pre-training to improve the generalization ability of the model. The
proposed model can then be fine tuned in the target domain to address few-shot
classification. We also further apply label propagation, entropy minimization
and data augmentation to mitigate the shortage of labeled data in target
domains. Experiments are conducted on a number of CD-FSL benchmark tasks with
four target domains and the results demonstrate the superiority of our proposed
model.
- Abstract(参考訳): 本稿では,cd-fsl(cross-domain few-shot learning)課題に対するバッチスペクトル正規化を伴う特徴変換アンサンブルモデルを提案する。
具体的には,特徴抽出ネットワークの後に多様な特徴変換を行うことで,アンサンブル予測モデルを構築することを提案する。
モデルの各分岐予測ネットワークでは、バッチスペクトル正規化項を用いて、事前学習中の特徴行列の特異値の抑制を行い、モデルの一般化能力を向上させる。
提案されたモデルはターゲットドメイン内で微調整され、少数ショットの分類に対処できる。
さらに,ラベル伝搬,エントロピー最小化,データ拡張を応用して,対象領域におけるラベルデータの不足を軽減する。
対象領域が4つあるCD-FSLベンチマークタスクについて実験を行い,提案モデルの有効性を実証した。
関連論文リスト
- Steering Masked Discrete Diffusion Models via Discrete Denoising Posterior Prediction [88.65168366064061]
本稿では,確率論的推論の課題として,事前学習したMDMを操る作業を行う新しいフレームワークであるDDPPを紹介する。
私たちのフレームワークは、3つの新しい目標のファミリーにつながります。
Wet-lab Validation(ウェット・ラブ・バリデーション)を用いて,報酬最適化タンパク質配列の過渡的発現を観察する。
論文 参考訳(メタデータ) (2024-10-10T17:18:30Z) - σ-GPTs: A New Approach to Autoregressive Models [19.84252724050016]
出力に位置エンコーディングを追加するだけで、この順序をオンザフライ・イン・サンプルで変調できることを示す。
我々は,言語モデリング,パス解決,航空機の垂直速度予測など,様々な領域にわたる手法の評価を行った。
論文 参考訳(メタデータ) (2024-04-15T08:22:47Z) - Embedded feature selection in LSTM networks with multi-objective
evolutionary ensemble learning for time series forecasting [49.1574468325115]
本稿では,Long Short-Term Memory Networkに埋め込まれた特徴選択手法を提案する。
本手法はLSTMの重みと偏りを分割的に最適化する。
イタリアとスペイン南東部の大気質時系列データの実験的評価により,従来のLSTMの能力一般化が著しく向上することが確認された。
論文 参考訳(メタデータ) (2023-12-29T08:42:10Z) - Collaborating Foundation Models for Domain Generalized Semantic Segmentation [23.359941294938142]
ドメイン一般化セマンティック(DGSS)は、ラベル付きソースドメイン上でモデルをトレーニングする。
我々はDGSSにアプローチし、CLOUDS(Domain Generalized Semantic)のためのCoLlaborative FOUndationモデルの組立を提案する。
論文 参考訳(メタデータ) (2023-12-15T13:43:24Z) - Mitigate Domain Shift by Primary-Auxiliary Objectives Association for
Generalizing Person ReID [39.98444065846305]
ReIDモデルは、インスタンス分類の目的に関するトレーニングを通じてのみドメイン不変表現を学ぶのに苦労します。
本稿では,弱いラベル付き歩行者唾液度検出のための補助学習目標を用いて,プライマリReIDインスタンス分類目標のモデル学習を指導する手法を提案する。
我々のモデルは、最近のテストタイムダイアグラムで拡張してPAOA+を形成し、補助的な目的に対してオンザフライ最適化を行うことができる。
論文 参考訳(メタデータ) (2023-10-24T15:15:57Z) - Partial sequence labeling with structured Gaussian Processes [8.239028141030621]
部分列ラベリングのための構造付きガウス過程を提案する。
予測の不確実性を符号化し、モデル選択やハイパーパラメータ学習に余分な労力を要しない。
いくつかのシーケンスラベリングタスクで評価を行い,実験結果から提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-09-20T00:56:49Z) - Attentional Prototype Inference for Few-Shot Segmentation [128.45753577331422]
数発のセグメンテーションのための確率的潜在変数フレームワークである注意型プロトタイプ推論(API)を提案する。
我々は各オブジェクトカテゴリのプロトタイプを表現するためにグローバル潜在変数を定義し、確率分布としてモデル化する。
我々は4つのベンチマークで広範な実験を行い、提案手法は最先端のプロトタイプベースの手法よりも、少なくとも競争力があり、しばしば優れた性能が得られる。
論文 参考訳(メタデータ) (2021-05-14T06:58:44Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z) - Ensemble Model with Batch Spectral Regularization and Data Blending for
Cross-Domain Few-Shot Learning with Unlabeled Data [75.94147344921355]
多様な特徴変換行列を用いてマルチブランチアンサンブルフレームワークを構築する。
本研究では,未ラベルデータを利用したデータブレンディング手法を提案し,対象領域におけるスパースサポートを増強する。
論文 参考訳(メタデータ) (2020-06-08T02:27:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。