論文の概要: Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction
for Few-Shot Classification
- arxiv url: http://arxiv.org/abs/2106.11486v1
- Date: Tue, 22 Jun 2021 02:25:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-23 14:58:46.689293
- Title: Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction
for Few-Shot Classification
- Title(参考訳): Few-Shot分類のための初期特徴再構成による教師なし埋め込み適応
- Authors: Dong Hoon Lee, Sae-Young Chung
- Abstract要約: 下流の複数ショット分類タスクに対する教師なし埋め込み適応を提案する。
深層ニューラルネットワークが記憶する前に一般化するために学習する知見に基づいて、我々は早期特徴再構成を開発する。
- 参考スコア(独自算出の注目度): 26.147365494401406
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose unsupervised embedding adaptation for the downstream few-shot
classification task. Based on findings that deep neural networks learn to
generalize before memorizing, we develop Early-Stage Feature Reconstruction
(ESFR) -- a novel adaptation scheme with feature reconstruction and
dimensionality-driven early stopping that finds generalizable features.
Incorporating ESFR consistently improves the performance of baseline methods on
all standard settings, including the recently proposed transductive method.
ESFR used in conjunction with the transductive method further achieves
state-of-the-art performance on mini-ImageNet, tiered-ImageNet, and CUB;
especially with 1.2%~2.0% improvements in accuracy over the previous best
performing method on 1-shot setting.
- Abstract(参考訳): 下流少数ショット分類タスクに対する教師なし組込み適応を提案する。
深層ニューラルネットワークが記憶前の一般化を学習する発見に基づいて、一般化可能な特徴を見つけるための特徴再構成と次元駆動型早期停止を備えた新しい適応スキームであるEarly-Stage Feature Reconstruction(ESFR)を開発した。
ESFRの導入は、最近提案されたトランスダクティブメソッドを含む、すべての標準設定におけるベースラインメソッドのパフォーマンスを一貫して改善する。
トランスダクティブ法と併用したesfrは、mini-imagenet、tiered-imagenet、cubでの最先端性能をさらに達成し、特に1ショット設定での以前のベストパフォーマンス法よりも1.2%~2.0%精度が向上した。
関連論文リスト
- Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳(メタデータ) (2024-07-11T10:35:53Z) - Adaptive Guidance: Training-free Acceleration of Conditional Diffusion
Models [44.58960475893552]
適応誘導 (AG) は計算自由誘導 (CFG) の効率的な変種である
AGはCFGの画質を25%低下させながら保存する。
LinearAG" はベースラインモデルから逸脱するコストでさらに安価な推論を提供する。
論文 参考訳(メタデータ) (2023-12-19T17:08:48Z) - Differentially private training of residual networks with scale
normalisation [64.60453677988517]
残差ネットワーク(ResNets)におけるバッチ正規化(BN)置換層の最適選択について検討する。
残差ブロックにおけるスケールミキシング現象について検討し、2つの枝の活性化を異なるスケールで行う。
論文 参考訳(メタデータ) (2022-03-01T09:56:55Z) - Low-light Image Enhancement by Retinex Based Algorithm Unrolling and
Adjustment [50.13230641857892]
本稿では,低照度画像強調(LIE)問題に対する新たなディープラーニングフレームワークを提案する。
提案フレームワークは,大域的明るさと局所的明るさ感度の両方を考慮したアルゴリズムアンロールと調整ネットワークに着想を得た分解ネットワークを含む。
一連の典型的なLIEデータセットの実験では,既存の手法と比較して,定量的かつ視覚的に,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-02-12T03:59:38Z) - NerfingMVS: Guided Optimization of Neural Radiance Fields for Indoor
Multi-view Stereo [97.07453889070574]
本稿では,従来のSfM再構成と学習に基づく先行手法を併用した多視点深度推定手法を提案する。
提案手法は室内シーンにおける最先端手法を著しく上回ることを示す。
論文 参考訳(メタデータ) (2021-09-02T17:54:31Z) - Semantic Perturbations with Normalizing Flows for Improved
Generalization [62.998818375912506]
我々は、非教師付きデータ拡張を定義するために、潜在空間における摂動が利用できることを示す。
トレーニングを通して分類器に適応する潜伏性対向性摂動が最も効果的であることが判明した。
論文 参考訳(メタデータ) (2021-08-18T03:20:00Z) - Initialization and Regularization of Factorized Neural Layers [23.875225732697142]
ディープネットにおける因子化層の初期化と規則化の方法を示す。
これらのスキームが翻訳と教師なしプリトレーニングの両方のパフォーマンスを向上させる方法を示しています。
論文 参考訳(メタデータ) (2021-05-03T17:28:07Z) - Iterative Network for Image Super-Resolution [69.07361550998318]
単一画像超解像(SISR)は、最近の畳み込みニューラルネットワーク(CNN)の発展により、大幅に活性化されている。
本稿では、従来のSISRアルゴリズムに関する新たな知見を提供し、反復最適化に依存するアプローチを提案する。
反復最適化の上に,新しい反復型超解像ネットワーク (ISRN) を提案する。
論文 参考訳(メタデータ) (2020-05-20T11:11:47Z) - Weighted Aggregating Stochastic Gradient Descent for Parallel Deep
Learning [8.366415386275557]
解決策には、ニューラルネットワークモデルにおける最適化のための目的関数の修正が含まれる。
本稿では,地方労働者のパフォーマンスに基づく分散型重み付けアグリゲーション方式を提案する。
提案手法を検証するため,提案手法をいくつかの一般的なアルゴリズムと比較した。
論文 参考訳(メタデータ) (2020-04-07T23:38:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。