論文の概要: Diagnosing and Remedying Shot Sensitivity with Cosine Few-Shot Learners
- arxiv url: http://arxiv.org/abs/2207.03398v1
- Date: Thu, 7 Jul 2022 16:05:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-08 18:02:15.300405
- Title: Diagnosing and Remedying Shot Sensitivity with Cosine Few-Shot Learners
- Title(参考訳): Cosine Few-Shot 学習者によるショット感度の診断と治療
- Authors: Davis Wertheimer, Luming Tang, and Bharath Hariharan
- Abstract要約: 画像分類器を訓練して、いくつかの例を使って、テスト時に新しい概念を区別する。
既存のアプローチでは、テスト時のショット番号が事前に知られていると仮定している。
我々はこの現象の体系的な実証的研究を行う。
- 参考スコア(独自算出の注目度): 41.06558489002641
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Few-shot recognition involves training an image classifier to distinguish
novel concepts at test time using few examples (shot). Existing approaches
generally assume that the shot number at test time is known in advance. This is
not realistic, and the performance of a popular and foundational method has
been shown to suffer when train and test shots do not match. We conduct a
systematic empirical study of this phenomenon. In line with prior work, we find
that shot sensitivity is broadly present across metric-based few-shot learners,
but in contrast to prior work, larger neural architectures provide a degree of
built-in robustness to varying test shot. More importantly, a simple,
previously known but greatly overlooked class of approaches based on cosine
distance consistently and greatly improves robustness to shot variation, by
removing sensitivity to sample noise. We derive cosine alternatives to popular
and recent few-shot classifiers, broadening their applicability to realistic
settings. These cosine models consistently improve shot-robustness, outperform
prior shot-robust state of the art, and provide competitive accuracy on a range
of benchmarks and architectures, including notable gains in the very-low-shot
regime.
- Abstract(参考訳): 画像分類器を訓練して、少数の例(ショット)を使って、テスト時に新しい概念を区別する。
既存のアプローチは通常、テスト時のショット番号が事前に知られていると仮定する。
これは現実的ではなく、人気のある基礎的な方法のパフォーマンスは、列車とテストショットが一致しない場合に苦しむことが示されている。
我々はこの現象の体系的な実証的研究を行う。
従来の研究とは対照的に、より大きなニューラルネットワークアーキテクチャは、様々なテストショットに対して、ある程度の堅牢性を提供する。
さらに重要なことは、単純な、以前は知られていたが、常にコサイン距離に基づいて見落とされたアプローチのクラスが、サンプルノイズに対する感度を除去することで、ショット変動に対するロバスト性を大幅に改善する。
私たちは、コサインの代替品を人気と最近のマイナショット分類器から導き出し、現実的な設定への適用範囲を広げる。
これらのコサインモデルは、常にショットロバスト性を改善し、以前のショットロバスト状態よりも優れており、非常に低いショット体制での注目すべき成果を含む、様々なベンチマークやアーキテクチャにおいて競争力のある精度を提供する。
関連論文リスト
- Large Class Separation is not what you need for Relational
Reasoning-based OOD Detection [12.578844450586]
Out-Of-Distribution (OOD) 検出法はセマンティックノベルティを識別して解を提供する。
これらの手法の多くは、既知のデータの学習段階を利用しており、これは正規性の概念を捉えるためのモデル(または微調整)を訓練することを意味する。
実行可能な代替手段は、大きな事前訓練されたモデルによって生成された埋め込み空間の類似性を評価することであり、それ以上の学習は行わない。
論文 参考訳(メタデータ) (2023-07-12T14:10:15Z) - A Maximum Log-Likelihood Method for Imbalanced Few-Shot Learning Tasks [3.2895195535353308]
数ショットアーキテクチャのための新しい最大ログ類似度指標を提案する。
提案手法は,従来の類似度指標よりも優れた性能を実現することを示す。
また,提案アルゴリズムは,評価データが不均衡である場合に,最先端のトランスダクティブな数ショット性能を実現することを示す。
論文 参考訳(メタデータ) (2022-11-26T21:31:00Z) - Fast Hierarchical Learning for Few-Shot Object Detection [57.024072600597464]
転送学習アプローチは、最近、数ショット検出タスクで有望な結果を得た。
これらのアプローチは、ベース検出器の微調整による破滅的な忘れ込みの問題に悩まされる。
この作業における上記の問題に対処する。
論文 参考訳(メタデータ) (2022-10-10T20:31:19Z) - Towards A Conceptually Simple Defensive Approach for Few-shot
classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。
本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。
ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文 参考訳(メタデータ) (2021-10-24T05:46:03Z) - Squeezing Backbone Feature Distributions to the Max for Efficient
Few-Shot Learning [3.1153758106426603]
ラベル付きサンプルの少ない使用によって生じる不確実性のため、ほとんどショット分類が難しい問題である。
本稿では,特徴ベクトルをガウス分布に近づけるように処理するトランスファーベース手法を提案する。
また,学習中に未学習のサンプルが利用可能となる多段階的数ショット学習では,達成された性能をさらに向上させる最適なトランスポートインスピレーションアルゴリズムも導入する。
論文 参考訳(メタデータ) (2021-10-18T16:29:17Z) - A Low Rank Promoting Prior for Unsupervised Contrastive Learning [108.91406719395417]
提案手法は,従来の低階の促進をコントラスト学習の枠組みに効果的に組み込む新しい確率的グラフィカルモデルを構築する。
我々の仮説は、同じインスタンスクラスに属するすべてのサンプルが、小さな次元の同じ部分空間上にあることを明示的に要求する。
実証的な証拠は、提案アルゴリズムが複数のベンチマークにおける最先端のアプローチを明らかに上回っていることを示している。
論文 参考訳(メタデータ) (2021-08-05T15:58:25Z) - Few-shot Action Recognition with Implicit Temporal Alignment and Pair
Similarity Optimization [37.010005936995334]
ほとんどラベル付きサンプルのない新しいクラスからインスタンスを認識することを目的としていない。
ビデオベースの数発のアクション認識は、まだ十分に調査されておらず、まだ挑戦的だ。
本稿では,(1)少数ショットの動作認識アルゴリズムの性能を評価するための具体的設定,(2)ビデオレベルの類似性比較のための暗黙的なシーケンスアライメントアルゴリズム,(3)限定データを用いたペア類似性最適化のための複数ショット学習における高度な損失について述べる。
論文 参考訳(メタデータ) (2020-10-13T07:56:06Z) - Any-Shot Object Detection [81.88153407655334]
「アニーショット検出」とは、全く見えず、数発のカテゴリが推論中に同時に共起できる場所である。
我々は、ゼロショットと少数ショットの両方のオブジェクトクラスを同時に検出できる、統合された任意のショット検出モデルを提案する。
我々のフレームワークは、ゼロショット検出とFewショット検出タスクにのみ使用できる。
論文 参考訳(メタデータ) (2020-03-16T03:43:15Z) - Temporal Sparse Adversarial Attack on Sequence-based Gait Recognition [56.844587127848854]
このような攻撃に対して,最先端の歩行認識モデルが脆弱であることを示す。
生成した対向ネットワークに基づくアーキテクチャを用いて、対向的な高品質な歩行シルエットやビデオフレームを意味的に生成する。
実験結果から, フレームの1分の1しか攻撃されない場合, 対象モデルの精度は劇的に低下することがわかった。
論文 参考訳(メタデータ) (2020-02-22T10:08:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。