論文の概要: Hubs and Hyperspheres: Reducing Hubness and Improving Transductive
Few-shot Learning with Hyperspherical Embeddings
- arxiv url: http://arxiv.org/abs/2303.09352v1
- Date: Thu, 16 Mar 2023 14:32:22 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-17 15:12:28.752623
- Title: Hubs and Hyperspheres: Reducing Hubness and Improving Transductive
Few-shot Learning with Hyperspherical Embeddings
- Title(参考訳): hubs and hyperspheres: 超球面埋め込みによるハブネスの低減とトランスダクティブな少数ショット学習の改善
- Authors: Daniel J. Trosten, Rwiddhi Chakraborty, Sigurd L{\o}kse, Kristoffer
Knutsen Wickstr{\o}m, Robert Jenssen, Michael C. Kampffmeyer
- Abstract要約: いくつかの点(ハーブ)は、他の点の複数の最も近い近傍リストで頻繁に発生する。
ハブネスは、あるクラスからのハブが他のクラスからの最も近いポイントの隣人の中にしばしば現れるとき、距離ベースの分類に悪影響を及ぼす。
我々は超球面上に表現を埋め込むための2つの新しいアプローチを提案し、均一性と局所類似性保存とのトレードオフを最適化することを証明した。
- 参考スコア(独自算出の注目度): 14.192549988460126
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distance-based classification is frequently used in transductive few-shot
learning (FSL). However, due to the high-dimensionality of image
representations, FSL classifiers are prone to suffer from the hubness problem,
where a few points (hubs) occur frequently in multiple nearest neighbour lists
of other points. Hubness negatively impacts distance-based classification when
hubs from one class appear often among the nearest neighbors of points from
another class, degrading the classifier's performance. To address the hubness
problem in FSL, we first prove that hubness can be eliminated by distributing
representations uniformly on the hypersphere. We then propose two new
approaches to embed representations on the hypersphere, which we prove optimize
a tradeoff between uniformity and local similarity preservation -- reducing
hubness while retaining class structure. Our experiments show that the proposed
methods reduce hubness, and significantly improves transductive FSL accuracy
for a wide range of classifiers.
- Abstract(参考訳): 距離に基づく分類は、トランスダクティブ・ショットラーニング(FSL)において頻繁に用いられる。
しかし、画像表現の高次元性のため、FSL分類器はハブ性の問題に悩まされがちであり、いくつかの点(ハーブ)が他の点の複数の近傍リストで頻繁に発生する。
ハネスは、あるクラスからのハブが他のクラスから最も近いポイントの隣人の中にしばしば現れるとき、距離ベースの分類に悪影響を及ぼし、分類器のパフォーマンスを低下させる。
FSLにおける疎密性問題に対処するため、まず、超球面上に一様に表現を分散させることにより、疎密性を排除できることを証明した。
次に、ハイパースフィアに表現を埋め込むための2つの新しいアプローチを提案し、クラス構造を維持しながら、一様性と局所的類似性保存とのトレードオフを最適化することを証明した。
実験により,提案手法はハブ性を低減し,広範囲の分類器に対するトランスダクティブFSL精度を大幅に向上することが示された。
関連論文リスト
- SpatialFormer: Semantic and Target Aware Attentions for Few-Shot
Learning [28.259957162455393]
CNN構造は、局所的な特徴に基づいて不正確な注意マップを生成し、相互に類似した背景が気晴らしを引き起こす。
我々は,グローバルな特徴に基づいてより正確な注意領域を生成するために,新しいSpatialFormer構造を設計する。
提案手法は実効性があり, 数発の分類ベンチマークにおいて, 最新の結果が得られる。
論文 参考訳(メタデータ) (2023-03-15T08:31:48Z) - Deep Simplex Classifier for Maximizing the Margin in Both Euclidean and
Angular Spaces [18.309720578916146]
本稿では,ユークリッド空間と角空間の両辺を同時に最大化する新しい分類損失を提案する。
提案手法は,その単純さに拘わらず,オープンセット認識における最先端の精度を実現する。
論文 参考訳(メタデータ) (2022-12-22T14:37:47Z) - Boosting Few-shot Fine-grained Recognition with Background Suppression
and Foreground Alignment [53.401889855278704]
FS-FGR (Few-shot Fine-fine Recognition) は、限られたサンプルの助けを借りて、新しいきめ細かなカテゴリを認識することを目的としている。
本研究では,背景アクティベーション抑制 (BAS) モジュール,フォアグラウンドオブジェクトアライメント (FOA) モジュール,および局所的局所的(L2L) 類似度測定器からなる2段階の背景アライメントとフォアグラウンドアライメントフレームワークを提案する。
複数のベンチマークで行った実験により,提案手法は既存の最先端技術よりも大きなマージンで優れていることが示された。
論文 参考訳(メタデータ) (2022-10-04T07:54:40Z) - Towards Calibrated Hyper-Sphere Representation via Distribution Overlap
Coefficient for Long-tailed Learning [8.208237033120492]
ロングテール学習は、現実世界のシナリオにおいて、厳しいクラス不均衡の下で、ヘッドクラスがトレーニング手順を支配しているという課題に取り組むことを目的としている。
これを動機として、コサインに基づく分類器をフォン・ミセス・フィッシャー混合モデル(vMF)に一般化する。
分布重なり係数の計算により超球面上の表現品質を測定する。
論文 参考訳(メタデータ) (2022-08-22T03:53:29Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Fast Simultaneous Gravitational Alignment of Multiple Point Sets [82.32416743939004]
本稿では,複数点集合の同時登録のための新しいレジリエントな手法を提案し,後者を相互誘導力場内で厳密に動く粒子群として解釈する。
物理法則の変更によるシミュレーションの改善と、グローバルな多重リンク点相互作用の加速により、MBGA(Multi-Body Gravitational Approach)はノイズや欠落データに対して堅牢である。
様々な実験環境では、MBGAは精度と実行時間の観点から、いくつかの基準点セットアライメントアプローチより優れていることが示されている。
論文 参考訳(メタデータ) (2021-06-21T17:59:40Z) - Few-shot Image Recognition with Manifolds [10.312968200748116]
ソースドメインデータがアクセスできない状況に、従来の数発の学習問題を拡張します。
限られたトレーニングデータから,すべてのクラスプロトタイプが多様体上に構造的に配置されていることを前提として,非パラメトリックな手法を提案する。
分類において、クラスプロトタイプで構築されたグラフ上にマルコフ連鎖を誘導することにより、カテゴリの構造的配置を再び活用する。
論文 参考訳(メタデータ) (2020-10-22T21:57:27Z) - Information Bottleneck Constrained Latent Bidirectional Embedding for
Zero-Shot Learning [59.58381904522967]
本稿では,密な視覚-意味的結合制約を持つ埋め込み型生成モデルを提案する。
視覚空間と意味空間の両方の埋め込みパラメトリック分布を校正する統合潜在空間を学習する。
本手法は, 画像のラベルを生成することにより, トランスダクティブZSL設定に容易に拡張できる。
論文 参考訳(メタデータ) (2020-09-16T03:54:12Z) - A Boundary Based Out-of-Distribution Classifier for Generalized
Zero-Shot Learning [83.1490247844899]
Generalized Zero-Shot Learning (GZSL)は多くの現実的なシナリオにおいて有望な見通しを持つ挑戦的なトピックである。
本研究では,見知らぬ領域を学習用サンプルのみを用いて分類する境界に基づくアウト・オブ・ディストリビューション(OOD)分類器を提案する。
我々は、AWA1、AWA2、CUB、FLO、SUNを含む5つの人気のあるベンチマークデータセットに対して、我々のアプローチを広範囲に検証する。
論文 参考訳(メタデータ) (2020-08-09T11:27:19Z) - Embedding Propagation: Smoother Manifold for Few-Shot Classification [131.81692677836202]
本稿では, 組込み伝搬を非教師なし非パラメトリック正規化器として, 数ショット分類における多様体平滑化に用いることを提案する。
埋め込み伝播がより滑らかな埋め込み多様体を生み出すことを実証的に示す。
複数の半教師付き学習シナリオにおいて,埋め込み伝搬によりモデルの精度が最大16%向上することを示す。
論文 参考訳(メタデータ) (2020-03-09T13:51:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。