論文の概要: Alleviating the Sample Selection Bias in Few-shot Learning by Removing
Projection to the Centroid
- arxiv url: http://arxiv.org/abs/2210.16834v1
- Date: Sun, 30 Oct 2022 13:03:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 17:45:22.026985
- Title: Alleviating the Sample Selection Bias in Few-shot Learning by Removing
Projection to the Centroid
- Title（参考訳）: セントロイドへの投射を除去したFew-shot Learningにおけるサンプル選択バイアスの軽減
- Authors: Jing Xu, Xu Luo, Xinglin Pan, Wenjie Pei, Yanan Li, Zenglin Xu
- Abstract要約: Task Centroid Projection Removing (TCPR)は、タスク内のすべてのイメージ機能に直接適用される。
本手法は,タスクセントロイドに近すぎる特徴を効果的に防止する。
さまざまな特徴抽出器、トレーニングアルゴリズム、データセットの分類精度を確実に向上させることができる。
- 参考スコア（独自算出の注目度）: 22.918659185060523
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning (FSL) targets at generalization of vision models towards
unseen tasks without sufficient annotations. Despite the emergence of a number
of few-shot learning methods, the sample selection bias problem, i.e., the
sensitivity to the limited amount of support data, has not been well
understood. In this paper, we find that this problem usually occurs when the
positions of support samples are in the vicinity of task centroid -- the mean
of all class centroids in the task. This motivates us to propose an extremely
simple feature transformation to alleviate this problem, dubbed Task Centroid
Projection Removing (TCPR). TCPR is applied directly to all image features in a
given task, aiming at removing the dimension of features along the direction of
the task centroid. While the exact task centroid cannot be accurately obtained
from limited data, we estimate it using base features that are each similar to
one of the support features. Our method effectively prevents features from
being too close to the task centroid. Extensive experiments over ten datasets
from different domains show that TCPR can reliably improve classification
accuracy across various feature extractors, training algorithms and datasets.
The code has been made available at https://github.com/KikimorMay/FSL-TCBR.
- Abstract（参考訳）: FSL(Few-shot Learning)は、十分なアノテーションのない未確認タスクに対するビジョンモデルの一般化を目標としている。
数ショットの学習方法がいくつか出現しているにもかかわらず、サンプル選択バイアス問題、すなわち、限られたサポートデータに対する感度はよく理解されていない。
本稿では,通常,作業中の全てのクラスセントロイドの平均であるタスクセントロイドの近傍に支持試料の位置が配置されている場合に発生する。
これは、TCPR(Task Centroid Projection Removing)と呼ばれるこの問題を軽減するために、非常に単純な機能変換を提案する動機となります。
TCPRは与えられたタスクのすべての画像特徴に直接適用され、タスクセントロイドの方向に沿った特徴の次元を除去することを目的としている。
限られたデータから正確なタスクセントロイドを正確に得ることはできないが,サポート特徴の1つに類似した基本特徴を用いて推定する。
本手法は,タスクセントロイドに近すぎる特徴を効果的に防止する。
異なるドメインの10のデータセットに対する大規模な実験により、TCPRはさまざまな特徴抽出器、トレーニングアルゴリズム、データセットの分類精度を確実に改善できることが示された。
コードはhttps://github.com/Kikimor May/FSL-TCBRで公開されている。
関連論文リスト
- Dense Center-Direction Regression for Object Counting and Localization with Point Supervision [1.9526430269580954]
本稿では,CeDiRNetと呼ばれる新しい学習手法を提案する。
最寄りの物体中心を向いている方向の高密度な回帰を利用する。
既存の最先端手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2024-08-26T17:49:27Z) - Weakly-Supervised Cross-Domain Segmentation of Electron Microscopy with Sparse Point Annotation [1.124958340749622]
カウント,検出,セグメンテーションタスク間の相関を利用したマルチタスク学習フレームワークを提案する。
ラベル拡張のためのクロスポジションカット・アンド・ペーストを開発し,エントロピーに基づく擬似ラベル選択を行う。
提案手法は, UDA法を著しく上回り, 教師付き手法と同等の性能を発揮する。
論文 参考訳（メタデータ） (2024-03-31T12:22:23Z) - Few and Fewer: Learning Better from Few Examples Using Fewer Base
Classes [12.742052888217543]
ターゲットデータセットには少数の例しか含まれていないため、ファインチューニングは数ショットの学習には効果がない。
本稿では,より少ないベースクラスでのトレーニングにより,ターゲットデータセットのより良い特徴が得られるかどうかを検討する。
我々の知る限り、慎重に選択されたベースクラスのサブセットで微調整を行うことで、ほとんどショット学習を大幅に改善できる最初の実演である。
論文 参考訳（メタデータ） (2024-01-29T01:52:49Z) - A Weighted K-Center Algorithm for Data Subset Selection [70.49696246526199]
サブセット選択は、トレーニングデータの小さな部分を特定する上で重要な役割を果たす、基本的な問題である。
我々は,k中心および不確かさサンプリング目的関数の重み付け和に基づいて,サブセットを計算する新しい係数3近似アルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-12-17T04:41:07Z) - Less is More: On the Feature Redundancy of Pretrained Models When
Transferring to Few-shot Tasks [120.23328563831704]
事前訓練されたモデルを下流タスクに転送することは、ターゲットデータと線形探索を行うのと同じくらい簡単である。
線形探索では, 下流データが少ない場合に, 事前学習した特徴が極めて冗長であることを示す。
論文 参考訳（メタデータ） (2023-10-05T19:00:49Z) - DETA: Denoised Task Adaptation for Few-Shot Learning [135.96805271128645]
数ショット学習におけるテスト時間タスク適応は、訓練済みのタスク非依存モデルに適応してタスク固有の知識を取得することを目的としている。
少数のサンプルしか得られないため、支持試料からのイメージノイズ(Xノイズ)またはラベルノイズ(Yノイズ)の悪影響を著しく増幅することができる。
Denoized Task Adaptation (DETA) は、既存のタスク適応アプローチに対して、最初に統合された画像とラベルをデノベートするフレームワークである。
論文 参考訳（メタデータ） (2023-03-11T05:23:20Z) - Multi-task Bias-Variance Trade-off Through Functional Constraints [102.64082402388192]
マルチタスク学習は、多様なタスクによく機能する関数の集合を取得することを目的としている。
本稿では,2つの極端な学習シナリオ,すなわちすべてのタスクに対する単一関数と,他のタスクを無視するタスク固有関数から直感を抽出する。
本稿では,集中関数に対するドメイン固有解を強制する制約付き学習定式化を導入する。
論文 参考訳（メタデータ） (2022-10-27T16:06:47Z) - Centroids Matching: an efficient Continual Learning approach operating
in the embedding space [15.705568893476947]
破滅的な忘れ(CF)は、ニューラルネットワークが、異なる分布からサンプルのセットをトレーニングしながら、以前に学んだ情報を失うときに起こる。
本稿では,ニューラルネットワークが生成する特徴空間を演算することでCFと戦う,Centroids Matchingと呼ばれる新しい正規化手法を提案する。
論文 参考訳（メタデータ） (2022-08-03T13:17:16Z) - Learning Stable Classifiers by Transferring Unstable Features [59.06169363181417]
本研究では,素早い相関関係の存在下での伝達学習について検討する。
提案手法は, ソースタスクで学習した安定な特徴抽出器を直接転送しても, 対象タスクのバイアスを排除できないことを実験的に実証する。
我々は、ソースタスクの不安定な特徴とターゲットタスクの不安定な特徴が直接関連していると仮定する。
論文 参考訳（メタデータ） (2021-06-15T02:41:12Z) - FairMOT: On the Fairness of Detection and Re-Identification in Multiple
Object Tracking [92.48078680697311]
マルチオブジェクトトラッキング(MOT)はコンピュータビジョンにおいて重要な問題である。
本稿では,FairMOTと呼ばれる,アンカーフリーなオブジェクト検出アーキテクチャCenterNetをベースとした,シンプルかつ効果的なアプローチを提案する。
このアプローチは、検出と追跡の両方において高い精度を達成する。
論文 参考訳（メタデータ） (2020-04-04T08:18:00Z) - Task-Adaptive Clustering for Semi-Supervised Few-Shot Classification [23.913195015484696]
未確認のタスクを、少量の新しいトレーニングデータだけで処理することを目的としている。
しかし、数ショットの学習者が準備(メタトレーニング)する際には、大量のラベル付きデータが必要である。
そこで本研究では,トレーニングデータの大部分がラベル付けされていない半教師付き環境下で動作可能な,数発の学習者を提案する。
論文 参考訳（メタデータ） (2020-03-18T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。