論文の概要: When resampling/reweighting improves feature learning in imbalanced classification?: A toy-model study

• arxiv url: http://arxiv.org/abs/2409.05598v1
• Date: Mon, 9 Sep 2024 13:31:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-10 14:39:56.561007
• Title: When resampling/reweighting improves feature learning in imbalanced classification?: A toy-model study
• Title（参考訳）: 再サンプリング/重み付けは不均衡分類における特徴学習を改善するか:おもちゃモデルによる研究
• Authors: Tomoyuki Obuchi, Toshiyuki Tanaka,
• Abstract要約: クラス不均衡の存在下での特徴学習性能に対するクラスワイドリサンプリング/リウェイト効果を明らかにすることを目的とした二分分類のおもちゃモデルについて検討した。 その結果,再サンプリング/再重み付けの状況が,損失や分類器の選択に関係なく,最高の特徴学習性能を与えるケースが存在することがわかった。
• 参考スコア（独自算出の注目度）: 5.5730368125641405
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A toy model of binary classification is studied with the aim of clarifying the class-wise resampling/reweighting effect on the feature learning performance under the presence of class imbalance. In the analysis, a high-dimensional limit of the feature is taken while keeping the dataset size ratio against the feature dimension finite and the non-rigorous replica method from statistical mechanics is employed. The result shows that there exists a case in which the no resampling/reweighting situation gives the best feature learning performance irrespectively of the choice of losses or classifiers, supporting recent findings in Cao et al. (2019); Kang et al. (2019). It is also revealed that the key of the result is the symmetry of the loss and the problem setting. Inspired by this, we propose a further simplified model exhibiting the same property for the multiclass setting. These clarify when the class-wise resampling/reweighting becomes effective in imbalanced classification.
• Abstract（参考訳）: クラス不均衡の存在下での特徴学習性能に対するクラスワイドリサンプリング/リウェイト効果を明らかにすることを目的とした二分分類のおもちゃモデルについて検討した。 本分析では, 特徴量に対するデータセットサイズ比を有限に保ちながら, 特徴量の高次元限界を捉え, 統計力学から非剛性レプリカ法を用いる。 その結果, 損失や分類器の選択に関係なく, 再サンプリング/再重み付けの状況が最高の特徴学習性能を与えるケースが存在することが明らかとなり, 最新の研究成果をCao et al (2019), Kang et al (2019)で裏付けている。 また、結果の鍵は損失と問題設定の対称性であることも明らかにした。 そこで本研究では,マルチクラス設定に対して同じ特性を示すモデルを提案する。 これらのことは、クラスワイズ再サンプリング/リウェイト化が不均衡な分類に有効であることを示す。

関連論文リスト

• Granularity Matters in Long-Tail Learning [62.30734737735273]
  より粒度の細かいデータセットは、データの不均衡の影響を受けにくい傾向があります。 既存のクラスと視覚的に類似したオープンセット補助クラスを導入し、頭と尾の両方の表現学習を強化することを目的とした。 補助授業の圧倒的な存在がトレーニングを混乱させるのを防ぐために,近隣のサイレンシング障害を導入する。
  論文  参考訳（メタデータ） (2024-10-21T13:06:21Z)
• Bias Mitigating Few-Shot Class-Incremental Learning [17.185744533050116]
  クラス増分学習は,限定された新規クラスサンプルを用いて,新規クラスを継続的に認識することを目的としている。 最近の手法では,段階的なセッションで特徴抽出器を微調整することにより,ベースクラスとインクリメンタルクラスの精度の不均衡を緩和している。 本研究では,FSCIL問題におけるモデルバイアスを緩和する新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-01T10:37:41Z)
• Boosting Differentiable Causal Discovery via Adaptive Sample Reweighting [62.23057729112182]
  異なるスコアに基づく因果探索法は観測データから有向非巡回グラフを学習する。 本稿では,Reweighted Score関数ReScoreの適応重みを動的に学習することにより因果発見性能を向上させるためのモデルに依存しないフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-06T14:49:59Z)
• Leveraging Angular Information Between Feature and Classifier for Long-tailed Learning: A Prediction Reformulation Approach [90.77858044524544]
  分類器の重みを再バランスすることなく、包含角度で認識確率を再構成する。 予測形式再構成の性能向上に着想を得て, この角度予測の異なる特性について検討する。 CIFAR10/100-LT と ImageNet-LT を事前学習することなく、ピアメソッド間で最高の性能を得ることができる。
  論文  参考訳（メタデータ） (2022-12-03T07:52:48Z)
• Neural Collapse Inspired Attraction-Repulsion-Balanced Loss for Imbalanced Learning [97.81549071978789]
  勾配の異なる成分のバランスをとるために,Attraction-Repulsion-Balanced Loss (ARB-Loss)を提案する。 大規模分類とセグメンテーションデータセットの実験を行い、ARB-Lossは最先端の性能を実現する。
  論文  参考訳（メタデータ） (2022-04-19T08:23:23Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)
• An Empirical Study on the Joint Impact of Feature Selection and Data Resampling on Imbalance Classification [4.506770920842088]
  本研究では,不均衡分類のための特徴選択とデータ再サンプリングの相乗性に着目した。 9つの特徴選択手法、クラス不均衡学習のための6つの再サンプリング手法、および3つのよく知られた分類アルゴリズムを用いて、52の公開データセットに対して多数の実験を行った。
  論文  参考訳（メタデータ） (2021-09-01T06:01:51Z)
• How Nonconformity Functions and Difficulty of Datasets Impact the Efficiency of Conformal Classifiers [0.1611401281366893]
  整合分類では、システムは1つではなく複数のクラスラベルを出力できる。 ニューラルネットワークに基づく共形分類器の場合、逆確率は予測ラベルの平均数を最小化することができる。 この2つの非整合関数の性質を結合する手法を提案する。
  論文  参考訳（メタデータ） (2021-08-12T11:50:12Z)
• Statistical Theory for Imbalanced Binary Classification [8.93993657323783]
  最適分類性能は、これまで形式化されていなかったクラス不均衡の特定の性質に依存することを示す。 具体的には、一様クラス不均衡と呼ばれる新しいクラス不均衡のサブタイプを提案する。 これらの結果は、不均衡二項分類に対する最初の有意義な有限サンプル統計理論のいくつかを提供する。
  論文  参考訳（メタデータ） (2021-07-05T03:55:43Z)
• Imbalanced Image Classification with Complement Cross Entropy [10.35173901214638]
  不正なクラスにおける出力スコアをほとんど無視するクロスエントロピーの研究を行う。 本研究は,不規則なクラスにおける予測確率が不均衡画像分類の予測精度を向上させることを明らかにする。 提案された損失により、基底真理クラスは他のクラスをソフトマックス確率で圧倒する。
  論文  参考訳（メタデータ） (2020-09-04T13:46:24Z)
• Long-Tailed Recognition Using Class-Balanced Experts [128.73438243408393]
  本稿では,多様な分類器の強度を組み合わせたクラスバランスの専門家のアンサンブルを提案する。 私たちのクラスバランスの専門家のアンサンブルは、最先端に近い結果に到達し、長い尾の認識のための2つのベンチマークで新たな最先端のアンサンブルを確立します。
  論文  参考訳（メタデータ） (2020-04-07T20:57:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。