論文の概要: Diverse Prototypical Ensembles Improve Robustness to Subpopulation Shift
- arxiv url: http://arxiv.org/abs/2505.23027v1
- Date: Thu, 29 May 2025 03:12:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:07.641204
- Title: Diverse Prototypical Ensembles Improve Robustness to Subpopulation Shift
- Title(参考訳): サブポピュレーションシフトに対するロバスト性を改善する多型的アンサンブル
- Authors: Minh Nguyen Nhat To, Paul F RWilson, Viet Nguyen, Mohamed Harmanani, Michael Cooper, Fahimeh Fooladgar, Purang Abolmaesumi, Parvin Mousavi, Rahul G. Krishnan,
- Abstract要約: サブポピュレーションシフトは、機械学習モデルの性能を著しく低下させる可能性がある。
本稿では,多様な分類器のアンサンブルを用いて,サブポピュレーションに関連するリスクを適応的に捉えることを提案する。
DPE(Diverse Prototypeal Ensembles)の手法は、しばしば、最悪のグループ精度で先行技術よりも優れている。
- 参考スコア(独自算出の注目度): 10.04893653044606
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The subpopulationtion shift, characterized by a disparity in subpopulation distributibetween theween the training and target datasets, can significantly degrade the performance of machine learning models. Current solutions to subpopulation shift involve modifying empirical risk minimization with re-weighting strategies to improve generalization. This strategy relies on assumptions about the number and nature of subpopulations and annotations on group membership, which are unavailable for many real-world datasets. Instead, we propose using an ensemble of diverse classifiers to adaptively capture risk associated with subpopulations. Given a feature extractor network, we replace its standard linear classification layer with a mixture of prototypical classifiers, where each member is trained to classify the data while focusing on different features and samples from other members. In empirical evaluation on nine real-world datasets, covering diverse domains and kinds of subpopulation shift, our method of Diverse Prototypical Ensembles (DPEs) often outperforms the prior state-of-the-art in worst-group accuracy. The code is available at https://github.com/minhto2802/dpe4subpop
- Abstract(参考訳): サブポピュレーションシフトは、トレーニングとターゲットデータセットを熟成するサブポピュレーションディストリビューティベットの格差が特徴であり、機械学習モデルの性能を著しく低下させることができる。
人口移動の現在の解決策は、一般化を改善するための再重み付け戦略による経験的リスク最小化を修正することである。
この戦略は、多くの実世界のデータセットでは利用できないサブポピュレーションとグループメンバーシップに関するアノテーションの数と性質に関する仮定に依存している。
代わりに,多様な分類器のアンサンブルを用いて,サブポピュレーションに関連するリスクを適応的に捉えることを提案する。
特徴抽出器ネットワークが与えられた場合、我々はその標準線形分類層を原型分類器の混合に置き換え、各メンバーは、他のメンバーの異なる特徴やサンプルに着目しながら、データの分類を訓練する。
種々の領域やサブポピュレーションシフトを網羅した実世界の9つのデータセットの実証的評価において,DPE(Diverse Prototypeal Ensembles)の手法は,最悪のグループ精度で先行した最先端の手法よりも優れていることが多い。
コードはhttps://github.com/minhto2802/dpe4subpopで入手できる。
関連論文リスト
- Minimax Regret Learning for Data with Heterogeneous Subgroups [12.253779655660571]
我々は、最悪のグループ後悔を最小限に抑えるため、一般的な教師付き学習のためのmin-max-regret学習フレームワークを開発する。
広範囲なシミュレーション研究を通じて本手法の有効性を実証し, 数百の移植センターからの腎臓移植データに適用した。
論文 参考訳(メタデータ) (2024-05-02T20:06:41Z) - Tackling Diverse Minorities in Imbalanced Classification [80.78227787608714]
不均衡データセットは、様々な現実世界のアプリケーションで一般的に見られ、分類器の訓練において重要な課題が提示されている。
マイノリティクラスとマイノリティクラスの両方のデータサンプルを混合することにより、反復的に合成サンプルを生成することを提案する。
提案するフレームワークの有効性を,7つの公開ベンチマークデータセットを用いて広範な実験により実証する。
論文 参考訳(メタデータ) (2023-08-28T18:48:34Z) - Change is Hard: A Closer Look at Subpopulation Shift [48.0369745740936]
本稿では,部分群における共通シフトを識別し,説明する統一的なフレームワークを提案する。
次に、ビジョン、言語、医療領域の12の現実世界のデータセットで評価された20の最先端アルゴリズムのベンチマークを作成します。
論文 参考訳(メタデータ) (2023-02-23T18:59:56Z) - Intra-class Adaptive Augmentation with Neighbor Correction for Deep
Metric Learning [99.14132861655223]
深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。
クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。
本手法は,検索性能の最先端手法を3%~6%向上させる。
論文 参考訳(メタデータ) (2022-11-29T14:52:38Z) - PLM: Partial Label Masking for Imbalanced Multi-label Classification [59.68444804243782]
長いラベルの分布を持つ実世界のデータセットで訓練されたニューラルネットワークは、頻繁なクラスに偏りがあり、頻繁なクラスでは不十分である。
本稿では,この比率を利用したPLM(Partial Label Masking)を提案する。
本手法は,マルチラベル (MultiMNIST と MSCOCO) とシングルラベル (CIFAR-10 と CIFAR-100) の2つの画像分類データセットにおいて,既存の手法と比較して高い性能を実現する。
論文 参考訳(メタデータ) (2021-05-22T18:07:56Z) - Learning by Minimizing the Sum of Ranked Range [58.24935359348289]
本稿では,学習目標を定式化するための一般的なアプローチとして,ランキング範囲(SoRR)の和を紹介した。
ランク付き範囲は、実数の集合のソートされた値の連続的なシーケンスである。
我々は,SoRRフレームワークの最小化のための機械学習における2つの応用,すなわち,バイナリ分類のためのAoRR集約損失とマルチラベル/マルチクラス分類のためのTKML個人損失について検討する。
論文 参考訳(メタデータ) (2020-10-05T01:58:32Z) - BREEDS: Benchmarks for Subpopulation Shift [98.90314444545204]
本研究では,人口変動に対するモデルのロバスト性を評価する手法を開発した。
既存のデータセットの基盤となるクラス構造を利用して、トレーニングとテストの分散を構成するデータサブポピュレーションを制御する。
この手法をImageNetデータセットに適用し、様々な粒度のサブポピュレーションシフトベンチマークスイートを作成する。
論文 参考訳(メタデータ) (2020-08-11T17:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。