論文の概要: Boosting Test Performance with Importance Sampling--a Subpopulation Perspective

• arxiv url: http://arxiv.org/abs/2412.13003v1
• Date: Tue, 17 Dec 2024 15:25:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-18 14:01:36.986426
• Title: Boosting Test Performance with Importance Sampling--a Subpopulation Perspective
• Title（参考訳）: 重要サンプリングによるテストパフォーマンス向上-サブポピュレーションの観点から
• Authors: Hongyu Shen, Zhizhen Zhao,
• Abstract要約: 本稿では,重要なサンプリングを,サブポピュレーション問題を解決するためのシンプルかつ強力なツールとして同定する。 サブポピュレーション問題の新しい体系的定式化を行い、既存の研究で明確に述べられていない仮定を明確に特定する。 アプリケーション側では、サブポピュレーション問題を解決するのに十分な1つの推定器を実証する。
• 参考スコア（独自算出の注目度）: 16.678910111353307
• License:
• Abstract: Despite empirical risk minimization (ERM) is widely applied in the machine learning community, its performance is limited on data with spurious correlation or subpopulation that is introduced by hidden attributes. Existing literature proposed techniques to maximize group-balanced or worst-group accuracy when such correlation presents, yet, at the cost of lower average accuracy. In addition, many existing works conduct surveys on different subpopulation methods without revealing the inherent connection between these methods, which could hinder the technology advancement in this area. In this paper, we identify important sampling as a simple yet powerful tool for solving the subpopulation problem. On the theory side, we provide a new systematic formulation of the subpopulation problem and explicitly identify the assumptions that are not clearly stated in the existing works. This helps to uncover the cause of the dropped average accuracy. We provide the first theoretical discussion on the connections of existing methods, revealing the core components that make them different. On the application side, we demonstrate a single estimator is enough to solve the subpopulation problem. In particular, we introduce the estimator in both attribute-known and -unknown scenarios in the subpopulation setup, offering flexibility in practical use cases. And empirically, we achieve state-of-the-art performance on commonly used benchmark datasets.
• Abstract（参考訳）: 経験的リスク最小化(ERM)は機械学習コミュニティに広く適用されているが、その性能は、隠れ属性によって導入された素早い相関やサブポピュレーションを持つデータに限られている。 既存の文献では、そのような相関が現れる場合にグループバランスや最悪のグループ精度を最大化する手法が提案されているが、平均精度が低いコストで提案されている。 さらに,多くの既存研究が,これらの手法の相互関係を明らかにすることなく,異なるサブポピュレーション手法に関する調査を実施しており,この領域の技術の進歩を妨げる可能性がある。 本稿では,重要なサンプリングを,サブポピュレーション問題を解決するためのシンプルかつ強力なツールとして同定する。 理論面では、サブポピュレーション問題の新しい体系的定式化を提供し、既存の研究で明確に述べられていない仮定を明確に特定する。 これは、平均精度が低下した原因を明らかにするのに役立ちます。 既存のメソッドの接続に関する最初の理論的議論を行い、それらが異なるコアコンポーネントを明らかにします。 アプリケーション側では、サブポピュレーション問題を解決するのに十分な1つの推定器を実証する。 特に、サブポピュレーション設定において属性既知のシナリオと未知のシナリオの両方で推定器を導入し、実用的なユースケースで柔軟性を提供する。 そして実証的に、よく使われるベンチマークデータセットで最先端のパフォーマンスを達成する。

関連論文リスト

• A step towards the integration of machine learning and small area estimation [0.0]
  本稿では,機械学習アルゴリズムがサポートする予測器を提案する。 仮定モデルからわずかに逸脱しただけで、この場合も提案が良い代替手段であることを示す。 さらに,機械学習予測器の精度推定手法を提案し,従来の手法との比較を行った。
  論文  参考訳（メタデータ） (2024-02-12T09:43:17Z)
• Optimal Multi-Distribution Learning [88.3008613028333]
  マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。 本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-12-08T16:06:29Z)
• Multi-dimensional domain generalization with low-rank structures [18.565189720128856]
  統計的および機械学習の手法では、テストデータがトレーニングデータと同一に分散されていると仮定されるのが一般的である。 この仮定は必ずしも成り立たないが、特にトレーニングデータに対象の個体群がよく表現されていないアプリケーションでは顕著である。 線形回帰モデルにおいて,この問題に対処するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-18T08:07:58Z)
• Statistical Inference for Fairness Auditing [4.318555434063274]
  我々は、このタスクを複数の仮説テストの観点から「フェアネス監査」とみなしている。 ブートストラップを用いて,グループ間のパフォーマンス格差を同時にバインドする方法を示す。 本手法は,モデルアンダーパフォーマンスの影響を受けるサブポピュレーションのフラグ付けや,モデルが適切に機能するサブポピュレーションの認証に利用できる。
  論文  参考訳（メタデータ） (2023-05-05T17:54:22Z)
• Reweighted Mixup for Subpopulation Shift [63.1315456651771]
  サブポピュレーションシフトは、多くの実世界のアプリケーションに存在し、同じサブポピュレーショングループを含むが異なるサブポピュレーション比率を持つトレーニングとテストの分布を指す。 重要度再重み付けは、サブポピュレーションシフトを処理する古典的で効果的な方法である。 我々は、オーバーフィッティング問題を緩和するために、reweighted mixupと呼ばれるシンプルで実用的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-04-09T03:44:50Z)
• UMIX: Improving Importance Weighting for Subpopulation Shift via Uncertainty-Aware Mixup [44.0372420908258]
  サブポピュレーションシフトは、多くの現実世界の機械学習アプリケーションに大きく存在する。 重要度再重み付けは、サブポピュレーションシフト問題に対処するための通常の方法である。 オーバーフィッティング問題を緩和するために,不確実性を考慮した混合(Umix)を提案する。
  論文  参考訳（メタデータ） (2022-09-19T11:22:28Z)
• Adaptive Identification of Populations with Treatment Benefit in Clinical Trials: Machine Learning Challenges and Solutions [78.31410227443102]
  確定的臨床試験において,特定の治療の恩恵を受ける患者サブポピュレーションを適応的に同定する問題について検討した。 サブポピュレーション構築のためのメタアルゴリズムであるAdaGGIとAdaGCPIを提案する。
  論文  参考訳（メタデータ） (2022-08-11T14:27:49Z)
• On Modality Bias Recognition and Reduction [70.69194431713825]
  マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。 本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。 本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
  論文  参考訳（メタデータ） (2022-02-25T13:47:09Z)
• Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
  暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。 ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。 本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
  論文  参考訳（メタデータ） (2021-05-11T03:38:16Z)
• BREEDS: Benchmarks for Subpopulation Shift [98.90314444545204]
  本研究では,人口変動に対するモデルのロバスト性を評価する手法を開発した。 既存のデータセットの基盤となるクラス構造を利用して、トレーニングとテストの分散を構成するデータサブポピュレーションを制御する。 この手法をImageNetデータセットに適用し、様々な粒度のサブポピュレーションシフトベンチマークスイートを作成する。
  論文  参考訳（メタデータ） (2020-08-11T17:04:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。