論文の概要: Distributionally Robust Optimization with Probabilistic Group

• arxiv url: http://arxiv.org/abs/2303.05809v1
• Date: Fri, 10 Mar 2023 09:31:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-13 15:32:03.596241
• Title: Distributionally Robust Optimization with Probabilistic Group
• Title（参考訳）: 確率群を用いた分布ロバスト最適化
• Authors: Soumya Suvra Ghosal and Yixuan Li
• Abstract要約: 分散ロバストな最適化のための新しいフレームワークPG-DROを提案する。 私たちのフレームワークの鍵は、ハードグループアノテーションではなく、ソフトグループメンバシップです。 本フレームワークは,グループメンバシップの曖昧さに対処し,従来の技術よりも柔軟性と汎用性を提供する。
• 参考スコア（独自算出の注目度）: 24.22720998340643
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern machine learning models may be susceptible to learning spurious correlations that hold on average but not for the atypical group of samples. To address the problem, previous approaches minimize the empirical worst-group risk. Despite the promise, they often assume that each sample belongs to one and only one group, which does not allow expressing the uncertainty in group labeling. In this paper, we propose a novel framework PG-DRO, which explores the idea of probabilistic group membership for distributionally robust optimization. Key to our framework, we consider soft group membership instead of hard group annotations. The group probabilities can be flexibly generated using either supervised learning or zero-shot approaches. Our framework accommodates samples with group membership ambiguity, offering stronger flexibility and generality than the prior art. We comprehensively evaluate PG-DRO on both image classification and natural language processing benchmarks, establishing superior performance
• Abstract（参考訳）: 現代の機械学習モデルは、平均で保持されるが非典型的なサンプル群には適用されない刺激的な相関を学習する可能性がある。 この問題に対処するため、過去のアプローチは経験的最悪のグループリスクを最小限に抑えた。 約束にもかかわらず、各サンプルは1つのグループと1つのグループに属し、グループラベリングの不確実性を表現することができないとしばしば仮定する。 本稿では,分散ロバストな最適化のための確率的グループメンバシップの考え方を探求する新しいフレームワークPG-DROを提案する。 フレームワークのキーとなるのは,ハードグループアノテーションではなく,ソフトグループメンバシップを検討することです。 群確率は教師付き学習またはゼロショットアプローチを用いて柔軟に生成できる。 本フレームワークは,グループメンバシップの曖昧さに対処し,従来の技術よりも柔軟性と汎用性を提供する。 我々は、画像分類と自然言語処理のベンチマークでPG-DROを総合的に評価し、優れた性能を確立した。

関連論文リスト

• Federated Fairness without Access to Sensitive Groups [12.888927461513472]
  連合学習におけるグループフェアネスへの現在のアプローチは、トレーニング中に事前に定義されラベル付けされたセンシティブなグループが存在することを前提としている。 我々は、センシティブなグループや追加のラベルの事前定義された定義に依存しないグループフェアネスを保証するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-22T19:24:59Z)
• Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
  群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。 グループDROフレームワークをQ-Diversityを提案して再構築する。 インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
  論文  参考訳（メタデータ） (2023-05-20T07:02:27Z)
• Group conditional validity via multi-group learning [5.797821810358083]
  本研究では,分布自由な共形予測の問題と群条件妥当性の基準について考察する。 既存の方法は、制限的群化構造または分布的仮定の下でそのような保証を達成する。 マルチグループ学習と呼ばれる問題に対して,アルゴリズムを活用することにより,個人集団に対する妥当性保証を実現する問題に対する簡易な削減を提案する。
  論文  参考訳（メタデータ） (2023-03-07T15:51:03Z)
• Take One Gram of Neural Features, Get Enhanced Group Robustness [23.541213868620837]
  経験的リスク最小化で訓練された機械学習モデルの予測性能は、分散シフト下で大幅に低下する可能性がある。 本稿では,識別モデルの抽出した特徴の文法行列に基づいて,トレーニングデータセットをグループに分割する。 このアプローチは、ERMに対するグループロバスト性を向上するだけでなく、最近のすべてのベースラインを上回ります。
  論文  参考訳（メタデータ） (2022-08-26T12:34:55Z)
• Towards Group Robustness in the presence of Partial Group Labels [61.33713547766866]
  入力サンプルとターゲットラベルの間に 急激な相関関係がある ニューラルネットワークの予測を誤った方向に導く 本稿では,制約セットから最悪のグループ割り当てを最適化するアルゴリズムを提案する。 グループ間で総合的な集計精度を維持しつつ,少数集団のパフォーマンス向上を示す。
  論文  参考訳（メタデータ） (2022-01-10T22:04:48Z)
• Focus on the Common Good: Group Distributional Robustness Follows [47.62596240492509]
  本稿では,多様なグループ間で共有される特徴の学習を明示的に促進する,新しい,シンプルなアルゴリズムを提案する。 グループDROは、最低の正規化損失を持つグループに焦点を当て、代わりに、他のグループでもより良いパフォーマンスを実現するグループに焦点を当てるが、共有/共通機能を学ぶことにつながる可能性がある。
  論文  参考訳（メタデータ） (2021-10-06T09:47:41Z)
• Just Train Twice: Improving Group Robustness without Training Group Information [101.84574184298006]
  経験的リスク最小化による標準トレーニングは、特定のグループにおける平均的かつ低い精度で高い精度を達成するモデルを生成することができる。 群分布的ロバストな最適化 (group DRO) のような、最悪のグループ精度を達成する以前のアプローチでは、トレーニングポイントごとに高価なグループアノテーションが必要である。 本稿では,複数のエポックに対して標準的なERMモデルを訓練し,第1モデルが誤分類したトレーニング例を重み付けする第2モデルを訓練する,単純な2段階のアプローチであるJTTを提案する。
  論文  参考訳（メタデータ） (2021-07-19T17:52:32Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)
• Robust Optimization for Fairness with Noisy Protected Groups [85.13255550021495]
  ノイズが保護されたグループラベルに頼った結果について検討した。 頑健な最適化を用いた2つの新しいアプローチを提案する。 頑健なアプローチは、単純アプローチよりも真のグループ公平性を保証することが示される。
  論文  参考訳（メタデータ） (2020-02-21T14:58:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。