論文の概要: Spread Spurious Attribute: Improving Worst-group Accuracy with Spurious Attribute Estimation

• arxiv url: http://arxiv.org/abs/2204.02070v1
• Date: Tue, 5 Apr 2022 09:08:30 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-06 13:00:50.938427
• Title: Spread Spurious Attribute: Improving Worst-group Accuracy with Spurious Attribute Estimation
• Title（参考訳）: Spread Spurious Attribute: Spurious Attribute Estimationによるワーストグループ精度の向上
• Authors: Junhyun Nam, Jaehyung Kim, Jaeho Lee, Jinwoo Shin
• Abstract要約: 本稿では,最悪のグループ精度を向上させるために,疑似属性に基づくアルゴリズムSpread Spurious Attributeを提案する。 各種ベンチマークデータセットに対する実験により,アルゴリズムはベースライン法より一貫して優れていることが示された。 また,提案したSSAは,フル (100%) のスプリアス特性監視を用いた手法に匹敵する性能を達成できることを実証した。
• 参考スコア（独自算出の注目度）: 72.92329724600631
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The paradigm of worst-group loss minimization has shown its promise in avoiding to learn spurious correlations, but requires costly additional supervision on spurious attributes. To resolve this, recent works focus on developing weaker forms of supervision -- e.g., hyperparameters discovered with a small number of validation samples with spurious attribute annotation -- but none of the methods retain comparable performance to methods using full supervision on the spurious attribute. In this paper, instead of searching for weaker supervisions, we ask: Given access to a fixed number of samples with spurious attribute annotations, what is the best achievable worst-group loss if we "fully exploit" them? To this end, we propose a pseudo-attribute-based algorithm, coined Spread Spurious Attribute (SSA), for improving the worst-group accuracy. In particular, we leverage samples both with and without spurious attribute annotations to train a model to predict the spurious attribute, then use the pseudo-attribute predicted by the trained model as supervision on the spurious attribute to train a new robust model having minimal worst-group loss. Our experiments on various benchmark datasets show that our algorithm consistently outperforms the baseline methods using the same number of validation samples with spurious attribute annotations. We also demonstrate that the proposed SSA can achieve comparable performances to methods using full (100%) spurious attribute supervision, by using a much smaller number of annotated samples -- from 0.6% and up to 1.5%, depending on the dataset.
• Abstract（参考訳）: 最悪のグループ損失の最小化のパラダイムは、スプリアス相関を学習することを避けることが約束されているが、スプリアス属性に対するコスト的に追加の監督を必要とする。 これを解決するため、最近の研究は弱い形式の監督(例えば、スプリアス属性アノテーションを持つ少数のバリデーションサンプルで発見されたハイパーパラメータ)の開発に重点を置いているが、どのメソッドもスプリアス属性のフルインスペクションを使用するメソッドと同等のパフォーマンスを保持していない。 この論文では、より弱いスーパーバイザを探す代わりに、次のような質問をする。 スプリアス属性アノテーションを持つ固定数のサンプルにアクセスすると、それらを“完全に悪用する”場合、達成可能な最悪のグループ損失は何か? そこで本研究では,SSA(Spread Spurious Attribute)と呼ばれる疑似属性に基づくアルゴリズムを提案する。 特に,スプリアス属性アノテーションと非スプリアス属性アノテーションを併用してモデルをトレーニングし,トレーニングされたモデルが予測した擬似属性をスプリアス属性の監督として使用し,最小グループ損失の少ない新しいロバストモデルをトレーニングする。 各種ベンチマークデータセットを用いた実験の結果,提案アルゴリズムは,属性アノテーションと同一数の検証サンプルを用いて,ベースライン法より一貫して優れていることがわかった。 また,提案するssaは,データセットによっては0.6%から1.5%までの少ないアノテートサンプルを使用することで,完全な(100%)スプリアス属性の監督を用いた手法と同等の性能を達成できることを実証した。

関連論文リスト

• Trained Models Tell Us How to Make Them Robust to Spurious Correlation without Group Annotation [3.894771553698554]
  経験的リスク最小化(ERM)モデルは、ターゲットと高い刺激的な相関を持つ属性に依存する傾向がある。 これにより、これらの属性を欠いた未表現(または'マイナー')グループのパフォーマンスを低下させることができる。 本稿では,環境に基づく検証と損失に基づくサンプリング(EVaLS)を提案する。
  論文  参考訳（メタデータ） (2024-10-07T08:17:44Z)
• Task-oriented Embedding Counts: Heuristic Clustering-driven Feature Fine-tuning for Whole Slide Image Classification [1.292108130501585]
  本稿では,クラスタリング駆動型機能微調整法(HC-FT)を提案する。 提案手法はCAMELYON16とBRACSの両方で評価され,それぞれ97.13%,85.85%のAUCが得られた。
  論文  参考訳（メタデータ） (2024-06-02T08:53:45Z)
• Annotation-Free Group Robustness via Loss-Based Resampling [3.355491272942994]
  経験的リスク最小化による画像分類のためのニューラルネットワークのトレーニングは、予測のための因果的属性ではなく、突発的な属性に依存することに脆弱である。 トレーニングデータの小さな分割に対してERM事前学習モデルを評価することにより、データのグループ化を推測する。 水鳥とCelebAデータセットの様々なバージョンにおけるLFRの評価を行った。
  論文  参考訳（メタデータ） (2023-12-08T08:22:02Z)
• Multi-Group Fairness Evaluation via Conditional Value-at-Risk Testing [24.553384023323332]
  本研究では,条件付き値-at-Riskに基づく性能格差のテスト手法を提案する。 性能違反を発見するのに必要なサンプルの複雑さは指数関数的に減少し、群数の平方根によって最も上界にあることを示す。
  論文  参考訳（メタデータ） (2023-12-06T19:25:32Z)
• Causal Effect Regularization: Automated Detection and Removal of Spurious Attributes [13.852987916253685]
  多くの分類データセットでは、タスクラベルはいくつかの入力属性と突発的に相関している。 本稿では,ラベルに対する因果関係を推定することにより,スプリアス属性を自動的に識別する手法を提案する。 本手法は, 因果効果のノイズ評価においても, 突発性特性への依存を緩和する。
  論文  参考訳（メタデータ） (2023-06-19T17:17:42Z)
• Breaking the Spurious Causality of Conditional Generation via Fairness Intervention with Corrective Sampling [77.15766509677348]
  条件生成モデルは、トレーニングデータセットから急激な相関を継承することが多い。 これは別の潜在属性に対して不均衡なラベル条件分布をもたらす。 この問題を緩和するための一般的な2段階戦略を提案する。
  論文  参考訳（メタデータ） (2022-12-05T08:09:33Z)
• MACSum: Controllable Summarization with Mixed Attributes [56.685735509260276]
  MACSumは、混合属性を制御するための最初の人間アノテーションによる要約データセットである。 混合制御可能な要約の新しいタスクに対する2つの単純かつ効果的なパラメータ効率のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-11-09T17:17:37Z)
• Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
  本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
  論文  参考訳（メタデータ） (2022-10-12T23:39:28Z)
• WSSOD: A New Pipeline for Weakly- and Semi-Supervised Object Detection [75.80075054706079]
  弱機能および半教師付きオブジェクト検出フレームワーク(WSSOD)を提案する。 エージェント検出器は、まず関節データセット上でトレーニングされ、弱注釈画像上で擬似境界ボックスを予測するために使用される。 提案フレームワークはPASCAL-VOC と MSCOCO のベンチマークで顕著な性能を示し,完全教師付き環境で得られたものと同等の性能を達成している。
  論文  参考訳（メタデータ） (2021-05-21T11:58:50Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。