論文の概要: Robustness to Spurious Correlations via Human Annotations

• arxiv url: http://arxiv.org/abs/2007.06661v2
• Date: Thu, 13 Aug 2020 22:48:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-10 23:04:45.150968
• Title: Robustness to Spurious Correlations via Human Annotations
• Title（参考訳）: ヒューマンアノテーションによるスプリアス相関に対するロバスト性
• Authors: Megha Srivastava, Tatsunori Hashimoto, Percy Liang
• Abstract要約: 本稿では,人間に共通する因果関係の知識を活用して,素因関係に頑健なモデルを構築するための枠組みを提案する。 具体的には、人間のアノテーションを使用して、潜在的な未測定変数でトレーニング例を拡大する。 次に,未測定変数(UV-DRO)に対する分布性に頑健な新たな最適化手法を導入し,テスト時間シフトによる最悪の損失を制御する。
• 参考スコア（独自算出の注目度）: 100.63051542531171
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The reliability of machine learning systems critically assumes that the associations between features and labels remain similar between training and test distributions. However, unmeasured variables, such as confounders, break this assumption---useful correlations between features and labels at training time can become useless or even harmful at test time. For example, high obesity is generally predictive for heart disease, but this relation may not hold for smokers who generally have lower rates of obesity and higher rates of heart disease. We present a framework for making models robust to spurious correlations by leveraging humans' common sense knowledge of causality. Specifically, we use human annotation to augment each training example with a potential unmeasured variable (i.e. an underweight patient with heart disease may be a smoker), reducing the problem to a covariate shift problem. We then introduce a new distributionally robust optimization objective over unmeasured variables (UV-DRO) to control the worst-case loss over possible test-time shifts. Empirically, we show improvements of 5-10% on a digit recognition task confounded by rotation, and 1.5-5% on the task of analyzing NYPD Police Stops confounded by location.
• Abstract（参考訳）: 機械学習システムの信頼性は、特徴とラベルの関連がトレーニングとテスト分布に類似していると批判的に仮定する。 しかし、共同設立者のような測定されていない変数は、この仮定を破る--トレーニング時に特徴とラベルの間の使用頻度の相関は、テスト時に役に立たない、あるいは有害になる可能性がある。 例えば、高肥満は一般的に心臓病の予測であるが、この関係は一般的に肥満率と心臓病の上昇率の低い喫煙者には当てはまらない。 本稿では,人間に共通する因果関係の知識を活用して,素因関係に頑健なモデルを構築する枠組みを提案する。 具体的には、人間のアノテーションを用いて、潜在的な未測定変数(心臓病の低体重患者は喫煙者かもしれない)でトレーニング例を拡大し、その問題を共変量シフト問題に還元する。 次に,未測定変数(UV-DRO)に対する分布性に頑健な新たな最適化手法を導入し,テスト時間シフトによる最悪の損失を制御する。 実測では, 回転によるデジット認識タスクでは5～10%, nypd警察の停止時間解析では1.5～5%の改善がみられた。

関連論文リスト

• Catastrophic Overfitting: A Potential Blessing in Disguise [51.996943482875366]
  FAT(Fast Adversarial Training)は、敵の堅牢性向上に効果があるとして、研究コミュニティ内で注目を集めている。 既存のFATアプローチではCOの緩和が進んでいるが, クリーンサンプルの分類精度が低下するにつれて, 対向ロバスト性の上昇が生じる。 クリーンな例と逆向きな例に特徴アクティベーションの相違を利用して,COの根本原因を分析した。 我々は, モデル性能を高めることを目的として, 「攻撃難読化」を実現するためにCOを活用する。
  論文  参考訳（メタデータ） (2024-02-28T10:01:44Z)
• Robust Learning via Conditional Prevalence Adjustment [7.480241867887245]
  ディープラーニングモデルは、目に見えない場所で破滅的に失敗する可能性がある。 本稿では,CoPA(Conditional Prevalence-Adjustment)という手法を提案する。
  論文  参考訳（メタデータ） (2023-10-24T12:13:49Z)
• Seeing is not Believing: Robust Reinforcement Learning against Spurious Correlation [57.351098530477124]
  国家の異なる部分には、保存されていない共同設立者が引き起こす相関関係が存在しない。 このような役に立たないあるいは有害な相関を学習するモデルは、テストケースの共同創設者がトレーニングケースから逸脱したときに破滅的に失敗する可能性がある。 したがって、単純かつ非構造的な不確実性集合を仮定する既存の頑健なアルゴリズムは、この問題に対処するには不十分である。
  論文  参考訳（メタデータ） (2023-07-15T23:53:37Z)
• Automatic diagnosis of knee osteoarthritis severity using Swin transformer [55.01037422579516]
  変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。 我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
  論文  参考訳（メタデータ） (2023-07-10T09:49:30Z)
• Semantic Latent Space Regression of Diffusion Autoencoders for Vertebral Fracture Grading [72.45699658852304]
  本稿では,教師なし特徴抽出器として生成拡散オートエンコーダモデルを訓練するための新しい手法を提案する。 フラクチャーグレーディングを連続回帰としてモデル化し, フラクチャーのスムーズな進行を反映した。 重要なことに,本手法の創成特性は,与えられた脊椎の様々な段階を可視化し,自動グルーピングに寄与する特徴を解釈し,洞察することを可能にする。
  論文  参考訳（メタデータ） (2023-03-21T17:16:01Z)
• Algorithmic encoding of protected characteristics and its implications on disparities across subgroups [17.415882865534638]
  機械学習モデルは、患者の人種的アイデンティティと臨床結果の間に望ましくない相関関係を拾うことができる。 これらのバイアスがどのようにコード化され、どのように異なるパフォーマンスを減らしたり、取り除いたりするかについては、ほとんど分かっていない。
  論文  参考訳（メタデータ） (2021-10-27T20:30:57Z)
• Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
  小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。 我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
  論文  参考訳（メタデータ） (2021-02-23T20:59:30Z)
• Deep Learning Applied to Chest X-Rays: Exploiting and Preventing Shortcuts [11.511323714777298]
  本稿では,特定の属性を有する患者が興味を抱く可能性が極めて高い,突発性クラススキューの症例について検討する。 深層ネットは、診断の予測を学ぶ際に、性別(AUROC=0.96)や年齢(AUROC=0.90)を含む多くの患者属性を正確に識別できることを示す。 単純な転送学習アプローチは、ショートカットを防止し、優れたパフォーマンスを促進するのに驚くほど効果的である。
  論文  参考訳（メタデータ） (2020-09-21T18:52:43Z)
• Improving Calibration through the Relationship with Adversarial Robustness [19.384119330332446]
  対向ロバスト性とキャリブレーションの関係について検討する。 逆ロバスト性に基づく適応ラベリング(AR-AdaLS)を提案する。 本手法は,分布シフト下においても,分布内データの対角的ロバスト性を考慮し,モデルに対するキャリブレーションが向上することを見出した。
  論文  参考訳（メタデータ） (2020-06-29T20:56:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。