論文の概要: DAFA: Distance-Aware Fair Adversarial Training

• arxiv url: http://arxiv.org/abs/2401.12532v1
• Date: Tue, 23 Jan 2024 07:15:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-24 16:29:30.490630
• Title: DAFA: Distance-Aware Fair Adversarial Training
• Title（参考訳）: DAFA:遠隔の公正な対人訓練
• Authors: Hyungyu Lee, Saehyung Lee, Hyemi Jang, Junsung Park, Ho Bae, Sungroh Yoon
• Abstract要約: 敵対的攻撃の下では、最悪のクラスからのサンプルに対するモデルの予測の大半は、最悪のクラスと同様のクラスに偏っている。 本稿では,クラス間の類似性を考慮し,頑健な公正性に対処するDAFA手法を提案する。
• 参考スコア（独自算出の注目度）: 34.94780532071229
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The disparity in accuracy between classes in standard training is amplified during adversarial training, a phenomenon termed the robust fairness problem. Existing methodologies aimed to enhance robust fairness by sacrificing the model's performance on easier classes in order to improve its performance on harder ones. However, we observe that under adversarial attacks, the majority of the model's predictions for samples from the worst class are biased towards classes similar to the worst class, rather than towards the easy classes. Through theoretical and empirical analysis, we demonstrate that robust fairness deteriorates as the distance between classes decreases. Motivated by these insights, we introduce the Distance-Aware Fair Adversarial training (DAFA) methodology, which addresses robust fairness by taking into account the similarities between classes. Specifically, our method assigns distinct loss weights and adversarial margins to each class and adjusts them to encourage a trade-off in robustness among similar classes. Experimental results across various datasets demonstrate that our method not only maintains average robust accuracy but also significantly improves the worst robust accuracy, indicating a marked improvement in robust fairness compared to existing methods.
• Abstract（参考訳）: 標準訓練におけるクラス間の精度の相違は、正当性問題と呼ばれる対人訓練において増幅される。 既存の手法は、より簡単なクラスにモデルの性能を犠牲にして、より難しいクラスのパフォーマンスを改善することによって、堅牢な公正性を高めることを目的としていた。 しかし,敵の攻撃下では,最悪のクラスからのサンプルに対するモデルの予測の大部分は,簡単なクラスではなく,最悪のクラスに似たクラスに偏っているのが観察される。 理論および実証分析により,クラス間の距離が減少するにつれてロバストな公平性が低下することを示した。 これらの知見に触発され,クラス間の類似性を考慮し,頑健な公正性に対処するDAFA(Distance-Aware Fair Adversarial Training)手法を導入した。 具体的には,各クラスに異なる損失重みと対向マージンを割り当て,それらを調整することで,類似クラス間の堅牢性のトレードオフを促進する。 実験結果から,本手法は平均ロバストな精度を維持するだけでなく,最悪のロバストな精度を著しく向上し,従来の手法と比較してロバストな公平性が著しく向上したことを示す。

関連論文リスト

• FAIR-TAT: Improving Model Fairness Using Targeted Adversarial Training [16.10247754923311]
  FAIR-TAT(Fair Targeted Adversarial Training)と呼ばれる新しいアプローチを導入する。 敵の対人訓練(標的外攻撃ではなく)に標的の対人攻撃を使用することで、敵の対人公正性に関してより有利なトレードオフが可能になることを示す。
  論文  参考訳（メタデータ） (2024-10-30T15:58:03Z)
• Learning Confidence Bounds for Classification with Imbalanced Data [42.690254618937196]
  本稿では,学習理論と集中不等式を利用して従来のソリューションの欠点を克服する新しい枠組みを提案する。 本手法は, クラスごとに異なる不均衡度に効果的に適応できるため, より堅牢で信頼性の高い分類結果が得られる。
  論文  参考訳（メタデータ） (2024-07-16T16:02:27Z)
• Towards Fairness-Aware Adversarial Learning [13.932705960012846]
  フェアネス・アウェア・アドバーサリアル・ラーニング(FAAL)という新しい学習パラダイムを提案する。 提案手法は,異なるカテゴリ間で最悪の分布を求めることを目的としており,高い確率で上界性能が得られることを保証している。 特にFAALは、不公平なロバストモデルを2つのエポックで公平に調整できるが、全体的なクリーンで堅牢なアキュラシーを損なうことはない。
  論文  参考訳（メタデータ） (2024-02-27T18:01:59Z)
• Improving Robust Fairness via Balance Adversarial Training [51.67643171193376]
  対人訓練 (AT) 法は, 対人攻撃に対して有効であるが, 異なるクラス間での精度と頑健さの相違が激しい。 本稿では,頑健な公正性問題に対処するために,BAT(Adversarial Training)を提案する。
  論文  参考訳（メタデータ） (2022-09-15T14:44:48Z)
• Towards Equal Opportunity Fairness through Adversarial Learning [64.45845091719002]
  逆行訓練は、自然言語処理におけるバイアス緩和の一般的なアプローチである。 本稿では、よりリッチな特徴を生み出すために、ターゲットクラスをインプットとして利用する、対位訓練のための拡張判別器を提案する。
  論文  参考訳（メタデータ） (2022-03-12T02:22:58Z)
• Fairness-aware Class Imbalanced Learning [57.45784950421179]
  つぶやきの感情と職業分類のロングテール学習手法を評価する。 フェアネスを強制する手法により、マージンロスに基づくアプローチを拡張します。
  論文  参考訳（メタデータ） (2021-09-21T22:16:30Z)
• Analysis and Applications of Class-wise Robustness in Adversarial Training [92.08430396614273]
  敵の訓練は、敵の例に対するモデルロバスト性を改善するための最も効果的な手法の1つである。 従来の研究は主にモデルの全体的な堅牢性に焦点を当てており、各クラスの役割に関する詳細な分析はいまだに欠落している。 MNIST, CIFAR-10, CIFAR-100, SVHN, STL-10, ImageNetの6つのベンチマークデータセットに対して, 逆トレーニングの詳細な診断を行う。 対戦型学習におけるより強力な攻撃手法は、主に脆弱なクラスに対するより成功した攻撃から、性能の向上を達成することを観察する。
  論文  参考訳（メタデータ） (2021-05-29T07:28:35Z)
• Robustness May Be at Odds with Fairness: An Empirical Study on Class-wise Accuracy [85.20742045853738]
  CNNは敵の攻撃に弱いことが広く知られている。 本稿では,対人訓練モデルのクラスワイド精度とロバスト性に関する実証的研究を提案する。 トレーニングデータセットが各クラスに同じ数のサンプルを持つ場合でも,精度と堅牢性にはクラス間差があることが判明した。
  論文  参考訳（メタデータ） (2020-10-26T06:32:32Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。