論文の概要: Adversaries With Incentives: A Strategic Alternative to Adversarial Robustness

• arxiv url: http://arxiv.org/abs/2406.11458v1
• Date: Mon, 17 Jun 2024 12:20:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-18 15:01:35.473641
• Title: Adversaries With Incentives: A Strategic Alternative to Adversarial Robustness
• Title（参考訳）: インセンティブを持つ敵:敵のロバスト性に対する戦略的な代替手段
• Authors: Maayan Ehrenberg, Roy Ganz, Nir Rosenfeld,
• Abstract要約: 敵の訓練は悪意のある相手を守ることを目的としている。 我々のアプローチは、学習の帰納的バイアスとして、相手のインセンティブの可能性に関する知識または信念を使用する。 我々は、敵のインセンティブに関する穏やかな知識がいかに有用であるかを示す一連の実験を行う。
• 参考スコア（独自算出の注目度）: 11.722685584919757
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial training aims to defend against *adversaries*: malicious opponents whose sole aim is to harm predictive performance in any way possible - a rather harsh perspective, which we assert results in unnecessarily conservative models. Instead, we propose to model opponents as simply pursuing their own goals, rather than working directly against the classifier. Employing tools from strategic modeling, our approach uses knowledge or beliefs regarding the opponent's possible incentives as inductive bias for learning. Our method of *strategic training* is designed to defend against opponents within an *incentive uncertainty set*: this resorts to adversarial learning when the set is maximal, but offers potential gains when it can be appropriately reduced. We conduct a series of experiments that show how even mild knowledge regarding the adversary's incentives can be useful, and that the degree of potential gains depends on how incentives relate to the structure of the learning task.
• Abstract（参考訳）: 敵対的なトレーニングは、*敵者* – 予測パフォーマンスを可能な限り損なうことを唯一の目的とする悪意のある相手 – に対して防御することを目的としています。 代わりに、分類者に対して直接取り組むのではなく、単に目的を追求するものとして、相手をモデル化することを提案する。 戦略モデルからツールを取り入れたアプローチでは,学習の帰納的バイアスとして,相手のインセンティブに関する知識や信念を用いる。 我々の*ストラテジックトレーニング*の方法は、*インセンティブの不確実性集合*の中で、相手に対して防御するように設計されている。 我々は、敵のインセンティブに関する穏やかな知識がいかに有用であるかを示す一連の実験を行い、潜在的なゲインの程度は、学習タスクの構造にインセンティブがどのように関係するかに依存することを示した。

関連論文リスト

• Learning in Markov Games with Adaptive Adversaries: Policy Regret, Fundamental Barriers, and Efficient Algorithms [24.928268203611047]
  学習者と戦略的相手とのマルコフゲームとしてモデル化された動的に進化する環境における学習について検討する。 これは、学習者が最も安定した政策の順序に従えば達成したであろうリターンと競合することを目的とした、反ファクト的な概念である。
  論文  参考訳（メタデータ） (2024-11-01T16:17:27Z)
• FAIR-TAT: Improving Model Fairness Using Targeted Adversarial Training [16.10247754923311]
  FAIR-TAT(Fair Targeted Adversarial Training)と呼ばれる新しいアプローチを導入する。 敵の対人訓練(標的外攻撃ではなく)に標的の対人攻撃を使用することで、敵の対人公正性に関してより有利なトレードオフが可能になることを示す。
  論文  参考訳（メタデータ） (2024-10-30T15:58:03Z)
• Focus on Hiders: Exploring Hidden Threats for Enhancing Adversarial Training [20.1991376813843]
  我々は、HFAT(Hider-Focused Adversarial Training)と呼ばれる一般化した逆トレーニングアルゴリズムを提案する。 HFATは、標準的な対向訓練と予防隠蔽装置の最適化方向を組み合わせたものである。 提案手法の有効性を実験により検証した。
  論文  参考訳（メタデータ） (2023-12-12T08:41:18Z)
• The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training [72.39526433794707]
  敵の訓練とその変種は、敵の例に対抗して最も効果的なアプローチであることが示されている。 本稿では,モデルが類似した出力を生成することを奨励する,新たな対角訓練手法を提案する。 本手法は,最先端のロバスト性および自然な精度を実現する。
  論文  参考訳（メタデータ） (2022-11-01T15:24:26Z)
• Improving Adversarial Robustness with Self-Paced Hard-Class Pair Reweighting [5.084323778393556]
  標的外攻撃による敵の訓練は 最も認知されている方法の1つです 自然に不均衡なクラス間のセマンティックな類似性により、これらのハードクラスのペアが互いに仮想的なターゲットになる。 モデル最適化における重み付きハードクラスペアの損失について提案し、ハードクラスからの識別的特徴の学習を促す。
  論文  参考訳（メタデータ） (2022-10-26T22:51:36Z)
• Robust Transferable Feature Extractors: Learning to Defend Pre-Trained Networks Against White Box Adversaries [69.53730499849023]
  また, 予測誤差を誘導するために, 逆例を独立に学習した別のモデルに移すことが可能であることを示す。 本稿では,頑健な伝達可能な特徴抽出器(RTFE)と呼ばれる,ディープラーニングに基づく事前処理機構を提案する。
  論文  参考訳（メタデータ） (2022-09-14T21:09:34Z)
• Enhancing Adversarial Training with Feature Separability [52.39305978984573]
  本稿では,特徴分離性を備えた対人訓練(ATFS)により,クラス内特徴の類似性を向上し,クラス間特徴分散を増大させることができる,新たな対人訓練グラフ(ATG)を提案する。 包括的な実験を通じて、提案したATFSフレームワークがクリーンかつロバストなパフォーマンスを著しく改善することを示した。
  論文  参考訳（メタデータ） (2022-05-02T04:04:23Z)
• Towards Equal Opportunity Fairness through Adversarial Learning [64.45845091719002]
  逆行訓練は、自然言語処理におけるバイアス緩和の一般的なアプローチである。 本稿では、よりリッチな特徴を生み出すために、ターゲットクラスをインプットとして利用する、対位訓練のための拡張判別器を提案する。
  論文  参考訳（メタデータ） (2022-03-12T02:22:58Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)
• Stylized Adversarial Defense [105.88250594033053]
  逆行訓練は摂動パターンを生成し、モデルを堅牢化するためのトレーニングセットにそれらを含む。 我々は、より強力な敵を作るために、機能空間から追加情報を活用することを提案する。 我々の対人訓練アプローチは、最先端の防御と比べて強い堅牢性を示している。
  論文  参考訳（メタデータ） (2020-07-29T08:38:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。