論文の概要: Nash Equilibria and Pitfalls of Adversarial Training in Adversarial Robustness Games

• arxiv url: http://arxiv.org/abs/2210.12606v2
• Date: Tue, 25 Oct 2022 18:05:29 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-27 15:51:55.605549
• Title: Nash Equilibria and Pitfalls of Adversarial Training in Adversarial Robustness Games
• Title（参考訳）: 対向ロバストネスゲームにおけるnash平衡と対向訓練の落とし穴
• Authors: Maria-Florina Balcan, Rattana Pukdee, Pradeep Ravikumar, Hongyang Zhang
• Abstract要約: 本研究では,2プレイヤゼロサムゲームにおける最適応答戦略の交互化として,対戦訓練について検討する。 一方、ゲームのユニークな純粋なナッシュ均衡が存在し、確実に堅牢である。
• 参考スコア（独自算出の注目度）: 51.90475640044073
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial training is a standard technique for training adversarially robust models. In this paper, we study adversarial training as an alternating best-response strategy in a 2-player zero-sum game. We prove that even in a simple scenario of a linear classifier and a statistical model that abstracts robust vs. non-robust features, the alternating best response strategy of such game may not converge. On the other hand, a unique pure Nash equilibrium of the game exists and is provably robust. We support our theoretical results with experiments, showing the non-convergence of adversarial training and the robustness of Nash equilibrium.
• Abstract（参考訳）: 敵対的訓練は、敵対的堅牢なモデルを訓練するための標準技術である。 本稿では,2プレイヤーゼロサムゲームにおける最適応答戦略として,対戦訓練について検討する。 線形分類器の単純なシナリオと、ロバストな特徴と非ロバストな特徴を抽象化する統計モデルであっても、そのようなゲームの反応戦略は収束しない。 一方、ゲームの一意的な純粋なナッシュ均衡は存在し、確実に強固である。 実験により理論的結果を支持し,非収束な対向訓練とnash平衡の頑健性を示す。

関連論文リスト

• Learning Fair Robustness via Domain Mixup [8.471466670802817]
  本研究では,公平なロバストな分類器の学習問題に対するmixupの利用を提案する。 本研究は, 対人訓練と組み合わせることで, クラスレベルでの頑健さの相違を確実に軽減できることを示す。
  論文  参考訳（メタデータ） (2024-11-21T18:56:33Z)
• Automated Security Response through Online Learning with Adaptive Conjectures [13.33996350474556]
  我々はITインフラに対する自動セキュリティ対応について研究する。 我々は攻撃者とディフェンダーとの相互作用を部分的に観察された非静止ゲームとして定式化する。
  論文  参考訳（メタデータ） (2024-02-19T20:06:15Z)
• A Minimaximalist Approach to Reinforcement Learning from Human Feedback [49.45285664482369]
  人間のフィードバックから強化学習を行うアルゴリズムとして,SPO(Self-Play Preference Optimization)を提案する。 我々のアプローチは、報酬モデルや不安定な敵の訓練を必要としないという点で最小主義である。 我々は,一連の継続的制御タスクにおいて,報酬モデルに基づくアプローチよりもはるかに効率的に学習できることを実証した。
  論文  参考訳（メタデータ） (2024-01-08T17:55:02Z)
• Balance, Imbalance, and Rebalance: Understanding Robust Overfitting from a Minimax Game Perspective [80.51463286812314]
  敵対的訓練(AT)はおそらく、頑健な特徴を抽出するための最先端のアルゴリズムである。 ATは、特に学習率(LR)が崩壊した後、深刻な強固な過適合問題に悩まされる。 我々は, LR崩壊が, より強い記憶能力でトレーナーに力を与えることにより, ミニマックスゲーム間のバランスを損なうことを示す。
  論文  参考訳（メタデータ） (2023-10-30T09:00:11Z)
• Finding mixed-strategy equilibria of continuous-action games without gradients using randomized policy networks [83.28949556413717]
  グラデーションへのアクセスを伴わない連続アクションゲームのナッシュ平衡を近似的に計算する問題について検討する。 ニューラルネットワークを用いてプレイヤーの戦略をモデル化する。 本論文は、制約のない混合戦略と勾配情報のない一般的な連続アクションゲームを解決する最初の方法である。
  論文  参考訳（メタデータ） (2022-11-29T05:16:41Z)
• Imbalanced Adversarial Training with Reweighting [33.51820466479575]
  学習データセットが不均衡である場合、逆向きに訓練されたモデルは、表現不足のクラスでは、はるかにパフォーマンスが悪くなる可能性があることを示す。 従来の再重み付け戦略は、敵の訓練の不均衡問題に対処する効果を失う可能性がある。 本研究では,不均衡シナリオ下での対人訓練を容易にするために,SRAT(Separable Reweighted Adversarial Training)を提案する。
  論文  参考訳（メタデータ） (2021-07-28T20:51:36Z)
• On Information Asymmetry in Competitive Multi-Agent Reinforcement Learning: Convergence and Optimality [78.76529463321374]
  協調的でない2つのQ-ラーニングエージェントの相互作用システムについて検討する。 この情報非対称性は、集団学習の安定した結果をもたらす可能性があることを示す。
  論文  参考訳（メタデータ） (2020-10-21T11:19:53Z)
• Efficient Competitive Self-Play Policy Optimization [20.023522000925094]
  対戦型ゼロサムゲームにおける対戦型自己演奏強化学習のための新しいアルゴリズムフレームワークを提案する。 本手法は,複数のエージェントを同時に訓練し,単純な対戦ルールに基づいて知的に互いに相手として取り合う。 我々は,このアルゴリズムが凸凹ゲームにおいて高い確率で近似平衡に収束することを理論的に証明する。
  論文  参考訳（メタデータ） (2020-09-13T21:01:38Z)
• Robust Reinforcement Learning using Adversarial Populations [118.73193330231163]
  強化学習(Reinforcement Learning, RL)は、コントローラ設計に有効なツールであるが、堅牢性の問題に対処できる。 一つの逆数を使うことは、逆数の標準的なパラメトリゼーションの下での動的変動に一貫して堅牢性をもたらすわけではないことを示す。 本稿では,ロバスト RL の定式化に対する人口ベース増進法を提案する。
  論文  参考訳（メタデータ） (2020-08-04T20:57:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。