Fugu-MT 論文翻訳(概要): Sparse Adversarial Attack in Multi-agent Reinforcement Learning

論文の概要: Sparse Adversarial Attack in Multi-agent Reinforcement Learning

arxiv url: http://arxiv.org/abs/2205.09362v1
Date: Thu, 19 May 2022 07:46:26 GMT
ステータス: 処理完了
システム内更新日: 2022-05-20 14:05:59.853886
Title: Sparse Adversarial Attack in Multi-agent Reinforcement Learning
Title（参考訳）: マルチエージェント強化学習におけるsparse adversarial attack
Authors: Yizheng Hu, Zhihua Zhang
Abstract要約: 我々は,cMARLシステムに対するテキストスパース対逆攻撃を提案する。実験により、現在のcMARLアルゴリズムで訓練されたポリシーは、攻撃を受けたエージェントが1人または数人しかいない場合に、性能が劣ることが示された。
参考スコア（独自算出の注目度）: 18.876664289847422
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: Cooperative multi-agent reinforcement learning (cMARL) has many real applications, but the policy trained by existing cMARL algorithms is not robust enough when deployed. There exist also many methods about adversarial attacks on the RL system, which implies that the RL system can suffer from adversarial attacks, but most of them focused on single agent RL. In this paper, we propose a \textit{sparse adversarial attack} on cMARL systems. We use (MA)RL with regularization to train the attack policy. Our experiments show that the policy trained by the current cMARL algorithm can obtain poor performance when only one or a few agents in the team (e.g., 1 of 8 or 5 of 25) were attacked at a few timesteps (e.g., attack 3 of total 40 timesteps).
Abstract（参考訳）: 協調型マルチエージェント強化学習(cMARL)は多くの実応用があるが、既存のcMARLアルゴリズムで訓練されたポリシーは、デプロイ時に十分に堅牢ではない。 RL系に対する敵攻撃には多くの方法があり、RL系は敵攻撃に苦しむ可能性があるが、そのほとんどは単一のエージェントRLに焦点を当てている。本稿では,cMARLシステム上でのtextit{sparse adversarial attack}を提案する。我々は(MA)RLを正規化して攻撃ポリシーを訓練する。実験の結果、現在のcMARLアルゴリズムで訓練されたポリシーは、チーム内のエージェントが1人または数人(例:8人中1人、25人中5人)に数回(例:40人中3人)攻撃された場合、性能が劣ることがわかった。

関連論文リスト

Provably Efficient Action-Manipulation Attack Against Continuous Reinforcement Learning [49.48615590763914]
我々は,モンテカルロ木探索法を用いて効率的な行動探索と操作を行うLCBTというブラックボックス攻撃アルゴリズムを提案する。提案手法は, DDPG, PPO, TD3の3つの攻撃的アルゴリズムに対して, 連続的な設定で実行し, 攻撃性能が期待できることを示す。
論文参考訳（メタデータ） (2024-11-20T08:20:29Z)
Optimal Attack and Defense for Reinforcement Learning [11.36770403327493]
敵RLでは、外部攻撃者は、環境との相互作用を操作できる。我々は、攻撃者が予想される報酬を最大化するステルス攻撃を設計する際の問題を示す。被害者に対する最適な防衛方針は,Stackelbergゲームに対する解決策として計算できる,と我々は主張する。
論文参考訳（メタデータ） (2023-11-30T21:21:47Z)
Enhancing the Robustness of QMIX against State-adversarial Attacks [6.627954554805906]
本稿では,SARLアルゴリズムの堅牢性を向上し,それらをマルチエージェントシナリオに拡張する4つの手法について論じる。我々は、この研究で様々な攻撃を用いてモデルを訓練する。次に、トレーニングフェーズ全体を通して、対応する攻撃に適応して、他の攻撃を用いて教えられたモデルをテストする。
論文参考訳（メタデータ） (2023-07-03T10:10:34Z)
Sampling Attacks on Meta Reinforcement Learning: A Minimax Formulation and Complexity Analysis [20.11993437283895]
本稿では,この種のセキュリティリスクを理解するためのゲーム理論的基盤を提供する。我々は、サンプリング攻撃モデルを、攻撃者とエージェントの間のスタックルバーグゲームとして定義し、最小限の定式化をもたらす。我々は,攻撃者の小さな努力が学習性能を著しく低下させる可能性があることを観察した。
論文参考訳（メタデータ） (2022-07-29T21:29:29Z)
Meta Reinforcement Learning with Successor Feature Based Context [51.35452583759734]
本稿では,既存のメタRLアルゴリズムと競合する性能を実現するメタRL手法を提案する。本手法は,複数のタスクに対して同時に高品質なポリシーを学習するだけでなく,短時間のトレーニングで新しいタスクに迅速に適応できる。
論文参考訳（メタデータ） (2022-07-29T14:52:47Z)
Efficient Reward Poisoning Attacks on Online Deep Reinforcement Learning [6.414910263179327]
オンライン深層学習(DRL)における報酬中毒に関する研究我々は、敵MDP攻撃と呼ばれる一般的なブラックボックス報酬中毒フレームワークを設計することで、最先端DRLアルゴリズムの本質的な脆弱性を実証する。以上の結果から,我々の攻撃は,いくつかの古典的制御環境や MuJoCo 環境下で学習する有害物質を効果的に検出できることがわかった。
論文参考訳（メタデータ） (2022-05-30T04:07:19Z)
MALib: A Parallel Framework for Population-based Multi-agent Reinforcement Learning [61.28547338576706]
人口ベースマルチエージェント強化学習(PB-MARL)は、強化学習(RL)アルゴリズムでネストした一連の手法を指す。 PB-MARLのためのスケーラブルで効率的な計算フレームワークMALibを提案する。
論文参考訳（メタデータ） (2021-06-05T03:27:08Z)
Robust Reinforcement Learning on State Observations with Learned Optimal Adversary [86.0846119254031]
逆摂動状態観測による強化学習の堅牢性について検討した。固定されたエージェントポリシーでは、摂動状態の観測に最適な敵を見つけることができる。 DRLの設定では、これは以前のものよりもはるかに強い学習された敵対を介してRLエージェントに新しい経験的敵対攻撃につながります。
論文参考訳（メタデータ） (2021-01-21T05:38:52Z)
Composite Adversarial Attacks [57.293211764569996]
敵対攻撃は、機械学習(ML)モデルを欺くための技術です。本論文では,攻撃アルゴリズムの最適組み合わせを自動的に探索するための複合攻撃法(Composite Adrial Attack,CAA)を提案する。 CAAは11の防衛でトップ10の攻撃を破り、時間の経過は少ない。
論文参考訳（メタデータ） (2020-12-10T03:21:16Z)
Robust Deep Reinforcement Learning through Adversarial Loss [74.20501663956604]
近年の研究では、深層強化学習剤は、エージェントの入力に対する小さな逆方向の摂動に弱いことが示されている。敵攻撃に対する堅牢性を向上した強化学習エージェントを訓練するための原則的フレームワークであるRADIAL-RLを提案する。
論文参考訳（メタデータ） (2020-08-05T07:49:42Z)
Stealthy and Efficient Adversarial Attacks against Deep Reinforcement Learning [30.46580767540506]
本稿では,Deep Reinforcement Learning Agentを効果的かつ効果的に攻撃するための2つの新しい敵攻撃手法を紹介する。敵は将来の環境状態とエージェントの行動を予測するモデルを構築し、それぞれの攻撃戦略の損傷を評価し、最適な攻撃方法を選択する。敵は自動的にドメインに依存しないモデルを学び、エピソード中のエージェントを攻撃する重要な瞬間を発見する。
論文参考訳（メタデータ） (2020-05-14T16:06:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。