Fugu-MT 論文翻訳(概要): Wolfpack Adversarial Attack for Robust Multi-Agent Reinforcement Learning

論文の概要: Wolfpack Adversarial Attack for Robust Multi-Agent Reinforcement Learning

arxiv url: http://arxiv.org/abs/2502.02844v2
Date: Fri, 14 Feb 2025 13:27:24 GMT
ステータス: 翻訳完了
システム内更新日: 2025-02-17 18:05:46.878065
Title: Wolfpack Adversarial Attack for Robust Multi-Agent Reinforcement Learning
Title（参考訳）: 頑健なマルチエージェント強化学習のためのWolfpack Adversarial Attack
Authors: Sunwoo Lee, Jaebak Hwang, Yonghyeon Jo, Seungyul Han,
Abstract要約: 我々はオオカミ狩猟戦略に触発されたWolfpack Adversarial Attackフレームワークを提案する。我々はまた、Wolfpack-Adversarial Learning for MARLフレームワークを導入し、提案したWolfpack攻撃に対して堅牢なMARLポリシーをトレーニングする。
参考スコア（独自算出の注目度）: 9.661249369247349
License:
Abstract: Traditional robust methods in multi-agent reinforcement learning (MARL) often struggle against coordinated adversarial attacks in cooperative scenarios. To address this limitation, we propose the Wolfpack Adversarial Attack framework, inspired by wolf hunting strategies, which targets an initial agent and its assisting agents to disrupt cooperation. Additionally, we introduce the Wolfpack-Adversarial Learning for MARL (WALL) framework, which trains robust MARL policies to defend against the proposed Wolfpack attack by fostering system-wide collaboration. Experimental results underscore the devastating impact of the Wolfpack attack and the significant robustness improvements achieved by WALL.
Abstract（参考訳）: 多エージェント強化学習(MARL)における従来のロバストな手法は、協調的なシナリオにおける協調的敵攻撃としばしば戦っている。この制限に対処するために,オオカミの狩猟戦略に触発されたWolfpack Adversarial Attackフレームワークを提案する。さらに,Wolfpack-Adversarial Learning for MARL (WALL) フレームワークを導入する。実験結果は、ウルフパック攻撃による破壊的な影響と、WALLによって達成された顕著な堅牢性の改善を裏付けるものである。

関連論文リスト

Purple-teaming LLMs with Adversarial Defender Training [57.535241000787416]
本稿では,PAD(Adversarial Defender Training)を用いたPurple-teaming LLMを提案する。 PADは、赤チーム(アタック)技術と青チーム(セーフティトレーニング)技術を新たに取り入れることで、LSMを保護するために設計されたパイプラインである。 PADは、効果的な攻撃と堅牢な安全ガードレールの確立の両方において、既存のベースラインを著しく上回っている。
論文参考訳（メタデータ） (2024-07-01T23:25:30Z)
Learning diverse attacks on large language models for robust red-teaming and safety tuning [126.32539952157083]
レッドチーム、あるいは有害な応答を誘発するプロンプトの特定は、大きな言語モデルの安全なデプロイを保証するための重要なステップである。新規性と多様性を優先する明確な規則化であっても、既存のアプローチはモード崩壊または効果的な攻撃を発生させることができないことを示す。我々は,GFlowNetの微調整と二次平滑化フェーズを用いて,多種多様な効果的な攻撃プロンプトを生成するために攻撃モデルを訓練することを提案する。
論文参考訳（メタデータ） (2024-05-28T19:16:17Z)
Large Language Model Sentinel: LLM Agent for Adversarial Purification [27.461127931996323]
大規模言語モデル(LLM)は、よく設計されたテキストの摂動による敵攻撃に対して脆弱である。 LLAMOS(Large LAnguage Model Sentinel)と呼ばれる新しい防御技術を導入し,LLMの対角的堅牢性を高める。
論文参考訳（メタデータ） (2024-05-24T07:23:56Z)
Attack Prompt Generation for Red Teaming and Defending Large Language Models [70.157691818224]
大規模言語モデル (LLM) は、有害なコンテンツを生成するためにLSMを誘導するレッド・チーム・アタックの影響を受けやすい。本稿では、手動と自動の手法を組み合わせて、高品質な攻撃プロンプトを経済的に生成する統合的アプローチを提案する。
論文参考訳（メタデータ） (2023-10-19T06:15:05Z)
Efficient Adversarial Attacks on Online Multi-agent Reinforcement Learning [45.408568528354216]
対人攻撃がマルチエージェント強化学習(MARL)に及ぼす影響について検討する。検討された設定では、エージェントがそれらを受け取る前に報酬を変更したり、環境がそれを受け取る前にアクションを操作することができる攻撃者がいる。この混合攻撃戦略は,攻撃者が基礎となる環境やエージェントのアルゴリズムに関する事前情報を持っていなくても,MARLエージェントを効果的に攻撃することができることを示す。
論文参考訳（メタデータ） (2023-07-15T00:38:55Z)
Enhancing the Robustness of QMIX against State-adversarial Attacks [6.627954554805906]
本稿では,SARLアルゴリズムの堅牢性を向上し,それらをマルチエージェントシナリオに拡張する4つの手法について論じる。我々は、この研究で様々な攻撃を用いてモデルを訓練する。次に、トレーニングフェーズ全体を通して、対応する攻撃に適応して、他の攻撃を用いて教えられたモデルをテストする。
論文参考訳（メタデータ） (2023-07-03T10:10:34Z)
Cooperation or Competition: Avoiding Player Domination for Multi-Target Robustness via Adaptive Budgets [76.20705291443208]
我々は、敵攻撃を、異なるプレイヤーがパラメータ更新の合同方向で合意に達するために交渉する交渉ゲームであると見なしている。我々は、プレイヤーの優位性を避けるために、異なる敵の予算を調整する新しいフレームワークを設計する。標準ベンチマークの実験では、提案したフレームワークを既存のアプローチに適用することで、マルチターゲットロバスト性が大幅に向上することが示された。
論文参考訳（メタデータ） (2023-06-27T14:02:10Z)
LAS-AT: Adversarial Training with Learnable Attack Strategy [82.88724890186094]
LAS-ATと呼ばれる「学習可能な攻撃戦略」は、モデル堅牢性を改善するための攻撃戦略を自動生成することを学ぶ。当社のフレームワークは,強靭性向上のためのトレーニングにAEを使用するターゲットネットワークと,AE生成を制御するための攻撃戦略を生成する戦略ネットワークで構成されている。
論文参考訳（メタデータ） (2022-03-13T10:21:26Z)
Robust Federated Learning with Attack-Adaptive Aggregation [45.60981228410952]
フェデレート学習は、モデル中毒やバックドア攻撃など、様々な攻撃に対して脆弱である。本研究では,ロバスト学習のためのアタック・アダプティブ・アグリゲーション戦略を提案する。
論文参考訳（メタデータ） (2021-02-10T04:23:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。