論文の概要: Robust Communicative Multi-Agent Reinforcement Learning with Active Defense

• arxiv url: http://arxiv.org/abs/2312.11545v1
• Date: Sat, 16 Dec 2023 09:02:56 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-20 18:48:02.774439
• Title: Robust Communicative Multi-Agent Reinforcement Learning with Active Defense
• Title（参考訳）: アクティブディフェンスを用いたロバスト通信多エージェント強化学習
• Authors: Lebin Yu, Yunbo Qiu, Quanming Yao, Yuan Shen, Xudong Zhang and Jian Wang
• Abstract要約: エージェントは、潜在的に有害なメッセージが最終決定に与える影響を自動的に軽減するアクティブ・ディフェンス戦略を提案する。 我々は、受信したメッセージの信頼性を推定し、最終決定への影響を調整するアクティブディフェンス・マルチエージェント通信フレームワーク(ADMAC)を設計する。 既存の手法よりもADMACの方が優れていることは、4種類の攻撃下での3つのコミュニケーションクリティカルなタスクの実験によって検証される。
• 参考スコア（独自算出の注目度）: 38.6815513394882
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Communication in multi-agent reinforcement learning (MARL) has been proven to effectively promote cooperation among agents recently. Since communication in real-world scenarios is vulnerable to noises and adversarial attacks, it is crucial to develop robust communicative MARL technique. However, existing research in this domain has predominantly focused on passive defense strategies, where agents receive all messages equally, making it hard to balance performance and robustness. We propose an active defense strategy, where agents automatically reduce the impact of potentially harmful messages on the final decision. There are two challenges to implement this strategy, that are defining unreliable messages and adjusting the unreliable messages' impact on the final decision properly. To address them, we design an Active Defense Multi-Agent Communication framework (ADMAC), which estimates the reliability of received messages and adjusts their impact on the final decision accordingly with the help of a decomposable decision structure. The superiority of ADMAC over existing methods is validated by experiments in three communication-critical tasks under four types of attacks.
• Abstract（参考訳）: マルチエージェント強化学習(MARL)におけるコミュニケーションは,エージェント間の協調を効果的に促進することが証明されている。 実世界のシナリオにおけるコミュニケーションはノイズや敵対的な攻撃に弱いため、堅牢な通信的marl手法を開発することが重要である。 しかし、この領域における既存の研究は受動的防御戦略に重点を置いており、エージェントが全てのメッセージを等しく受信することで、パフォーマンスと堅牢性のバランスが困難になっている。 エージェントは、潜在的に有害なメッセージが最終決定に与える影響を自動的に軽減するアクティブ・ディフェンス戦略を提案する。 信頼できないメッセージを定義し、信頼できないメッセージが最終決定に与える影響を適切に調整する、この戦略を実装するには2つの課題があります。 そこで我々は、受信したメッセージの信頼性を推定し、分解可能な決定構造の助けを借りて最終決定への影響を調整するアクティブディフェンス・マルチエージェント通信フレームワーク(ADMAC)を設計する。 既存の手法に対するadmacの優位性は、4種類の攻撃の下で3つのコミュニケーションクリティカルなタスクにおける実験によって検証される。

関連論文リスト

• T2MAC: Targeted and Trusted Multi-Agent Communication through Selective Engagement and Evidence-Driven Integration [15.91335141803629]
  我々は、エージェントが選択的なエンゲージメントとエビデンス駆動の統合を学ぶのを助けるために、T2MAC(Targeted and Trusted Multi-Agent Communication)を提案する。 T2MACは、エージェントが個別化されたメッセージを作成し、理想的なコミュニケーションウィンドウをピンポイントし、信頼できるパートナーと対話することを可能にする。 本手法は,様々な課題を伴って,多様な協調型マルチエージェントタスクに対して評価を行う。
  論文  参考訳（メタデータ） (2024-01-19T18:00:33Z)
• Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
  多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。 MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。 我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
  論文  参考訳（メタデータ） (2023-10-18T11:36:42Z)
• Multi-Agent Reinforcement Learning Based on Representational Communication for Large-Scale Traffic Signal Control [13.844458247041711]
  交通信号制御(TSC)は、インテリジェント交通システムにおいて難しい問題である。 大規模TSCのための通信ベースのMARLフレームワークを提案する。 私たちのフレームワークでは、各エージェントがメッセージのどの部分を誰に"送信"するかを指示する通信ポリシーを学習することができます。
  論文  参考訳（メタデータ） (2023-10-03T21:06:51Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)
• Coordinating Policies Among Multiple Agents via an Intelligent Communication Channel [81.39444892747512]
  MARL(Multi-Agent Reinforcement Learning)では、エージェントが直接通信できる特別なチャンネルがしばしば導入される。 本稿では,エージェントの集団的性能を向上させるために,エージェントが提供した信号の伝達と解釈を学習する,インテリジェントなファシリテータを通じてエージェントがコミュニケーションする手法を提案する。
  論文  参考訳（メタデータ） (2022-05-21T14:11:33Z)
• Mis-spoke or mis-lead: Achieving Robustness in Multi-Agent Communicative Reinforcement Learning [37.24674549469648]
  我々は、MACRLメソッドに対するメッセージアタックの実施に向けた第一歩を踏み出す。 我々はメッセージ再構成による防衛手法を開発した。 我々は、悪意あるエージェントが、防御的コミュニケーション政策の変化と改善に適応する能力を考える。
  論文  参考訳（メタデータ） (2021-08-09T04:41:47Z)
• Adversarial Attacks On Multi-Agent Communication [80.4392160849506]
  現代の自律システムはすぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 このような利点は、セキュリティ侵害に対して脆弱であることが示されている通信チャネルに大きく依存している。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。
  論文  参考訳（メタデータ） (2021-01-17T00:35:26Z)
• Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication [5.161531917413708]
  マルチエージェントシステムにおける敵通信に対する堅牢性の提供という課題について考察する。 グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。 本手法は,非協力的エージェントがもたらす影響を低減できることを示す。
  論文  参考訳（メタデータ） (2020-12-01T14:21:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。