論文の概要: Finding the Weakest Link: Adversarial Attack against Multi-Agent Communications

• arxiv url: http://arxiv.org/abs/2605.13170v1
• Date: Wed, 13 May 2026 08:32:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:27.915376
• Title: Finding the Weakest Link: Adversarial Attack against Multi-Agent Communications
• Title（参考訳）: ウェイクストリンクの発見:マルチエージェント通信に対する敵対的攻撃
• Authors: Maxwell Standen, Junae Kim, Claudia Szabo,
• Abstract要約: マルチエージェント強化学習訓練システムに対する単一ビビティ通信摂動攻撃について検討する。 本稿では,攻撃に最も影響を受けやすいメッセージ,エージェント,タイムステップを特定するために,ヤコビアンからの勾配情報を利用する手法を提案する。
• 参考スコア（独自算出の注目度）: 1.0937094979510211
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-agent systems rely on communication for information sharing and action coordination, which exposes a vulnerability to attacks. We investigate single-victim communication perturbation attacks against Multi-Agent Reinforcement Learning-trained systems and propose methods that use gradient information from the Jacobian to identify which messages, agent, and timesteps are most susceptible to attack and have the greatest impact on the system. We enhance these methods with two proposed adversarial loss functions that trade-off attack success for attack impact which also create more effective perturbations. We empirically demonstrate the effectiveness of our methods against two different multi-agent communication methods in navigation, PredatorPrey, and TrafficJunction environments. Our results show that our novel message selection method achieves a similar or greater impact than random message selection across almost all tested scenarios. Our victim selection, message selection, tempo, and loss functions improve attack effectiveness in half of the thirty scenarios we tested.
• Abstract（参考訳）: マルチエージェントシステムは情報共有と行動調整のための通信に依存しており、攻撃に対する脆弱性を公開する。 マルチエージェント強化学習訓練システムに対する単一ビビティ通信の摂動攻撃について検討し、ジャコビアンからの勾配情報を用いて攻撃に最も敏感なメッセージ、エージェント、タイムステップを識別し、システムに最も影響を与える方法を提案する。 これらの手法を2つの対向損失関数を用いて強化し、より効果的な摂動を発生させる攻撃影響に対するトレードオフ攻撃を成功させる。 ナビゲーション,PredatorPrey,TrafficJunction環境における2つの異なるマルチエージェント通信方式に対する提案手法の有効性を実証的に実証した。 提案手法は, ほぼすべてのテストシナリオにおいて, ランダムなメッセージ選択と同じような, あるいは大きな影響をもたらすことを示す。 被害者の選択、メッセージの選択、テンポ、損失関数は、テストした30のシナリオの半分で攻撃の有効性を改善します。

関連論文リスト

• Multi-Agent Reinforcement Learning with Communication-Constrained Priors [22.124940712335434]
  コミュニケーションは、マルチエージェントシステムにおける協調政策の学習を改善する効果的な手段の1つである。 コミュニケーションを伴う既存のマルチエージェント強化学習は、複雑で動的な現実世界環境に適用するのに苦労する。 本稿では,コミュニケーションメッセージが世界的報酬に与える影響を定量化する,コミュニケーション制約付きマルチエージェント強化学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-12-03T07:35:07Z)
• MultiPhishGuard: An LLM-based Multi-Agent System for Phishing Email Detection [3.187381965457262]
  MultiPhishGuardは動的マルチエージェント検出システムである。 本フレームワークでは, 政策最適化強化学習アルゴリズムを用いて, 自動決定重み付けを行う5つの協調エージェントを用いる。 実験により、MultiPhishGuardは偽陽性(2.73%)と偽陰性率(0.20%)で高い精度(97.89%)を達成することが示された。
  論文  参考訳（メタデータ） (2025-05-26T23:27:15Z)
• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)
• Mutual-modality Adversarial Attack with Semantic Perturbation [81.66172089175346]
  本稿では,相互モダリティ最適化スキームにおける敵攻撃を生成する新しい手法を提案する。 我々の手法は最先端の攻撃方法より優れており、プラグイン・アンド・プレイ・ソリューションとして容易にデプロイできる。
  論文  参考訳（メタデータ） (2023-12-20T05:06:01Z)
• Robust Communicative Multi-Agent Reinforcement Learning with Active Defense [38.6815513394882]
  エージェントは、潜在的に有害なメッセージが最終決定に与える影響を自動的に軽減するアクティブ・ディフェンス戦略を提案する。 我々は、受信したメッセージの信頼性を推定し、最終決定への影響を調整するアクティブディフェンス・マルチエージェント通信フレームワーク(ADMAC)を設計する。 既存の手法よりもADMACの方が優れていることは、4種類の攻撃下での3つのコミュニケーションクリティカルなタスクの実験によって検証される。
  論文  参考訳（メタデータ） (2023-12-16T09:02:56Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)
• Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems [50.758281304737444]
  本稿では,強化学習に基づく対話型レコメンデーションシステムにおける敵例の探索と攻撃検出を提案する。 まず、入力に摂動を加え、カジュアルな要因に介入することで、異なる種類の逆例を作成する。 そこで,本研究では,人工データに基づく深層学習に基づく分類器による潜在的攻撃を検出することにより,推薦システムを強化した。
  論文  参考訳（メタデータ） (2021-12-02T04:12:24Z)
• Adversarial Attacks On Multi-Agent Communication [80.4392160849506]
  現代の自律システムはすぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 このような利点は、セキュリティ侵害に対して脆弱であることが示されている通信チャネルに大きく依存している。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。
  論文  参考訳（メタデータ） (2021-01-17T00:35:26Z)
• Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication [5.161531917413708]
  マルチエージェントシステムにおける敵通信に対する堅牢性の提供という課題について考察する。 グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。 本手法は,非協力的エージェントがもたらす影響を低減できることを示す。
  論文  参考訳（メタデータ） (2020-12-01T14:21:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。