論文の概要: Adversarial Attacks On Multi-Agent Communication

• arxiv url: http://arxiv.org/abs/2101.06560v1
• Date: Sun, 17 Jan 2021 00:35:26 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-28 03:11:51.286558
• Title: Adversarial Attacks On Multi-Agent Communication
• Title（参考訳）: マルチエージェント通信における敵攻撃
• Authors: James Tu, Tsunhsuan Wang, Jingkang Wang, Sivabalan Manivasagam, Mengye Ren, Raquel Urtasun
• Abstract要約: 現代の自律システムはすぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 このような利点は、セキュリティ侵害に対して脆弱であることが示されている通信チャネルに大きく依存している。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。
• 参考スコア（独自算出の注目度）: 80.4392160849506
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Growing at a very fast pace, modern autonomous systems will soon be deployed at scale, opening up the possibility for cooperative multi-agent systems. By sharing information and distributing workloads, autonomous agents can better perform their tasks and enjoy improved computation efficiency. However, such advantages rely heavily on communication channels which have been shown to be vulnerable to security breaches. Thus, communication can be compromised to execute adversarial attacks on deep learning models which are widely employed in modern systems. In this paper, we explore such adversarial attacks in a novel multi-agent setting where agents communicate by sharing learned intermediate representations. We observe that an indistinguishable adversarial message can severely degrade performance, but becomes weaker as the number of benign agents increase. Furthermore, we show that transfer attacks are more difficult in this setting when compared to directly perturbing the inputs, as it is necessary to align the distribution of communication messages with domain adaptation. Finally, we show that low-budget online attacks can be achieved by exploiting the temporal consistency of streaming sensory inputs.
• Abstract（参考訳）: 非常に速いペースで成長する現代の自律システムは、すぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 情報を共有し、ワークロードを分散することにより、自律エージェントはより優れたタスクを実行し、計算効率を向上できる。 しかし、このようなアドバンテージは、セキュリティ侵害に弱いことを示す通信チャネルに大きく依存している。 このように、現代のシステムで広く使われているディープラーニングモデルに対する敵対的攻撃を実行するために、コミュニケーションを損なうことができる。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。 識別不能な敵対的メッセージは、性能を著しく低下させるが、良性エージェントの数が増加するにつれて弱くなる。 さらに、通信メッセージの配信とドメイン適応を整合させる必要があるため、入力を直接摂動させるよりも、この設定では転送攻撃がより困難であることを示す。 最後に,ストリーミングセンサ入力の時間的一貫性を利用して,低予算のオンライン攻撃を実現できることを示す。

関連論文リスト

• Will 6G be Semantic Communications? Opportunities and Challenges from Task Oriented and Secure Communications to Integrated Sensing [49.83882366499547]
  本稿では,マルチタスク学習を統合した次世代(NextG)ネットワークにおけるタスク指向およびセマンティックコミュニケーションの機会と課題について検討する。 我々は、送信側の専用エンコーダと受信側の複数のタスク固有のデコーダを表すディープニューラルネットワークを用いる。 トレーニングとテストの段階において、敵対的攻撃に起因する潜在的な脆弱性を精査する。
  論文  参考訳（メタデータ） (2024-01-03T04:01:20Z)
• Learning to Cooperate and Communicate Over Imperfect Channels [27.241873614561538]
  本稿では,エージェントが限定的かつ信頼性の低いチャネルを用いて,情報を分散的に処理・交換する協調型マルチエージェントシステムについて考察する。 提案手法では,異なる大きさのメッセージを送信することで,共有する情報の量に動的に適応することができる。 本手法は,新しい協調型桁予測環境において適応性のない手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-11-24T12:15:48Z)
• Communication-Robust Multi-Agent Learning by Adaptable Auxiliary Multi-Agent Adversary Generation [8.376257490773192]
  協調型マルチエージェント強化学習(MARL)における協調の促進 我々は,MA3Cと呼ばれるロバスト通信のための多エージェント補助代行生成の適応的手法を提案し,ロバスト通信ベースのポリシーを得る。
  論文  参考訳（メタデータ） (2023-05-09T01:29:46Z)
• Over-communicate no more: Situated RL agents learn concise communication protocols [78.28898217947467]
  互いに効果的に効率的にコミュニケーションできる人工エージェントをいかに設計するかは、不明である。 強化学習(RL)を用いたコミュニケーションの出現に関する研究 エージェントがコミュニケーションを行うための環境行為を強制しなければならない多段階タスクにおける位置的コミュニケーションについて検討する。 テストされたすべてのプレッシャーは過剰なコミュニケーションを阻害する可能性があるが、位置通信は最も効果的であり、努力のコストとは異なり、発生に悪影響を及ぼさない。
  論文  参考訳（メタデータ） (2022-11-02T21:08:14Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)
• Coordinating Policies Among Multiple Agents via an Intelligent Communication Channel [81.39444892747512]
  MARL(Multi-Agent Reinforcement Learning)では、エージェントが直接通信できる特別なチャンネルがしばしば導入される。 本稿では,エージェントの集団的性能を向上させるために,エージェントが提供した信号の伝達と解釈を学習する,インテリジェントなファシリテータを通じてエージェントがコミュニケーションする手法を提案する。
  論文  参考訳（メタデータ） (2022-05-21T14:11:33Z)
• Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication [5.161531917413708]
  マルチエージェントシステムにおける敵通信に対する堅牢性の提供という課題について考察する。 グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。 本手法は,非協力的エージェントがもたらす影響を低減できることを示す。
  論文  参考訳（メタデータ） (2020-12-01T14:21:58Z)
• Learning to Communicate and Correct Pose Errors [75.03747122616605]
  本稿では、V2VNetで提案された設定について検討し、近くにある自動運転車が共同で物体検出と動き予測を協調的に行う方法を提案する。 本稿では,コミュニケーションを学習し,潜在的な誤りを推定し,それらの誤りについてコンセンサスを得るための新しいニューラルネットワーク推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-11-10T18:19:40Z)
• Learning Individually Inferred Communication for Multi-Agent Cooperation [37.56115000150748]
  我々はエージェントエージェントがエージェントエージェントコミュニケーションの事前学習を可能にするために、個別推論通信(I2C)を提案する。 先行知識は因果推論によって学習され、フィードフォワードニューラルネットワークによって実現される。 I2Cは通信オーバーヘッドを減らすだけでなく、様々なマルチエージェント協調シナリオのパフォーマンスを向上させることができる。
  論文  参考訳（メタデータ） (2020-06-11T14:07:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。