論文の概要: Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication

• arxiv url: http://arxiv.org/abs/2012.00508v1
• Date: Tue, 1 Dec 2020 14:21:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-30 19:58:15.452846
• Title: Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication
• Title（参考訳）: 対向通信におけるロバストなマルチエージェント協調のためのガウス過程に基づくメッセージフィルタリング
• Authors: Rupert Mitchell, Jan Blumenkamp and Amanda Prorok
• Abstract要約: マルチエージェントシステムにおける敵通信に対する堅牢性の提供という課題について考察する。 グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。 本手法は,非協力的エージェントがもたらす影響を低減できることを示す。
• 参考スコア（独自算出の注目度）: 5.161531917413708
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we consider the problem of providing robustness to adversarial communication in multi-agent systems. Specifically, we propose a solution towards robust cooperation, which enables the multi-agent system to maintain high performance in the presence of anonymous non-cooperative agents that communicate faulty, misleading or manipulative information. In pursuit of this goal, we propose a communication architecture based on Graph Neural Networks (GNNs), which is amenable to a novel Gaussian Process (GP)-based probabilistic model characterizing the mutual information between the simultaneous communications of different agents due to their physical proximity and relative position. This model allows agents to locally compute approximate posterior probabilities, or confidences, that any given one of their communication partners is being truthful. These confidences can be used as weights in a message filtering scheme, thereby suppressing the influence of suspicious communication on the receiving agent's decisions. In order to assess the efficacy of our method, we introduce a taxonomy of non-cooperative agents, which distinguishes them by the amount of information available to them. We demonstrate in two distinct experiments that our method performs well across this taxonomy, outperforming alternative methods. For all but the best informed adversaries, our filtering method is able to reduce the impact that non-cooperative agents cause, reducing it to the point of negligibility, and with negligible cost to performance in the absence of adversaries.
• Abstract（参考訳）: 本稿では,マルチエージェントシステムにおける対角通信に堅牢性を提供することの問題点について考察する。 具体的には,誤り,誤解,操作的情報を伝達する非協力的エージェントの存在下で,マルチエージェントシステムが高いパフォーマンスを維持することを可能にする,堅牢な協調に向けたソリューションを提案する。 この目的を追求するために,グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。これはガウス過程(GP)に基づく新しい確率論的モデルで,各エージェントの物理的近接と相対位置による相互情報の特徴付けを行う。 このモデルにより、エージェントは、通信相手の1つが真であるという、およその後方確率または信頼を局所的に計算することができる。 これらの信頼感は、メッセージフィルタリングスキームの重みとして使用できるため、受信者の判断に不審なコミュニケーションの影響が抑えられる。 本手法の有効性を評価するため,非協力的エージェントの分類を導入し,それらの情報量で識別する。 我々は,本手法が他の方法よりも優れていることを示す2つの実験を行った。 提案手法は,非協力的エージェントが引き起こす影響を軽減し,無視できる点まで低減し,かつ,敵のいない場合のパフォーマンスに無視できるコストを削減できる。

関連論文リスト

• Communication Learning in Multi-Agent Systems from Graph Modeling Perspective [62.13508281188895]
  本稿では,エージェント間の通信アーキテクチャを学習可能なグラフとして概念化する手法を提案する。 本稿では,各エージェントに対して時間的ゲーティング機構を導入し,ある時間に共有情報を受信するかどうかの動的決定を可能にする。
  論文  参考訳（メタデータ） (2024-11-01T05:56:51Z)
• Learning to Cooperate and Communicate Over Imperfect Channels [27.241873614561538]
  本稿では,エージェントが限定的かつ信頼性の低いチャネルを用いて,情報を分散的に処理・交換する協調型マルチエージェントシステムについて考察する。 提案手法では,異なる大きさのメッセージを送信することで,共有する情報の量に動的に適応することができる。 本手法は,新しい協調型桁予測環境において適応性のない手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-11-24T12:15:48Z)
• Compressed Regression over Adaptive Networks [58.79251288443156]
  分散エージェントのネットワークによって達成可能な性能を導出し,通信制約や回帰問題を解消し,適応的に解決する。 エージェントによって最適化に必要なパラメータをオンラインで学習できる最適化アロケーション戦略を考案する。
  論文  参考訳（メタデータ） (2023-04-07T13:41:08Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)
• Robust Event-Driven Interactions in Cooperative Multi-Agent Learning [0.0]
  本稿では,マルチエージェント学習システムにおけるエージェント間の通信を,基礎となるマルコフ決定プロセスの本質的ロバスト性を利用して削減する手法を提案する。 いわゆるロバストネス代理関数(オフライン)を計算し、エージェントがシステム内の他のエージェントを更新する前に、その状態の測定値がどれくらい逸脱するかを保守的に示す。 これにより、完全に分散された決定関数が実現され、エージェントが他を更新する必要があるかどうかを判断できるようになる。
  論文  参考訳（メタデータ） (2022-04-07T11:00:39Z)
• Distributed Adaptive Learning Under Communication Constraints [54.22472738551687]
  本研究では,コミュニケーション制約下での運用を目的とした適応型分散学習戦略について検討する。 我々は,ストリーミングデータの連続的な観察から,オンライン最適化問題を解決しなければならないエージェントのネットワークを考える。
  論文  参考訳（メタデータ） (2021-12-03T19:23:48Z)
• ROMAX: Certifiably Robust Deep Multiagent Reinforcement Learning via Convex Relaxation [32.091346776897744]
  サイバー物理攻撃は、マルチエージェント強化学習の堅牢性に挑戦することができる。 我々は,他のエージェントの最悪のポリシー更新を推測するミニマックスMARL手法を提案する。
  論文  参考訳（メタデータ） (2021-09-14T16:18:35Z)
• Adversarial Attacks On Multi-Agent Communication [80.4392160849506]
  現代の自律システムはすぐに大規模に展開され、協調型マルチエージェントシステムの可能性を広げる。 このような利点は、セキュリティ侵害に対して脆弱であることが示されている通信チャネルに大きく依存している。 本稿では,エージェントが学習した中間表現を共有してコミュニケーションする新しいマルチエージェント環境において,このような攻撃を探索する。
  論文  参考訳（メタデータ） (2021-01-17T00:35:26Z)
• Learning to Communicate and Correct Pose Errors [75.03747122616605]
  本稿では、V2VNetで提案された設定について検討し、近くにある自動運転車が共同で物体検出と動き予測を協調的に行う方法を提案する。 本稿では,コミュニケーションを学習し,潜在的な誤りを推定し,それらの誤りについてコンセンサスを得るための新しいニューラルネットワーク推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-11-10T18:19:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。