論文の概要: BARD-MARL: Byzantine-Agent Detection for Learned Communication in Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2606.20701v1
- Date: Mon, 15 Jun 2026 13:52:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 15:58:04.412123
- Title: BARD-MARL: Byzantine-Agent Detection for Learned Communication in Multi-Agent Reinforcement Learning
- Title（参考訳）: BARD-MARL:マルチエージェント強化学習における学習コミュニケーションのためのビザンチンエージェント検出
- Abstract要約: 本稿では,適応信号制御における学習通信MARLのビザンチンエージェント検出について検討する。
本稿では,BayesG上の診断層であるBARD-MARLを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Learned communication improves coordination in cooperative multi-agent reinforcement learning, but it also creates a trust problem: a trained policy may route information through agents that have become faulty or adversarial. This paper studies Byzantine-agent detection for learned-communication MARL in adaptive traffic signal control. We propose BARD-MARL, a post-hoc diagnostic layer on top of BayesG, which is used as an attributed communication substrate rather than as a contribution of this paper. BARD-MARL combines two agent-level evidence streams: policy-graph features extracted from state-action trajectories and Bayesian trust statistics computed from BayesG latent mask probabilities. Across fixed-action, observation-flip, random-noise, and coordinated attacks in SUMO traffic grids, the results show that these signals are complementary rather than universally dominant. On a 25-agent grid, BARD-MARL reaches 0.843 AUC-ROC under a 10% observation-flip attack, while policy-graph-only detection reaches 0.917 AUC-ROC under a 10% coordinated attack. On a 100-agent grid, the unified BARD-MARL variant reaches 0.982 AUC-ROC for both 10% fixed-action and 10% coordinated attacks. The study shows that learned communication policies expose useful diagnostic evidence, but credible resilience claims require attack-specific ablations and explicit separation between coordination, detection, and mitigation.
- Abstract（参考訳）: 学習されたコミュニケーションは、協調的マルチエージェント強化学習における協調性を改善するが、信頼の問題も生み出す。
本稿では,適応信号制御における学習通信MARLのビザンチンエージェント検出について検討する。
本稿では,ベイズG上のポストホック診断層であるBARD-MARLを提案する。
BARD-MARLは2つのエージェントレベルのエビデンスストリームを組み合わせる。
SUMOトラヒックグリッドにおける固定動作, 観測フリップ, ランダムノイズ, コーディネート攻撃の全体にわたって, これらの信号は普遍的に支配的ではなく相補的であることを示す。
25エージェントグリッドでは、BARD-MARLは10%の観測フリップ攻撃で0.843 AUC-ROC、ポリシグラフのみ検出は10%の協調攻撃で0.917 AUC-ROCに達する。
100エージェントグリッドでは、統合されたBARD-MARLは10%の固定アクションと10%の協調攻撃に対して0.982 AUC-ROCに達する。
この研究は、学習されたコミュニケーションポリシーが有用な診断証拠を公開していることを示しているが、信頼できるレジリエンスの主張には、攻撃固有の改善と、協調、検出、緩和の明確な分離が必要である。
関連論文リスト
- Hub-Spectral Activation of Latent Multimodal Knowledge [48.72626098917089]
Hub-Spectral Activation (HSA) は、凍結表現における潜在マルチモーダル知識のハブ可読成分の回復と活性化のための閉形式法である。
HSAは、ハブエッジ統計データを合成し、標準化し、ペア化されたスペクトル方向を抽出し、信頼性に富んだ一致した証拠とソースゲートの候補分解を結合する。
論文 参考訳（メタデータ） (2026-09-15T12:27:42Z) - Fusing Spectral Signatures and Activation Clustering for Backdoor Detection in Healthcare Imaging Models: Method, Implementation, and Evaluation [0.0]
本稿では,クラスごとのスペクトルランクとアクティベーションクラスタリングフラグを組み合わせたスコアレベルの融合ルールを,単一サンプルごとの中毒スコアとモデルレベルの合意統計に貢献する。
公衆医用画像ベンチマークとCIFAR-10の合成毒性変異株に対するパイプラインの評価を行った。
論文 参考訳（メタデータ） (2026-09-13T05:19:12Z) - Harnessing Disagreement: Detecting Correlated Agreement Blindness in Multi-Agent Triage [3.164789424470588]
分散トリガー付きエスカレーションは、マルチエージェント仲裁において構造的な盲点を生み出すことができる。
本稿では,誘導性ランダムフォレスト (RF) エージェントと類似のケースベースk-アネレスト (k-NN) エージェントを組み合わせた指向性星系ARATを提案する。
論文 参考訳（メタデータ） (2026-07-22T08:35:00Z) - StealthRL: Reinforcement Learning Paraphrase Attacks for Multi-Detector Evasion of AI-Text Detectors [0.0]
StealthRLはAIテキスト検出のための強化学習フレームワークである。
我々は,現実的な対向条件下で,マルチ検出器アンサンブルに対してパラフレーズポリシーを訓練する。
StealthRLはゼロに近い検出を実現し、平均AUROCを0.74から0.27に減らし、99.9%の攻撃成功率を達成した。
論文 参考訳（メタデータ） (2026-02-09T17:33:46Z) - Bilevel Optimization for Covert Memory Tampering in Heterogeneous Multi-Agent Architectures (XAMT) [0.0]
マルチエージェントシステム(MAS)は本質的に異種であり、従来のマルチエージェント強化学習(MARL)とLLM(Large Language Model)エージェントアーキテクチャを統合する。
MARLの共有エクスペリエンス再生(ER)バッファとRAGエージェントの外部知識ベース(K)である。
本稿では,XAMT (Bilevel Optimization for Covert Memory Tampering in Heterogeneous Multi-Agent Architectures) を提案する。
論文 参考訳（メタデータ） (2025-12-15T23:04:48Z) - Vulnerable Agent Identification in Large-Scale Multi-Agent Reinforcement Learning [49.31650627835956]
システムがスケールアップすると、部分的なエージェントの障害は避けられないものとなり、全体的なパフォーマンスが著しく低下するエージェントのサブセットを特定することが重要になる。
本稿では,大規模マルチエージェント強化学習(MARL)における脆弱性エージェント識別(VAI)問題について検討する。
実験により, 大規模MARLおよびルールベースシステムにおいて, より脆弱なエージェントを効果的に同定し, システムを悪用し, それぞれのエージェントの脆弱性を明らかにする値関数を学習した。
論文 参考訳（メタデータ） (2025-09-18T16:03:50Z) - VulAgent: Hypothesis-Validation based Multi-Agent Vulnerability Detection [55.957275374847484]
VulAgentは仮説検証に基づくマルチエージェント脆弱性検出フレームワークである。
セマンティクスに敏感なマルチビュー検出パイプラインを実装しており、それぞれが特定の分析の観点から一致している。
平均して、VulAgentは全体的な精度を6.6%改善し、脆弱性のある固定されたコードペアの正確な識別率を最大450%向上させ、偽陽性率を約36%削減する。
論文 参考訳（メタデータ） (2025-09-15T02:25:38Z) - Lie Detector: Unified Backdoor Detection via Cross-Examination Framework [68.45399098884364]
半正直な設定で一貫したバックドア検出フレームワークを提案する。
本手法は,SoTAベースラインよりも5.4%,1.6%,11.9%の精度で検出性能が向上する。
特に、マルチモーダルな大規模言語モデルにおいて、バックドアを効果的に検出するのは、これが初めてである。
論文 参考訳（メタデータ） (2025-03-21T06:12:06Z) - Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。
MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。
我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
論文 参考訳（メタデータ） (2023-10-18T11:36:42Z) - Robustness Testing for Multi-Agent Reinforcement Learning: State
Perturbations on Critical Agents [2.5204420653245245]
MARL(Multi-Agent Reinforcement Learning)は、スマート交通や無人航空機など、多くの分野に広く応用されている。
本研究は,MARLのための新しいロバストネステストフレームワークを提案する。
論文 参考訳（メタデータ） (2023-06-09T02:26:28Z) - COVI-AgentSim: an Agent-based Model for Evaluating Methods of Digital
Contact Tracing [68.68882022019272]
COVI-AgentSimは、ウイルス学、病気の進行、社会的接触ネットワーク、移動パターンに基づくエージェントベースのコンパートメンタルシミュレータである。
1)バイナリテスト結果に基づいてバイナリレコメンデーションを割り当てる標準バイナリコンタクトトレース (BCT) と,2) 多様な特徴に基づいてグレードレベルのレコメンデーションを割り当てる特徴ベースコンタクトトレース (FCT) のルールベースの手法である。
論文 参考訳（メタデータ） (2020-10-30T00:47:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。