論文の概要: Fully Byzantine-Resilient Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.25701v1
- Date: Tue, 22 Sep 2026 05:09:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.231006
- Title: Fully Byzantine-Resilient Multi-Agent Reinforcement Learning
- Title(参考訳): 完全ビザンチン耐性多エージェント強化学習
- Abstract要約: ビザンチン耐性アクタークリティカルマルチエージェント強化学習(AC-MARL)について検討した。
既存の手法では、エージェントのパラメータが攻撃のない制限点の近傍にのみ収束することを保証するため、性能が低下する。
本稿では、各エージェントが2ホップメッセージの冗長性を利用して信頼できるメッセージを特定する分散化手法であるFully Resilient AC-MARLを提案する。
- 参考スコア(独自算出の注目度): 7.544222710186157
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study distributed Byzantine-resilient actor-critic multi-agent reinforcement learning (AC-MARL), where agents collectively learn policies through local interactions. Existing methods guarantee convergence of the agents' parameters only to a neighborhood of the attack-free limit points, resulting in degraded performance. We propose Fully Resilient AC-MARL (FRAC-MARL), a decentralized method in which each agent leverages redundancy in two-hop messages to identify reliable messages. Under linear parameterizations of the value and team-reward functions and Byzantine edge attacks, where adversarial behavior is confined to the communication layer, we prove that agents' parameters converge almost surely to the same limit points as in the attack-free case over time-varying communication graphs. We introduce a novel topological condition for the convergence of our method, present a systematic method to construct such networks, and prove that this condition can be verified in polynomial time. Finally, we demonstrate our method on cooperative multi-robot formation control tasks.
- Abstract(参考訳): 本研究では,Byzantine-resilient actor-critic multi-agent reinforcement learning (AC-MARL)について検討した。
既存の手法では、エージェントのパラメータが攻撃のない制限点の近傍にのみ収束することを保証するため、性能が低下する。
本稿では、各エージェントが2ホップメッセージの冗長性を利用して信頼できるメッセージを特定する分散化手法であるFully Resilient AC-MARL(FRAC-MARL)を提案する。
対向行動が通信層に限られるビザンチンエッジ攻撃と値とチーム-リワード関数の線形パラメータ化の下では、エージェントのパラメータが時間変化した通信グラフ上での攻撃自由の場合と同様の極限点にほぼ確実に収束することが証明される。
提案手法の収束のための新しい位相条件を導入し,そのようなネットワークを構築するための体系的手法を提案し,この条件が多項式時間で検証可能であることを証明した。
最後に,協調型マルチロボット生成制御タスクについて述べる。
関連論文リスト
- Learning Communication-Conditioned Generative Policies for Decentralized Multi-Agent Collision Avoidance [2.7429630700600893]
マルチエージェント衝突回避のための分散通信条件生成フレームワークを提案する。
エージェントは、特権的なオフラインデモからトレーニングされたフローマッチングポリシーを使用して、短水平アクションシーケンスを生成する。
提案手法により,短水平動作列の単一ステップの効率的な推論が可能となり,通信ドロップアウト時に優良に劣化する。
論文 参考訳(メタデータ) (2026-09-13T04:04:01Z) - SENTINEL: Stagewise Integrity Verification for Pipeline Parallel Decentralized Training [54.8494905524997]
分散トレーニングは、信頼できない、地理的に分散したノードで実行される場合、重大なセキュリティリスクをもたらす。
重複のないパイプライン並列性(PP)トレーニングの検証機構であるSENTINELを提案する。
実験では、モデル収束と性能を維持しながら、最大176人の労働者を持つ信頼できない分散環境における最大4BパラメータLSMのトレーニングを成功させた。
論文 参考訳(メタデータ) (2026-03-03T23:51:10Z) - Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。
ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。
実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
論文 参考訳(メタデータ) (2025-10-06T14:48:39Z) - MAGIC-MASK: Multi-Agent Guided Inter-Agent Collaboration with Mask-Based Explainability for Reinforcement Learning [0.0]
本稿では,マルチエージェント強化学習への摂動に基づく説明を拡張した数学的基盤を持つMAGIC-MASKを提案する。
提案手法は, 近似ポリシ最適化, 適応型エプシロン・グレーディ探索, および軽量なエージェント間協調を統合した。
この共同作業により、各エージェントは給与誘導マスキングを行い、報酬に基づく洞察を仲間と共有し、臨界状態発見に必要な時間を短縮することができる。
論文 参考訳(メタデータ) (2025-09-30T20:53:28Z) - Offline Multi-agent Reinforcement Learning via Score Decomposition [51.23590397383217]
オフライン協調型マルチエージェント強化学習(MARL)は、分散シフトによる固有の課題に直面している。
この作業は、オフラインとオンラインのMARL間の分散ギャップを明示的に解決する最初の作業である。
論文 参考訳(メタデータ) (2025-05-09T11:42:31Z) - Federated Temporal Difference Learning with Linear Function Approximation under Environmental Heterogeneity [44.2308932471393]
モデル推定の交換により,エージェント数の線形収束速度が向上することを示す。
低ヘテロジニティ系では、モデル推定を交換すると、エージェントの数で線形収束速度が向上する。
論文 参考訳(メタデータ) (2023-02-04T17:53:55Z) - Learning From Good Trajectories in Offline Multi-Agent Reinforcement
Learning [98.07495732562654]
オフラインマルチエージェント強化学習(MARL)は、事前コンパイルされたデータセットから効果的なマルチエージェントポリシーを学ぶことを目的としている。
オフラインのMARLが学んだエージェントは、しばしばこのランダムなポリシーを継承し、チーム全体のパフォーマンスを脅かす。
この問題に対処するために,共有個人軌道(SIT)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-28T18:11:26Z) - RACA: Relation-Aware Credit Assignment for Ad-Hoc Cooperation in
Multi-Agent Deep Reinforcement Learning [55.55009081609396]
本稿では、アドホックな協調シナリオにおいてゼロショットの一般化を実現するRACA(Relation-Aware Credit Assignment)と呼ばれる新しい手法を提案する。
RACAは、エージェント間のトポロジ構造を符号化するために、グラフベースのエンコーダ関係を利用する。
提案手法は,StarCraftIIマイクロマネジメントベンチマークとアドホック協調シナリオのベースライン手法よりも優れている。
論文 参考訳(メタデータ) (2022-06-02T03:39:27Z) - Distributed Adaptive Learning Under Communication Constraints [54.22472738551687]
本研究では,コミュニケーション制約下での運用を目的とした適応型分散学習戦略について検討する。
我々は,ストリーミングデータの連続的な観察から,オンライン最適化問題を解決しなければならないエージェントのネットワークを考える。
論文 参考訳(メタデータ) (2021-12-03T19:23:48Z) - Implicit Multiagent Coordination at Unsignalized Intersections via
Multimodal Inference Enabled by Topological Braids [15.024091680310109]
信号のない交差点における合理的な非コミュニケーションエージェント間のナビゲーションに焦点をあてる。
我々はトポロジカルブレイドの形式主義を用いてコンパクトで解釈可能な方法で共同行動のモードを表現する。
我々は,新たなマルチエージェント動作のモードにおける不確実性を低減するための行動を生成する分散計画アルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-04-10T19:01:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。