論文の概要: Decomposing Communication Gain and Delay Cost Under Cross-Timestep Delays in Cooperative Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2604.03785v1
- Date: Sat, 04 Apr 2026 16:14:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.76948
- Title: Decomposing Communication Gain and Delay Cost Under Cross-Timestep Delays in Cooperative Multi-Agent Reinforcement Learning
- Title(参考訳): 協調型マルチエージェント強化学習におけるクロスステップ遅延時の通信利得と遅延コストの分解
- Authors: Zihong Gao, Hongjian Liang, Lei Hao, Liangjun Ke,
- Abstract要約: 遅延通信部分可観測マルコフゲーム(DeComm-POMG)を形式化する。
我々は、メッセージの効果を、コミュニケーションゲインと遅延コストの指標として、コミュニケーションゲインと遅延コストに分解する。
- 参考スコア(独自算出の注目度): 1.6735996397275577
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Communication is essential for coordination in \emph{cooperative} multi-agent reinforcement learning under partial observability, yet \emph{cross-timestep} delays cause messages to arrive multiple timesteps after generation, inducing temporal misalignment and making information stale when consumed. We formalize this setting as a delayed-communication partially observable Markov game (DeComm-POMG) and decompose a message's effect into \emph{communication gain} and \emph{delay cost}, yielding the Communication Gain and Delay Cost (CGDC) metric. We further establish a value-loss bound showing that the degradation induced by delayed messages is upper-bounded by a discounted accumulation of an information gap between the action distributions induced by timely versus delayed messages. Guided by CGDC, we propose \textbf{CDCMA}, an actor--critic framework that requests messages only when predicted CGDC is positive, predicts future observations to reduce misalignment at consumption, and fuses delayed messages via CGDC-guided attention. Experiments on no-teammate-vision variants of Cooperative Navigation and Predator Prey, and on SMAC maps across multiple delay levels show consistent improvements in performance, robustness, and generalization, with ablations validating each component.
- Abstract(参考訳): 部分可観測性の下での多エージェント強化学習において,コミュニケーションは協調に不可欠である。しかし \emph{cross-timestep} の遅延は,メッセージの生成後に複数のタイムステップに到達し,時間的ずれを誘発し,消費時に情報を不安定にする。
我々は、この設定を遅延可観測マルコフゲーム(DeComm-POMG)として定式化し、メッセージの効果を \emph{communication gain} と \emph{delay cost} に分解し、通信ゲインと遅延コスト(CGDC)の測定値を得る。
さらに、遅延メッセージによって引き起こされる劣化が、タイムリーなメッセージと遅延メッセージによって引き起こされる動作分布間の情報ギャップの割引蓄積によって上界となることを示す値損失境界を確立する。
CGDCによってガイドされ,予測されたCGDCが正の場合にのみメッセージを要求するアクター批判型フレームワークである‘textbf{CDCMA} が提案される。
協調航法と捕食者の獲物の非チームメイト型と、複数の遅延レベルにわたるSMACマップの実験は、各コンポーネントを検証し、性能、堅牢性、一般化の一貫性のある改善を示している。
関連論文リスト
- Wireless Federated Multi-Task LLM Fine-Tuning via Sparse-and-Orthogonal LoRA [61.12136997430116]
低ランク適応(LoRA)に基づく分散連合学習(DFL)により、マルチタスクデータセットを持つモバイルデバイスは、ローカルに更新されたパラメータを、無線接続を介して近隣デバイスのサブセットと交換することで、大きな言語モデル(LLM)を協調的に微調整することができる。
不均一データセットに微調整されたパラメータを直接集約すると、DFLライフサイクルの3つの主要な問題が発生する: (i) 微調整プロセス中に忘れる破滅的な知識、(ii) データの異種性に起因する更新方向の矛盾に起因する。
論文 参考訳(メタデータ) (2026-02-24T02:45:32Z) - Cooperation Breakdown in LLM Agents Under Communication Delays [3.619444603816032]
本稿では,自律エージェント群における協調と協調の出現を概念化するFLCOAフレームワークを提案する。
通信遅延の影響を調べるために,通信遅延を伴う連続囚人ジレンマを導入する。
過度な遅延は、エクスプロイトのサイクルを減少させ、遅延度と相互協力のU字型関係をもたらすことが判明した。
論文 参考訳(メタデータ) (2026-02-12T09:31:47Z) - Bandwidth-constrained Variational Message Encoding for Cooperative Multi-agent Reinforcement Learning [23.866517021196724]
グラフベースのマルチエージェント強化学習(MARL)は,ノードとしてエージェントをモデル化し,エッジとして通信リンクをモデル化することにより,部分観測可能性下での協調動作を可能にする。
本研究では,この帯域幅制限方式について検討し,ナイーブ次元の低減が常に調整性能を低下させることを示す。
我々は,KLの発散により正規化されたガウスのサンプルとしてメッセージを扱う軽量モジュールであるBVME(Band-Constrained Variational Message)を紹介する。
BVMEは67~83%のメッセージディメンションを使用しながら、同等あるいは優れたパフォーマンスを実現している。
論文 参考訳(メタデータ) (2025-12-11T23:56:43Z) - Real-Time Inference for Distributed Multimodal Systems under Communication Delay Uncertainty [37.15356899831919]
接続されたサイバー物理システムは、複数のデータストリームからのリアルタイム入力に基づいて推論を行う。
本稿では,適応時間窓を用いたニューラルインスパイアされたノンブロッキング推論パラダイムを提案する。
我々のフレームワークは、精度-遅延トレードオフをきめ細かな制御で堅牢なリアルタイム推論を実現する。
論文 参考訳(メタデータ) (2025-11-20T10:48:54Z) - CoDe: Communication Delay-Tolerant Multi-Agent Collaboration via Dual Alignment of Intent and Timeliness [21.627120541083553]
本稿では,通信遅延耐性多エージェント協調(CoDe)という新しいフレームワークを提案する。
最初にCoDeは、将来のアクション推論を通じてメッセージとしての意図表現を学習する。
次にCoDeは、非同期メッセージの融合プロセスを強化するために、インテントとタイムラインの二重アライメント機構を考案した。
論文 参考訳(メタデータ) (2025-01-09T12:57:41Z) - DASA: Delay-Adaptive Multi-Agent Stochastic Approximation [64.32538247395627]
我々は,N$エージェントが並列に動作し,中央サーバと通信することで,一般的な近似問題を高速化することを目的とした設定を考える。
遅延とストラグラーの効果を軽減するために,マルチエージェント近似のための遅延適応アルゴリズムである textttDASA を提案する。
論文 参考訳(メタデータ) (2024-03-25T22:49:56Z) - DACOM: Learning Delay-Aware Communication for Multi-Agent Reinforcement
Learning [19.36041216505116]
コミュニケーション遅延を無視することはコラボレーションに有害な影響を与えることを示す。
遅延に適応するための遅延対応マルチエージェント通信モデル(DACOM)を設計する。
実験の結果,DACOMは他の機構に比べて非無視的な性能向上が見られた。
論文 参考訳(メタデータ) (2022-12-03T14:20:59Z) - Accelerating Federated Edge Learning via Optimized Probabilistic Device
Scheduling [57.271494741212166]
本稿では,通信時間最小化問題を定式化し,解決する。
最適化されたポリシーは、トレーニングプロセスが進むにつれて、残りの通信ラウンドの抑制から、ラウンドごとのレイテンシの低減へと、徐々に優先順位を転換している。
提案手法の有効性は,自律運転における協調的3次元目標検出のユースケースを通じて実証される。
論文 参考訳(メタデータ) (2021-07-24T11:39:17Z) - Learning to Communicate and Correct Pose Errors [75.03747122616605]
本稿では、V2VNetで提案された設定について検討し、近くにある自動運転車が共同で物体検出と動き予測を協調的に行う方法を提案する。
本稿では,コミュニケーションを学習し,潜在的な誤りを推定し,それらの誤りについてコンセンサスを得るための新しいニューラルネットワーク推論フレームワークを提案する。
論文 参考訳(メタデータ) (2020-11-10T18:19:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。