論文の概要: Wireless Communication Enhanced Value Decomposition for Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2604.08728v1
- Date: Thu, 09 Apr 2026 19:42:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.56217
- Title: Wireless Communication Enhanced Value Decomposition for Multi-Agent Reinforcement Learning
- Title(参考訳): マルチエージェント強化学習のための無線通信による付加価値分解
- Authors: Diyi Hu, Bhaskar Krishnamachari,
- Abstract要約: マルチエージェント強化学習(MARL)における協調は、エージェント間コミュニケーションの恩恵を受ける。
ほとんどのアプローチでは、理想化されたチャネルと、誰と情報を共有することに成功した既存の価値分解手法を前提としています。
CLOVERは、リアルな無線チャネルで実現された通信グラフ上に、集中値ミキサーを条件付けした協調的なMARLフレームワークである。
- 参考スコア(独自算出の注目度): 5.1629948126220055
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cooperation in multi-agent reinforcement learning (MARL) benefits from inter-agent communication, yet most approaches assume idealized channels and existing value decomposition methods ignore who successfully shared information with whom. We propose CLOVER, a cooperative MARL framework whose centralized value mixer is conditioned on the communication graph realized under a realistic wireless channel. This graph introduces a relational inductive bias into value decomposition, constraining how individual utilities are mixed based on the realized communication structure. The mixer is a GNN with node-specific weights generated by a Permutation-Equivariant Hypernetwork: multi-hop propagation along communication edges reshapes credit assignment so that different topologies induce different mixing. We prove this mixer is permutation invariant, monotonic (preserving the IGM condition), and strictly more expressive than QMIX-style mixers. To handle realistic channels, we formulate an augmented MDP isolating stochastic channel effects from the agent computation graph, and employ a stochastic receptive field encoder for variable-size message sets, enabling end-to-end differentiable training. On Predator-Prey and Lumberjacks benchmarks under p-CSMA wireless channels, CLOVER consistently improves convergence speed and final performance over VDN, QMIX, TarMAC+VDN, and TarMAC+QMIX. Behavioral analysis confirms agents learn adaptive signaling and listening strategies, and ablations isolate the communication-graph inductive bias as the key source of improvement.
- Abstract(参考訳): マルチエージェント強化学習(MARL)における協調は、エージェント間コミュニケーションの恩恵を受けるが、ほとんどのアプローチは理想化されたチャネルを前提としており、既存の値分解手法は、誰が誰と情報を共有できたかを無視している。
CLOVERは、リアルな無線チャネルで実現された通信グラフ上に、集中値ミキサーを条件付けした協調的なMARLフレームワークである。
このグラフは、実際の通信構造に基づいて、個々のユーティリティをどのように混合するかを制約して、値分解にリレーショナル帰納バイアスを導入します。
このミキサーは、Permutation-Equivariant Hypernetworkによって生成されるノード固有の重みを持つGNNである。
我々は、このミキサーが置換不変であり、モノトニック(IGG条件を保存する)であり、QMIXスタイルミキサーよりも厳密に表現可能であることを証明した。
現実的なチャネルを扱うために,エージェント計算グラフから確率的チャネル効果を分離する拡張MDPを定式化し,可変サイズメッセージセットに確率的受容場エンコーダを用い,エンドツーエンドの差別化訓練を可能にする。
p-CSMA無線チャネル下でのPredator-PreyとLumberjacksベンチマークでは、CLOVERは一貫してVDN、QMIX、TarMAC+VDN、TarMAC+QMIXの収束速度と最終性能を改善している。
行動分析により、エージェントは適応的なシグナリングとリスニング戦略を学習し、コミュニケーショングラフ誘導バイアスを改善の鍵源として分離する。
関連論文リスト
- Joint Source-Channel-Generation Coding: From Distortion-oriented Reconstruction to Semantic-consistent Generation [58.67925548779465]
本稿では,知覚的再構成から確率的生成へ焦点を移す新しいパラダイムとして,JSCGC(Joint Source-Channel-Generation Coding)を提案する。
JSCGCは意味的品質と意味的忠実性を大幅に改善し、従来の歪み指向J SCC法よりも大幅に向上する。
論文 参考訳(メタデータ) (2026-01-19T08:12:47Z) - A Transformer Inspired AI-based MIMO receiver [0.5039813366558306]
AttDetの設計は、モデルベースの解釈可能性とデータ駆動の柔軟性を組み合わせる。
5Gチャネルモデルと高次混合QAM変調および符号化方式のリンクレベルシミュレーションによる実演を行う。
AttDetは予測可能で現実的な複雑さを維持しながら、ほぼ最適のBER/BLERパフォーマンスにアプローチすることができる。
論文 参考訳(メタデータ) (2025-10-23T09:05:10Z) - Heterogeneous Multi-Agent Reinforcement Learning for Distributed Channel Access in WLANs [47.600901884970845]
本稿では,マルチエージェント強化学習(MARL)を用いて,無線ローカルネットワークにおける分散チャネルアクセスに対処する。
特に、エージェントがモデルトレーニングに価値ベースまたはポリシーベースの強化学習アルゴリズムを不均一に採用する、より実践的なケースについて考察する。
我々は、分散実行パラダイムを用いた集中型トレーニングを採用し、異種エージェントの協調を可能にする、異種MARLトレーニングフレームワークQPMIXを提案する。
論文 参考訳(メタデータ) (2024-12-18T13:50:31Z) - Diffusion-Driven Semantic Communication for Generative Models with Bandwidth Constraints [66.63250537475973]
本稿では,帯域制限付き生成モデルのための,高度なVAEベースの圧縮を用いた拡散駆動型セマンティック通信フレームワークを提案する。
実験の結果,ピーク信号対雑音比 (PSNR) などの画素レベルの指標と,LPIPS (Learning Perceptual Image patch similarity) のような意味的指標が大幅に改善された。
論文 参考訳(メタデータ) (2024-07-26T02:34:25Z) - Faster Convergence with Less Communication: Broadcast-Based Subgraph Sampling for Decentralized Learning over Wireless Networks [33.73369874759397]
$texttBASS$はD-SGDの収束を加速するために設計された放送ベースのサブグラフサンプリング手法である。
既存のリンクベースのスケジューリング手法と比較して,送信スロットが少ないため,$texttBASS$はより高速な収束を可能にする。
論文 参考訳(メタデータ) (2024-01-24T20:00:23Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Monotonic Value Function Factorisation for Deep Multi-Agent
Reinforcement Learning [55.20040781688844]
QMIXは、中央集権的なエンドツーエンドで分散ポリシーをトレーニングできる新しい価値ベースの手法である。
深層多エージェント強化学習のための新しいベンチマークとして,StarCraft Multi-Agent Challenge (SMAC)を提案する。
論文 参考訳(メタデータ) (2020-03-19T16:51:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。