論文の概要: Cooperating with Future Collaborators: Multi-Agent RL under Staggered Participation
- arxiv url: http://arxiv.org/abs/2610.07578v1
- Date: Tue, 06 Oct 2026 01:13:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.741638
- Title: Cooperating with Future Collaborators: Multi-Agent RL under Staggered Participation
- Title(参考訳): 今後の共同作業者との連携--多エージェントRLの課題と課題
- Abstract要約: MARL(Multi-Agent Reinforcement Learning)では、エージェントはしばしば同時参加の下で訓練される。
我々は,この設定を,クロスタイムでクロスエージェントな学習依存性を導入するスタッガード・参加(SP)として研究する。
我々は,これら2つの部分に対処し,先行エージェントに対する前向きな獲得監督と,後続エージェントに対する結果監督型レシーバ学習を併用する訓練時間増強であるStaggered Participation Learning (SPL)を提案する。
- 参考スコア(独自算出の注目度): 14.768419051583658
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In cooperative Multi-Agent Reinforcement Learning (MARL), agents are often trained under concurrent participation, while in many tasks some agents act earlier and leave task-relevant information that becomes useful to agents participating later. We study this setting as staggered participation (SP), which introduces a cross-time, cross-agent learning dependency because an early action may affect the return through the information it provides and the later policy that uses it. Learning under SP therefore requires both identifying what information is useful for future decisions and learning how later agents should use it. We propose Staggered Participation Learning (SPL), a training-time augmentation that addresses these two parts with prospective acquisition supervision for earlier agents and outcome-supervised receiver learning for later agents. We evaluate SPL across multiple policy-based MARL backbones, environments, and staggered-participation patterns. Across 60 MPE/RWARE backbone setting comparisons, SPL achieves higher observed mean task completion in every case, with an average difference of 14.1%. The gains also extend to eight-agent teams and a physics-based UAV-UGV environment in Isaac Lab, providing evidence across algorithmic, temporal, and embodied settings.
- Abstract(参考訳): MARL(Multi-Agent Reinforcement Learning)では、エージェントはしばしば同時参加の下で訓練される。
我々は、この設定を段階的参加(SP)として研究し、その情報とそれを用いた後続のポリシーを通じて、早期行動が返却に影響を与える可能性があるため、クロスタイムでクロスエージェントな学習依存を導入する。
したがって、SPの下での学習には、将来の決定に有用な情報を特定することと、その後のエージェントの使い方を学ぶことの両方が必要である。
我々は,これら2つの部分に対処し,先行エージェントに対する前向きな獲得監督と,後続エージェントに対する結果監督型レシーバ学習を併用する訓練時間増強であるStaggered Participation Learning (SPL)を提案する。
我々は、複数のポリシーベースのMARLバックボーン、環境、および停滞した参加パターンにおけるSPLを評価した。
60 MPE/RWAREのバックボーン設定の比較では、SPLは各ケースで平均タスク完了率を14.1%と高めている。
また、アイザック研究所の8人のエージェントチームと物理学ベースのUAV-UGV環境にも拡大され、アルゴリズム、時間的、具体的設定にまたがる証拠を提供する。
関連論文リスト
- Collaborative Multi-Agent Test-Time Reinforcement Learning for Reasoning [112.16686518063456]
textbfMulti-Agent Test-Time Reinforcement Learning (MATTRL)を導入する。
MATTRLは、マルチターンの議論、テストタイムの経験の検索と統合、最終的な意思決定のコンセンサスに到達するための、複数の専門家のチームを形成する。
MATTRLは、医学、数学、教育の挑戦的なベンチマーク全体にわたって、マルチエージェントベースラインで平均3.67%、同等のシングルエージェントベースラインで平均8.67%の精度を向上する。
論文 参考訳(メタデータ) (2026-01-14T17:57:43Z) - From Novice to Expert: LLM Agent Policy Optimization via Step-wise Reinforcement Learning [62.54484062185869]
本稿では,エージェントの強化学習プロセスの最適化にステップワイド報酬を利用するStepAgentを紹介する。
エージェント反射とポリシー調整を容易にする暗黙の逆・逆の強化学習手法を提案する。
論文 参考訳(メタデータ) (2024-11-06T10:35:11Z) - Selectively Sharing Experiences Improves Multi-Agent Reinforcement Learning [9.25057318925143]
エージェントは他のエージェントと、トレーニング中に観察される遷移の限られた数で共有する、新しいマルチエージェントRLアプローチを提案する。
提案手法は,ベースラインの非共有型分散トレーニングと最先端のマルチエージェントRLアルゴリズムより優れていることを示す。
論文 参考訳(メタデータ) (2023-11-01T21:35:32Z) - Learning From Good Trajectories in Offline Multi-Agent Reinforcement
Learning [98.07495732562654]
オフラインマルチエージェント強化学習(MARL)は、事前コンパイルされたデータセットから効果的なマルチエージェントポリシーを学ぶことを目的としている。
オフラインのMARLが学んだエージェントは、しばしばこのランダムなポリシーを継承し、チーム全体のパフォーマンスを脅かす。
この問題に対処するために,共有個人軌道(SIT)と呼ばれる新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-28T18:11:26Z) - Scalable Multi-Agent Inverse Reinforcement Learning via
Actor-Attention-Critic [54.2180984002807]
マルチエージェント逆逆強化学習 (MA-AIRL) は, 単エージェントAIRLをマルチエージェント問題に適用する最近の手法である。
本稿では,従来の手法よりもサンプル効率が高く,スケーラブルなマルチエージェント逆RLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-02-24T20:30:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。