論文の概要: Meta-Multi-Agent Reinforcement Learning for Fast Adaptation of Interactive Policies with Applications to Autonomous Driving
- arxiv url: http://arxiv.org/abs/2610.00705v1
- Date: Wed, 30 Sep 2026 20:52:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.763863
- Title: Meta-Multi-Agent Reinforcement Learning for Fast Adaptation of Interactive Policies with Applications to Autonomous Driving
- Title(参考訳): 対話型政策の高速適応のためのメタマルチエージェント強化学習と自律運転への応用
- Abstract要約: 本稿では,マルチエージェントシステム(MAS)における対話型ポリシの迅速な適応を可能にするメタマルチエージェント強化学習(Meta-MARL)フレームワークを開発する。
我々はマルコフゲーム(MG)としてマルチエージェント強化学習(MARL)問題をモデル化し、MGの分布にまたがる迅速な対話的ポリシー適応のためのメタMARLフレームワークを開発する。
自律走行タスクの評価は,提案手法が事前学習したMARLベースラインよりも高速な適応を実現することを示す。
- 参考スコア(独自算出の注目度): 12.253859107637728
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper develops a meta-multi-agent reinforcement learning (meta-MARL) framework to enable fast adaptation of interactive policies in a multi-agent system (MAS). Meta-reinforcement learning (meta-RL) enables agents to rapidly adapt to new tasks/environments using a bi-level optimization mechanism. However, existing meta-RL generally focuses on single-agent systems. Extending these frameworks and algorithms to multi-agent systems poses additional challenges, as tasks are characterized by not only the environment but also agents' strategic interactions. To address these challenges, we model multi-agent reinforcement learning (MARL) problems as Markov games (MGs) and develop a meta-MARL framework for rapid interactive policy adaptation across a distribution of MGs. A new concept, called meta-NE, is defined to describe the desired solution concept in a meta-MARL problem. Sufficient conditions for the equivalence between a meta-NE and a stationary point of the gradient-play-based meta-MARL algorithm are established. Our evaluation on autonomous-driving tasks demonstrates that the proposed meta-MARL method achieves faster adaptation than pretrained MARL baselines, validating the effectiveness of our framework.
- Abstract(参考訳): 本稿では,マルチエージェントシステム(MAS)における対話型ポリシの迅速な適応を可能にするメタマルチエージェント強化学習(Meta-MARL)フレームワークを開発する。
メタ強化学習(Meta-RL)は、エージェントがバイレベル最適化機構を使用して、新しいタスク/環境に迅速に適応できるようにする。
しかし、既存のメタRLは一般的にシングルエージェントシステムに焦点を当てている。
これらのフレームワークとアルゴリズムをマルチエージェントシステムに拡張することは、タスクが環境だけでなくエージェントの戦略的相互作用によって特徴づけられるため、さらなる課題をもたらす。
これらの課題に対処するために、マルコフゲーム(MG)としてマルチエージェント強化学習(MARL)問題をモデル化し、MGの分布にまたがる迅速な対話的ポリシー適応のためのメタMARLフレームワークを開発する。
メタ-NEと呼ばれる新しい概念はメタ-MARL問題において望ましい解の概念を記述するために定義される。
勾配プレイに基づくメタMARLアルゴリズムにおいて,メタNEと定常点との等価性の十分条件を確立する。
自律走行タスクの評価は,提案手法が事前学習したMARLベースラインよりも高速に適応できることを示し,本フレームワークの有効性を検証した。
関連論文リスト
- MIRACL: A Diverse Meta-Reinforcement Learning for Multi-Objective Multi-Echelon Combinatorial Supply Chain Optimisation [3.2580935846865677]
階層型メタMORLフレームワークであるMIRACLを導入し、多様なタスクにまたがる数ショットの一般化を可能にする。
MIRACL は従来の MORL のベースラインを単純から中程度のタスクで上回り、最大10% の高ボリュームを実現し、5% のより良いユーティリティを実現している。
論文 参考訳(メタデータ) (2026-03-05T23:42:26Z) - MARTI-MARS$^2$: Scaling Multi-Agent Self-Search via Reinforcement Learning for Code Generation [64.2621682259008]
セルフサーチスケーリングによるマルチエージェント強化トレーニングと推論フレームワーク(MARTI-MARS2)
本稿では,MARTI-MARS2を用いたマルチエージェント強化学習・推論フレームワークを提案する。
我々は、MARTI-MARS2が77.7%を獲得し、GPT-5.1のような強力なベースラインを、挑戦的なコード生成ベンチマークで上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-08T07:28:44Z) - Adaptability in Multi-Agent Reinforcement Learning: A Framework and Unified Review [9.246912481179464]
MARL(Multi-Agent Reinforcement Learning)は、シミュレーションベンチマークと制約付きシナリオ間で複数のエージェントを協調する上で、明らかな効果を示している。
この調査は、動的で実世界のマルチエージェントシステムへのデプロイに適したアルゴリズムの開発に寄与する。
論文 参考訳(メタデータ) (2025-07-14T10:39:17Z) - Collab: Controlled Decoding using Mixture of Agents for LLM Alignment [90.6117569025754]
人間のフィードバックからの強化学習は、大規模言語モデルを整合させる効果的な手法として現れてきた。
制御された復号化は、再訓練せずに推論時にモデルを整列するメカニズムを提供する。
本稿では,既存の既成のLCMポリシを活用するエージェントベースのデコーディング戦略の混合を提案する。
論文 参考訳(メタデータ) (2025-03-27T17:34:25Z) - ReMA: Learning to Meta-think for LLMs with Multi-Agent Reinforcement Learning [53.817538122688944]
Reinforced Meta-thinking Agents (ReMA) を導入し,Large Language Models (LLMs) の推論からメタ思考行動を求める。
ReMAは、推論プロセスを2つの階層的なエージェントに分解する。戦略上の監視と計画を生成するハイレベルなメタ思考エージェントと、詳細な実行のための低レベルな推論エージェントである。
単ターン実験による実験結果から、ReMAは複雑な推論タスクにおいて単エージェントRLベースラインよりも優れることが示された。
論文 参考訳(メタデータ) (2025-03-12T16:05:31Z) - Constrained Meta Agnostic Reinforcement Learning [2.3749120526936465]
制約モデル非依存メタラーニング(C-MAML)
C-MAMLは、トレーニングフェーズ中にタスク固有の制約を直接メタアルゴリズムフレームワークに組み込むことで、迅速かつ効率的なタスク適応を可能にする。
C-MAMLは, 動的環境下での実用性と頑健さを強調し, 複雑度の異なる車輪付きロボットタスクを用いたシミュレーションロコモーションにおける有効性を示す。
論文 参考訳(メタデータ) (2024-06-20T07:11:27Z) - Efficient Adaptation in Mixed-Motive Environments via Hierarchical Opponent Modeling and Planning [51.52387511006586]
本稿では,HOP(Hierarchical Opponent Modeling and Planning)を提案する。
HOPは階層的に2つのモジュールから構成される: 相手の目標を推論し、対応する目標条件のポリシーを学ぶ、反対モデリングモジュール。
HOPは、さまざまな未確認エージェントと相互作用する際、優れた少数ショット適応能力を示し、セルフプレイのシナリオで優れている。
論文 参考訳(メタデータ) (2024-06-12T08:48:06Z) - Heterogeneous Multi-Agent Reinforcement Learning for Zero-Shot Scalable Collaboration [5.326588461041464]
マルチエージェント強化学習(MARL)は、自動運転車ネットワークのような分野を変革している。
異なるロールに対するMARL戦略は、スケールに応じて柔軟に更新することができる。
我々は、スケーラブルで不均一なポリシー最適化(SHPPO)という新しいMARLフレームワークを提案する。
SHPPOは、Starcraft Multi-Agent Challenge (SMAC)やGoogle Research Football (GRF)のような古典的なMARL環境において優れたパフォーマンスを示す。
論文 参考訳(メタデータ) (2024-04-05T03:02:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。