論文の概要: LangMARL: Natural Language Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2604.00722v1
- Date: Wed, 01 Apr 2026 10:32:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:31.94065
- Title: LangMARL: Natural Language Multi-Agent Reinforcement Learning
- Title(参考訳): LangMARL: 自然言語のマルチエージェント強化学習
- Authors: Huaiyuan Yao, Longchao Da, Xiaoou Liu, Charles Fleming, Tianlong Chen, Hua Wei,
- Abstract要約: 大規模言語モデル(LLM)エージェントは、動的環境における協調戦略を自律的に進化させるのに苦労する。
本稿では,LangMARLを提案する。LangMARLは,協調的なMARLから言語空間への信用割当と政策勾配の進化をもたらすフレームワークである。
- 参考スコア(独自算出の注目度): 36.24443050447855
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents struggle to autonomously evolve coordination strategies in dynamic environments, largely because coarse global outcomes obscure the causal signals needed for local policy refinement. We identify this bottleneck as a multi-agent credit assignment problem, which has long been studied in classical multi-agent reinforcement learning (MARL) but remains underaddressed in LLM-based systems. Building on this observation, we propose LangMARL, a framework that brings credit assignment and policy gradient evolution from cooperative MARL into the language space. LangMARL introduces agent-level language credit assignment, pioneers gradient evolution in language space for policy improvement, and summarizes task-relevant causal relations from replayed trajectories to provide dense feedback and improve convergence under sparse rewards. Extensive experiments across diverse cooperative multi-agent tasks demonstrate improved sample efficiency, interpretability, and strong generalization.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントは、局地的な政策改善に必要な因果シグナルを曖昧にするため、動的環境における協調戦略を自律的に進化させるのに苦労する。
我々は,このボトルネックを,従来のマルチエージェント強化学習(MARL)において長年研究されてきたマルチエージェントクレジット代入問題として認識しているが,LLMベースのシステムでは未適応のままである。
この観測に基づいて,協調的なMARLから言語空間への信用割当と政策勾配の進化をもたらすフレームワークであるLangMARLを提案する。
LangMARLはエージェントレベルの言語クレジットの割り当てを導入し、政策改善のための言語空間の勾配進化の先駆者となり、リプレイされた軌道からのタスク関連因果関係を要約し、密集したフィードバックを提供し、スパース報酬の下で収束を改善する。
多様な協調型マルチエージェントタスクに対する広範囲な実験は、サンプル効率、解釈可能性、強力な一般化の向上を実証している。
関連論文リスト
- Optimizing Language Models for Crosslingual Knowledge Consistency [90.86445137816942]
大規模な言語モデルは、しばしば一貫性のない知識を示すことが知られている。
これは、モデルが異なる言語で同様の質問をすることが多い、多言語シナリオにおいて特に問題となる。
本研究では,この問題を構造化報酬関数を用いた強化学習を用いて緩和することができることを示す。
論文 参考訳(メタデータ) (2026-03-04T23:36:55Z) - Natural Language Actor-Critic: Scalable Off-Policy Learning in Language Space [57.868527884634894]
自然言語アクター・クライブ(英: Natural Language Actor-Critic)は、スカラー値ではなく自然言語を用いてポリシーを訓練する新しいアクター批判アルゴリズムである。
NLACが既存のトレーニング手法より優れていることを示すために、推論、Webブラウジング、ツールユースを対話タスクと組み合わせた結果を示す。
論文 参考訳(メタデータ) (2025-12-04T09:21:44Z) - Language-Driven Coordination and Learning in Multi-Agent Simulation Environments [5.139001420948807]
本稿では,大規模言語モデル(LLM)をマルチエージェント強化学習(MARL)に組み込んだ統合フレームワークを提案する。
フレームワークにはCoordinator、Communicator、Memoryの3つのモジュールコンポーネントがあり、サブゴールを動的に生成する。
Google Research Football、Magent Battle、StarCraft IIで評価されている。
論文 参考訳(メタデータ) (2025-06-01T06:46:49Z) - LERO: LLM-driven Evolutionary framework with Hybrid Rewards and Enhanced Observation for Multi-Agent Reinforcement Learning [4.343021413805699]
マルチエージェント強化学習(MARL)は、シングルエージェントRLとは異なる2つの重要なボトルネックに直面している。
LEROは大規模言語モデル(LLM)と進化的最適化を統合し,これらのMARL固有の課題に対処するフレームワークである。
論文 参考訳(メタデータ) (2025-03-25T06:28:42Z) - ReMA: Learning to Meta-think for LLMs with Multi-Agent Reinforcement Learning [53.817538122688944]
Reinforced Meta-thinking Agents (ReMA) を導入し,Large Language Models (LLMs) の推論からメタ思考行動を求める。
ReMAは、推論プロセスを2つの階層的なエージェントに分解する。戦略上の監視と計画を生成するハイレベルなメタ思考エージェントと、詳細な実行のための低レベルな推論エージェントである。
単ターン実験による実験結果から、ReMAは複雑な推論タスクにおいて単エージェントRLベースラインよりも優れることが示された。
論文 参考訳(メタデータ) (2025-03-12T16:05:31Z) - Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。
本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。
我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
論文 参考訳(メタデータ) (2024-02-09T07:45:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。