論文の概要: LangMARL: Natural Language Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2604.00722v1
- Date: Wed, 01 Apr 2026 10:32:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:31.94065
- Title: LangMARL: Natural Language Multi-Agent Reinforcement Learning
- Title(参考訳): LangMARL: 自然言語のマルチエージェント強化学習
- Abstract要約: 大規模言語モデル(LLM)エージェントは、動的環境における協調戦略を自律的に進化させるのに苦労する。
本稿では,LangMARLを提案する。LangMARLは,協調的なMARLから言語空間への信用割当と政策勾配の進化をもたらすフレームワークである。
- 参考スコア(独自算出の注目度): 36.24443050447855
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents struggle to autonomously evolve coordination strategies in dynamic environments, largely because coarse global outcomes obscure the causal signals needed for local policy refinement. We identify this bottleneck as a multi-agent credit assignment problem, which has long been studied in classical multi-agent reinforcement learning (MARL) but remains underaddressed in LLM-based systems. Building on this observation, we propose LangMARL, a framework that brings credit assignment and policy gradient evolution from cooperative MARL into the language space. LangMARL introduces agent-level language credit assignment, pioneers gradient evolution in language space for policy improvement, and summarizes task-relevant causal relations from replayed trajectories to provide dense feedback and improve convergence under sparse rewards. Extensive experiments across diverse cooperative multi-agent tasks demonstrate improved sample efficiency, interpretability, and strong generalization.
- Abstract(参考訳): 大規模言語モデル(LLM)エージェントは、局地的な政策改善に必要な因果シグナルを曖昧にするため、動的環境における協調戦略を自律的に進化させるのに苦労する。
我々は,このボトルネックを,従来のマルチエージェント強化学習(MARL)において長年研究されてきたマルチエージェントクレジット代入問題として認識しているが,LLMベースのシステムでは未適応のままである。
この観測に基づいて,協調的なMARLから言語空間への信用割当と政策勾配の進化をもたらすフレームワークであるLangMARLを提案する。
LangMARLはエージェントレベルの言語クレジットの割り当てを導入し、政策改善のための言語空間の勾配進化の先駆者となり、リプレイされた軌道からのタスク関連因果関係を要約し、密集したフィードバックを提供し、スパース報酬の下で収束を改善する。
多様な協調型マルチエージェントタスクに対する広範囲な実験は、サンプル効率、解釈可能性、強力な一般化の向上を実証している。
関連論文リスト
- GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions [19.457187328571035]
複雑なシナリオにおけるマルチエージェント言語進化を研究するための新しいプラットフォームであるGrossoGenを紹介する。
LLMエージェント間で言語進化が起こり、結果として得られる言語は構成的かつ形態学的に生産的であることがわかった。
我々は、異なる条件が新しいエージェントへの言語伝達を制御していることを観察する。
論文 参考訳(メタデータ) (2026-09-01T16:22:07Z) - Optimizing Language Models for Crosslingual Knowledge Consistency [90.86445137816942]
大規模な言語モデルは、しばしば一貫性のない知識を示すことが知られている。
これは、モデルが異なる言語で同様の質問をすることが多い、多言語シナリオにおいて特に問題となる。
本研究では,この問題を構造化報酬関数を用いた強化学習を用いて緩和することができることを示す。
論文 参考訳(メタデータ) (2026-03-04T23:36:55Z) - Hierarchical Lead Critic based Multi-Agent Reinforcement Learning [1.4323566945483497]
本稿では,階層レベルの異なる複数の視点から学習する,新しい逐次学習手法とMARLアーキテクチャを提案する。
HLCは、複数の階層を導入し、局所的およびグローバル的な視点を活用し、高いサンプル効率とロバストなポリシーでパフォーマンスを向上させることを実証している。
論文 参考訳(メタデータ) (2026-02-25T08:33:39Z) - MARTI-MARS$^2$: Scaling Multi-Agent Self-Search via Reinforcement Learning for Code Generation [64.2621682259008]
セルフサーチスケーリングによるマルチエージェント強化トレーニングと推論フレームワーク(MARTI-MARS2)
本稿では,MARTI-MARS2を用いたマルチエージェント強化学習・推論フレームワークを提案する。
我々は、MARTI-MARS2が77.7%を獲得し、GPT-5.1のような強力なベースラインを、挑戦的なコード生成ベンチマークで上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-08T07:28:44Z) - Natural Language Actor-Critic: Scalable Off-Policy Learning in Language Space [57.868527884634894]
自然言語アクター・クライブ(英: Natural Language Actor-Critic)は、スカラー値ではなく自然言語を用いてポリシーを訓練する新しいアクター批判アルゴリズムである。
NLACが既存のトレーニング手法より優れていることを示すために、推論、Webブラウジング、ツールユースを対話タスクと組み合わせた結果を示す。
論文 参考訳(メタデータ) (2025-12-04T09:21:44Z) - cMALC-D: Contextual Multi-Agent LLM-Guided Curriculum Learning with Diversity-Based Context Blending [3.939989712024268]
コンテキストMARL(cMARL)は、コンテキスト変数で環境をパラメータ化し、コンテキストに依存しないポリシーをトレーニングすることでこの問題に対処する。
既存のcMARLメソッドは、カリキュラム学習を使用して、文脈に依存しないポリシーを訓練し評価する。
多様性に基づくコンテキストブレンディング(cMALC-D)を用いたマルチエージェントLLM指導カリキュラム学習を提案する。
論文 参考訳(メタデータ) (2025-08-28T14:16:17Z) - Language-Driven Coordination and Learning in Multi-Agent Simulation Environments [5.139001420948807]
本稿では,大規模言語モデル(LLM)をマルチエージェント強化学習(MARL)に組み込んだ統合フレームワークを提案する。
フレームワークにはCoordinator、Communicator、Memoryの3つのモジュールコンポーネントがあり、サブゴールを動的に生成する。
Google Research Football、Magent Battle、StarCraft IIで評価されている。
論文 参考訳(メタデータ) (2025-06-01T06:46:49Z) - LERO: LLM-driven Evolutionary framework with Hybrid Rewards and Enhanced Observation for Multi-Agent Reinforcement Learning [4.343021413805699]
マルチエージェント強化学習(MARL)は、シングルエージェントRLとは異なる2つの重要なボトルネックに直面している。
LEROは大規模言語モデル(LLM)と進化的最適化を統合し,これらのMARL固有の課題に対処するフレームワークである。
論文 参考訳(メタデータ) (2025-03-25T06:28:42Z) - ReMA: Learning to Meta-think for LLMs with Multi-Agent Reinforcement Learning [53.817538122688944]
Reinforced Meta-thinking Agents (ReMA) を導入し,Large Language Models (LLMs) の推論からメタ思考行動を求める。
ReMAは、推論プロセスを2つの階層的なエージェントに分解する。戦略上の監視と計画を生成するハイレベルなメタ思考エージェントと、詳細な実行のための低レベルな推論エージェントである。
単ターン実験による実験結果から、ReMAは複雑な推論タスクにおいて単エージェントRLベースラインよりも優れることが示された。
論文 参考訳(メタデータ) (2025-03-12T16:05:31Z) - Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。
本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。
我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
論文 参考訳(メタデータ) (2024-02-09T07:45:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。