論文の概要: Preference-Guided Cooperation in Multi-Objective Multi-Agent Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.35736v1
- Date: Mon, 26 Oct 2026 16:53:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:14.120567
- Title: Preference-Guided Cooperation in Multi-Objective Multi-Agent Reinforcement Learning
- Title(参考訳): 多目的多エージェント強化学習における優先誘導協調
- Abstract要約: 多目的多エージェント強化学習(MOMARL)はエージェント協調と客観的トレードオフを同時に扱う。
静的(MIRL-S)および動的(MIRL-D)なメタグラディエント・インフォームド・マルチオブジェクト・マルチエージェント強化学習(MIRL)を提案する。
- 参考スコア(独自算出の注目度): 0.552480439325792
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-objective multi-agent reinforcement learning (MOMARL) addresses agent coordination and objective trade-offs simultaneously while optimising overall system performance. Existing work tends to treat multi-agent cooperation and multi-objective optimisation as largely independent components of a learning problem, which amounts to an exorbitant complexity except in trivial cases. We study here whether the structure provided by multiple objectives can itself be exploited to facilitate cooperation, rather than being treated as an additional optimisation challenge. We formulate MOMARL at both the team and individual levels and introduce objective-wise counterfactual credit assignment to evaluate each agent's contribution across the team objectives. We propose Meta-Gradient Informed Multi-Objective Multi-Agent Reinforcement Learning (MIRL), with static (MIRL-S) and dynamic (MIRL-D) variants. By incorporating meta-gradient information, MIRL enables agents to learn how to prioritise objectives individually while collectively optimising the system-level objective, allowing the multi-objective structure to directly guide cooperation. Experiments on a multi-objective multiple particle environment show that our methods improve Pareto-front quality over baselines, with the dynamic variant achieving the strongest performance.
- Abstract(参考訳): 多目的マルチエージェント強化学習(MOMARL)は,エージェントの協調と客観的トレードオフを同時に対応し,システム全体の性能を最適化する。
既存の作業は、多エージェント協調と多目的最適化を、学習問題のほとんど独立したコンポーネントとして扱う傾向にあり、これは自明な場合を除いて、余計な複雑さをもたらす。
ここでは、複数の目的によって提供される構造自体が、さらなる最適化課題として扱われるのではなく、協力を促進するために活用できるかどうかを考察する。
我々は、チームレベルと個人レベルの両方でMOMARLを定式化し、各エージェントのチーム目標に対する貢献を評価するために、客観的に対実的なクレジット代入を導入する。
静的(MIRL-S)および動的(MIRL-D)なメタグラディエント・インフォームド・マルチオブジェクト・マルチエージェント強化学習(MIRL)を提案する。
メタグラディエント情報を取り入れることで、エージェントはシステムレベルの目的をまとめて最適化しながら、目的を個別に優先順位付けする方法を学ぶことができ、多目的構造が直接協力を導くことができる。
多目的多粒子環境の実験により,本手法はベースラインよりもPareto-frontの品質を向上し,動的変動が最強性能を達成することを示す。
関連論文リスト
- LEMUR: Learning to Align with Multi-Objective Reinforcement Learning from Preference Feedback [4.210862582629798]
LEMUR: 優先フィードバックを用いた多目的強化学習を学習する。
エージェントが複数の人の好みから対話的に学習し、最適な多目的ポリシーを学習する新しいフレームワークである。
提案手法は人的フィードバックからポリシーと複数の目標固有報酬モデルを共同で学習し,エージェントが競合する目的を効果的にバランスさせることを可能にする。
論文 参考訳(メタデータ) (2026-07-31T15:50:29Z) - Learning Coordinated Preference for Multi-Objective Multi-Agent Reinforcement Learning [8.814548010831297]
選好の多様性は、1次改善の分解によってチームの改善を誘導できることを示す。
複数の協調型MOMA環境の実験と、実用的な交通制御シナリオにより、PCMAは性能とトレードオフ調整の両方を改善している。
論文 参考訳(メタデータ) (2026-06-12T17:55:28Z) - MIRACL: A Diverse Meta-Reinforcement Learning for Multi-Objective Multi-Echelon Combinatorial Supply Chain Optimisation [3.2580935846865677]
階層型メタMORLフレームワークであるMIRACLを導入し、多様なタスクにまたがる数ショットの一般化を可能にする。
MIRACL は従来の MORL のベースラインを単純から中程度のタスクで上回り、最大10% の高ボリュームを実現し、5% のより良いユーティリティを実現している。
論文 参考訳(メタデータ) (2026-03-05T23:42:26Z) - MO-MIX: Multi-Objective Multi-Agent Cooperative Decision-Making With Deep Reinforcement Learning [68.91090643731987]
深部強化学習(RL)は複雑な意思決定問題を解決するために広く応用されている。
既存のアプローチは、別々のフィールドに限られており、単一の目的でマルチエージェントの意思決定しか処理できない。
マルチオブジェクト型マルチエージェント強化学習(MOMARL)問題の解法としてMO-mixを提案する。
論文 参考訳(メタデータ) (2026-02-28T16:25:22Z) - MedSAM-Agent: Empowering Interactive Medical Image Segmentation with Multi-turn Agentic Reinforcement Learning [53.37068897861388]
MedSAM-Agentは、対話的なセグメンテーションを多段階の自律的な意思決定プロセスとして再構築するフレームワークである。
マルチターン・エンド・ツー・エンドの成果検証を統合した2段階のトレーニングパイプラインを開発した。
6つの医療モダリティと21のデータセットにわたる実験は、MedSAM-Agentが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2026-02-03T09:47:49Z) - MOMA-AC: A preference-driven actor-critic framework for continuous multi-objective multi-agent reinforcement learning [3.312665722657581]
本稿では、連続状態とアクション空間のためのインナーループアクター批判フレームワークを初めて紹介する。
このフレームワークをTD3(Deep Deterministic Policy Gradient)とDDPG(Deep Deterministic Policy Gradient)でインスタンス化する。
このフレームワークは、マルチヘッドアクターネットワーク、中央集権的な批評家、客観的な嗜好条件アーキテクチャを組み合わせたものである。
論文 参考訳(メタデータ) (2025-11-22T20:24:51Z) - Cross-Task Experiential Learning on LLM-based Multi-Agent Collaboration [63.90193684394165]
マルチエージェント・クロスタスク体験学習(MAEL)は,LSM駆動型エージェントに明示的なクロスタスク学習と経験蓄積を付与する新しいフレームワークである。
経験的学習フェーズでは、タスク解決ワークフローの各ステップの品質を定量化し、その結果の報酬を記憶する。
推論中、エージェントは、各推論ステップの有効性を高めるために、いくつかの例として、高頻度のタスク関連体験を検索する。
論文 参考訳(メタデータ) (2025-05-29T07:24:37Z) - MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。
MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
論文 参考訳(メタデータ) (2024-12-02T19:30:36Z) - Deep Pareto Reinforcement Learning for Multi-Objective Recommender Systems [54.2484458418885]
複数の目的を同時に最適化することは、レコメンデーションプラットフォームにとって重要なタスクです。
既存の多目的推薦システムは、そのような動的な関係を体系的に考慮していない。
論文 参考訳(メタデータ) (2024-07-04T02:19:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。