論文の概要: MRC-MMAgent: Reinforcement Learning for Multi-Role Collaboration in Multimodal Tool-Using Agents
- arxiv url: http://arxiv.org/abs/2610.39324v1
- Date: Thu, 29 Oct 2026 04:06:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-03 00:13:06.414405
- Title: MRC-MMAgent: Reinforcement Learning for Multi-Role Collaboration in Multimodal Tool-Using Agents
- Title(参考訳): MRC-MMAgent:マルチモーダルツール利用エージェントにおけるマルチロール協調のための強化学習
- Abstract要約: マルチロール協調強化学習フレームワーク MRC-MMAgent を提案する。
まず、このフレームワークは、解決、検査、継続を統合するマルチロール協調ループを確立する。
第2に、タスク成功、インタラクションの妥当性、そして成功率の補正と完全な軌道ポリシー最適化を組み合わせたロール結合学習の目標を提案する。
- 参考スコア(独自算出の注目度): 29.537229545601207
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal tool-using agents augment vision-language models with access to external information and capabilities, enabling them to solve knowledge-intensive and visually complex tasks that cannot be addressed using visual context alone. However, existing reinforcement learning pipelines largely train single-role agents to search and answer using terminal rewards, overlooking how humans inspect retrieved evidence, reformulate queries, and revise conclusions during search. Consequently, they fail to optimize this self-corrective process over complete interaction trajectories. We propose MRC-MMAgent, a multi-role collaborative reinforcement learning framework that incorporates trajectory assessment and continuation directly into the executable agent loop. First, the framework establishes a multi-role collaborative loop that integrates solving, inspection, and continuation, enabling the agent to acquire evidence through tools, evaluate the preceding trajectory, and resume problem solving when the current answer is insufficiently supported. Second, we introduce a role-coupled learning objective that combines task success, interaction validity, and successful correction with full-trajectory policy optimization across the decisions generated by all roles. Extensive experiments show that, using only the original baseline training set without constructing additional datasets, our method consistently outperforms the corresponding base models and achieves leading or highly competitive performance across benchmarks.
- Abstract(参考訳): マルチモーダルツール利用エージェントは、外部情報や能力にアクセスして視覚言語モデルを強化し、視覚的コンテキストだけでは対処できない知識集約的で視覚的に複雑なタスクを解決できるようにする。
しかし、既存の強化学習パイプラインは、終末報酬を用いて検索と回答を行うシングルロールエージェントを主に訓練し、人間が検索された証拠をどのように検査し、クエリを改定し、検索中に結論を改訂するかを見極めている。
その結果、完全な相互作用軌道よりもこの自己補正過程を最適化することができない。
MRC-MMAgentは、軌道評価と継続を実行可能なエージェントループに直接組み込むマルチロール協調強化学習フレームワークである。
まず、このフレームワークは、解決、検査、継続を統合するマルチロール協調ループを確立し、エージェントがツールを介して証拠を取得し、前の軌道を評価し、現在の回答が不十分な場合に問題解決を再開できるようにする。
第2に、タスク成功、インタラクションの妥当性、そして成功率の補正と、すべての役割が生み出す決定全体にわたる完全な方針最適化を組み合わせたロール結合学習の目標を提案する。
大規模な実験により、追加のデータセットを構築することなく、元のベースライントレーニングセットのみを使用することで、我々の手法は、対応するベースモデルより一貫して優れ、ベンチマーク間でリードまたは高い競争性能を達成することが示されている。
関連論文リスト
- Cross-Task Experiential Learning on LLM-based Multi-Agent Collaboration [63.90193684394165]
マルチエージェント・クロスタスク体験学習(MAEL)は,LSM駆動型エージェントに明示的なクロスタスク学習と経験蓄積を付与する新しいフレームワークである。
経験的学習フェーズでは、タスク解決ワークフローの各ステップの品質を定量化し、その結果の報酬を記憶する。
推論中、エージェントは、各推論ステップの有効性を高めるために、いくつかの例として、高頻度のタスク関連体験を検索する。
論文 参考訳(メタデータ) (2025-05-29T07:24:37Z) - MLE-Dojo: Interactive Environments for Empowering LLM Agents in Machine Learning Engineering [57.156093929365255]
自律型大規模言語モデル(LLM)エージェントを体系的に強化し、評価し、改善するためのガイムスタイルのフレームワーク。
MLE-Dojoは、現実的なエンジニアリングシナリオを反映した、多様でオープンなMLEタスクを慎重にキュレートする。
完全に実行可能な環境は、教師付き微調整と強化学習の両方を通して包括的なエージェントトレーニングをサポートする。
論文 参考訳(メタデータ) (2025-05-12T17:35:43Z) - From Novice to Expert: LLM Agent Policy Optimization via Step-wise Reinforcement Learning [62.54484062185869]
本稿では,エージェントの強化学習プロセスの最適化にステップワイド報酬を利用するStepAgentを紹介する。
エージェント反射とポリシー調整を容易にする暗黙の逆・逆の強化学習手法を提案する。
論文 参考訳(メタデータ) (2024-11-06T10:35:11Z) - Learning to Use Tools via Cooperative and Interactive Agents [58.77710337157665]
ツール学習は、外部ツールを使用してユーティリティを拡張するエージェントとして、大きな言語モデル(LLM)を促進する。
ツール選択,ツール実行,アクションキャリブレーションの3つの特別なエージェントを個別にコーディネートする,協調型対話型エージェントフレームワークであるConAgentsを提案する。
3つのデータセットに対する実験により、LLMは、ConAgentsを装備した場合、大幅に改善されたベースラインよりも優れた性能を示した。
論文 参考訳(メタデータ) (2024-03-05T15:08:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。