論文の概要: TRIAGE: Role-Typed Credit Assignment for Agentic Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2606.32017v2
• Date: Mon, 06 Jul 2026 17:49:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 17:33:48.716511
• Title: TRIAGE: Role-Typed Credit Assignment for Agentic Reinforcement Learning
• Title（参考訳）: TRIAGE:エージェント強化学習のためのロール型クレジットアサインメント
• Authors: Yuanda Xu, Zhengze Zhou, Hejian Sang, Xiaomin Li, Jiaxin Zhang, Xinchen Du, Sen Na, Zhipeng Wang, Alborz Geramifard,
• Abstract要約: エージェント強化学習では、環境に配慮した行動にクレジットを割り当てる必要がある。 標準GRPOは全てのアクショントークンに対する一様優位性として最終検証結果を使用する。 本稿では,ロール型クレジット代入フレームワークであるTRIAGEを提案する。
• 参考スコア（独自算出の注目度）: 10.917273110894469
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic reinforcement learning requires assigning credit to environment-facing actions such as searches, clicks, edits, navigation commands, and object interactions. Standard GRPO uses the final verifier outcome as a uniform advantage over all action tokens. This outcome signal is useful but structurally incomplete: it punishes useful exploration in failed rollouts and reinforces redundant or regressive actions in successful rollouts. We propose TRIAGE, a role-typed credit assignment framework that adds a semantic role axis to outcome credit. A structured judge classifies each segment as decisive progress, useful exploration, no-progress infrastructure, or regression, and a fixed role-conditioned rule maps these labels to bounded segment-level process rewards. This keeps verifier outcomes as the source of optimization direction while correcting the two main blind spots of outcome-only credit. We further show that role-conditioned credit is the optimal segment-level correction expressible from role labels alone -- a projection of the per-segment advantage residual onto the role variable -- so that the fixed role constants reduce advantage estimation error whenever the judge is reliable, and we connect this to lower-variance policy gradients. Across ALFWorld, Search-QA, and WebShop, TRIAGE improves success rates over GRPO for two policy models and outperforms both a scalar judge-derived process reward and an outcome-supervised shared-backbone value baseline. Ablations show that the gain comes from role typing rather than merely adding dense rewards: reliable detection of regression inside successful trajectories is the dominant contributor, while exploration credit provides a consistent secondary gain; on completed ALFWorld and WebShop rollouts, TRIAGE also reduces environment-facing turns by an additional $10.4\%$ and $14.8\%$ relative to GRPO.
• Abstract（参考訳）: エージェント強化学習では、検索、クリック、編集、ナビゲーションコマンド、オブジェクトのインタラクションなどの環境対応アクションにクレジットを割り当てる必要がある。 標準GRPOは全てのアクショントークンに対する一様優位性として最終検証結果を使用する。 この結果信号は有用だが構造的に不完全であり、失敗したロールアウトにおける有用な探索を罰し、ロールアウトの成功における冗長または回帰的な行動を強化する。 本稿では,ロール型クレジット代入フレームワークであるTRIAGEを提案する。 構造化された判断は、各セグメントを決定的な進歩、有用な探索、非プログレッシブインフラストラクチャ、回帰として分類し、固定されたロール条件のルールはこれらのラベルを有界なセグメントレベルのプロセス報酬にマッピングする。 これにより、検証結果を最適化方向のソースとして保持し、結果のみのクレジットの2つの主要な盲点を修正します。 さらに、ロール条件付きクレジットはロールラベルのみから表現可能な最適セグメントレベルの補正であり、ロール変数へのセグメンテーションごとのアドバンテージ残差の予測であり、したがって、固定されたロール定数が、審査員が信頼されるたびに有利な推定誤差を低減することを示し、これを低分散ポリシー勾配に接続する。 ALFWorld、Search-QA、WebShop全体で、TRIAGEは2つのポリシーモデルにおけるGRPOよりも成功率を向上し、スカラーな判断由来のプロセス報酬と結果管理された共有バックボーン値ベースラインの両方を上回ります。 ALFWorldとWebShopのロールアウトが完了すると、TRIAGEは、GRPOに対する追加の10.4\%と14.8\%の価格で環境に面したターンを減らします。

関連論文リスト

• HERO: Hindsight-Enhanced Reflection from Environment Observations for Agentic Self-Distillation [50.53459634301361]
  HEROは、次の環境観測を局所的に整列したフィードバックとして利用する、後向きの自己蒸留フレームワークである。 HEROはタスク成功を改善し、環境フィードバックのみの自己蒸留とGRPOに対する不要なターンを減らす。
  論文  参考訳（メタデータ） (2026-06-10T01:35:34Z)
• TRACE: A Unified Rollout Budget Allocation Framework for Efficient Agentic Reinforcement Learning [52.67756371231985]
  検証可能な報酬を伴う強化学習(RLVR)は、大規模言語モデルにおける推論とエージェント的行動を強化するための有望なアプローチである。 本稿では,Tree Rollout Allocation for Contrastive Exploration (TRACE)について紹介する。 技術的には、TRACEはロールアウト予算をルートと中間プレフィックスの両方に割り当てている。
  論文  参考訳（メタデータ） (2026-06-09T17:16:03Z)
• PBSD: Privileged Bayesian Self-Distillation for Long-Horizon Credit Assignment [35.978805768172656]
  ロングホライゾンのエージェントタスクは、結果ベース強化学習の基本的なクレジット割り当て課題となる。 PBSD (Privileged Bayesian Self-Distillation) はベイズが校正した自己蒸留法である。
  論文  参考訳（メタデータ） (2026-06-08T11:20:58Z)
• TAPO: Tool-Aware Policy Optimization via Credit Transfer for Multimodal Search Agents [54.08846865906602]
  ツール強化マルチモーダルサーチエージェントにおいて,クレジットミス割り当てをGRPOの系統的障害モードとして特徴付ける。 本稿では,情報取得ツールのパラメータ決定性を利用したツール・アウェア・ポリシー・オプティマイズ(TAPO)を提案する。
  論文  参考訳（メタデータ） (2026-06-04T07:15:43Z)
• VeriGate: Verifier-Gated Step-Level Supervision for GRPO [51.26100506256885]
  グループ相対政策最適化は、検証者に基づく結果報酬を伴う推論モデルをトレーニングするための効果的なレシピである。 GRPO の検証子付き拡張である VeriGate を提案し,これらの制限を3つの設計選択で解決する。 We show that VeriGate improves average accuracy around 20% and 12% for 1.5B and 7B models respectively。
  論文  参考訳（メタデータ） (2026-05-28T18:20:32Z)
• Outcome-Grounded Advantage Reshaping for Fine-Grained Credit Assignment in Mathematical Reasoning [60.00161035836637]
  グループ相対政策最適化は、推論タスクのための有望な批判のない強化学習パラダイムとして登場した。 我々は,各トークンがモデルの最終回答にどの程度影響するかに基づいて,利益を再分配する,きめ細かい信用割当機構であるOutcome-grounded Advantage Reshaping (OAR)を紹介した。 OAR-Gは計算オーバーヘッドを無視して同等のゲインを達成し、どちらも強力なGRPOベースラインをはるかに上回っている。
  論文  参考訳（メタデータ） (2026-01-12T10:48:02Z)
• Pinpointing crucial steps: Attribution-based Credit Assignment for Verifiable Reinforcement Learning [5.880405013005892]
  ACPOは、困難なカリキュラムを組み込んだ段階的なフレームワークである。 ACPOは、トラジェクティブセマンティックセグメンテーションと属性ベースの表現を用いて探索を改善する。 これは、各推論ステップの階層的寄与を正確に定量化する分解された報酬システムによる搾取を強化する。
  論文  参考訳（メタデータ） (2025-10-10T01:22:55Z)
• Would I have gotten that reward? Long-term credit assignment by counterfactual contribution analysis [50.926791529605396]
  モデルベース信用代入アルゴリズムの新たなファミリーであるCOCOA(Counterfactual Contribution Analysis)を紹介する。 我々のアルゴリズムは、その後の報酬を得る際の行動の貢献度を測定することによって、正確な信用割当を実現する。
  論文  参考訳（メタデータ） (2023-06-29T09:27:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。