論文の概要: Of Errors and Echoes: Responsibility-Aware Credit Assignment for Tool-Use Agents
- arxiv url: http://arxiv.org/abs/2610.16027v1
- Date: Mon, 12 Oct 2026 00:52:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.284737
- Title: Of Errors and Echoes: Responsibility-Aware Credit Assignment for Tool-Use Agents
- Title(参考訳): エラーとエコー: ツール・ユース・エージェントの責任を意識したクレジット・アサインメント
- Abstract要約: Error-Chain-Aware Optimization (ECHO) は、責任を意識した信用割り当てフレームワークである。
ECHOは新しく導入されたエラー、継承された結果、誤り修正、そして成功した修正を区別する。
ECHOは、責任ある決定と自己引き起こしたエラーの修復に対する報酬の制約を1度に分けて、ダウンストリームの結果の共有をカウントする。
- 参考スコア(独自算出の注目度): 55.222414159666016
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reinforcement learning improves tool-use agents, yet fine-grained credit assignment remains challenging even with step-level feedback. An observed error may be inherited from an earlier decision, while multiple responsible decisions may share the same downstream consequence or participate in later recovery. We introduce Error-Chain-Aware Optimization (ECHO), a responsibility-aware credit assignment framework that separates responsibility identification from credit allocation. A frozen judge combines retrospective trajectory analysis with decision-time assessment from the policy-visible prefix to distinguish newly introduced errors, inherited consequences, missed corrections, and successful corrections. ECHO then counts shared downstream consequences once across responsible decisions and constrains rewards for repairing self-induced errors through source-funded recovery, producing bounded action-level supervision alongside terminal supervision. Experiments on six diverse tool-use benchmarks at both 4B and 8B scales show strong and consistent improvements over the compared baselines, with ECHO achieving the highest score on five of six benchmarks at each scale. These results support decision responsibility as a useful basis for fine-grained credit assignment in tool-use agents. Our code is available at https://github.com/xid32/ECHO.
- Abstract(参考訳): 強化学習はツール使用エージェントを改善するが、ステップレベルのフィードバックであっても、きめ細かいクレジット割り当ては難しいままである。
観察されたエラーは以前の決定から受け継がれ、複数の責任ある決定は同じ下流の結果を共有したり、後の回復に参加したりすることができる。
Error-Chain-Aware Optimization (ECHO) は、責任認識とクレジットアロケーションを分離する責任認識型クレジットアサインメントフレームワークである。
凍結された裁判官は、振り返り軌跡解析と政策可視の接頭辞からの意思決定時間評価を組み合わせることで、新しく導入されたエラー、継承された結果、修正の失敗、そして修正の成功を区別する。
次にECHOは、責任ある決定と、ソースファンドによるリカバリによる自己引き起こされたエラーの修復に対する報酬の制約にまたがって、ダウンストリームの結果の共有をカウントする。
4Bスケールと8Bスケールの異なる6つのツール使用ベンチマークの実験は、比較ベースラインよりも強く、一貫した改善が見られ、ECHOは、各スケールで6つのベンチマークのうち5つで最高点を達成している。
これらの結果は、ツール・ユース・エージェントにおけるきめ細かいクレジット割り当てのための有用な基盤として、意思決定責任を支持する。
私たちのコードはhttps://github.com/xid32/ECHO.comで公開されています。
関連論文リスト
- VeriFine: Scaling Verification for Self-Improvement in Embodied Reasoning [80.69185348729495]
我々は,政策の共進化,訓練カリキュラム,審査を通じて検証をスケールする枠組みを導入する。
ポリシー改善ループは、繰り返し発生する障害を診断し、適応的なカリキュラムを構築し、ポリシーを最適化するためにルーリックな判断を使用する。
運転およびロボットナビゲーションタスクの実験は、ポリシーと判断能力の両方において継続的な自己改善を示す。
論文 参考訳(メタデータ) (2026-10-06T17:50:29Z) - Residual Visual Credit Optimization: Conserved Evidence Routing for Multimodal Reinforcement Learning [16.31353315674833]
検証可能な報酬による強化学習は、マルチモーダルな推論をスケールしますが、結果の報酬は、その価値がそれを生み出した決定に対してどのように広がるべきかではなく、どれだけの軌道が価値があるかを述べています。
本稿では,トークンクレジットを保存されたルーティング問題として扱うResidual Visual Credit Optimization (RVCO)を紹介する。
制御された視覚介入は、トーケン毎のエビデンス応答をもたらし、ロバストな軌道内座標は偶発スケールを除去し、予算付きエントロピールータは、知覚依存に応じて一定の量のシーケンスユーティリティを分散する。
論文 参考訳(メタデータ) (2026-10-04T03:56:38Z) - CARE-VI: Conservative Adaptive Reliability Estimation for Value Improvement in Off-Policy Actor-Critic Learning [9.09344103114193]
我々は、保守的適応ランク付け・スクリーニング(CARS)とセレクタ・評価値アセスメント(SEVA)を開発する。
DAREは、候補信頼性、セレクタと評価器信号のギャップ、および有限ステージ係数を用いて、各残差補正を規制する。
CARE-VIは、批評家のレグレッションとアクターのアップデートのためのバックボーンインターフェースを保存するエビデンス規制されたターゲット構築フレームワークである。
論文 参考訳(メタデータ) (2026-09-17T11:59:43Z) - DCFA: Dual-view Causal-inspired Attribution for Failure Reasoning in LLM-based Multi-agent Systems [61.11435469308521]
大規模言語モデルシステムにおける障害帰属のためのトレーニング不要フレームワークDCFAを提案する。
DCFAは、システムトレースから構造化因果インスパイアされた依存性グラフを構築するグローバルモジュールを統合する。
実験の結果、DCFAは最先端のベースラインよりもステップレベルの精度を最大8.27%向上することが示された。
論文 参考訳(メタデータ) (2026-09-04T05:29:31Z) - PBSD: Privileged Bayesian Self-Distillation for Long-Horizon Credit Assignment [35.978805768172656]
ロングホライゾンのエージェントタスクは、結果ベース強化学習の基本的なクレジット割り当て課題となる。
PBSD (Privileged Bayesian Self-Distillation) はベイズが校正した自己蒸留法である。
論文 参考訳(メタデータ) (2026-06-08T11:20:58Z) - Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning [63.24624171679711]
大規模言語モデル(LLM)ベースのエージェントは、しばしば最適なツール使用の決定を行う。
本研究では、不確実性分離を維持するための推進力として、不確実性定量化を報酬設計に組み込んだTRUSTを提案する。
論文 参考訳(メタデータ) (2026-06-05T07:08:34Z) - Four-Axis Decision Alignment for Long-Horizon Enterprise AI Agents [0.0]
長期のエンタープライズエージェントは、失われた記憶、多段階の推論、および規制の制約の下で高い評価を下す。
長距離決定行動は、4つの軸に分解され、それぞれ独立に測定可能で、フェール可能となる。
論文 参考訳(メタデータ) (2026-04-21T13:37:19Z) - CoVerRL: Breaking the Consensus Trap in Label-Free Reasoning via Generator-Verifier Co-Evolution [52.691495954442985]
CoVerRLは1つのモデルがジェネレータと検証ロールを交換するフレームワークで、各機能が他方をブートストラップする。
Qwen と Llama のモデルファミリーでの実験では、CoVerRL は数理推論のベンチマークで4.7-5.9% でラベルなしのベースラインを上回っている。
自己検証の精度は55%から85%以上改善され、両方の能力が真に共存することを確認した。
論文 参考訳(メタデータ) (2026-03-18T14:38:55Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。