論文の概要: Retry, Switch, or Abstain? Learning Strategy-Aware Tool-Use Policies via Controlled Error Injection
- arxiv url: http://arxiv.org/abs/2608.11977v1
- Date: Wed, 12 Aug 2026 12:08:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.567807
- Title: Retry, Switch, or Abstain? Learning Strategy-Aware Tool-Use Policies via Controlled Error Injection
- Title(参考訳): 再試行, 切り替え, あるいは不在か? 制御エラー注入による学習戦略とツール利用ポリシー
- Abstract要約: BENCH2ROBUSTは,障害のないツール使用ベンチマークをシナリオ制御の可解性を持つ制御環境に変換するフレームワークである。
本稿では,Bayesian Tool Memory(BTM)による構造化実行時回復コンテキストと,カリキュラム制御強化学習の2つの補完的介入について検討する。
- 参考スコア(独自算出の注目度): 27.166611699378205
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tool-using LLM agents are commonly trained and evaluated in environments where tool calls succeed reliably, yet deployed tools can fail transiently, persistently, or silently. Robust recovery therefore requires more than repeated retries: an agent may need to retry the same path, switch to an alternative, or recognize that no viable path remains. We present BENCH2ROBUST, a framework that converts failure-free tool-use benchmarks into controlled stochastic environments with scenario-controlled solvability, where episodes explicitly require retrying, switching, or stopping after available paths are exhausted. We use BENCH2ROBUST to study two complementary interventions: structured runtime recovery context through Bayesian Tool Memory (BTM), and curriculum-controlled reinforcement learning. Across 7 models from 4 families and two multi-turn benchmark families, tool failures produce a near-universal robustness gap. On held-out Retail tasks, BTM improves robustness by up to 16.8 percentage points without retraining, while RL learns complementary recovery behavior that remains beneficial without inference-time BTM. Combining the two reaches 40.8-45.5% under injection while preserving failure-free performance. These results suggest that robust tool use benefits from combining environment-specific recovery knowledge with learned recovery behavior.
- Abstract(参考訳): ツールを使用するLLMエージェントは、ツールコールが確実に成功する環境において、一般的にトレーニングされ、評価されるが、デプロイされたツールは、過渡的に、永続的に、あるいは沈黙的に失敗する可能性がある。
エージェントは同じパスをリトライしたり、別のパスに切り替えたり、実行可能なパスが残っていないことを認識する必要がある。
BENCH2ROBUSTは,障害のないツール使用ベンチマークをシナリオ制御の可解性を備えた制御確率環境に変換するフレームワークである。
我々は,BENCH2ROBUSTを用いて,Bayesian Tool Memory (BTM)による構造化実行時回復コンテキストとカリキュラム制御強化学習の2つの補完的介入について検討する。
4つのファミリーと2つのマルチターンベンチマークファミリーの7つのモデルにまたがって、ツールの失敗は、ほぼ普遍的な堅牢性ギャップを生み出す。
保持されたリテールタスクでは、BTMはリトレーニングなしで最大16.8ポイントのロバスト性を向上し、RLは推論時間BTMなしでも有益である相補的回復挙動を学習する。
両者の組み合わせは40.8-45.5%に達し、故障のない性能を維持している。
これらの結果から,環境固有の回復知識と学習した回復行動を組み合わせることで,堅牢なツール利用のメリットが示唆された。
関連論文リスト
- ParaRecover: A Process-Level Benchmark for Error Localization and Recovery in Parallel Tool-Use Agents [9.426759720914623]
ParaRecoverは、マルチターン並列ツール使用エージェントのエラーローカライゼーションとリカバリを評価するための、プロセスレベルのベンチマークである。
計画依存関係、ツールの選択、引数マッチングを含む14のエラータイプの詳細な分類に基づいて、ベンチマークは2つの困難レベルにまたがる10,626のインスタンスで構成されている。
実験によると、最先端のモデルでさえも、マルチターンエラーの伝播、ツール使用障害の簡易化、正確な再計画に苦戦している。
論文 参考訳(メタデータ) (2026-09-11T02:09:33Z) - ARISE-RL: Agentic Rubric-Grounded Iterative Self-Evolution with Reinforcement Learning [74.19730275669227]
ARISE-RLは、オープンエンドエージェントをトレーニングするための新しいフルサイクルの自己進化フレームワークである。
Reward-Gated Self-Evolution Distillation (RG-SED)を提案する。
ECR-Benchは,シングルツールディープリサーチとマルチツールトラベルプランニングを対象とする,専門家校正型ルーリックベンチマークスイートである。
論文 参考訳(メタデータ) (2026-09-01T10:54:13Z) - Forgotten in Weights, Recovered by Tools: Agentic Tool Unlearning for LLM Agents [54.050506620820784]
エージェントツールアンラーニング(ATU)は、通常のツール使用を保持しながら、パラメトリックリコールとツールによるリカバリの両方を削減することを目的としている。
ATUは、ツール強化されたエージェントデプロイメント下で、ターゲットの忘れと保持ユーティリティのバランスを向上し、未学習をより堅牢にする。
論文 参考訳(メタデータ) (2026-08-21T18:34:48Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳(メタデータ) (2026-08-03T15:07:46Z) - ReGRPO: Reflection-Augmented Policy Optimization for Tool-Using Agents [52.531681772560724]
Supervised Fine-tuning (SFT) は主に軌道軌道上で構築されており、ツール故障後の回復のための信号はほとんど得られない。
ツール使用エージェントの反射誘導補正を学習するフレームワークであるReGRPOを紹介する。
GTAとGAIAの実験では、同じバックボーンとツールスイートの下で、ReGRPOは一貫して強力なオープンソースベースラインを上回っている。
論文 参考訳(メタデータ) (2026-06-30T09:19:38Z) - Controllable and Verifiable Tool-Use Data Synthesis for Agentic Reinforcement Learning [82.89535601592739]
マルチレベル検証を用いた自己進化型合成により,信頼性の高い基本ツール利用軌跡を生成する2段階パイプラインを提案する。
これらの拡張は、トラクタツール、間接的または曖昧なユーザクエリ、ノイズ、マルチフォーマット、あるいは誤ったツール出力を導入します。
本設計では,標準事例に対する参照マッチングによる報酬の自動計算と,エラー検出などの特別な動作に対する軽量な判断支援検証を実現する。
論文 参考訳(メタデータ) (2026-04-10T18:38:52Z) - RetroAgent: From Solving to Evolving via Retrospective Dual Intrinsic Feedback [54.39884046754265]
RetroAgentは、エージェントが複雑なインタラクティブ環境をマスターできるオンラインRLフレームワークである。
実験の結果,RetroAgentはSOTA(State-of-the-art)の性能を達成できた。
論文 参考訳(メタデータ) (2026-03-09T16:23:33Z) - PALADIN: Self-Correcting Language Model Agents to Cure Tool-Failure Cases [2.3181214107210235]
PALADINは、系統的な障害注入によって構築された5万以上のリカバリアノテーション付き軌道を走行する。
トレーニングでは、LoRAベースの微調整を使用して、回復能力を注入しながらベース能力を維持する。
このアプローチは、トレーニング分布を超えた新しい失敗に一般化する。
論文 参考訳(メタデータ) (2025-09-25T10:37:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。