論文の概要: ToolSearcher: Optimizing Tool Selection at Scale via Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.30906v1
- Date: Fri, 25 Sep 2026 07:13:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.265492
- Title: ToolSearcher: Optimizing Tool Selection at Scale via Reinforcement Learning
- Title(参考訳): ToolSearcher: 強化学習による大規模ツール選択の最適化
- Abstract要約: 大規模言語モデル(LLM)は自然言語処理に優れているが、外部環境との相互作用に苦慮している。
大規模なツール選択において,効率的なマルチターン探索ときめ細かい最適化のための新しいRLフレームワークであるToolSearcherを提案する。
大規模なツール選択ベンチマークの実験では、ToolSearcherが強いベースラインのセットを一貫して上回っていることが示されている。
- 参考スコア(独自算出の注目度): 41.24598727437063
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) excel at natural language processing but struggle to interact with external environments. Tool learning provides a promising way to extend LLMs into actionable agents, where tool selection is a critical prerequisite for successful tool use. Existing work often assumes a small or predefined set of tools, leaving large-scale tool selection underexplored. Real-world repositories contain a vast and diverse array of tools, making it difficult for LLMs to effectively search, distinguish, and compose tools under context-length constraints. We identify large-scale tool selection as a new challenge for agentic reinforcement learning, highlighting that existing RL methods for knowledge-based question answering are inadequate for selecting tools while considering compatibility. To address this challenge, we propose ToolSearcher, a novel RL framework for effective multi-turn search and fine-grained optimization in large-scale tool selection. Specifically, we introduce category-constrained tool discrimination to improve the model's ability to distinguish functionally similar tools, event-level search modeling to explicitly optimize the discovery of target tools during multi-turn search, and trajectory-aligned credit allocation to provide fine-grained reward signals for different stages of the search-selection process. Extensive experiments on large-scale tool selection benchmarks demonstrate that ToolSearcher consistently outperforms a set of strong baselines in challenging settings involving iterative search and complex tool composition.
- Abstract(参考訳): 大規模言語モデル(LLM)は自然言語処理に優れているが、外部環境との相互作用に苦慮している。
ツール学習は、LDMを実行可能なエージェントに拡張する有望な手段を提供する。
既存の作業では,小さなあるいは事前に定義されたツールセットを前提として,大規模なツール選択を過小評価することが多い。
現実世界のリポジトリには、多種多様なツール群が含まれており、LLMがコンテキスト長制約下でツールを効果的に検索、識別、構成することが困難である。
エージェント強化学習の新たな課題として,大規模ツール選択を取り上げ,知識に基づく質問応答のための既存のRL手法が,互換性を考慮してツールの選択に不適切であることを強調した。
この課題に対処するために,大規模ツール選択における効率的なマルチターン探索ときめ細かい最適化のための新しいRLフレームワークであるToolSearcherを提案する。
具体的には、機能的に類似したツールを識別するモデルの能力を改善するためのカテゴリ制約されたツール識別、マルチターン検索中のターゲットツールの発見を明示的に最適化するイベントレベルサーチモデリング、検索-選択プロセスの異なる段階で詳細な報酬信号を提供するための軌道整合型クレジットアロケーションを提案する。
大規模なツール選択ベンチマークに関する大規模な実験は、反復的な検索と複雑なツール構成を含む困難な設定において、ToolSearcherが一貫して強力なベースラインを上回っていることを示している。
関連論文リスト
- PTR: Precision-Driven Tool Recommendation for Large Language Models [43.53494041932615]
大規模言語モデル(LLM)のためのPTR(Precision-driven Tool Recommendation)アプローチを提案する。
PTRは、過去のツールバンドルの利用を利用して、初期的かつ簡潔なツールセットをキャプチャし、ツールマッチングを実行することで、ツールセットを動的に調整する。
LLMのツールレコメンデーションの有効性を評価するために,新しいデータセットRecToolsとメトリクスTRACCを提案する。
論文 参考訳(メタデータ) (2024-11-14T17:33:36Z) - MetaTool Benchmark for Large Language Models: Deciding Whether to Use Tools and Which to Use [79.87054552116443]
大規模言語モデル(LLM)は、その印象的な自然言語処理(NLP)能力のために大きな注目を集めている。
このベンチマークは、LLMがツールの使用意識を持ち、ツールを正しく選択できるかどうかを評価するためのものだ。
8つの人気のあるLCMを巻き込んだ実験を行い、その大半は依然として効果的にツールを選択するのに苦労していることがわかった。
論文 参考訳(メタデータ) (2023-10-04T19:39:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。