論文の概要: Toollery: Scaling LLM Agents to Thousands of Skills and Tools
- arxiv url: http://arxiv.org/abs/2609.22218v1
- Date: Wed, 02 Sep 2026 09:26:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.788882
- Title: Toollery: Scaling LLM Agents to Thousands of Skills and Tools
- Title(参考訳): Toollery: LLMエージェントを数千のスキルとツールにスケールアップする
- Abstract要約: Toolleryは、スケーラブルなスキル/ツール選択のためのトレーニング不要な候補圧縮フレームワークである。
約79K-capability Skillベンチマーク,440以上のアトミックツールを備えたBFCL-V4,220以上のツールに対する3,396のスマートコックピット要求について,Toolleryを評価した。
- 参考スコア(独自算出の注目度): 0.13750624267664155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM agents are exposed to hundreds to tens of thousands of skills, tools, and API functions, full-library prompting becomes costly, slow, and less reliable: each added candidate increases prompt tokens and latency, while longer candidate lists introduce more distractors for LLM selection. We present \textbf{Toollery}, a training-free candidate-compression framework for scalable LLM skill/tool selection. Following established document-side query expansion, Toollery generates user-intent queries from each skill/tool specification and builds a retrieval index that maps real user requests to compact candidate sets before final LLM decision-making. By treating high-level skills and atomic tools as selectable capabilities, Toollery can be applied to both skill libraries and tool registries. We evaluate Toollery on the roughly 79K-capability SkillRouter benchmark, BFCL-V4 with over 440 atomic tools, and 3,396 proprietary smart-cockpit requests over 220 tools. Across these settings, Toollery keeps online selection bounded to a compact top-$k$ candidate set and improves recall over ordinary specification retrieval. At a fixed top-10 budget, Toollery improves end-to-end selection on the cockpit dataset, and maintains comparable AST Accuracy on BFCL-V4. These results support Toollery as a practical candidate-compression framework for large and evolving agent capability libraries, while showing that quality and cost gains depend on workload coverage and provider caching.
- Abstract(参考訳): LLMエージェントが数百から数万のスキル、ツール、API関数に露呈するにつれて、完全なライブラリプロンプトはコストが高く、遅く、信頼性が低い。
我々は、スケーラブルなLCMスキル/ツール選択のためのトレーニング不要な候補圧縮フレームワークである‘textbf{Toollery}を提示する。
確立されたドキュメント側のクエリ拡張に続いて、Toolleryは、各スキル/ツール仕様からユーザインテントクエリを生成し、最終的なLCM決定の前に、実際のユーザリクエストをコンパクトな候補セットにマッピングする検索インデックスを構築する。
高レベルのスキルとアトミックツールを選択可能な機能として扱うことで、Toolleryはスキルライブラリとツールレジストリの両方に適用できる。
約79K対応のSkillRouterベンチマーク,440以上のアトミックツールを備えたBFCL-V4,220以上のツールに対する3,396の独自スマートコックピット要求について,Toolleryを評価した。
これらの設定全体で、Toolleryはオンラインの選択をコンパクトなトップ$の候補セットに縛り付け、通常の仕様検索よりもリコールを改善する。
固定されたトップ10予算で、Toolleryはコックピットデータセットのエンドツーエンドの選択を改善し、BFCL-V4で同等のAST精度を維持する。
これらの結果は、大規模で進化するエージェント機能ライブラリの実用的な候補圧縮フレームワークとして、Toolleryをサポートし、品質とコストの上昇は、ワークロードのカバレッジとプロバイダキャッシングに依存していることを示している。
関連論文リスト
- PTR: Precision-Driven Tool Recommendation for Large Language Models [43.53494041932615]
大規模言語モデル(LLM)のためのPTR(Precision-driven Tool Recommendation)アプローチを提案する。
PTRは、過去のツールバンドルの利用を利用して、初期的かつ簡潔なツールセットをキャプチャし、ツールマッチングを実行することで、ツールセットを動的に調整する。
LLMのツールレコメンデーションの有効性を評価するために,新しいデータセットRecToolsとメトリクスTRACCを提案する。
論文 参考訳(メタデータ) (2024-11-14T17:33:36Z) - MetaTool Benchmark for Large Language Models: Deciding Whether to Use Tools and Which to Use [79.87054552116443]
大規模言語モデル(LLM)は、その印象的な自然言語処理(NLP)能力のために大きな注目を集めている。
このベンチマークは、LLMがツールの使用意識を持ち、ツールを正しく選択できるかどうかを評価するためのものだ。
8つの人気のあるLCMを巻き込んだ実験を行い、その大半は依然として効果的にツールを選択するのに苦労していることがわかった。
論文 参考訳(メタデータ) (2023-10-04T19:39:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。