論文の概要: Training Small Language Models for Transferable Tool Selection
- arxiv url: http://arxiv.org/abs/2610.31483v1
- Date: Thu, 22 Oct 2026 16:07:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.470788
- Title: Training Small Language Models for Transferable Tool Selection
- Title(参考訳): 伝達可能なツール選択のための小言語モデルの訓練
- Abstract要約: 小型でオープンなモデルを強化学習によってトレーニングして,同じ機能を実現できることを示す。
ToolBench, a Qwen3-8B model after-trained with our recipe outs Llama-4-Maverick (402B)
- 参考スコア(独自算出の注目度): 24.296315204142143
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM agents operate over corpora of more than ten thousand tools, selecting the right tool for a complex multi-step user instruction becomes a central bottleneck. Tool descriptions cannot all fit in context, and relevance-based retrievers only rank tools without knowing which are actually needed. Recent work instead leverages proprietary commercial LLMs like Claude or ChatGPT to drive a retriever, decomposing the instruction and selecting over retrieved candidates. We show that a small, open model can be trained via reinforcement learning to perform the same functionality. On ToolBench, a Qwen3-8B model post-trained with our recipe outperforms Llama-4-Maverick (402B). In addition, the trained model transfers directly to different retrievers and generalizes to new tool corpora in different domains.
- Abstract(参考訳): LLMエージェントが1万以上のツールのコーパス上で動作することにより、複雑なマルチステップのユーザ命令に適したツールを選択することが、中心的なボトルネックとなる。
ツール記述は、すべてコンテキストに適合せず、関連性ベースのレトリバーは、実際にどのツールが必要なのかを知らずに、ツールをランク付けするのみである。
近年の作業では、ClaudeやChatGPTといったプロプライエタリな商用LLMを活用して、レトリバーを駆動し、命令を分解し、検索された候補を選択する。
小型でオープンなモデルを強化学習によってトレーニングして,同じ機能を実現できることを示す。
ToolBenchでは、レシピでトレーニング後のQwen3-8BモデルがLlama-4-Maverick (402B)より優れています。
さらに、トレーニングされたモデルは、異なるレトリバーに直接転送し、異なるドメインの新しいツールコーパスに一般化する。
関連論文リスト
- Tool Learning in the Wild: Empowering Language Models as Automatic Tool Agents [56.822238860147024]
大規模な言語モデルを外部ツールで拡張することは、彼らのユーティリティを拡張するための有望なアプローチとして現れました。
以前のメソッドは、ツールドキュメントを手動で解析し、コンテキスト内デモを作成し、ツールをLLMがステップバイステップの推論で使用する構造化フォーマットに変換する。
LLMがツール使用ワークフローを自動化できるフレームワークであるAutoToolsを提案する。
論文 参考訳(メタデータ) (2024-05-26T11:40:58Z) - MLLM-Tool: A Multimodal Large Language Model For Tool Agent Learning [40.32823306537386]
本稿では,オープンソースの大規模言語モデルとマルチモーダルエンコーダを組み合わせたMLLM-Toolを提案する。
データセットにはHuggingFaceからのマルチモーダル入力ツールが特徴です。
実験の結果,MLLM-Toolはマルチモーダル命令に適したツールを推奨できることがわかった。
論文 参考訳(メタデータ) (2024-01-19T14:44:37Z) - MetaTool Benchmark for Large Language Models: Deciding Whether to Use Tools and Which to Use [79.87054552116443]
大規模言語モデル(LLM)は、その印象的な自然言語処理(NLP)能力のために大きな注目を集めている。
このベンチマークは、LLMがツールの使用意識を持ち、ツールを正しく選択できるかどうかを評価するためのものだ。
8つの人気のあるLCMを巻き込んだ実験を行い、その大半は依然として効果的にツールを選択するのに苦労していることがわかった。
論文 参考訳(メタデータ) (2023-10-04T19:39:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。