論文の概要: Tunable Tool-Call Rates in LLM Agents via Representation Steering
- arxiv url: http://arxiv.org/abs/2608.25198v1
- Date: Tue, 25 Aug 2026 22:35:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.48524
- Title: Tunable Tool-Call Rates in LLM Agents via Representation Steering
- Title(参考訳): 表現ステアリングによるLDM剤の可変工具コールレート
- Abstract要約: 本研究では,モデル自身のツール使用嗜好信号からトレーニングを受けずに抽出した残ストリーム内の1つの直線方向でツールを制御できることを示す。
また、その方向は、特定のツールの選択を好まずに、各ツール自身の方向と同等の強度で、見えないツールに一般化されていることも示しています。
- 参考スコア(独自算出の注目度): 45.332672398938136
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deciding whether to call a tool is a core competence of an LLM agent, and a costly one to get wrong: needless calls add latency, accrue cost, and may trigger irreversible side effects, while missing calls leave the model confidently wrong on questions it could only answer through tool-calls. Models manage this balance poorly, both over-using and under-using tools. Existing methods such as post-training and prompt engineering are expensive and difficult to modify at inference time. We show that whether an instruction-tuned model calls a tool can be controlled by a single linear direction in its residual stream, extracted without any training from the model's own tool-use preference signal and turned into an inference-time intervention with no prompt change. Adding the direction with strength $α$ moves the call rate monotonically from near $0\% $ to over $90\%$ while keeping calls well-formed. The steering works in both directions: dialing it down suppresses calls, and dialing it up induces new calls that land precisely on the questions the model cannot answer from its own knowledge. We also show that the direction generalizes to unseen tools with strength comparable to each tool's own direction and without favoring any specific tool choice. With live tool execution, a single sweep of the steering traces a cost/accuracy Pareto frontier and nearly doubles open-domain QA accuracy ($0.29 \! \rightarrow \! 0.56$); the same recipe transfers across a diverse range of models spanning dense, MoE, and multimodal architectures, without any training. Our code is publicly available at https://github.com/YuqiChen4188/Steering-Tool-Use-Propensity.
- Abstract(参考訳): 不要な呼び出しはレイテンシを増し、コストを発生させ、不可逆的な副作用を引き起こす可能性がある一方で、コールの欠如は、ツールコールによってのみ答えられるような疑問にモデルを確実に間違える。
モデルはオーバーユースツールとアンダーユースツールの両方で、このバランスを悪く管理します。
ポストトレーニングやプロンプトエンジニアリングのような既存の手法は高価であり、推論時に修正することは困難である。
提案手法では, ツールを呼び出したモデルが, 残ストリーム内の1つの直線方向で制御可能であるか, モデル自身のツール使用嗜好信号からトレーニングを受けずに抽出され, 即時変化のない推論時間介入に変換されることを示す。
強度が$α$の方向を追加すると、呼び出しレートが0.%近いものから90.%以上のものへと単調に移動し、呼び出しは順調に変化する。
このステアリングは、両方の方向で機能する: 呼び出しをダイヤルし、それをダイヤルし、モデルが自身の知識から答えられない質問に正確に着地する新しい呼び出しを誘導する。
また,各ツールの方向性に匹敵する強度で,特定のツールの選択を好まないまま,その方向が一般化されることも示している。
ライブツールの実行では、ステアリングを一掃してコスト/精度のParetoフロンティアをトレースし、オープンドメインのQA精度(0.29ドル!
きゃーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー
0.56$); 同じレシピは、トレーニングなしで、高密度、MoE、マルチモーダルアーキテクチャにまたがるさまざまなモデルにまたがる。
私たちのコードはhttps://github.com/YuqiChen4188/Steering-Tool-Use-Propensityで公開されています。
関連論文リスト
- Joint Optimization of Tool Creation and Use for Large Language Model Agents [69.07066297088187]
SMITH (-grounded Multi-task Iterative Tool Honing) は、単一のポリシー内でツールの作成とツールの使用を訓練する。
SMITHで訓練された4B Qwen3は、正確に検証された13の手続き的推論タスクで、保持されたタスクで平均79.8のマクロ平均精度に達する。
また、TabMWP-Hardでは40.4、ドメイン外のGQAでは42.6に到達している。
論文 参考訳(メタデータ) (2026-08-25T13:59:34Z) - Agentic Routing: The Harness-Native Data Flywheel [35.444792826526]
DRACOやPinchBenchなどのエージェントベンチマークにおけるシングルトンおよびマルチモデルルーティングに関する研究
エージェントルーティングは単なるコストコントロールではなく、エージェントネイティブなトレーニングのためのデータエンジンである、と氏は主張する。
論文 参考訳(メタデータ) (2026-07-13T11:05:55Z) - Diagnosing and Calibrating Tool-Call Boundary Drift in Multi-Teacher On-Policy Distillation [6.100373666222075]
複数教師によるオンライン蒸留は,集合的損失だけでは見えない行動変化を誘導できることを示す。
2教師用ツール使用設定では、バニラ一般化知識蒸留により、ツールコールリコールが改善されると同時に、オーバーコールに向けてモデルが移動される。
極端トークンレベルのJensen-Shannon発散を動的に圧縮する,トークンごとの発散校正法であるSoft Clampを提案する。
論文 参考訳(メタデータ) (2026-07-08T06:26:13Z) - ToolGate: Token-Efficient Pre-Call Control for Tool-Augmented Vision-Language Agents [9.793491545168575]
ToolGateは、軌道テキストと単純な構造的特徴から実行/スキップの決定を予測する。
2つのQwen3-VLバックボーンで、ToolGateはトークンコストを制限なしのReActベースラインの64-69%に削減する。
論文 参考訳(メタデータ) (2026-06-02T02:44:27Z) - Model-Adaptive Tool Necessity Reveals the Knowing-Doing Gap in LLM Tool Use [47.29360932085394]
大規模言語モデル(LLM)は、外部ツールを呼び出す時と直接答える時を判断しなければならない自律的なエージェントとして、ますます機能します。
本稿では,各モデルの経験的性能に基づいて,ツール必要度をモデル適応的に定義する。
その結果,26.5~54.0%,30.8~41.8%のミスマッチが認められた。
論文 参考訳(メタデータ) (2026-05-13T18:59:28Z) - LLM Agents Already Know When to Call Tools -- Even Without Reasoning [25.40369702634587]
LLMエージェントは、たとえモデルが直接答えられるとしても、ツールを無差別に呼び出す傾向がある。
ツールコールが実際に必要になった場合、既存のベンチマークは体系的に研究されない。
ツールの必要性の3つのカテゴリにまたがる18の環境のベンチマークである When2Tool を提案する。
論文 参考訳(メタデータ) (2026-05-10T01:37:40Z) - ET-Agent: Incentivizing Effective Tool-Integrated Reasoning Agent via Behavior Calibration [68.89572566071575]
ETAgentはエージェントのツール使用行動を調整するためのトレーニングフレームワークである。
過誤行動パターンを最適行動に段階的に校正するように設計されている。
論文 参考訳(メタデータ) (2026-01-11T11:05:26Z) - Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。
提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
論文 参考訳(メタデータ) (2025-10-08T18:24:59Z) - Efficient Tool Use with Chain-of-Abstraction Reasoning [63.08202389132155]
大規模言語モデル(LLM)は、現実世界の知識に対する推論の基礎となる必要がある。
マルチステップ推論問題におけるツールの実行には,微調整LDMエージェントの課題が残されている。
マルチステップ推論におけるツールの活用方法として, LLM の新しい手法を提案する。
論文 参考訳(メタデータ) (2024-01-30T21:53:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。