論文の概要: Tool Calling is Linearly Readable and Steerable in Language Models

• arxiv url: http://arxiv.org/abs/2605.07990v1
• Date: Fri, 08 May 2026 16:47:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:39.215379
• Title: Tool Calling is Linearly Readable and Steerable in Language Models
• Title（参考訳）: ツール呼び出しは言語モデルで線形に読みやすくステアリングできる
• Authors: Zekun Wu, Ze Wang, Seonglae Cho, Yufei Yang, Adriano Koshiyama, Sahan Bulathwela, Maria Perez-Ortiz,
• Abstract要約: ツール呼び出しエージェントが間違ったツールを選択すると、実行まで失敗は見えない。 Gemma 3、Qwen 3、Qwen 2.5、Llama 3.1の12の命令調整モデルを使用します。 選択したツールの同一性は、モデル内で線形で、管理可能であることが分かりました。
• 参考スコア（独自算出の注目度）: 7.851713181228514
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When a tool-calling agent picks the wrong tool, the failure is invisible until execution: the email gets sent, the meeting gets missed. Probing 12 instruction-tuned models across Gemma 3, Qwen 3, Qwen 2.5, and Llama 3.1 (270M to 27B), we find the identity of the chosen tool is linearly readable and steerable inside the model. Adding the mean-difference between two tools' average internal activations switches which tool the model selects at 77-100% accuracy on name-only single-turn prompts (93-100% at 4B+), and the JSON arguments that follow autoregressively match the new tool's schema, so flipping the name is enough. The same per-tool means also flag likely errors before they happen: on Gemma 3 12B and 27B, queries where the gap between the top-1 and top-2 tool is smallest produce 14-21x more wrong calls than queries with the largest gap. The causal effect concentrates along one direction, the row of the output layer that produces the target tool's first token: a unit vector along it at matched magnitude already reaches 93-100%, while what is left over leaves the choice almost untouched. Activation patching localises this to a small set of mid- and late-layer attention heads, and a within-topic probe across 14 same-domain $τ$-bench airline tools reaches top-1 61-89% across five 4B-14B models, ruling out the reading that we are just moving the model along a topic axis. Even base models encode the right tool before they can emit it: cosine readout from the internal state recovers 69-82% on BFCL while base generation reaches only 2-10%, suggesting pretraining forms the representation and instruction tuning later wires it to the output. We measure tool identity selection and JSON schema correctness in single-turn fixed-menu settings; multi-turn agentic transfer is more fragile and is discussed in Limitations.
• Abstract（参考訳）: ツール呼び出しエージェントが間違ったツールを選択すると、その失敗は実行まで見えなくなります。 Gemma 3, Qwen 3, Qwen 2.5, Llama 3.1 (270Mから27B) の12種類の命令調整モデルを探索すると, 選択したツールの同一性はモデル内で線形に読みやすく, 操舵可能であることがわかった。 モデルが名前のみのシングルターンプロンプト(4B+で93-100%)で77-100%の精度で選択する2つのツールの平均的な内部アクティベーションスイッチと、新しいツールのスキーマに自動的に一致するJSON引数の間に平均差を追加することで、名前の切り替えは十分である。 Gemma 3 12Bと27Bでは、トップ1とトップ2ツール間のギャップが最小になるクエリは、最大のギャップを持つクエリよりも14～21倍間違った呼び出しを生成する。 因果効果は1方向に集中しており、ターゲットツールの最初のトークンを生成する出力層の行は、マッチした大きさの単位ベクトルが既に93-100%に達しており、残るものはほとんど触れられていない。 アクティベーションパッチ(Activation patching)は、これを小さな中層と後期層のアテンションヘッドのセットにローカライズし、14の同じドメインの$τ$-benchの航空会社ツールを横断するイントラトピープローブは、5つの4B-14Bモデルでトップ-1 61-89%に達する。 内部状態からのコサイン読み出しはBFCL上で69～82%回復し、ベース生成は2～10%にしか達しない。 ツールのアイデンティティ選択とJSONスキーマの正しさをシングルターン固定メニュー設定で測定する。

関連論文リスト

• ARISE: A Repository-level Graph Representation and Toolset for Agentic Fault Localization and Program Repair [0.0]
  ARISE (Agentic Repository-level Issue Solving Engine) は,マルチグラニュラリティプログラムグラフを用いたLLMエージェントを拡張したものである。 ARISEはこのグラフを3層ツールAPIを通じて公開し、データフロースライシングをファーストクラスのクエリ可能なエージェントプリミティブとして提供する。 我々は、Qwen2.5-Coder-32B-Instructをバックボーンとして、SWE-bench Lite(300の実際のGitHubイシュー、11のPythonレポジトリ)を評価した。
  論文  参考訳（メタデータ） (2026-05-04T19:59:23Z)
• Squeez: Task-Conditioned Tool-Output Pruning for Coding Agents [0.8714519393367773]
  符号化エージェントは、次のステップで各観察のごく一部だけであっても、長いツール観察を繰り返し消費する。 タスク条件付きツールアウトプットプルーニングについて検討する: 集中クエリと1つのツールアウトプットが与えられたら、エージェントが次に検査すべき最小の動詞のエビデンスを返します。
  論文  参考訳（メタデータ） (2026-04-04T18:52:44Z)
• AgentProcessBench: Diagnosing Step-Level Process Quality in Tool-Using Agents [50.481033105867205]
  我々はAgentProcessBenchを紹介した。AgentProcessBenchは、現実的なツール拡張トラジェクトリにおけるステップレベルの有効性を評価するための最初のベンチマークである。 ベンチマークは、1,000の多様な軌跡と8,509の人間ラベル付きステップアノテーションと89.1%のアノテーション間合意で構成されている。 探索をキャプチャする3つのラベリングスキームと、ラベルのあいまいさを減らすためのエラー伝搬ルールを備えている。
  論文  参考訳（メタデータ） (2026-03-15T16:13:58Z)
• ToolFlood: Beyond Selection -- Hiding Valid Tools from LLM Agents via Semantic Covering [2.6928305857508974]
  本稿では,ツール拡張型Large Language Model (LLM)エージェントに対する検索層攻撃であるToolFloodを紹介する。 検索後にどのツールが選択されるかを変更するのではなく、ToolFloodは、いくつかのアタッカー制御ツールを注入することで、検索自体を圧倒する。 ToolFloodは、95%のアタック成功率と低インジェクション率を実現している。
  論文  参考訳（メタデータ） (2026-03-14T13:54:49Z)
• AlphaApollo: Orchestrating Foundation Models and Professional Tools into a Self-Evolving System for Deep Agentic Reasoning [110.57865233597762]
  自己進化型エージェント推論システムであるAlphaApolloについて述べる。 基礎モデル(FM)における2つのボトルネックに対処することを目的としている。 AlphaApolloは、意図的に検証可能な推論を可能にするために、複数のモデルをプロのツールで編成する。
  論文  参考訳（メタデータ） (2025-10-05T15:42:24Z)
• MCP-Zero: Active Tool Discovery for Autonomous LLM Agents [13.005899769943442]
  ツール発見の自律性を LLM 自体に復元する,アクティブエージェントフレームワークである MCP-Zero を紹介する。 すべての利用可能なツールで圧倒的なモデルを使用する代わりに、CP-Zeroはエージェントが能率ギャップを積極的に識別し、特定のツールをオンデマンドで要求することを可能にする。 公式の Model-Context-Protocol リポジトリから 308 の MCP サーバと 2,797 ツールの包括的なデータセットである MCP-tools を構築した。
  論文  参考訳（メタデータ） (2025-06-01T15:48:53Z)
• A Simple Linear Patch Revives Layer-Pruned Large Language Models [58.056251480151104]
  大規模言語モデル(LLM)の圧縮技術として広く使われているレイヤプルーニング(Layer pruning)が登場している。 textscLinearPatchはプルーニングインターフェイスで2つの操作を1つの行列に乗算する。 パッチはメモリ効率の悪いオフライン蒸留によって5Kの未ラベルのサンプルでさらに洗練され、1つのGPUでわずか30分で95.16%に保留できる。
  論文  参考訳（メタデータ） (2025-05-30T15:06:08Z)
• S*: Test Time Scaling for Code Generation [55.11863577956177]
  コード生成のための最初のハイブリッドテストタイムスケーリングフレームワークであるS*を提案する。 S*は生成されたコードのカバレッジと選択精度を大幅に改善する。
  論文  参考訳（メタデータ） (2025-02-20T09:18:53Z)
• s1: Simple test-time scaling [148.4204982041058]
  テスト時間スケーリングは、パフォーマンスを改善するために余分なテスト時間計算を使用する言語モデリングに対する、有望な新しいアプローチである。 テストタイムのスケーリングと強力な推論性能を実現するための最もシンプルなアプローチを探します。
  論文  参考訳（メタデータ） (2025-01-31T18:48:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。