論文の概要: ToFu: Exploiting and Fuzzing the LLM-Orchestrator-Tool Trust Boundary

• arxiv url: http://arxiv.org/abs/2610.13651v1
• Date: Fri, 09 Oct 2026 14:27:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.620047
• Title: ToFu: Exploiting and Fuzzing the LLM-Orchestrator-Tool Trust Boundary
• Title（参考訳）: ToFu: LLM-Orchestrator-Tool Trust境界の爆発と曖昧化
• Abstract要約: ToFuは、LLMツールのセマンティックセキュリティチェックをメタデータとCWE誘導サニタイザコーパスから自動的に引き出すツール対応フレームワークである。 ToFuを3405のツールを含む273のMPPサーバで評価し、118のサーバで343のツールでCWEの弱点クラスに対応するバグを確認した。
• 参考スコア（独自算出の注目度）: 6.8215982752738205
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed as agents that interact with external software through tools, with an orchestration layer translating model outputs into structured tool invocations. This architecture creates an LLM-orchestrator-tool trust boundary where tool semantics may go unenforced and LLM-generated arguments may be incorrectly treated as trusted. We present ToFu, a tool-aware framework that automatically derives semantic security checks for LLM tools from their existing metadata and a CWE-guided sanitizer corpus. ToFu specializes these checks to individual tools and automatically generates fuzzing harnesses and semantic oracles using runtime introspection and outcome sanitization. We evaluated ToFu across 273 MCP servers containing 3405 tools and identified verified bugs corresponding to CWE weakness classes in 343 tools across 118 of the servers. Our findings show that real-world tools frequently fail to enforce their documented input semantics, making it unsafe to treat LLM-generated arguments as trusted.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ツールを通じて外部ソフトウェアと対話するエージェントとして、モデル出力を構造化ツール呼び出しに変換するオーケストレーションレイヤとして、ますます多くデプロイされている。 このアーキテクチャは、LLM-orchestrator-tool 信頼境界を生成し、ツールセマンティクスは強制されず、LLM生成した引数は誤って信頼として扱われる。 既存のメタデータとCWE誘導サニタイザコーパスからLLMツールのセマンティックセキュリティチェックを自動的に抽出するツール認識フレームワークであるToFuを提案する。 ToFuはこれらのチェックを個別のツールに特化し、実行時のイントロスペクションと結果のサニタイズを使用してファジィ・ハーネスとセマンティック・オラクルを自動的に生成する。 ToFuを3405のツールを含む273のMPPサーバで評価し、118のサーバで343のツールでCWEの弱点クラスに対応するバグを確認した。 その結果,実世界のツールは文書化された入力セマンティクスを強制できないことが多く,LCM生成した議論を信頼できるものとして扱うことは危険であることがわかった。

関連論文リスト

• ToolRosetta: Bridging Open-Source Repositories and Large Language Model Agents through Automated Tool Standardization [51.92237664440418]
  ToolRosettaは、オープンソースのコードリポジトリとAPIを自動的にMPP互換のツールに変換するフレームワークである。 ユーザタスクが与えられた場合、ToolRosettaはツールチェーンを自律的に計画し、関連するツールチェーンを特定し、実行可能なMPPサービスに変換する。
  論文  参考訳（メタデータ） (2026-03-10T07:19:43Z)
• Gecko: A Simulation Environment with Stateful Feedback for Refining Agent Tool Calls [56.407063247662336]
  本稿では,ルールとLLMを組み合わせてツール応答をシミュレートする総合環境であるGeckoを紹介する。 GATS は GPT-4o, GPT-5, Gemini-3.0-pro など様々な LLM のツールコール性能を一貫して改善している。
  論文  参考訳（メタデータ） (2026-02-22T15:02:00Z)
• ToolCritic: Detecting and Correcting Tool-Use Errors in Dialogue Systems [4.930296454541593]
  ToolCriticは、マルチターン、ツール拡張された対話におけるツールの使用を評価し、改善するフレームワークである。 試行によると、ToolCriticはツール呼び出しの精度を最大13%改善している。
  論文  参考訳（メタデータ） (2025-10-19T23:42:39Z)
• Learning to Ask: When LLM Agents Meet Unclear Instruction [55.65312637965779]
  大きな言語モデル(LLM)は、言語スキルだけでは達成不可能なタスクに対処するための外部ツールを活用することができる。 我々は、不完全な命令下でのLLMツールの使用性能を評価し、エラーパターンを分析し、Noisy ToolBenchと呼ばれる挑戦的なツール使用ベンチマークを構築した。 Ask-when-Needed (AwN) という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-31T23:06:12Z)
• Tool Learning in the Wild: Empowering Language Models as Automatic Tool Agents [56.822238860147024]
  大規模な言語モデルを外部ツールで拡張することは、彼らのユーティリティを拡張するための有望なアプローチとして現れました。 以前のメソッドは、ツールドキュメントを手動で解析し、コンテキスト内デモを作成し、ツールをLLMがステップバイステップの推論で使用する構造化フォーマットに変換する。 LLMがツール使用ワークフローを自動化できるフレームワークであるAutoToolsを提案する。
  論文  参考訳（メタデータ） (2024-05-26T11:40:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。