論文の概要: Spoofing the Toolbox: Optimizing Tool Descriptions to Deceive LLM Agents

• arxiv url: http://arxiv.org/abs/2610.33182v1
• Date: Fri, 23 Oct 2026 18:25:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.2658
• Title: Spoofing the Toolbox: Optimizing Tool Descriptions to Deceive LLM Agents
• Title（参考訳）: ツールボックスの発見: LLMエージェントを騙すツール記述の最適化
• Abstract要約: TSAは、既存の良性ツールと区別が難しい悪意のあるツールについて記述する。 シングルツールとマルチツールのベンチマークの実験では、TSAが92.13%の攻撃成功率を達成したことが示されている。 さらに,TSAが生成した記述と良質な記述とを区別することができないことを示す。
• 参考スコア（独自算出の注目度）: 13.468495566870631
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) agents are widely used in many applications and often rely on external tools. Tool information, such as function descriptions, helps agents determine which tools best suit a given context. However, attackers can manipulate this information to mislead LLM agents into using malicious tools. Prior attacks mainly rely on keyword-based techniques, which are easily detected, or rule-based methods, which have limited effectiveness. In this work, we introduce TSA, a stealthy tool-spoofing attack that crafts descriptions for malicious tools that are difficult to distinguish from those of existing benign tools. To achieve this, we propose an LLM-powered optimization method that iteratively refines malicious tool descriptions. Specifically, TSA begins with a variant of a benign tool description and updates it based on feedback from a surrogate LLM agent. The optimization method incorporates a feedback function and contrastive in-context learning to guide the search for descriptions that are both stealthy and effective. Experiments on both single- and multi-tool use benchmarks demonstrate that TSA achieves an attack success rate of up to 92.13\%, outperforming four state-of-the-art approaches while remaining highly stealthy. Our user study further shows that even human participants cannot distinguish descriptions generated by TSA from benign ones. Moreover, TSA remains effective against five tool-malware detectors.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、多くのアプリケーションで広く使われ、しばしば外部ツールに依存している。 関数記述のようなツール情報は、エージェントが与えられたコンテキストに最も適したツールを決定するのに役立つ。 しかし、攻撃者は、悪意のあるツールを使ってLLMエージェントを誤解させるために、この情報を操作することができる。 以前の攻撃は主に、簡単に検出できるキーワードベースのテクニックや、有効性に制限のあるルールベースの手法に依存していた。 本研究では,悪質なツールの記述を悪質なツールと区別するのが難しいステルスツールスプーフィング攻撃であるTSAを紹介する。 そこで本研究では,悪意のあるツール記述を反復的に洗練するLLMを用いた最適化手法を提案する。 具体的には、TSAは、良質なツール記述の変種から始まり、代理LDMエージェントからのフィードバックに基づいて更新する。 最適化手法は、フィードバック関数とコントラスト学習を取り入れて、ステルスで効果的な記述の探索を誘導する。 シングルツールとマルチツールのベンチマークの実験は、TSAが92.13\%の攻撃成功率を達成し、高いステルス性を維持しながら、4つの最先端のアプローチを上回ったことを示している。 さらに,TSAが生成した記述と良質な記述とを区別することができないことを示す。 さらに、TSAは5つのツールマルウェア検出器に対して有効である。

関連論文リスト

• Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks [12.83067910280608]
  大規模言語モデル(LLM)エージェントは、さまざまなドメインにまたがる印象的な機能を示している。 ダイレクト・プロンプト・インジェクション、インダイレクト・プロンプト・インジェクション、メモリ中毒、バックドア・アタックなど、敵の攻撃に対してますます脆弱である。 これら4つの攻撃タイプにまたがる統一された枠組みの中で、実用的で汎用的な防御戦略を探求する。
  論文  参考訳（メタデータ） (2026-09-14T15:20:30Z)
• ContextLeak: Exfiltrating LLM Agent Context via Malicious Tools [18.696583066271494]
  ContextLeakは悪意のあるツール攻撃であり、エージェントがツールを選択し、そのコンテキストを入力引数として公開するように誘導する。 具体的には、ContextLeakはLLMを使用して、悪意のあるツールの名前と記述を自動的に生成する。 我々の重要な技術的貢献は、文脈抽出目的に合わせた新しい報酬関数の設計である。
  論文  参考訳（メタデータ） (2026-08-28T00:31:27Z)
• Think Twice Before You Act: Protecting LLM Agents Against Tool Description Poisoning via Isolated Planning [48.99783163807576]
  クロスツール記述中毒は、エージェントの軌道を操縦するためにプランナー可視のツールメタデータを操作することができる。 重要な観察は、有毒な記述がステップを越えた計画コンテキストに留まり、その後のツール選択に対する継続的な影響を可能にすることである。 我々は,孤立計画と呼ばれる新しい概念に基づく新しいシステムレベルの防衛ツールであるTool-Guardを提案する。
  論文  参考訳（メタデータ） (2026-06-18T20:31:08Z)
• TRUSTDESC: Preventing Tool Poisoning in LLM Applications via Trusted Description Generation [16.85010496624083]
  大きな言語モデル(LLM)は、時間に敏感なタスクや実世界のアクションを実行するための外部ツールに依存している。 攻撃者は、悪意のある命令(明示的なTPA)を埋め込んでツール記述を操作したり、(単純なTPA)クレームを誤解してモデル動作やツール選択に影響を与える。 実装から信頼できるツール記述を自動的に生成することにより、ツール中毒を防止するための最初のフレームワークであるTRUSTDESCを提案する。
  論文  参考訳（メタデータ） (2026-04-08T19:18:11Z)
• MalTool: Malicious Tool Attacks on LLM Agents [52.01975462609959]
  MalToolはLLMベースのフレームワークで、特定の悪意のある振る舞いを示すツールを合成する。 MalTool は LLM のコーディングが安全に対応している場合でも非常に有効であることを示す。
  論文  参考訳（メタデータ） (2026-02-12T17:27:43Z)
• Sponge Tool Attack: Stealthy Denial-of-Efficiency against Tool-Augmented Agentic Reasoning [58.432996881401415]
  最近の作業では、エージェント推論を可能にするために、外部ツールで大きな言語モデル(LLM)を拡張している。 本稿では,入力プロンプトを書き換えることのみでエージェント推論を妨害するスポンジツールアタック(STA)を提案する。 STAは、意味的忠実度の高い原文からの良心的な即興的な書き直しを生成する。
  論文  参考訳（メタデータ） (2026-01-24T19:36:51Z)
• Prompt Injection Attack to Tool Selection in LLM Agents [60.95349602772112]
  一般的なアプローチは、与えられたタスクに対してツールライブラリから最も適切なツールを選択するための2段階のプロセス(式と例選択)に従う。 本研究では、no-boxシナリオにおける新しいプロンプトインジェクション攻撃ツール選択であるtextitToolHijackerを紹介する。
  論文  参考訳（メタデータ） (2025-04-28T13:36:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。