論文の概要: Extracting Knowledge from Tools in LLM Agents

• arxiv url: http://arxiv.org/abs/2608.30288v1
• Date: Mon, 31 Aug 2026 05:55:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.248646
• Title: Extracting Knowledge from Tools in LLM Agents
• Title（参考訳）: LLMエージェントのツールからの知識抽出
• Abstract要約: LLMエージェントは通常、知識ベースのツールを使用して、ツールの呼び出しを通じて、基礎となるファイル、データベース、検索インデックスにアクセスする。 本稿では,ツールによる知識抽出のリスクを体系的に検討する。 クエリのみの抽出攻撃であるToolSiphonを提案する。
• 参考スコア（独自算出の注目度）: 21.52835460223008
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents commonly use knowledge-based tools and access their underlying files, databases, and search indexes through tool invocation. This integration improves agents' ability to provide domain-specific services but also introduces the risk of tool-mediated knowledge extraction: source content exposed to an agent for legitimate responses may be progressively recovered from its outputs, enabling reconstruction of the knowledge source behind a target tool. This paper systematically investigates this risk and identifies two challenges introduced by tool invocation: tool-selection uncertainty, where an agent may invoke a competing tool instead of the target tool, and tool-argument compression, where fine-grained query information may be lost when the agent generates tool arguments. To tackle these challenges, we propose ToolSiphon, a query-only extraction attack that introduces two complementary signals: a target-discriminative signal, implemented through Tool Contrastive Analysis, to steer queries toward the target tool; and a response-grounded factual signal, implemented through Evidence Chained Feedback, to mitigate argument compression and progressively expand extraction coverage. Across three types of knowledge-based tools and six domain-specific datasets, ToolSiphon recovers 74.3% of source records on average when coarse-grained information about non-target tools is available, with 83.2% textual recovery and 90.2% semantic similarity. Even without such information, it recovers 66.3% of source records. ToolSiphon also remains effective against representative defenses and on three real-world agent platforms.
• Abstract（参考訳）: LLMエージェントは通常、知識ベースのツールを使用して、ツール呼び出しを通じて、基礎となるファイル、データベース、検索インデックスにアクセスする。 この統合により、エージェントがドメイン固有のサービスを提供する能力が向上すると同時に、ツールによる知識抽出のリスクももたらされる。 本稿では,ツール実行によるリスクを体系的に検討し,ツール選択の不確実性,ターゲットツールの代わりに競合ツールを起動するツール選択,ツール引数を生成する時に詳細なクエリ情報が失われるツール引数圧縮という2つの課題を特定する。 これらの課題に対処するために、ツールコントラスト分析によって実装されたターゲット識別信号と、Evidence Chained Feedbackによって実装された応答基底の事実信号の2つの補完的なシグナルを導入し、引数圧縮を緩和し、抽出範囲を徐々に拡大する、クエリのみの抽出攻撃であるToolSiphonを提案する。 3種類の知識ベースのツールと6つのドメイン固有のデータセットに対して、ToolSiphonは、ターゲットでないツールに関する粗粒度の情報を平均74.3%回収し、83.2%のテキストリカバリと90.2%のセマンティック類似性を持つ。 このような情報がなくても、66.3%のソースレコードを復元する。 ToolSiphonは、代表的防衛や3つの現実世界のエージェントプラットフォームにも有効である。

関連論文リスト

• Agents Trust Tools Too Much: Measuring Reliance on Unreliable Tools [16.535602696436424]
  Web検索,LLMサブエージェントデリゲート,コード実行という3つのツールを用いて,エージェントが信頼できないツールに応答する方法を評価する。 各ツールに対して、そのリターンを破損させ、エージェントが最終回答で破損したコンテンツを採用するかどうかを測定する。 エージェントは3つの設定にまたがって高いレベルのオーバートラストを示す。
  論文  参考訳（メタデータ） (2026-09-04T17:02:32Z)
• Forgotten in Weights, Recovered by Tools: Agentic Tool Unlearning for LLM Agents [54.050506620820784]
  エージェントツールアンラーニング(ATU)は、通常のツール使用を保持しながら、パラメトリックリコールとツールによるリカバリの両方を削減することを目的としている。 ATUは、ツール強化されたエージェントデプロイメント下で、ターゲットの忘れと保持ユーティリティのバランスを向上し、未学習をより堅牢にする。
  論文  参考訳（メタデータ） (2026-08-21T18:34:48Z)
• SING: Synthetic Intention Graph for Scalable Active Tool Discovery in LLM Agents [64.59100414726556]
  大規模言語モデル(LLM)エージェントは、コンテキスト、ツール、マルチターン実行を管理するハーネスに依存している。 Retrieval-augmented Tool selectionは、自然な代替手段を提供するが、既存のワンショット検索方法は、独立したツール記述とエージェントの真のタスク意図との整合に失敗する。 我々は、ユーザ意図、ツール機能、ツールコラボレーションパターンをリンクするインテントツーオールグラフを構築する、意図認識型のアクティブツール発見フレームワークであるSINGを提案する。
  論文  参考訳（メタデータ） (2026-06-15T11:37:37Z)
• Do Multimodal Agents Really Benefit from Tool Use? A Systematic Study of Capability Gains [20.11899219087138]
  画像のエージェントであるThymeとDeepEyesV2を用いて、現実世界の理解、OCR、チャート理解、数学的推論の2つの代表的思考について検討する。 ツールアクセスは、一貫した集約的改善がほとんど得られず、生成したコストを確実に削減することができず、小さなツールのみの解決セットのみを残している。
  論文  参考訳（メタデータ） (2026-06-01T15:04:25Z)
• ToolTweak: An Attack on Tool Selection in LLM-based Agents [52.17181489286236]
  対戦相手は,特定のツールの選択に対して,エージェントを体系的にバイアスし,等しく有能な代替手段に対して不公平な優位性を得ることができることを示す。 提案するToolTweakは,ベースラインの20%程度から最大81%までの選択率を向上する,軽量自動攻撃である。 これらのリスクを軽減するために、パラフレージングとパープレキシティ・フィルタリングという2つの防御効果を評価し、バイアスを低減し、エージェントが機能的に類似したツールをより平等に選択できるようにする。
  論文  参考訳（メタデータ） (2025-10-02T20:44:44Z)
• InfoMosaic-Bench: Evaluating Multi-Source Information Seeking in Tool-Augmented Agents [60.89180545430896]
  InfoMosaic-Benchは、ツール拡張されたエージェントを探すマルチソース情報に特化した最初のベンチマークである。 汎用検索とドメイン固有のツールを組み合わせるにはエージェントが必要である。 この設計は信頼性と非自明性の両方を保証する。
  論文  参考訳（メタデータ） (2025-10-02T17:48:03Z)
• InfoAgent: Advancing Autonomous Information-Seeking Agents [143.15973604285304]
  本稿では,革新的なデータ合成パイプラインとWeb検索ツールを駆使したディープリサーチエージェントInfoAgentを紹介する。 我々の方法では、InfoAgentはBrowseCompで15.3%、BrowseComp-ZHで29.2%、Xbench-DSで40.4%の精度を達成した。
  論文  参考訳（メタデータ） (2025-09-29T17:59:57Z)
• SMART: Self-Aware Agent for Tool Overuse Mitigation [58.748554080273585]
  現在のLarge Language Model (LLM) エージェントは、強力な推論とツールの使用能力を示すが、しばしば自己認識に欠ける。 この不均衡はツール・オーバーユースにつながり、モデルはパラメトリックな知識を持つタスクに対して、不要に外部ツールに依存する。 SMART(Strategic Model-Aware Reasoning with Tools)は、エージェントの自己認識を高め、タスクハンドリングを最適化し、ツールの過剰使用を減らすパラダイムである。
  論文  参考訳（メタデータ） (2025-02-17T04:50:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。