論文の概要: How Much Can Tool Calls Reveal About You? Privacy Leakage from Tool-Call Traces

• arxiv url: http://arxiv.org/abs/2610.41885v1
• Date: Fri, 30 Oct 2026 15:30:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.789248
• Title: How Much Can Tool Calls Reveal About You? Privacy Leakage from Tool-Call Traces
• Title（参考訳）: ツールコールはいくらでできるのか? ツールコールトレースからのプライバシー漏洩
• Abstract要約: 大規模言語モデル(LLM)ベースのエージェントは、モデルコンテキストプロトコル(MCP)などのプロトコルを介して外部ツールと対話する。 これは、1,000の合成ユーザプロファイルと4つのドメインにわたる4,000のエージェントトラジェクトリを含むベンチマークである。 4つの主要な攻撃者による実験では、ツールコールトレースにより、プロファイル推論に対する26.25%の攻撃成功率が実現されている。
• 参考スコア（独自算出の注目度）: 42.93986491684797
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM)-based agents interact with external tools through protocols such as the Model Context Protocol (MCP), producing tool-call traces that may expose behavioral signals about users. In this work, we systematically study the risk of user-profile inference from MCP tool-call traces, where observers infer user attributes from protocol-valid tool interactions without access to user conversations. We introduce PrivacyTrace, a benchmark containing 1,000 synthetic user profiles and 4,000 agent trajectories across four domains, generated with real MCP tools from 25 servers. Experiments with four mainstream LLM attackers show that tool-call traces enable a 26.25% attack success rate for profile inference, compared with 17.97% from prior-based guessing. Further analysis reveals that tool arguments and returned results provide the main trace-grounded evidence, while linking traces across sessions further amplifies profiling risk. These findings demonstrate that MCP tool-call traces can act as effective behavioral side channels for user profiling, motivating the development of privacy-aware mechanisms for agent-tool interactions. Code and data are available at https://github.com/AI45Lab/PrivacyTrace.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのエージェントは、モデルコンテキストプロトコル(MCP)などのプロトコルを通じて外部ツールと対話し、ユーザに関する行動信号を公開するツールコールトレースを生成する。 本研究では,MPPツールコールトレースからのユーザ注目推論のリスクを系統的に研究し,利用者の会話にアクセスできることなく,プロトコル無効なツールインタラクションからユーザ属性を推測する。 我々は,25台のサーバから実際のMPPツールで生成された,1,000のユーザプロファイルと4,000のエージェントトラジェクトリを含むベンチマークであるPrivacyTraceを紹介した。 4つの主要なLCM攻撃者による実験では、ツールコールトレースが26.25%の攻撃成功率を実現している。 さらなる分析により、ツール引数と返された結果が、主要なトレースグラウンドのエビデンスを提供する一方で、セッション間でトレースをリンクすることで、プロファイリングのリスクをさらに増幅することが明らかになった。 これらの結果から,MPPツールコールトレースはユーザのプロファイリングに有効な行動側チャネルとして機能し,エージェントとツールのインタラクションにプライバシを意識したメカニズムの開発を動機付けることが示唆された。 コードとデータはhttps://github.com/AI45Lab/PrivacyTrace.comで公開されている。

関連論文リスト

• Log-To-Leak: Prompt Injection Attacks on Tool-Using LLM Agents via the Model Context Protocol [7.073753197587707]
  LLM エージェントは Model Context Protocol (MCP) を通じて外部ツールにアクセスしやすくなっている。 Log-To-Leak(ログ・トゥ・リーク)は、最後の正当な呼び出しの後、個別のアタッカーが制御する呼び出しを誘導するポストホックロギング攻撃である。 5つのMPPサーバと4つのLCMエージェントを,有効性,有用性,効率性にまたがる5つの指標を用いて評価した。
  論文  参考訳（メタデータ） (2026-10-26T18:20:24Z)
• ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
  本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。 提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
  論文  参考訳（メタデータ） (2026-08-27T01:22:14Z)
• The Claws in Plain Sight: Unauthorized Context Disclosure through LLM Agent Tool Calls [4.1052596260911836]
  LLMエージェントは、通常、ユーザプロファイル、会話履歴、検索されたドキュメント、および以前のツール結果からツールコール引数を構築する。 Claw in Plain Sightは、タスク隣接コンテンツフレームが属性を操作上または手続き的に保護する権限-圧力攻撃である。
  論文  参考訳（メタデータ） (2026-08-21T01:32:03Z)
• HyperTool: Beyond Step-Wise Tool Calls for Tool-Augmented Agents [52.33697136670754]
  textbfHyperToolは、実行可能なMPPスタイルのツールインターフェースで、ツール実行のモデル可視単位を変更する。 モデルはHyperToolをコードブロックで呼び出し、既存のツールを元のスキーマを通じて呼び出し、返却された値を操作し、中間結果をローカルに渡すことができる。 MCP-Universeでは、HyperToolは平均精度をQwen3-32Bで15.69%から35.29%、Qwen3-8Bで9.93%から33.33%に改善し、GPT-OSSとKimi-k2.5を平均で上回っている。
  論文  参考訳（メタデータ） (2026-06-11T17:56:36Z)
• IntentMiner: Intent Inversion Attack via Tool Call Analysis in the Model Context Protocol [13.894225834026997]
  Model Context Protocol (MCP) は、外部ツールの発見と呼び出しのための標準である。 サードパーティのMPPサーバは、ユーザの信頼されたバウンダリの外で詳細なツールインタラクションログを監視できる。 ステップレベルでユーザの意図を正確に推測するために,IntentMinerを提案する。
  論文  参考訳（メタデータ） (2025-12-16T07:52:55Z)
• Automated Profile Inference with Language Model Agents [67.32226960040514]
  自動プロファイル推論(Automatic Profile Inference)と呼ばれる,LLMがオンラインの偽名にもたらす新たな脅威について検討する。 相手は、LDMに対して、疑似プラットフォーム上で公開されているユーザアクティビティから、機密性の高い個人属性を自動的に取り除き、抽出するように指示することができる。 実世界のシナリオにおけるこのような脅威の可能性を評価するために,AutoProfilerという自動プロファイリングフレームワークを導入する。
  論文  参考訳（メタデータ） (2025-05-18T13:05:17Z)
• Towards Realistic Evaluation of Commit Message Generation by Matching Online and Offline Settings [77.20838441870151]
  オンラインメトリック - VCSに生成されたメッセージをコミットする前にユーザが導入する編集回数 - を使用して、オフライン実験用のメトリクスを選択します。 我々は,GPT-4が生成したコミットメッセージと,人間の専門家が編集したコミットメッセージからなる57対のデータセットを収集した。 以上の結果から,編集距離が最も高い相関性を示すのに対し,BLEUやMETEORなどの類似度は低い相関性を示すことがわかった。
  論文  参考訳（メタデータ） (2024-10-15T20:32:07Z)
• UTrace: Poisoning Forensics for Private Collaborative Learning [10.277942498535658]
  UTraceは、機械学習システムにおけるユーザレベルのトレースバックのためのフレームワークである。 これは、プライバシー保証を妥協することなく、責任あるデータ所有者に整合性障害を負わせる。 MPC互換のトレーニングおよび監査パイプライン内にUTraceを実装します。
  論文  参考訳（メタデータ） (2024-09-23T15:32:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。