Fugu-MT 論文翻訳(概要): PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say

論文の概要: PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say

arxiv url: http://arxiv.org/abs/2606.00152v1
Date: Fri, 29 May 2026 04:55:12 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-02 21:34:28.068831
Title: PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say
Title（参考訳）: プライバシー調査:LSMベースのエージェントが何を入手しているかを調査する
Authors: Mingxuan Zhang, Jiahui Han, Dadi Guo, Songze Li, Guanchu Wang, Na Zou, Dongrui Liu, Xia Hu,
Abstract要約: LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。 LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
参考スコア（独自算出の注目度）: 48.84133320567554
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: LLM-based agents are rapidly advancing, autonomously invoking external tools to complete multi-step tasks for users. However, agents often acquire more sensitive information than the task requires. Existing privacy benchmarks audit what the agent's response or outgoing actions disclose, but overlook the acquisition stage where data first enters the agent's context. The over-acquired information is then one careless action or one attack away from an outright leak. To assess its prevalence, we introduce \emph{PrivacyPeek}, a benchmark for evaluating acquisition-stage privacy leakage of LLM-based agents, with $1{,}182$ cases across $7$ acquisition behaviours and $16$ application domains. Specifically, \emph{Acquisition Inspection} examines the agent's tool-call trajectory, both the tools it invokes and the data it receives, to detect when it acquires sensitive information beyond the task scope. \emph{Probe Elicitation} then issues a follow-up probe and measures how readily an attacker could elicit sensitive information the agent acquired but did not disclose. Our experiments on 10 LLM-based agents across 4 model families show that the unnecessary acquisition of sensitive information is widespread. In addition, we observe a correlation between the task-completion capability and acquisition-stage leakage. Prompt-level defences reduce only a small fraction of acquisition-stage leakage, leaving the majority unmitigated. These results make auditing acquisition-stage privacy both urgent and necessary. Our dataset and code are available at https://github.com/Xuan269/PrivacyPeek-Resource.
Abstract（参考訳）: LLMベースのエージェントは、ユーザのためのマルチステップタスクを完了させるために、外部ツールを自律的に起動する、急速に進歩している。しかし、エージェントは要求されるタスクよりも敏感な情報を取得することが多い。既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。過度に取得された情報は、1つの不注意なアクションまたは1つの攻撃で、アウトライトリークから遠ざかる。 LLMベースのエージェントの取得ステージのプライバシリークを評価するベンチマークである \emph{PrivacyPeek} を紹介します。具体的には、 \emph{Acquisition Inspection} は、エージェントのツール呼び出し軌跡、呼び出しするツールと受信するデータの両方を調べ、タスクスコープを超えて機密情報を取得することを検知する。次に \emph{Probe Elicitation} はフォローアッププローブを発行し、攻撃者がそのエージェントが取得した機密情報をいかに簡単に引き出せるかを測定する。 4つのモデルファミリーにまたがる10個のLSMエージェントを用いた実験により, センシティブな情報の不要な取得が広く行われていることが示された。さらに,タスク・コンプリート能力と獲得段階リークの相関を観察する。プロンプトレベルの防衛は、少数の買収段階のリークを減らし、大多数は未解決のままである。これらの結果は、買収段階のプライバシーを緊急かつ必要の両方に監査する。データセットとコードはhttps://github.com/Xuan269/PrivacyPeek-Resource.comから入手可能です。

論文の概要: PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say

関連論文リスト