論文の概要: Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
- arxiv url: http://arxiv.org/abs/2606.26627v1
- Date: Thu, 25 Jun 2026 05:44:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.181265
- Title: Agents That Know Too Much: A Data-Centric Survey of Privacy in LLM Agents
- Title（参考訳）: LLMエージェントのプライバシーに関するデータ中心調査
- Abstract要約: 大規模言語モデルエージェントは、データベースのクエリの増加、ドキュメントコレクションの検索、外部APIの呼び出し、過去のインタラクションの記憶、ユーザの代理として振る舞う。
質問に答えることから、機密データを操作することに移行するにつれ、プライバシの強制は難しくなる。
我々は, LLMエージェントのプライバシをデータ中心の視点から調査し, 攻撃タイプではなく, エージェントが触れるデータを中心としたフィールドを整理する。
- 参考スコア（独自算出の注目度）: 1.0742675209112622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model agents increasingly query databases, search document collections, call external APIs, remember past interactions, and act on a user's behalf. As they move from answering questions to operating over sensitive data, privacy becomes harder to enforce. An agent touches many data sources, runs multi-step workflows, keeps state across sessions, and acts with delegated permissions. Sensitive information can therefore leak not only through its final answer but through the queries it issues, the intermediate results it handles, the memory it writes, and the messages it exchanges with other agents. We survey the privacy of LLM agents from a data-centric view, organizing the field around the data an agent touches rather than by attack type, and we use data agent as shorthand for an LLM agent that works with data. Research on these risks is active but scattered across retrieval-augmented generation, text-to-SQL interfaces, agent memory, prompt injection, access control, and contextual privacy. This survey brings that work together: we taxonomize the data sources an agent touches, the privacy risks each source creates, and the governance mechanisms that address them; we map the benchmarks used to measure these risks and identify what is missing; and we set out the open problems. Two findings recur: among governance mechanisms only information-flow control covers both compositional and cross-session inference leakage, the two least-protected risks; and no benchmark drives an agent across its data surfaces under one privacy policy, the instrument the field most lacks. Our goal is a reference that situates the scattered literature and gives future work a common framing.
- Abstract（参考訳）: 大規模言語モデルエージェントは、データベースのクエリの増加、ドキュメントコレクションの検索、外部APIの呼び出し、過去のインタラクションの記憶、ユーザの代理として振る舞う。
質問に答えることから、機密データを操作することに移行するにつれ、プライバシの強制は難しくなる。
エージェントは多くのデータソースに触れ、複数ステップのワークフローを実行し、セッション間で状態を保持し、委譲されたパーミッションで動作します。
そのため、センシティブな情報は最終回答だけでなく、それが発行するクエリ、処理する中間結果、書き込みするメモリ、他のエージェントと交換するメッセージを通じてリークする可能性がある。
データ中心の視点からLLMエージェントのプライバシを調査し、攻撃タイプではなく、エージェントが触れるデータを取り巻くフィールドを整理し、データを扱うLLMエージェントのハンドハンドとしてデータエージェントを使用する。
これらのリスクの研究はアクティブだが、検索強化された世代、テキストからSQLインターフェース、エージェントメモリ、プロンプトインジェクション、アクセス制御、コンテキストプライバシに分散している。
私たちは、エージェントが触れるデータソース、ソースが生成するプライバシーリスク、それに対処するガバナンスメカニズムを分類し、これらのリスクを測定し、何が欠けているかを特定するために使用されるベンチマークをマップし、オープンな問題を設定します。
ガバナンスメカニズムの中では、情報フロー制御のみが構成的および断続的推論のリークをカバーし、最も保護されていない2つのリスクをカバーしている。
私たちのゴールは、散在する文献を整理し、将来の作品に共通のフレーミングを与えるリファレンスです。
関連論文リスト
- SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration [77.28003194268977]
SearchOSは、脆弱で暗黙的な検索進捗を明示的で永続的で共有状態に変換するシステムレベルのマルチエージェントフレームワークである。
SOCM上に構築されたSearchOSは、サブエージェントの実行を重複させるパイプライン並列スケジューリングメカニズムを適用している。
SearchOSは評価されたシングルエージェントとマルチエージェントのベースラインの中で、すべてのメトリクスをリードする。
論文 参考訳（メタデータ） (2026-07-16T17:51:23Z) - PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems [29.778310164003557]
意図しないリークを評価するためのベンチマークPiSA(Privacy in Shared Agentic Systems)を紹介する。
これにより、エージェントシステムコンポーネントやインターフェース間でのユーザ間の流出を直接測定できる。
システム設計はCIコンプライアンスを改善するが、誤ったLCM判定コールによって結果がボトルネックになることがわかった。
論文 参考訳（メタデータ） (2026-07-06T16:57:24Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。
既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。
LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
論文 参考訳（メタデータ） (2026-05-29T04:55:12Z) - MosaicLeaks:Privacy Risks in Querying-in-the-Open for Deep Research Agents [76.60965179634664]
ディープリサーチエージェントは、プライベートなローカルドキュメントをWeb検索のような外部ツールと組み合わせて、プライバシーリスクを生じさせている。
プライベートなエンタープライズドキュメントとパブリックなWebコーパスをチェーンする1,001のディープリサーチタスクのベンチマークであるMosaicLeaksを紹介します。
私たちは、家族やサイズにわたるモデルが3つのレベルすべてに頻繁にリークしていることに気付きました。
論文 参考訳（メタデータ） (2026-05-29T01:44:35Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - GAMA: A General Anonymizing Multi-Agent System for Privacy Preservation Enhanced by Domain Rules and Disproof Mechanism [14.491054279033968]
GAMA(General Anonymizing Multi-Agent System)
GAMAはエージェントのワークスペースをプライベートとパブリックに分割し、構造化された匿名化機構を通じてプライバシーを確保する。
GAMAを2つの一般的な質問応答データセット、公開プライバシーリークベンチマーク、およびプライバシに関連する2つのカスタマイズされた質問応答データセットで評価する。
論文 参考訳（メタデータ） (2025-09-12T07:22:49Z) - Searching for Privacy Risks in LLM Agents via Simulation [61.229785851581504]
本稿では,プライバシクリティカルなエージェントインタラクションのシミュレーションを通じて,攻撃と防御戦略の改善を交互に行う検索ベースのフレームワークを提案する。
攻撃戦略は、直接の要求から、不正行為や同意偽造といった高度な戦術へとエスカレートする。
発見された攻撃と防御は、さまざまなシナリオやバックボーンモデルにまたがって伝達され、プライバシーに配慮したエージェントを構築するための強力な実用性を示している。
論文 参考訳（メタデータ） (2025-08-14T17:49:09Z) - 1-2-3 Check: Enhancing Contextual Privacy in LLM via Multi-Agent Reasoning [18.751008976082655]
プライバシ推論を専門のサブタスク(抽出,分類)に分解するマルチエージェントフレームワークを導入する。
情報フロートポロジに対して系統的なアブレーションを行い、上流検出がダウンストリームリークにカスケードを間違えた理由を明らかにした。
論文 参考訳（メタデータ） (2025-08-11T06:34:09Z) - MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。
まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。
次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
論文 参考訳（メタデータ） (2025-06-25T18:04:25Z) - InfiAgent-DABench: Evaluating Agents on Data Analysis Tasks [84.7788065721689]
本稿では,データ解析タスクにおけるLSMに基づくエージェントの評価に特化して設計された最初のベンチマークであるInfiAgent-DABenchを紹介する。
このベンチマークには52のCSVファイルから得られた257のデータ分析質問からなるデータセットであるDAEvalが含まれている。
エージェントフレームワーク上に構築し,DABench 上で GPT-3.5 を3.9% 上回る特殊エージェント DAAgent を開発した。
論文 参考訳（メタデータ） (2024-01-10T19:04:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。