論文の概要: PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems
- arxiv url: http://arxiv.org/abs/2607.05318v1
- Date: Mon, 06 Jul 2026 16:57:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:30.249496
- Title: PiSAs: Benchmarking Contextual Integrity in Multi-User Agentic Systems
- Title（参考訳）: PiSAs:マルチユーザエージェントシステムにおけるコンテキスト統合のベンチマーク
- Abstract要約: 意図しないリークを評価するためのベンチマークPiSA(Privacy in Shared Agentic Systems)を紹介する。
これにより、エージェントシステムコンポーネントやインターフェース間でのユーザ間の流出を直接測定できる。
システム設計はCIコンプライアンスを改善するが、誤ったLCM判定コールによって結果がボトルネックになることがわかった。
- 参考スコア（独自算出の注目度）: 29.778310164003557
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As LLM agents evolve from single-user assistants into shared organizational infrastructure, new privacy risks emerge: inappropriate information may not only be exposed through outputs for external recipients, but also internally across users through inter-agent messages, shared memory and agents. These data spillage risks are not captured by existing privacy benchmarks grounded in contextual integrity (CI) as they focus primarily on either single-user settings or interactions between independently owned agents. We introducePiSAs (Privacy in Shared Agentic systems), a benchmark for assessing unintentional leaks with dual CI annotations: whether an information is appropriate for the task, and which users may legitimately access it. This enables direct measurement of cross-user spillage across agentic system components and interfaces, such as outputs, inter-agent communication, and memory. PiSAsis system-agnostic and supports evaluation across different agent topologies and memory regimes. We find that, although system design improves CI compliance, results are bottlenecked by incorrect LLM judgment calls: even state-of-the-art models fail to reliably filter inappropriate content or restrict transmission to authorized users. Our findings underscore the need for privacy-preserving strategies, beyond those studied in this work.
- Abstract（参考訳）: LLMエージェントがシングルユーザアシスタントから共有組織インフラストラクチャへと進化するにつれて、新たなプライバシリスクが出現する。
これらのデータ流出リスクは、コンテキスト整合性(CI)に基づく既存のプライバシベンチマークでは捉えられない。
マルチCIアノテーションで意図しないリークを評価するベンチマークであるPiSA(Privacy in Shared Agentic Systems)を紹介した。
これにより、エージェントシステムコンポーネントやインターフェース、例えば出力、エージェント間通信、メモリ間でのユーザ間の流出を直接測定できる。
PiSAsisはシステムに依存せず、異なるエージェントトポロジとメモリレシエーションで評価をサポートする。
システム設計はCIコンプライアンスを改善するが、不正なLCM判断コールによってボトルネックが発生し、最先端のモデルでさえ不適切なコンテンツを確実にフィルタリングしたり、認証されたユーザへの送信を制限することができない。
この研究の成果は、プライバシー保護戦略の必要性を浮き彫りにしたものだ。
関連論文リスト
- SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳（メタデータ） (2026-08-31T03:39:43Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs [73.46918128880786]
タスク解決から情報抑制を分離する自己蒸留フレームワーク。
タスク解決から情報抑制を分離する自己蒸留フレームワーク。
論文 参考訳（メタデータ） (2026-05-18T13:57:44Z) - Information-Theoretic Privacy Control for Sequential Multi-Agent LLM Systems [5.100622189286672]
逐次マルチエージェント大規模言語モデル (LLM) システムにおいて, 偶発的プライバシー漏洩について検討する。
そこで本研究では,エージェント出力とエージェントローカル依存変数間の情報フローを直接制約する,プライバシ規則化されたトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-13T18:23:03Z) - Anonymization-Enhanced Privacy Protection for Mobile GUI Agents: Available but Invisible [12.742325129012576]
Mobile Graphical User Interface (GUI)エージェントは、複雑なスマートフォンタスクを自動化する強力な機能を示している。
本稿では,機密データへのアクセスの原則を強制する匿名化に基づくプライバシー保護フレームワークを提案する。
本システムは,PII認識モデルを用いてセンシティブなUIコンテンツを検出し,それを決定論的型保存プレースホルダーに置き換える。
論文 参考訳（メタデータ） (2026-02-08T15:50:04Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - AudAgent: Automated Auditing of Privacy Policy Compliance in AI Agents [3.802907024025868]
AudAgentは、AIエージェントのデータプラクティスをリアルタイムで監視するビジュアルフレームワークである。
AudAgentは、リアルタイムに潜在的なプライバシーポリシー違反を効果的に識別する。
論文 参考訳（メタデータ） (2025-11-03T17:32:08Z) - Exposing LLM User Privacy via Traffic Fingerprint Analysis: A Study of Privacy Risks in LLM Agent Interactions [31.392818526374963]
大きな言語モデル(LLM)は、タスクを編成し、外部ツールを統合するエージェントとして、ますます多くデプロイされている。
これらの対話行動は、ユーザとLLMエージェント間の暗号化されたトラフィックに特徴的な指紋を残していることを示す。
エージェントやツールの呼び出しに関連するトラフィックパターンを分析することで、敵はエージェントアクティビティを推論できる。
論文 参考訳（メタデータ） (2025-10-08T16:16:23Z) - The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration [72.33801123508145]
大規模言語モデル(LLM)はマルチエージェントシステムに不可欠なものである。
プライバシーリスクは、暗記、直接推論、シングルターン評価を超えて現れる。
特に、相互作用によって構成される一見無害な反応は、敵が機密情報の回復を累積的に行うことができる。
論文 参考訳（メタデータ） (2025-09-16T16:57:25Z) - 1-2-3 Check: Enhancing Contextual Privacy in LLM via Multi-Agent Reasoning [18.751008976082655]
プライバシ推論を専門のサブタスク(抽出,分類)に分解するマルチエージェントフレームワークを導入する。
情報フロートポロジに対して系統的なアブレーションを行い、上流検出がダウンストリームリークにカスケードを間違えた理由を明らかにした。
論文 参考訳（メタデータ） (2025-08-11T06:34:09Z) - MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。
まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。
次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
論文 参考訳（メタデータ） (2025-06-25T18:04:25Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - Protecting Users From Themselves: Safeguarding Contextual Privacy in Interactions with Conversational Agents [33.26308626066122]
会話エージェント(LCA)とのユーザインタラクションにおけるコンテキストプライバシの概念を特徴付ける。
これは、ユーザーが意図した目標を達成するのに必要な情報のみを(ベンダー)が開示することを保証することで、プライバシー上のリスクを最小限にすることを目的としている。
本稿では,ユーザとLCA間のローカルデプロイ可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-02-22T09:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。