論文の概要: An AI Agent Execution Environment to Safeguard User Data

• arxiv url: http://arxiv.org/abs/2604.19657v1
• Date: Tue, 21 Apr 2026 16:45:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.877645
• Title: An AI Agent Execution Environment to Safeguard User Data
• Title（参考訳）: ユーザデータの保護を目的としたAIエージェント実行環境
• Authors: Robert Stanley, Avi Verma, Lillian Tsai, Konstantinos Kallas, Sam Kumar,
• Abstract要約: 本稿では,プライベートユーザデータの機密性を保証するAIエージェントの実行環境として,エージェントプライバシのための保証会計(Guaranteed Accounting for Agent Privacy)を提案する。 重要なことは、この保証を決定論的に提供し、エージェントをプライベートなユーザデータで信頼せず、AIモデルやユーザによる攻撃の許可を必要としない。
• 参考スコア（独自算出の注目度）: 2.2986365465048024
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI agents promise to serve as general-purpose personal assistants for their users, which requires them to have access to private user data (e.g., personal and financial information). This poses a serious risk to security and privacy. Adversaries may attack the AI model (e.g., via prompt injection) to exfiltrate user data. Furthermore, sharing private data with an AI agent requires users to trust a potentially unscrupulous or compromised AI model provider with their private data. This paper presents GAAP (Guaranteed Accounting for Agent Privacy), an execution environment for AI agents that guarantees confidentiality for private user data. Through dynamic and directed user prompts, GAAP collects permission specifications from users describing how their private data may be shared, and GAAP enforces that the agent's disclosures of private user data, including disclosures to the AI model and its provider, comply with these specifications. Crucially, GAAP provides this guarantee deterministically, without trusting the agent with private user data, and without requiring any AI model or the user prompt to be free of attacks. GAAP enforces the user's permission specification by tracking how the AI agent accesses and uses private user data. It augments Information Flow Control with novel persistent data stores and annotations that enable it to track the flow of private information both across execution steps within a single task, and also over multiple tasks separated in time. Our evaluation confirms that GAAP blocks all data disclosure attacks, including those that make other state-of-the-art systems disclose private user data to untrusted parties, without a significant impact on agent utility.
• Abstract（参考訳）: AIエージェントは、ユーザのための汎用的なパーソナルアシスタントとして機能することを約束する。 これはセキュリティとプライバシに深刻なリスクをもたらす。 敵はAIモデル(例えばプロンプトインジェクション)を攻撃してユーザデータを流出させる。 さらに、AIエージェントとプライベートデータを共有する場合、ユーザはプライベートデータに対して、潜在的に不正確または妥協したAIモデルプロバイダを信頼する必要がある。 本稿では,プライベートユーザデータの機密性を保証するAIエージェントのための実行環境であるGAAP(Guaranteed Accounting for Agent Privacy)を提案する。 GAAPは、動的かつ指示されたユーザプロンプトを通じて、プライベートデータの共有方法を説明するユーザからパーミッション仕様を収集し、GAAPはエージェントのプライベートユーザデータの開示を強制する。 重要なことは、GAAPはこの保証を決定論的に提供し、エージェントをプライベートなユーザデータで信頼せず、AIモデルやユーザによる攻撃の許可を必要としない。 GAAPは、AIエージェントがプライベートユーザデータにアクセスし、使用する方法を追跡することによって、ユーザの許可仕様を強制する。 情報フローコントロールを新しい永続データストアとアノテーションで強化し、単一のタスク内での実行ステップと複数のタスクをまたいだプライベート情報のフローをトラッキングできるようにする。 我々の評価では、GAAPがすべてのデータ開示攻撃をブロックしていることを確認した。

関連論文リスト

• How to DP-fy Your Data: A Practical Guide to Generating Synthetic Data With Differential Privacy [52.00934156883483]
  Differential Privacy(DP)は、情報漏洩を推論し、制限するフレームワークである。 Differentially Private Synthetic Dataは、ソースデータの全体的なトレンドを保存する合成データを指す。
  論文  参考訳（メタデータ） (2025-12-02T21:14:39Z)
• AudAgent: Automated Auditing of Privacy Policy Compliance in AI Agents [3.802907024025868]
  AudAgentは、AIエージェントのデータプラクティスをリアルタイムで監視するビジュアルフレームワークである。 AudAgentは、リアルタイムに潜在的なプライバシーポリシー違反を効果的に識別する。
  論文  参考訳（メタデータ） (2025-11-03T17:32:08Z)
• Guarding Your Conversations: Privacy Gatekeepers for Secure Interactions with Cloud-Based AI Models [0.34998703934432673]
  ユーザクエリから機密情報をフィルタリングする,軽量でローカルな実行モデルであるLLMゲートキーパのコンセプトを提案する。 人間の被験者による実験を通して、この二重モデルアプローチは、LLM応答の品質を損なうことなく、ユーザのプライバシーを大幅に向上させながら、最小限のオーバーヘッドをもたらすことを示した。
  論文  参考訳（メタデータ） (2025-08-22T19:49:03Z)
• AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
  我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。 我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
  論文  参考訳（メタデータ） (2025-03-12T19:30:31Z)
• PersonaBench: Evaluating AI Models on Understanding Personal Information through Accessing (Synthetic) Private User Data [76.21047984886273]
  パーソナライゼーションは、AIアシスタント、特に個々のユーザーと連携するプライベートAIモデルのコンテキストにおいて重要である。 このようなデータのセンシティブな性質のため、AIモデルのユーザ理解能力を評価するためのデータセットは公開されていない。 多様なユーザプロファイルを作成する合成データ生成パイプラインと、人間の活動をシミュレートするプライベートドキュメントを導入する。
  論文  参考訳（メタデータ） (2025-02-28T00:43:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。