論文の概要: Privacy in Personalized AI Is a System Property, Not Just a Model Property

• arxiv url: http://arxiv.org/abs/2609.38289v1
• Date: Tue, 29 Sep 2026 17:06:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.490784
• Title: Privacy in Personalized AI Is a System Property, Not Just a Model Property
• Title（参考訳）: パーソナライズされたAIのプライバシは、単なるモデルプロパティではなく、システムプロパティである
• Abstract要約: 個別のモデルレベルの分析やコンポーネントレベルの分析は、パーソナライズされたAIによって生じるすべてのプライバシーリスクを捉えるものではない、と我々は主張する。 システムレベルのプライバシ評価,インタラクショントラジェクトリ,内部情報フロー,間接リーク,プライバシユーティリティトレードオフの4つの要件を提案する。
• 参考スコア（独自算出の注目度）: 1.5755923640031846
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: In personalized AI applications, such as conversational assistants and recommender systems, users interact not with models in isolation but with broader systems that access, infer, and reuse user information across components and over time. While such use of user information is integral to personalization, it also raises important privacy questions. In this paper, we argue that individual model- or component-level analyses may not capture all privacy risks arising in such systems, motivating a system-level perspective on privacy. We distinguish and analyze four interconnected privacy-risk channels in personalized AI, and subsequently propose four requirements for system-level privacy evaluation, covering interaction trajectories, internal information flows, indirect leakage, and the privacy-utility trade-off. We argue for their systematic incorporation into privacy audits of personalized AI.
• Abstract（参考訳）: 対話型アシスタントやレコメンダシステムといったパーソナライズされたAIアプリケーションでは、ユーザーは独立したモデルではなく、コンポーネントや時間とともにユーザ情報にアクセスし、推論し、再利用する幅広いシステムと対話する。 このようなユーザー情報の利用はパーソナライズに不可欠だが、重要なプライバシーの問題も提起する。 本稿では,このようなシステムで生じるすべてのプライバシーリスクを,モデルレベルの分析やコンポーネントレベルの分析で捉えない可能性について論じ,プライバシに対するシステムレベルの視点を動機づける。 パーソナライズされたAIにおける4つの相互接続されたプライバシリスクチャネルを識別し分析し、その後、システムレベルのプライバシ評価、インタラクショントラジェクトリ、内部情報フロー、間接リーク、プライバシユーティリティトレードオフの4つの要件を提案する。 我々は、パーソナライズされたAIのプライバシー監査に体系的に組み入れたことについて論じる。

関連論文リスト

• Differential Privacy in Generative AI Agents: Analysis and Optimal Tradeoffs [22.661656301757663]
  大規模言語モデル(LLM)とAIエージェントは、企業システムに統合され、内部データベースにアクセスし、コンテキスト対応の応答を生成する。 このような統合によって生産性と意思決定サポートが向上する一方で、モデル出力は必然的にセンシティブな情報を明らかにする可能性がある。 本稿では,AIエージェントのプライバシー漏洩を差分プライバシーに基づいて解析するための確率的フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-18T16:35:12Z)
• PrivacyBench: A Conversational Benchmark for Evaluating Privacy in Personalized AI [8.799432439533211]
  AIエージェントはユーザのデジタルフットプリントへのアクセスに依存しており、プライベートメールやチャット、購入履歴からの機密データを含むことが多い。 このアクセスは、基本的な社会的およびプライバシーリスクを生み出します。 埋め込みシークレットを含む社会的基盤データセットを備えたベンチマークであるPrivacyBenchを紹介する。
  論文  参考訳（メタデータ） (2025-12-31T13:16:45Z)
• Modeling interdependent privacy threats [0.30693357740321775]
  我々は、既存の脅威モデリングアプローチは、相互依存のプライバシー脅威を露呈することに制限されていると論じる。 i)現在の脅威モデリングフレームワークにおけるIDP固有の課題と制限を特定し、(ii)IDPAを作成し、(iii)WeChatのケーススタディを通じてアプローチを検証する。
  論文  参考訳（メタデータ） (2025-05-23T21:22:49Z)
• PersonaBench: Evaluating AI Models on Understanding Personal Information through Accessing (Synthetic) Private User Data [76.21047984886273]
  パーソナライゼーションは、AIアシスタント、特に個々のユーザーと連携するプライベートAIモデルのコンテキストにおいて重要である。 このようなデータのセンシティブな性質のため、AIモデルのユーザ理解能力を評価するためのデータセットは公開されていない。 多様なユーザプロファイルを作成する合成データ生成パイプラインと、人間の活動をシミュレートするプライベートドキュメントを導入する。
  論文  参考訳（メタデータ） (2025-02-28T00:43:35Z)
• Inference Privacy: Properties and Mechanisms [8.471466670802817]
  推論プライバシ(IP)は、推論時にユーザのデータに対して厳格なプライバシ保証を提供しながら、モデルと対話することを可能にする。 本稿では,ユーザがカスタマイズ可能な入力摂動と出力摂動という,IPを実現するための2つのメカニズムを提案する。
  論文  参考訳（メタデータ） (2024-11-27T20:47:28Z)
• Mind the Privacy Unit! User-Level Differential Privacy for Language Model Fine-Tuning [62.224804688233]
  差分プライバシ(DP)は、モデルが特定のプライバシユニットで「ほとんど区別できない」ことを保証することで、有望なソリューションを提供する。 ユーザ間でのプライバシー保護の確保に必要なアプリケーションによって動機づけられたユーザレベルのDPについて検討する。
  論文  参考訳（メタデータ） (2024-06-20T13:54:32Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• "I need a better description'': An Investigation Into User Expectations For Differential Privacy [31.352325485393074]
  差分プライバシーに関連するユーザのプライバシ期待について検討する。 ユーザが関心を持っているのは、差分プライバシーが保護する情報漏洩の種類だ。 差分プライバシを記述する方法が,ユーザプライバシの期待を必然的に設定していることが分かりました。
  論文  参考訳（メタデータ） (2021-10-13T02:36:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。