論文の概要: Vulnerabilities in Personalization: Assessing Health Privacy Risks in ChatGPT Logs and Memory
- arxiv url: http://arxiv.org/abs/2609.14697v1
- Date: Sun, 13 Sep 2026 17:53:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 12:40:38.843976
- Title: Vulnerabilities in Personalization: Assessing Health Privacy Risks in ChatGPT Logs and Memory
- Title（参考訳）: パーソナライズにおける脆弱性:ChatGPTログとメモリにおける健康上のプライバシリスクの評価
- Abstract要約: インド、ナイジェリア、ブラジル、パキスタンで179,057件の会話を分析した。
監査された会話の21.31%が個人の健康データを含んでおり、3.62%が極度のプライバシーリスクを訴えている。
我々は、ステートフルAIシステムにおけるユーザエージェンシーと同意駆動境界を回復するための社会技術設計ガイドラインで締めくくった。
- 参考スコア（独自算出の注目度）: 1.315564533300561
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As conversational LLMs become deeply embedded in daily life, users frequently disclose sensitive personal health information during routine interactions. We present a large-scale computational audit analyzing 179,057 conversations across India, Nigeria, Brazil, and Pakistan (N = 1,057) to evaluate personal health disclosures and background memory synthesis in ChatGPT. We find that 21.31% of audited conversations contain personal health data, with 3.62% posing high-to-extreme privacy risks involving stigmatized conditions, direct identifiers, and precise locations. When evaluating the memory entries of ChatGPT, we uncover a stark disconnect between corporate framing and system behavior: over 95% of profile entries are implicitly extracted without explicit user prompts or consent. Furthermore, background memory synthesis selectively condenses temporary, symptom-level disclosures into permanent diagnostic traits, stripping contextual integrity and amplifying re-identification risks. We conclude with sociotechnical design guidelines to restore user agency and consent-driven boundaries in stateful AI systems.
- Abstract（参考訳）: 会話型LLMが日常生活に深く浸透するにつれて、ユーザーは日常的な交流の中で、敏感な個人情報を頻繁に開示する。
インド、ナイジェリア、ブラジル、パキスタン(N=1,057)における179,057件の会話を分析し、ChatGPTにおける個人的健康情報開示と背景記憶合成を評価する。
監査された会話の21.31%は、個人の健康データを含んでおり、3.62%は、盗用された状況、直接識別子、正確な場所を含む、極度のプライバシー上のリスクを訴えている。
ChatGPTのメモリエントリを評価すると、企業フレーミングとシステム動作の断絶が明らかになり、95%以上のプロファイルエントリが明示的なユーザプロンプトや同意なしに暗黙的に抽出される。
さらに、背景記憶合成は、一時的な症状レベルの開示を恒久的な診断形質に選択的に凝縮し、文脈整合性を取り除き、再識別リスクを増幅する。
我々は、ステートフルAIシステムにおけるユーザエージェンシーと同意駆動境界を回復するための社会技術設計ガイドラインで締めくくった。
関連論文リスト
- MedPriv-Bench: Benchmarking the Privacy-Utility Trade-off of Large Language Models in Medical Open-End Question Answering [15.468900582717865]
オープンエンド質問応答におけるプライバシ臨床的有用性を評価するために設計された最初のベンチマークであるMed-Benchを紹介する。
われわれのフレームワークは、マルチエージェントのヒューマン・イン・ザ・ループパイプラインを使用して、繊細な医療状況と、リアルなプライバシー圧力を生み出す臨床的に関連するクエリを合成する。
本研究は,プライバシに敏感な環境下での医療AIシステムの安全性と有効性を評価するための,ドメイン固有のベンチマークの必要性を明らかにするものである。
論文 参考訳（メタデータ） (2026-03-15T07:47:35Z) - The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT [17.579565226391146]
実世界の80人のChatGPTユーザの2,050個のメモリエントリを分析した。
私たちのデータセットの96%のメモリは、会話システムによって一方的に生成されます。
大部分のメモリ(84%)は、ユーザコンテキストで直接ベースになっています。
論文 参考訳（メタデータ） (2026-02-01T21:39:36Z) - When Personalization Legitimizes Risks: Uncovering Safety Vulnerabilities in Personalized Dialogue Agents [49.341830745910194]
本稿では,パーソナライズされたエージェントの安全性障害である意図的正当性を明らかにする。
我々の研究は、安全障害モードとしての意図的正当性の最初の体系的な調査と評価を提供する。
論文 参考訳（メタデータ） (2026-01-25T15:42:01Z) - OP-Bench: Benchmarking Over-Personalization for Memory-Augmented Personalized Conversational Agents [55.27061195244624]
オーバーパーソナライゼーションを3つのタイプに分類する。
エージェントは不要な場合でも、ユーザメモリを取得およびオーバーアタッチする傾向があります。
我々の研究は、メモリ拡張対話システムにおいて、より制御可能で適切なパーソナライズに向けた最初の一歩を踏み出した。
論文 参考訳（メタデータ） (2026-01-20T08:27:13Z) - PrivacyBench: A Conversational Benchmark for Evaluating Privacy in Personalized AI [8.799432439533211]
AIエージェントはユーザのデジタルフットプリントへのアクセスに依存しており、プライベートメールやチャット、購入履歴からの機密データを含むことが多い。
このアクセスは、基本的な社会的およびプライバシーリスクを生み出します。
埋め込みシークレットを含む社会的基盤データセットを備えたベンチマークであるPrivacyBenchを紹介する。
論文 参考訳（メタデータ） (2025-12-31T13:16:45Z) - Understanding Privacy Norms Around LLM-Based Chatbots: A Contextual Integrity Perspective [14.179623604712065]
我々は,300人のChatGPTユーザを対象に,ChatGPTデータの共有に関するプライバシー規範の出現を理解するための調査実験を行った。
以上の結果から,ユーザの関心事と行動との間には大きな隔たりがあることが判明した。
参加者は、200ドル相当のプレミアム機能と引き換えに、改善されたサービスのための個人情報の共有を一斉に拒否した。
論文 参考訳（メタデータ） (2025-08-09T00:22:46Z) - A False Sense of Privacy: Evaluating Textual Data Sanitization Beyond Surface-level Privacy Leakage [77.83757117924995]
我々は、データリリース時の個人のプライバシーリスクを定量化するために、再識別攻撃を評価する新しいフレームワークを提案する。
本手法は, 衛生データから年齢や物質使用履歴などのセンシティブな属性を推測するために, 一見無害な補助情報を利用できることを示す。
論文 参考訳（メタデータ） (2025-04-28T01:16:27Z) - PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。
プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。
GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文 参考訳（メタデータ） (2024-08-29T17:58:38Z) - Trust No Bot: Discovering Personal Disclosures in Human-LLM Conversations in the Wild [40.57348900292574]
人間とチャットボットのインタラクションにおける個人の開示を測定することで、ユーザのAIリテラシーをよりよく理解することができる。
我々は、実際のユーザが商用のGPTモデルに対して行った個人情報を詳細に分析する。
論文 参考訳（メタデータ） (2024-07-16T07:05:31Z) - Protect Your Score: Contact Tracing With Differential Privacy Guarantees [68.53998103087508]
プライバシーに関する懸念は、現在展開を控えている、と私たちは主張する。
本稿では,この攻撃に対して異なるプライバシー保証を有する接触追跡アルゴリズムを提案する。
特に現実的な検査シナリオでは,ウイルス感染率の2倍から10倍の低下を実現している。
論文 参考訳（メタデータ） (2023-12-18T11:16:33Z) - How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。
プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
論文 参考訳（メタデータ） (2022-11-18T11:39:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。