論文の概要: PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations

• arxiv url: http://arxiv.org/abs/2609.30094v2
• Date: Fri, 25 Sep 2026 01:42:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.060065
• Title: PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations
• Title（参考訳）: PrivDrift: アクティブLLM会話におけるトピックドリフト下でのユーザ機密漏洩調査
• Abstract要約: PrivDriftは、会話の話題の漂流と説得に基づく調査の後、ユーザーが開示した秘密が回復可能かどうかを検査するためのベンチマークである。 PrivDriftには、シードシークレット、コンテンツ密度のドリフトターン、標準化された抽出プローブを備えた1000の制御されたマルチターンダイアログが含まれている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models increasingly operate as persistent assistants in user-facing, shared-session, and tool-augmented settings. When users disclose sensitive information during an active conversation, that information may remain behaviorally recoverable through later prompts even after the dialogue shifts to unrelated topics. We introduce PrivDrift, a benchmark for auditing whether user-disclosed secrets remain recoverable after conversational topic drift and persuasion-based probing. PrivDrift contains 1,000 controlled multi-turn dialogues with seeded secrets, content-dense drift turns, and standardized extraction probes. Across three LLMs with extended context windows, dialogue-level hybrid leakage remains substantial, ranging from 38.7% to 54.6%, and varies strongly by model, secret type, and persuasion intensity. Within the tested drift window, additional topic drift does not reliably reduce leakage, suggesting that privacy risk in active LLM contexts should be evaluated as a persistent behavioral failure mode rather than only as training-data memorization or immediate jailbreak behavior.
• Abstract（参考訳）: 大規模言語モデルは、ユーザ対応、共有セッション、ツール拡張設定において、永続的なアシスタントとして機能するようになっている。 ユーザがアクティブな会話中に機密情報を開示すると、対話が無関係な話題に移行した後でも、後続のプロンプトを通じて行動的に回復できる可能性がある。 PivDriftは、会話トピックのドリフトと説得に基づく探索の後、ユーザの開示した秘密が回復可能かどうかを検査するためのベンチマークである。 PrivDriftには、シードシークレット、コンテンツ密度のドリフトターン、標準化された抽出プローブを備えた1000の制御されたマルチターンダイアログが含まれている。 コンテキストウィンドウが拡張された3つのLLM全体では、対話レベルのハイブリッドリークは38.7%から54.6%の範囲で、モデル、シークレットタイプ、説得強度によって大きく異なる。 テストされたドリフトウィンドウ内では、追加のトピックドリフトがリークを確実に低減しないため、アクティブなLDMコンテキストにおけるプライバシーリスクは、トレーニングデータ記憶や即時ジェイルブレイク動作だけでなく、永続的な動作障害モードとして評価されるべきである。

関連論文リスト

• LLMs Get Lost in Evolving User Intent [31.460856308052872]
  静的なシングルターンタスクを動的マルチターン会話に変換するフレームワークを導入する。 強い静的設定性能は進化するインテント・セッティングに移行しないことを示す。 今日のLLMは、ユーザの進化する意図を忠実に追跡し、実行していません。
  論文  参考訳（メタデータ） (2026-07-22T21:14:44Z)
• ContextEcho: A Benchmark for Persona Drift in Long Agentic-Coding Sessions [5.93533610122691]
  のペルソナは、製品が実際に実行されるデプロイメントシステムにおいて、長時間のエージェントコーディングセッションを生き残らない。 デプロイメントスケールでペルソナドリフトを測定するためのベンチマークと再利用可能なハーネスであるContextEchoを紹介する。 23のフロンティアモデル全体で、ContextEchoは、ペルソナドリフトが家族固有のものではなく、組織全体にわたって一般的であることを示している。
  論文  参考訳（メタデータ） (2026-05-22T23:13:21Z)
• VoxPrivacy: A Benchmark for Evaluating Interactional Privacy of Speech Language Models [25.266028200777317]
  音声言語モデル(SLM)は、ユーザが適切に情報の流れを管理するために区別されることが期待される。 現在のSLMベンチマークでは、対話能力をテストするが、話者識別は見落としている。 我々は、SLMにおけるインタラクションプライバシを評価するために設計された最初のベンチマークであるVoxPrivacyを紹介する。
  論文  参考訳（メタデータ） (2026-01-27T06:22:14Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• Do LLMs Recognize Your Latent Preferences? A Benchmark for Latent Information Discovery in Personalized Interaction [40.857161437572465]
  パーソナライズされたインタラクションにおける潜伏情報発見を評価するためのベンチマークを導入する。 このベンチマークは、古典的な20の質問ゲーム、パーソナライズされた質問回答、パーソナライズされたテキスト要約という3つの段階的な現実的な設定にまたがっている。 以上の結果から,LLMは対話を通して潜時情報を提示できるが,その成功は文脈によって劇的に変化することが明らかとなった。
  論文  参考訳（メタデータ） (2025-10-20T03:58:49Z)
• PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
  PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。 プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
  論文  参考訳（メタデータ） (2024-08-29T17:58:38Z)
• Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
  私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。 我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-10-27T04:15:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。