論文の概要: Demystifying the Privacy-Utility Trade-off in LLM Interactions

• arxiv url: http://arxiv.org/abs/2609.10992v2
• Date: Fri, 11 Sep 2026 09:30:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-15 07:38:31.468765
• Title: Demystifying the Privacy-Utility Trade-off in LLM Interactions
• Title（参考訳）: LLMインタラクションにおけるプライバシとユーティリティのトレードオフ
• Authors: Zhenhua Liu, Zhanxu Xie, Junjie Yu, Tong Zhu, Lijun Li, Wenliang Chen,
• Abstract要約: 本稿では,動的抽出・消毒・回復パイプラインを駆動する軽量モデルVeilmind-4Bを提案する。 当社のアプローチは,従来のプライバシ指向のベースラインよりもはるかに高い応答性を維持しつつ,低遅延のプライバシポイントに達する。
• 参考スコア（独自算出の注目度）: 17.156111398729863
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The integration of Large Language Models into daily tasks relies on context-rich instructions, inevitably exposing sensitive user information. Current privacy-preserving methods typically employ context-agnostic static rules, causing severe utility degradation. However, the specific mechanisms governing how sanitization impacts downstream performance remain largely underexplored. To address this, we conduct a systematic analysis to deconstruct the privacy-utility trade-off, uncovering three underlying mechanisms: (1) Context-Dependent Utility, which first establishes when to sanitize by revealing that data value shifts from critical constraints to dispensable noise based on user intent; (2) Strategic Adaptation, which subsequently determines how to sanitize by dictating that the choice between removal and replacement depends on the task's reliance on factual integrity versus structural coherence; and (3) Combinatorial Interplay, which finally extends the protection scope by demonstrating that attributes form a semantic web of synergistic dependencies or antagonistic redundancies. Guided by these insights, we introduce an intent-driven local protection framework. By distilling a lightweight model Veilmind-4B to drive a dynamic extraction-sanitization-restoration pipeline, our approach reaches a low-leakage privacy point while preserving substantially higher response utility than existing privacy-oriented baselines, advancing the privacy-utility trade-off toward the Pareto frontier.
• Abstract（参考訳）: 大規模言語モデルの日常的なタスクへの統合は、必然的に機密性の高いユーザ情報を公開する、コンテキストに富んだ命令に依存します。 現行のプライバシ保存手法では、コンテキストに依存しない静的ルールが採用されている。 しかし, ダウンストリーム性能にどのような影響をもたらすか, 具体的なメカニズムは未解明のままである。 この問題を解決するために,我々は,(1) コンテキスト依存型実用性(Context-Dependent Utility),(2) ユーザの意図に基づいて,データの価値が臨界制約から不要なノイズへと変化することを明らかにすること,(2) 削除と置換の選択は,実際の整合性や構造的コヒーレンスに依存していること,(3) コンビネーティブ・インタープレイ( Combinatorial Interplay),(3) 属性が相乗的依存や反抗的冗長性のセマンティック・ウェブを形成することを示すことによって,保護範囲を最終的に拡大する,という3つのメカニズムを体系的に分析する。 これらの知見に導かれて、インテント駆動のローカルプロテクションフレームワークを導入します。 軽量モデルであるVeilmind-4Bを蒸留して動的抽出・衛生回復パイプラインを駆動することにより,従来のプライバシ指向ベースラインよりもはるかに高い応答性を維持しつつ,低レベルなプライバシポイントに到達し,プライバシユーティリティのトレードオフをParetoフロンティアに向けて進める。

関連論文リスト

• CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
  CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。 本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。 実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
  論文  参考訳（メタデータ） (2026-08-12T04:27:45Z)
• Adaptive Capitulation: A Structural Failure Mode of LLM Responses in Vulnerability Contexts [0.0]
  トリレンマは偶発的ではなく構造的であることを示し, 最小帰属的充足性(MRS)を提案する。 MRSは、検証された応答の中に単一の再帰的キューを埋め込み、ユーザの指定した目標に異議を唱えることなく、自律的な再帰への経路を保存する。
  論文  参考訳（メタデータ） (2026-07-21T23:38:59Z)
• What Does the Server See? Understanding Privacy Leakage from Large Language Models in Split Inference [13.194874392306085]
  本稿では、クライアントの入力を再構築するために、中間的なアクティベーションマッチング問題を解決するActInvを紹介する。 この脆弱性を理解するために、我々は、層固有の復元抵抗を定量化する指標である摂動増幅係数(PAF)を開発した。 私たちの分析によると、プライバシーの脆弱性はレイヤ間で均一ではなく、いくつかのレイヤはリークの影響を受けやすいが、他のレイヤは自然な抵抗を提供する。
  論文  参考訳（メタデータ） (2026-05-22T02:14:16Z)
• It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs [73.46918128880786]
  タスク解決から情報抑制を分離する自己蒸留フレームワーク。 タスク解決から情報抑制を分離する自己蒸留フレームワーク。
  論文  参考訳（メタデータ） (2026-05-18T13:57:44Z)
• MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
  本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。 MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
  論文  参考訳（メタデータ） (2026-02-19T05:20:31Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• DeLeaker: Dynamic Inference-Time Reweighting For Semantic Leakage Mitigation in Text-to-Image Models [55.30555646945055]
  テキスト・ツー・イメージ(T2I)モデルはセマンティック・リークに対して脆弱である。 DeLeakerは、モデルのアテンションマップに直接介入することで、漏洩を緩和する軽量なアプローチである。 SLIMはセマンティックリークに特化した最初のデータセットである。
  論文  参考訳（メタデータ） (2025-10-16T17:39:21Z)
• SoK: Semantic Privacy in Large Language Models [24.99241770349404]
  本稿では,大規模言語モデル(LLM)の入力処理,事前学習,微調整,アライメント段階におけるセマンティックプライバシリスクを分析するライフサイクル中心のフレームワークを提案する。 我々は、鍵攻撃ベクトルを分類し、差分プライバシー、埋め込み暗号化、エッジコンピューティング、未学習などの現在の防御がこれらの脅威にどのように対処しているかを評価する。 セマンティックリークの定量化、マルチモーダル入力の保護、生成品質との非識別性のバランス、プライバシー保護の透明性確保など、オープンな課題の概要をまとめて結論付けます。
  論文  参考訳（メタデータ） (2025-06-30T08:08:15Z)
• Semantics-Preserved Distortion for Personal Privacy Protection in Information Management [65.08939490413037]
  本稿では,意味的整合性を維持しつつテキストを歪ませる言語学的アプローチを提案する。 本稿では, 意味保存歪みの枠組みとして, 生成的アプローチと置換的アプローチの2つを提示する。 また、特定の医療情報管理シナリオにおけるプライバシ保護についても検討し、機密データの記憶を効果的に制限していることを示す。
  論文  参考訳（メタデータ） (2022-01-04T04:01:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。