Fugu-MT 論文翻訳(概要): Do LLMs Know What Is Private Internally? Probing and Steering Contextual Privacy Norms in Large Language Model Representations

論文の概要: Do LLMs Know What Is Private Internally? Probing and Steering Contextual Privacy Norms in Large Language Model Representations

arxiv url: http://arxiv.org/abs/2604.00209v1
Date: Tue, 31 Mar 2026 20:23:41 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-02 16:44:31.712166
Title: Do LLMs Know What Is Private Internally? Probing and Steering Contextual Privacy Norms in Large Language Model Representations
Title（参考訳）: LLMは内部的に何がプライベートであるかを知っているか? 大規模言語モデル表現におけるコンテキストプライバシノルムの探索とステアリング
Abstract要約: 大規模言語モデル(LLM)における構造化潜在表現としてコンテキストプライバシを研究する。 3つのノルム決定型CIパラメータは、活性化空間において線形分離可能かつ機能独立な方向として符号化される。この内部構造にもかかわらず、モデルはまだプライベートな情報をリークしており、概念表現とモデル行動の間に明確なギャップが明らかになっている。
参考スコア（独自算出の注目度）: 26.42147314861997
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models (LLMs) are increasingly deployed in high-stakes settings, yet they frequently violate contextual privacy by disclosing private information in situations where humans would exercise discretion. This raises a fundamental question: do LLMs internally encode contextual privacy norms, and if so, why do violations persist? We present the first systematic study of contextual privacy as a structured latent representation in LLMs, grounded in contextual integrity (CI) theory. Probing multiple models, we find that the three norm-determining CI parameters (information type, recipient, and transmission principle) are encoded as linearly separable and functionally independent directions in activation space. Despite this internal structure, models still leak private information in practice, revealing a clear gap between concept representation and model behavior. To bridge this gap, we introduce CI-parametric steering, which independently intervenes along each CI dimension. This structured control reduces privacy violations more effectively and predictably than monolithic steering. Our results demonstrate that contextual privacy failures arise from misalignment between representation and behavior rather than missing awareness, and that leveraging the compositional structure of CI enables more reliable contextual privacy control, shedding light on potential improvement of contextual privacy understanding in LLMs.
Abstract（参考訳）: 大規模言語モデル(LLM)は、高レベルな設定でデプロイされることが多いが、人間の判断を下す状況において、プライベート情報を開示することで、コンテキストプライバシに違反することが多い。 LLMは内部的にコンテキストプライバシの規範を符号化するのでしょうか。本稿では、文脈整合性(CI)理論に基づくLLMにおける構造化潜在表現として、コンテキストプライバシに関する最初の体系的研究について述べる。複数のモデルを用いて、3つの標準決定CIパラメータ(情報型、受信者、送信原理)が、活性化空間において線形に分離可能かつ機能的に独立な方向として符号化されることを示す。この内部構造にもかかわらず、モデルはまだプライベートな情報をリークしており、概念表現とモデル行動の間に明確なギャップが明らかになっている。このギャップを埋めるために、各CI次元に沿って独立して介入するCIパラメトリックステアリングを導入します。この構造化された制御は、モノリシックなステアリングよりも効果的で予測可能なプライバシー侵害を減らす。以上の結果から,CIの構成構造を活用することで,LLMにおけるコンテキストプライバシ理解の潜在的な改善に光を当てつつ,より信頼性の高いコンテキストプライバシ制御が可能になることが示唆された。

関連論文リスト

It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs [73.46918128880786]
タスク解決から情報抑制を分離する自己蒸留フレームワーク。タスク解決から情報抑制を分離する自己蒸留フレームワーク。
論文参考訳（メタデータ） (2026-05-18T13:57:44Z)
Reinforcing privacy reasoning in LLMs via normative simulacra from fiction [1.143869785127334]
コンテキスト整合性(Contextual Integrity)は、コンテキスト関連規範内の情報の適切なフローとしてプライバシを定義する、原則化されたフレームワークを提供する。本稿では、フィクション小説から規範的シミュラクラを抽出し、それらを微調整LDMに使用することを提案する。異なる社会的文脈にまたがる5つのCI整合ベンチマークを評価した。
論文参考訳（メタデータ） (2026-04-21T19:16:22Z)
Contextualized Privacy Defense for LLM Agents [84.30907378390512]
LLMエージェントはますますユーザーの個人情報に作用するが、既存のプライバシー保護は設計と適応性の両方において制限されている。我々は,新たなプライバシ防衛パラダイムであるCDI(Contextualized Defense Instructing)を提案する。我々のCDIは、ベースラインよりもプライバシー保護(94.2%)と有用性(80.6%)のバランスが良好であることを示します。
論文参考訳（メタデータ） (2026-03-03T13:35:33Z)
PrivaCI-Bench: Evaluating Privacy with Contextual Integrity and Legal Compliance [44.287734754038254]
生成型大規模言語モデル(LLM)のコンテキストプライバシ評価ベンチマークであるPrivaCI-Benchを提案する。本稿では,最近の推論モデルQwQ-32BとDeepseek R1を含む最新のLCMを評価した。実験の結果、LLMは特定のコンテキスト内で重要なCIパラメータを効果的にキャプチャできるが、プライバシコンプライアンスのさらなる進歩が必要であることが示唆された。
論文参考訳（メタデータ） (2025-02-24T10:49:34Z)
Differentially Private Steering for Large Language Model Alignment [55.30573701583768]
本稿では,大規模言語モデルとプライベートデータセットの整合性に関する最初の研究について述べる。本研究は,プライバシ保証付きアクティベーションを編集するPSA(Private Steering for LLM Alignment)アルゴリズムを提案する。以上の結果から,PSAはLPMアライメントのDP保証を実現し,性能の低下を最小限に抑えることができた。
論文参考訳（メタデータ） (2025-01-30T17:58:36Z)
PrivacyLens: Evaluating Privacy Norm Awareness of Language Models in Action [54.11479432110771]
PrivacyLensは、プライバシに敏感な種子を表現的なヴィグネットに拡張し、さらにエージェントの軌跡に拡張するために設計された新しいフレームワークである。プライバシの文献とクラウドソーシングされたシードに基づいて、プライバシの規範のコレクションをインスタンス化する。 GPT-4やLlama-3-70Bのような最先端のLMは、プライバシー強化の指示が出されたとしても、機密情報を25.68%、38.69%のケースでリークしている。
論文参考訳（メタデータ） (2024-08-29T17:58:38Z)
No Free Lunch Theorem for Privacy-Preserving LLM Inference [30.554456047738295]
本研究では,プライバシ保護型大規模言語モデル(LLM)を推定するためのフレームワークを開発する。プライバシー保護とユーティリティの相互作用を調べるための、しっかりとした理論的基盤を築いている。
論文参考訳（メタデータ） (2024-05-31T08:22:53Z)
Can LLMs Keep a Secret? Testing Privacy Implications of Language Models via Contextual Integrity Theory [82.7042006247124]
私たちは、最も有能なAIモデルでさえ、人間がそれぞれ39%と57%の確率で、プライベートな情報を公開していることを示しています。我々の研究は、推論と心の理論に基づいて、新しい推論時プライバシー保護アプローチを即時に探求する必要性を浮き彫りにしている。
論文参考訳（メタデータ） (2023-10-27T04:15:30Z)
PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
論文参考訳（メタデータ） (2023-10-03T22:37:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。