論文の概要: TextCrafter: Optimization-Calibrated Noise for Defending Against Text Embedding Inversion

• arxiv url: http://arxiv.org/abs/2509.17302v1
• Date: Mon, 22 Sep 2025 00:51:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-30 14:41:10.647165
• Title: TextCrafter: Optimization-Calibrated Noise for Defending Against Text Embedding Inversion
• Title（参考訳）: TextCrafter: テキスト埋め込みインバージョンに対する防御のための最適化校正ノイズ
• Authors: Duoxun Tang, Xinhang Jiang, Jiajun Niu,
• Abstract要約: テキスト埋め込みインバージョン攻撃は、潜在表現から原文を再構築し、協調推論とエッジコンピューティングにおいて深刻なプライバシー上の脅威を生じさせる。 本研究では, RL学習, 幾何を考慮したノイズ注入, クラスタ先行によるユーザ埋め込み, PII信号誘導を併用して, 作業性を維持しながらインバージョンを抑える, 最適化に基づく逆摂動機構であるTextCrafterを提案する。
• 参考スコア（独自算出の注目度）: 0.13764085113103217
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Text embedding inversion attacks reconstruct original sentences from latent representations, posing severe privacy threats in collaborative inference and edge computing. We propose TextCrafter, an optimization-based adversarial perturbation mechanism that combines RL learned, geometry aware noise injection orthogonal to user embeddings with cluster priors and PII signal guidance to suppress inversion while preserving task utility. Unlike prior defenses either non learnable or agnostic to perturbation direction, TextCrafter provides a directional protective policy that balances privacy and utility. Under strong privacy setting, TextCrafter maintains 70 percentage classification accuracy on four datasets and consistently outperforms Gaussian/LDP baselines across lower privacy budgets, demonstrating a superior privacy utility trade off.
• Abstract（参考訳）: テキスト埋め込みインバージョン攻撃は、潜在表現から原文を再構築し、協調推論とエッジコンピューティングにおいて深刻なプライバシー上の脅威を生じさせる。 本研究では, RL学習, 幾何を考慮したノイズ注入を, ユーザの埋め込みに直交し, クラスタプリエントとPII信号誘導を併用して, タスクユーティリティを保ちながらインバージョンを抑える, 最適化に基づく逆摂動機構であるTextCrafterを提案する。 学習不能または摂動方向に非依存な以前の防御とは異なり、TextCrafterはプライバシーとユーティリティのバランスをとる指向的な保護ポリシーを提供する。 強力なプライバシ設定の下では、TextCrafterは4つのデータセットの70パーセントの分類精度を維持し、より低いプライバシ予算でGaussian/LDPベースラインを一貫して上回り、優れたプライバシユーティリティのトレードオフを示す。

関連論文リスト

• Privacy-Aware In-Context Learning for Large Language Models [12.605629953620495]
  大型言語モデル(LLM)は、機密情報の潜在的な暴露によるプライバシー上の懸念を提起する。 プライバシー保証の強い高品質な合成テキストを生成するための,新たなプライベートな予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-17T01:50:32Z)
• The Double-edged Sword of LLM-based Data Reconstruction: Understanding and Mitigating Contextual Vulnerability in Word-level Differential Privacy Text Sanitization [53.51921540246166]
  我々は,言語大モデル (LLM) がDP対応テキストの文脈的脆弱性を活用可能であることを示す。 LLM再建の二重刃剣効果がプライバシーと実用性に与える影響を実験的に明らかにした。 本稿では,データ再構成を後処理のステップとして使用するための推奨事項を提案する。
  論文  参考訳（メタデータ） (2025-08-26T12:22:45Z)
• Privacy-Aware Decoding: Mitigating Privacy Leakage of Large Language Models in Retrieval-Augmented Generation [26.573578326262307]
  プライバシ・アウェア・デコーディング(英: Privacy-Aware Decoding、PAD)は、ガウス雑音を発生時にトークンロジットに適応的に注入する軽量な推論時防御法である。 PADは信頼性ベースのスクリーニングを統合して、リスクの高いトークンを選択的に保護し、不要なノイズを最小限に抑える効率的な感度推定と、プライバシと生成品質のバランスをとるためのコンテキスト対応ノイズ校正を行う。 我々の研究は、機密ドメインにおける普遍的でスケーラブルなプライバシソリューションを実現するために、デコード戦略を通じて、RAGのプライバシリスクを軽減するための重要な一歩を踏み出しています。
  論文  参考訳（メタデータ） (2025-08-05T05:22:13Z)
• Enhancing Privacy in Semantic Communication over Wiretap Channels leveraging Differential Privacy [51.028047763426265]
  セマンティック通信(SemCom)は,タスク関連情報に着目して伝送効率を向上させる。 セマンティックリッチなデータをセキュアでないチャネルで送信すると、プライバシのリスクが生じる。 本稿では,セマンティックなセマンティックな特徴を保護するために,差分プライバシー機構を統合した新しいSemComフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-23T08:42:44Z)
• PersGuard: Preventing Malicious Personalization via Backdoor Attacks on Pre-trained Text-to-Image Diffusion Models [51.458089902581456]
  特定の画像の悪質なパーソナライズを防ぐ新しいバックドアベースのアプローチであるPersGuardを紹介する。 我々の手法は既存の技術よりも優れており、プライバシーと著作権保護に対するより堅牢なソリューションを提供する。
  論文  参考訳（メタデータ） (2025-02-22T09:47:55Z)
• NAP^2: A Benchmark for Naturalness and Privacy-Preserving Text Rewriting by Learning from Human [56.46355425175232]
  我々は,人間によって使用される2つの共通戦略を用いて,機密テキストの衛生化を提案する。 我々は,クラウドソーシングと大規模言語モデルの利用を通じて,NAP2という最初のコーパスをキュレートする。 匿名化に関する以前の研究と比較すると、人間に触発されたアプローチはより自然な書き直しをもたらす。
  論文  参考訳（メタデータ） (2024-06-06T05:07:44Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• ADePT: Auto-encoder based Differentially Private Text Transformation [22.068984615657463]
  自動エンコーダを用いたユーティリティ保存型差分プライベートテキスト変換アルゴリズムを提案する。 我々のアルゴリズムはテキストを変換し、攻撃に対して堅牢性を提供し、意味的品質の高い変換を生成する。 その結果,提案手法はMIA攻撃に対して有効であり,基礎となる変換プロセスの有用性は低下しないことがわかった。
  論文  参考訳（メタデータ） (2021-01-29T23:15:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。