論文の概要: Denoising-Aware Inversion: Revealing Privacy Risks in Noise-Protected Text Embeddings

• arxiv url: http://arxiv.org/abs/2608.18610v1
• Date: Wed, 19 Aug 2026 06:53:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.314136
• Title: Denoising-Aware Inversion: Revealing Privacy Risks in Noise-Protected Text Embeddings
• Title（参考訳）: Denoising-Aware Inversion: ノイズ検出テキスト埋め込みにおけるプライバシリスクの解明
• Abstract要約: デンステキストの埋め込みは、データマイニング、検索、下流機械学習システムで広く使われている。 最近の埋め込みインバージョン攻撃は、元のテキストについてかなりの情報を公開できることを示しており、重大なプライバシー漏洩のリスクにつながっている。 DAEIは,残差復号化オートエンコーダと生成テキストインバージョンを組み合わせた,復号化対応埋込インバージョンパイプラインである。
• 参考スコア（独自算出の注目度）: 34.056691642727195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dense text embeddings are widely used in data mining, retrieval, and downstream machine learning systems due to their compact and semantically rich representations, but recent embedding inversion attacks have shown that they can expose substantial information about the original text, leading to serious privacy leakage risks. A common defense is to release perturbed embeddings by adding Gaussian noise, which is simple yet effective against standard inversion attacks and does not significantly degrade embedding utility for downstream tasks. However, it remains unclear whether such noise-protected embeddings are sufficiently safe against adaptive attackers that explicitly account for the perturbation process. In this paper, we study text embedding inversion in a noise-protected setting, where the attacker can observe only noisy embeddings and has no access to clean embedding targets. We first analyze why existing generative inversion methods fail under this setting and identify a "Double Noise Trap", which fundamentally prevents standard generative inversion models from achieving high-quality reconstruction. To address this challenge, we propose DAEI, a denoising-aware embedding inversion pipeline that combines a residual denoising autoencoder with generative text inversion where the denoiser is trained in an unsupervised manner using Stein's unbiased risk estimate to enable denoising from noisy observations alone. Extensive experiments show that DAEI achieves approximately 154\% relative improvement in BLEU over the existing generative inversion baseline, while also improving token-level F1 and ROUGE-L by 32--60\%. The promising inversion performance of DAEI challenges the prevailing assumption that simple Gaussian perturbation is sufficient to prevent sensitive information leakage from embedding representations.
• Abstract（参考訳）: デンステキストの埋め込みは、コンパクトでセマンティックにリッチな表現のために、データマイニング、検索、下流の機械学習システムで広く使われているが、最近の埋め込みインバージョン攻撃は、元のテキストについてかなりの情報を公開できることを示し、重大なプライバシー侵害のリスクをもたらす。 一般的な防御策は、ガウスノイズを追加することで摂動埋め込みをリリースすることであり、これは標準的な逆転攻撃に対して単純だが有効であり、下流タスクの埋め込みユーティリティを著しく劣化させるものではない。 しかし、これらのノイズ保護された埋め込みが、摂動過程を明示的に説明する適応攻撃者に対して十分に安全であるかどうかは不明である。 本稿では,ノイズ保護された環境におけるテキスト埋め込みのインバージョンについて検討する。 まず, 既存の生成的逆変換法が, この設定で失敗する理由を分析し, 「二重ノイズトラップ」を同定し, 標準生成的逆変換モデルが高品質な再構成を実現するのを根本的に妨げていることを示す。 この課題に対処するため,我々はDAEIを提案する。DAEIは,残差の復号化オートエンコーダと生成テキストインバージョンを組み合わせた,雑音の多い観測から復号化を可能にするために,スタインの非バイアスリスク推定を用いて教師なしの訓練を行う。 DAEIは,既存の生成反転基線よりも約154\%向上し,トークンレベルF1およびROUGE-Lを32-60\%改善した。 DAEIの有望なインバージョン性能は、単純なガウス摂動が、機密情報漏洩を埋め込み表現から防ぐのに十分である、という一般的な仮定に挑戦する。

関連論文リスト

• UniNDM: A Unified Noise-driven Detection and Mitigation Framework Against Sexual Content in Text-to-Image Generation [90.0896070825457]
  本稿では,拡散過程におけるノイズダイナミクスのレンズを通して,安全機構を再考する統合ノイズ駆動フレームワークを提案する。 我々の重要な洞察は、早期の予測ノイズは、正常な内容と性的な内容の間に固有の分離性を示すことである。 我々は,計算オーバーヘッドがほとんどなく,精度の高い軽量ノイズベース検出器を開発した。
  論文  参考訳（メタデータ） (2026-07-18T14:03:39Z)
• SATB-VR: Training Few-Step Video Restoration Diffusion Model using SNR-Aware Trajectory Blending [55.764018145256216]
  本稿では,補助予測器を介してデノナイジングプロセスを開始する数ステップのパラダイムであるSATB-VRを提案する。 我々は,SATB-VRが,合成,実世界,AIGCベンチマークにおける既存のアプローチに対して良好に動作することを示す。
  論文  参考訳（メタデータ） (2026-06-27T01:32:16Z)
• Lost in the Noise: How Reasoning Models Fail with Contextual Distractors [57.31788955167306]
  推論モデルとエージェントAIシステムの最近の進歩は、多様な外部情報への依存度を高めている。 NoisyBenchは、RAGの11のデータセット、推論、アライメント、ツール使用タスクに対して、モデルロバスト性を体系的に評価する包括的なベンチマークである。 評価の結果,文脈的障害に直面した場合,最先端モデルでは最大80%の破滅的な性能低下がみられた。
  論文  参考訳（メタデータ） (2026-01-12T05:43:51Z)
• Noise-Robust Tiny Object Localization with Flows [63.60972031108944]
  フレキシブルなエラーモデリングと不確実性誘導最適化に正規化フローを活用するノイズローバストローカライゼーションフレームワークを提案する。 本手法は,フローベース誤差モデルを用いて,複雑な非ガウス予測分布を抽出し,ノイズの多い監視下で頑健な学習を可能にする。 不確実性を考慮した勾配変調機構は、トレーニングを安定化しながら過度な適合を緩和し、高不確実でノイズの強いサンプルからの学習をさらに抑制する。
  論文  参考訳（メタデータ） (2026-01-02T09:16:55Z)
• DPSR: Differentially Private Sparse Reconstruction via Multi-Stage Denoising for Recommender Systems [5.237172334460829]
  ディファレンシャルプライバシは、レコメンデーションシステムでユーザーデータを保護するためのゴールドスタンダードとして登場した。 既存のプライバシー保護メカニズムは、プライバシー予算が厳しくなるにつれ、根本的な課題に直面している。 DPSRは,新しい3段階のデノベーションフレームワークである。
  論文  参考訳（メタデータ） (2025-12-22T00:43:29Z)
• Privacy-Aware Decoding: Mitigating Privacy Leakage of Large Language Models in Retrieval-Augmented Generation [26.573578326262307]
  プライバシ・アウェア・デコーディング(英: Privacy-Aware Decoding、PAD)は、ガウス雑音を発生時にトークンロジットに適応的に注入する軽量な推論時防御法である。 PADは信頼性ベースのスクリーニングを統合して、リスクの高いトークンを選択的に保護し、不要なノイズを最小限に抑える効率的な感度推定と、プライバシと生成品質のバランスをとるためのコンテキスト対応ノイズ校正を行う。 我々の研究は、機密ドメインにおける普遍的でスケーラブルなプライバシソリューションを実現するために、デコード戦略を通じて、RAGのプライバシリスクを軽減するための重要な一歩を踏み出しています。
  論文  参考訳（メタデータ） (2025-08-05T05:22:13Z)
• Active Adversarial Noise Suppression for Image Forgery Localization [56.98050814363447]
  本稿では、敵騒音の攻撃効果を抑制するために、防御的摂動を発生させる敵騒音抑制モジュール(ANSM)を提案する。 我々の知る限りでは、画像フォージェリローカライゼーションタスクにおける敵対的防御の報告としてはこれが初めてである。
  論文  参考訳（メタデータ） (2025-06-15T14:53:27Z)
• Stable Unlearnable Example: Enhancing the Robustness of Unlearnable Examples via Stable Error-Minimizing Noise [31.586389548657205]
  データにある種の知覚不能ノイズを加えることにより、モデルの一般化性能を著しく低下させる非学習不可能な例を提案する。 本稿では,時間を要する対向的摂動ではなく,ランダムな摂動に対する防御音を訓練する安定型誤り最小化ノイズ(SEM)を導入する。 SEMは、CIFAR-10、CIFAR-100、ImageNet Subset上で、最先端の新たなパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-22T01:43:57Z)
• Label Noise: Correcting the Forward-Correction [0.0]
  ラベルノイズのあるデータセット上でニューラルネットワーク分類器を訓練することは、ノイズのあるラベルに過度に適合するリスクをもたらす。 ラベルノイズによる過度適合に対処する手法を提案する。 本研究は, オーバーフィッティングを緩和するために, トレーニング損失に低い限界を課すことを提案する。
  論文  参考訳（メタデータ） (2023-07-24T19:41:19Z)
• Advancing Unsupervised Low-light Image Enhancement: Noise Estimation, Illumination Interpolation, and Self-Regulation [55.07472635587852]
  低光画像強調(LLIE)技術は、画像の詳細の保存とコントラストの強化に顕著な進歩をもたらした。 これらのアプローチは、動的ノイズを効率的に緩和し、様々な低照度シナリオを収容する上で、永続的な課題に直面する。 まず,低照度画像の雑音レベルを迅速かつ高精度に推定する方法を提案する。 次に、照明と入力の一般的な制約を満たすために、Learningable Illumination Interpolator (LII) を考案する。
  論文  参考訳（メタデータ） (2023-05-17T13:56:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。