論文の概要: Rethinking the Privacy of Text Embeddings: A Reproducibility Study of "Text Embeddings Reveal (Almost) As Much As Text"

• arxiv url: http://arxiv.org/abs/2507.07700v1
• Date: Thu, 10 Jul 2025 12:27:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-11 16:40:15.393233
• Title: Rethinking the Privacy of Text Embeddings: A Reproducibility Study of "Text Embeddings Reveal (Almost) As Much As Text"
• Title（参考訳）: テキスト埋め込みのプライバシを再考する:「テキスト埋め込みは(ほぼ)テキストに匹敵する」の再現性の検討
• Authors: Dominykas Seputis, Yongkang Li, Karsten Langerak, Serghei Mihailov,
• Abstract要約: 我々はVec2Textフレームワークを再現し、2つの観点から評価する。 ドメイン内設定とドメイン外設定の両方で、元のキー結果の再現に成功したのです。 入力シーケンス長に対する感度を含むキー制限を識別する。
• 参考スコア（独自算出の注目度）: 0.14061979259370275
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text embeddings are fundamental to many natural language processing (NLP) tasks, extensively applied in domains such as recommendation systems and information retrieval (IR). Traditionally, transmitting embeddings instead of raw text has been seen as privacy-preserving. However, recent methods such as Vec2Text challenge this assumption by demonstrating that controlled decoding can successfully reconstruct original texts from black-box embeddings. The unexpectedly strong results reported by Vec2Text motivated us to conduct further verification, particularly considering the typically non-intuitive and opaque structure of high-dimensional embedding spaces. In this work, we reproduce the Vec2Text framework and evaluate it from two perspectives: (1) validating the original claims, and (2) extending the study through targeted experiments. First, we successfully replicate the original key results in both in-domain and out-of-domain settings, with only minor discrepancies arising due to missing artifacts, such as model checkpoints and dataset splits. Furthermore, we extend the study by conducting a parameter sensitivity analysis, evaluating the feasibility of reconstructing sensitive inputs (e.g., passwords), and exploring embedding quantization as a lightweight privacy defense. Our results show that Vec2Text is effective under ideal conditions, capable of reconstructing even password-like sequences that lack clear semantics. However, we identify key limitations, including its sensitivity to input sequence length. We also find that Gaussian noise and quantization techniques can mitigate the privacy risks posed by Vec2Text, with quantization offering a simpler and more widely applicable solution. Our findings emphasize the need for caution in using text embeddings and highlight the importance of further research into robust defense mechanisms for NLP systems.
• Abstract（参考訳）: テキスト埋め込みは多くの自然言語処理(NLP)タスクの基本であり、レコメンデーションシステムや情報検索(IR)といった分野に広く適用されている。 伝統的に、生のテキストの代わりに埋め込みを送信することはプライバシー保護と見なされてきた。 しかし、Vec2Textのような最近の手法は、制御された復号化によってブラックボックスの埋め込みから元のテキストを再構築できることを実証することによって、この仮定に挑戦している。 Vec2Textによって報告された予想外の強い結果は、特に高次元埋め込み空間の通常非直観的かつ不透明な構造を考えると、さらなる検証を行う動機となった。 本研究では,Vec2Textフレームワークを再現し,(1)原主張の検証,(2)対象実験による研究の拡充という2つの観点から評価する。 まず、ドメイン内設定とドメイン外設定の両方で元のキー結果の再現に成功した。 さらに、パラメータ感度分析を行い、センシティブな入力(例えばパスワード)を再構築する可能性を評価し、軽量なプライバシ保護として埋め込み量子化を探求することによって研究を拡張した。 以上の結果から,Vec2Textは理想的な条件下で有効であり,明確なセマンティクスを欠いたパスワードのようなシーケンスを再構築できることがわかった。 しかし、入力シーケンス長に対する感度を含む重要な制限を識別する。 また、ガウスノイズと量子化技術は、Vec2Textがもたらすプライバシーリスクを軽減することができ、量子化はよりシンプルでより広く適用可能なソリューションを提供する。 本研究は,NLPシステムにおけるロバスト防衛機構のさらなる研究の重要性を強調した。

関連論文リスト

• TextSleuth: Towards Explainable Tampered Text Detection [49.88698441048043]
  本稿では,大規模なマルチモーダルモデルを用いて,自然言語による改ざんテキスト検出の基礎を説明する。 このタスクのデータギャップを埋めるため,大規模な包括的データセットETTDを提案する。 GPT4oで高品質な異常記述を生成するために、共同クエリが導入された。 低品質なアノテーションを自動的にフィルタリングするために、GPT4oに改ざんされたテキストを認識するよう促すことも提案する。
  論文  参考訳（メタデータ） (2024-12-19T13:10:03Z)
• Understanding and Mitigating the Threat of Vec2Text to Dense Retrieval Systems [28.175920880194223]
  本稿では,Vec2Textによるテキスト復元に影響を及ぼすであろう埋め込みモデルに関連する要因について検討する。 本稿では,回復可能性リスクを軽減しつつ,均等なランク付けを保証できる簡易な埋め込み変換修正法を提案する。
  論文  参考訳（メタデータ） (2024-02-20T07:49:30Z)
• SwinTextSpotter v2: Towards Better Synergy for Scene Text Spotting [121.44909266398194]
  我々はSwinTextSpotter v2と呼ばれる新しいエンドツーエンドのシーンテキストスポッティングフレームワークを提案する。 我々は,新しい認識変換モジュールと認識アライメントモジュールを用いて,2つのタスク間の関係を強化する。 SwinTextSpotter v2は、様々な多言語(英語、中国語、ベトナム語)のベンチマークで最先端のパフォーマンスを達成した。
  論文  参考訳（メタデータ） (2024-01-15T12:33:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。