論文の概要: A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
- arxiv url: http://arxiv.org/abs/2609.06749v1
- Date: Sun, 06 Sep 2026 17:45:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 04:42:54.62733
- Title: A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs
- Title（参考訳）: プライバシ保存LDMにおける埋め込み・埋め込み難読化に対する新しいセマンティックマニフォールドアライメント攻撃
- Abstract要約: 本稿では,プライバシ保護言語モデルにおけるE2EOに対する新たな攻撃として,PMA(Proxy Manifold Alignment)を提案する。
PMAは、他の最先端攻撃方法よりも高い平文回復を実現している。
- 参考スコア（独自算出の注目度）: 15.442449185301072
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the widespread applications of large language models (LLMs), privacy-preserving inference has become increasingly essential for sensitive queries. To balance privacy and utility, a series of lightweight obfuscation approaches has recently been proposed, where users locally transform plaintext embeddings into the fixed ciphertext ones. While such Embedding-to-Embedding Obfuscation (E2EO) schemes demonstrate considerable resilience against traditional token frequency and embedding inversion attacks, the core mechanism behind remains to be the large-scale one-to-one substitution, which provides no cryptographic guarantees. In this paper, we propose Proxy Manifold Alignment (PMA), a novel attack against E2EO in privacy-preserving LLMs. Our key observation is that E2EO schemes keep the original semantic structure, so that the obfuscated vector stream can be regarded as an unknown tokenizer-language whose symbols are the vectors themselves. Therefore, the proposed ciphertext to plaintext reconstruction attack can be formulated as a translation task from the unknown tokenizer-language to plaintext. Specifically, by only accessing the obfuscated vector stream, the target tokenizer and a public corpus, the PMA attack first employs Word2Vec to model the co-occurrence patterns within the obfuscated stream and the public corpus independently, and constructs two proxy vector embeddings. Then, the attack aligns the underlying manifolds of these two embeddings based on structural similarity. Finally, it maps the obfuscated vectors back to plaintext. Experimental results demonstrate that PMA consistently achieves higher plaintext recovery than other state-of-the-art attack methods.
- Abstract（参考訳）: 大規模言語モデル(LLM)の広範な応用により、機密クエリにはプライバシー保護推論がますます不可欠になっている。
プライバシーとユーティリティのバランスをとるために、ユーザーが平文の埋め込みを固定された暗号文に変換する、一連の軽量な難読化アプローチが最近提案されている。
このようなE2EO(Embedding-to-Embedding Obfuscation)スキームは、従来のトークン周波数に対する大きなレジリエンスを示し、インバージョン攻撃を埋め込む。
本稿では,プライバシ保護 LLM における E2EO に対する新たな攻撃である Proxy Manifold Alignment (PMA) を提案する。
我々のキーとなる観察は、E2EOスキームが元の意味構造を維持しているため、難解なベクトルストリームは、シンボルがベクトル自身である未知のトークン化言語とみなすことができることである。
したがって、提案した暗号文から平文への再構成攻撃は、未知のトークン化言語から平文への翻訳タスクとして定式化することができる。
具体的には、難読化ベクターストリーム、ターゲットトークンライザ、パブリックコーパスのみにアクセスすることで、PMA攻撃はまずWord2Vecを使用して、難読化ベクターストリームとパブリックコーパス内の共起パターンを個別にモデル化し、2つのプロキシベクター埋め込みを構築する。
すると、アタックは構造的類似性に基づいてこれらの2つの埋め込みの基底多様体を整列する。
最後に、難読化されたベクトルを平文にマッピングする。
実験の結果、PMAは他の最先端攻撃方法よりも高い平文回復を実現していることが示された。
関連論文リスト
- DeepInvert: Semi-Supervised Embedding Inversion Against Obfuscated Language Models [8.719976368689826]
クラウドベースの言語モデルサービスプロセスは、機密情報を含むプロンプトである。
難読化ベースのディフェンスは、送信前のプロンプト表現を変換し、暗号化ソリューションの軽量な代替手段を提供する。
これらの防御は、以前考えられていたよりもはるかに少ない保護を提供することを示す。
本稿では,従来の手法よりも高精度に,難読化表現からオリジナルトークンを復元する半教師付き埋め込みインバージョンアタックであるDeepInvertを提案する。
論文 参考訳（メタデータ） (2026-08-05T06:02:51Z) - Weave of Formal Thought [51.56484100374058]
WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。
本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。
Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
論文 参考訳（メタデータ） (2026-06-24T15:58:11Z) - VectorSmuggle: Steganographic Exfiltration in Embedding Stores and a Cryptographic Provenance Defense [0.0]
現代の検索拡張生成システム(RAG)は、センシティブなコンテンツを高次元の埋め込みに変換し、それらをベクトルデータベースに格納し、結果の数値的アーティファクトを不透明なものとして扱う。
これはステガノグラフィー・エクスプロイト・アタックのクラスを開放することを示している。
入力パイプラインへの書き込みアクセスを持つアタッカーは、埋め込み内にペイロードデータを隠蔽することができる。
論文 参考訳（メタデータ） (2026-05-13T16:44:20Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - Structured Semantic Cloaking for Jailbreak Attacks on Large Language Models [28.741175254258422]
本研究では,新しい多次元ジェイルブレイク攻撃フレームワークであるStructured Semantic Cloaking (S2C)を提案する。
S2Cはマルチステップ推論を必要とするようなセマンティックキューを戦略的に分散し、再結合する。
我々は、HarmBench と JBB-Behaviors を用いて、複数のオープンソースおよびプロプライエタリ LLM 上でS2Cを評価した。
論文 参考訳（メタデータ） (2026-03-17T07:20:48Z) - Your Language Model Can Secretly Write Like Humans: Contrastive Paraphrase Attacks on LLM-Generated Text Detectors [77.82885394684202]
テキスト検出を効果的に欺く訓練不要な方法である textbfContrastive textbfParaphrase textbfAttack (CoPA) を提案する。
CoPAは、大規模言語モデルによって生成される人間のような分布とは対照的に、補助的な機械的な単語分布を構築している。
我々の理論的分析は、提案された攻撃の優越性を示唆している。
論文 参考訳（メタデータ） (2025-05-21T10:08:39Z) - Robust Steganography from Large Language Models [1.5749416770494704]
頑健なステガノグラフィーの問題点について検討する。
任意の秘密メッセージを自然言語テキストに埋め込む構造を設計し,実装する。
論文 参考訳（メタデータ） (2025-04-11T21:06:36Z) - Defending Large Language Models against Jailbreak Attacks via Semantic
Smoothing [107.97160023681184]
適応型大規模言語モデル(LLM)は、ジェイルブレイク攻撃に対して脆弱である。
提案するSEMANTICSMOOTHは,与えられた入力プロンプトのセマンティック変換されたコピーの予測を集約するスムージングベースのディフェンスである。
論文 参考訳（メタデータ） (2024-02-25T20:36:03Z) - Token-Level Adversarial Prompt Detection Based on Perplexity Measures
and Contextual Information [67.78183175605761]
大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。
この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。
トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
論文 参考訳（メタデータ） (2023-11-20T03:17:21Z) - Red Teaming Language Model Detectors with Language Models [114.36392560711022]
大規模言語モデル(LLM)は、悪意のあるユーザによって悪用された場合、重大な安全性と倫理的リスクをもたらす。
近年,LLM生成テキストを検出し,LLMを保護するアルゴリズムが提案されている。
1) LLMの出力中の特定の単語を, 文脈が与えられたシノニムに置き換えること, 2) 生成者の書き方を変更するための指示プロンプトを自動で検索すること,である。
論文 参考訳（メタデータ） (2023-05-31T10:08:37Z) - Sentence Embedding Leaks More Information than You Expect: Generative
Embedding Inversion Attack to Recover the Whole Sentence [37.63047048491312]
本稿では,文の埋め込みのみに基づいて入力シーケンスを再構築することを目的とした,ジェネレーティブな埋め込み反転攻撃(GEIA)を提案する。
言語モデルへのブラックボックスアクセスを考えると、文の埋め込みを初期トークンの表現として扱い、列を直接デコードするために強力なデコーダモデルを訓練または微調整する。
論文 参考訳（メタデータ） (2023-05-04T17:31:41Z) - Publicly-Verifiable Deletion via Target-Collapsing Functions [81.13800728941818]
ターゲットの折り畳みは、公開可能な削除(PVD)を可能にすることを示す。
我々は、弱い暗号的仮定から公開可能な削除を支援する様々なプリミティブを得るために、このフレームワークを構築している。
論文 参考訳（メタデータ） (2023-03-15T15:00:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。