論文の概要: PASA: A Principled Embedding-Space Watermarking Approach for LLM-Generated Text under Semantic-Invariant Attacks
- arxiv url: http://arxiv.org/abs/2605.10977v1
- Date: Sat, 09 May 2026 01:09:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.272682
- Title: PASA: A Principled Embedding-Space Watermarking Approach for LLM-Generated Text under Semantic-Invariant Attacks
- Title(参考訳): PASA: 意味的不変な攻撃下でのLCM生成テキストに対する原理的埋め込み空間透かし手法
- Abstract要約: PASAは、原則付き、堅牢で、歪みのない透かしアルゴリズムである。
セマンティックレベルで透かしを埋め込んで検出する。
- 参考スコア(独自算出の注目度): 3.815798234276803
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Watermarking for large language models (LLMs) is a promising approach for detecting LLM-generated text and enabling responsible deployment. However, existing watermarking methods are often vulnerable to semantic-invariant attacks, such as paraphrasing. We propose PASA, a principled, robust, and distortion-free watermarking algorithm that embeds and detects a watermark at the semantic level. PASA operates on semantic clusters in a latent embedding space and constructs a distributional dependency between token and auxiliary sequences via shared randomness synchronized by a secret key and semantic history. This design is grounded in our theoretical framework that characterizes a jointly optimal embedding-detection pair, achieving the fundamental trade-offs among detection accuracy, robustness, and distortion. Evaluations across multiple LLMs and semantic-invariant attacks demonstrate that PASA remains robust even under strong paraphrasing attacks while preserving high text quality, outperforming standard vocabulary-space baselines. Ablation studies further validate the effectiveness of our hyperparameter choices. Webpage: https://ai-kunkun.github.io/PASA_page/.
- Abstract(参考訳): 大規模言語モデル(LLM)のための透かしは、LCM生成したテキストを検出し、責任あるデプロイメントを可能にするための有望なアプローチである。
しかし、既存の透かし手法は、パラフレーズのような意味的不変な攻撃に対して脆弱であることが多い。
そこで本研究では,意味レベルでの透かしを埋め込み,検出する,原則付き,頑健で,歪みのない透かしアルゴリズムであるPASAを提案する。
PASAは潜在埋め込み空間のセマンティッククラスタで動作し、秘密鍵とセマンティックヒストリーによって同期された共有ランダムネスを介してトークンと補助シーケンス間の分散依存性を構築する。
この設計は, 検出精度, 堅牢性, 歪みの基本的なトレードオフを達成し, 最適埋め込み検出対を特徴付ける理論的枠組みに基礎を置いている。
複数のLLMおよび意味不変攻撃に対する評価は、PASAが高いテキスト品質を維持しながら強いパラフレーズ攻撃の下でも頑健であり、標準語彙空間ベースラインよりも優れていることを示している。
アブレーション研究は、我々のハイパーパラメータ選択の有効性をさらに検証する。
Webページ: https://ai-kunkun.github.io/PASA_page/。
関連論文リスト
- Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach [58.15427952222424]
汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。
本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
論文 参考訳(メタデータ) (2026-08-15T13:19:25Z) - Robust Text Watermarking for Large Language Models via Dual Semantic Embeddings [2.992414059774663]
本研究は,大規模言語モデル(LLM)に対する意味的透かし方式を提案する。
Dual-Embedding Watermarking (DEW)は、文脈的およびトークンレベルの埋め込みを使用して、パラフレーズや翻訳に対する堅牢性を高める。
論文 参考訳(メタデータ) (2026-06-30T12:51:30Z) - Robust LLM Watermarking with Minimal Semantic Distortion for IP Protection [23.7834497390662]
SAFESEALは、新しいキー条件付き透かしフレームワークで、モデルユーティリティに最小限の影響を伴って、強力な検出性を実現する。
SAFESEALは実用性,検出性,堅牢性において,BERTScore 0.983,エンティティ類似度0.963,検出率98.2%,テキスト品質とコンテンツの人為的評価において最大であり,レイテンシは最速のベースラインに匹敵する。
論文 参考訳(メタデータ) (2026-05-22T02:51:42Z) - PMark: Towards Robust and Distortion-free Semantic-level Watermarking with Channel Constraints [49.2373408329323]
大規模言語モデル(LLM)のための透かしレベル(SWM)に関する新しい理論フレームワークを提案する。
PMarkは単純だが強力なSWM手法であり、サンプリングチャネルを通して中央値の次文を動的に推定する。
実験結果から,PMarkはテキスト品質とパラフレージングの両方において,既存のSWMベースラインを一貫して上回ることがわかった。
論文 参考訳(メタデータ) (2025-09-25T12:08:31Z) - Entropy-Guided Watermarking for LLMs: A Test-Time Framework for Robust and Traceable Text Generation [58.85645136534301]
サンプルテキストの既存の透かし方式は、テキスト品質の維持と各種攻撃に対する堅牢な検出とのトレードオフに直面していることが多い。
累積透かしエントロピー閾値を導入することにより,検出性とテキスト品質を両立させる新しい透かし方式を提案する。
論文 参考訳(メタデータ) (2025-04-16T14:16:38Z) - Theoretically Grounded Framework for LLM Watermarking: A Distribution-Adaptive Approach [53.32564762183639]
大規模言語モデル(LLM)の透かしのための新しい統一的理論フレームワークを導入する。
本研究の目的は,最悪の偽陽性率(FPR)の制御とテキスト品質の歪みを維持しつつ,検出性能を最大化することである。
モデル非依存と効率性に代えて代理モデルを利用する歪みのない分散適応型透かしアルゴリズム(DAWA)を提案する。
論文 参考訳(メタデータ) (2024-10-03T18:28:10Z) - Topic-Based Watermarks for Large Language Models [46.71493672772134]
本稿では,Large Language Model (LLM) 出力のための軽量なトピック誘導型透かし方式を提案する。
本手法は,Google の SynthID-Text など,業界をリードするシステムに匹敵する難易度を実現する。
論文 参考訳(メタデータ) (2024-04-02T17:49:40Z) - Token-Specific Watermarking with Enhanced Detectability and Semantic Coherence for Large Language Models [31.062753031312006]
大規模言語モデルは、潜在的な誤報を伴う高品質な応答を生成する。
ウォーターマーキングは、テキストに隠れたマーカーを埋め込むことによって、この文脈において重要な意味を持つ。
ウォーターマーキングのための新しい多目的最適化(MOO)手法を提案する。
本手法は,検出性と意味的整合性を同時に達成する。
論文 参考訳(メタデータ) (2024-02-28T05:43:22Z) - k-SemStamp: A Clustering-Based Semantic Watermark for Detection of Machine-Generated Text [23.46627236325298]
k-SemStampは、SemStampのシンプルで効果的な拡張であり、LSHの代替としてk-meansクラスタリングを利用して、固有の意味構造を意識して埋め込み空間を分割する。
実験結果から、k-SemStampは、生成品質を維持しながら、その堅牢性とサンプリング効率を良好に向上し、機械生成テキスト検出のためのより効果的なツールを進歩させることが示された。
論文 参考訳(メタデータ) (2024-02-17T22:50:38Z) - A Robust Semantics-based Watermark for Large Language Model against Paraphrasing [50.84892876636013]
大規模言語モデル(LLM)は、様々な自然言語処理において優れた能力を示している。
LLMは不適切にも違法にも使用できるという懸念がある。
本稿ではセマンティクスに基づく透かしフレームワークSemaMarkを提案する。
論文 参考訳(メタデータ) (2023-11-15T06:19:02Z) - SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation [72.10931780019297]
既存の透かしアルゴリズムはトークンレベルの設計のため、パラフレーズ攻撃に弱い。
局所性に敏感なハッシュ(LSH)に基づく頑健な文レベルのセマンティック透かしアルゴリズムSemStampを提案する。
実験結果から,本アルゴリズムは従来手法に比べて,従来手法よりも頑健であるだけでなく,生成品質の維持にも有効であることが示唆された。
論文 参考訳(メタデータ) (2023-10-06T03:33:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。