論文の概要: Beyond Semantic Narrowing: Robust and Efficient LLM Watermarking with Hamming Neighborhoods

• arxiv url: http://arxiv.org/abs/2609.37218v1
• Date: Tue, 29 Sep 2026 10:34:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.422654
• Title: Beyond Semantic Narrowing: Robust and Efficient LLM Watermarking with Hamming Neighborhoods
• Title（参考訳）: セマンティックナローイングを超えて:ハミング地区におけるロバストで効率的なLCM透かし
• Abstract要約: 既存の透かし法は、生成された文に透かし固有の意味的嗜好を課す。 HammingMarkは、前文のセマンティックハッシュを動的中心として使用し、ハッシュがハミング地区に該当する候補を受け入れる。 HammingMarkは、強い堅牢性、高い検出性、ほぼ無意味な生成品質を実現し、受け入れられた文ごとに2.2のサンプル候補しか必要としない。
• 参考スコア（独自算出の注目度）: 12.612207423261038
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Semantic watermarking improves robustness against watermark removal attacks by embedding detectable signals into sentence-level representations. However, existing watermarking methods typically impose watermark-specific semantic preferences on generated sentences without explicitly accounting for the highly non-uniform and context-dependent semantic preference of LLM generation. When these two preferences are poorly aligned, many natural continuations become incompatible with the watermark, causing semantic narrowing: reduced semantic freedom, increased resampling cost, and potential degradation on tasks with strict semantic requirements. To alleviate this problem, we propose HammingMark, which uses the semantic hash of the preceding sentence as a dynamic center and accepts candidates whose hashes fall within its Hamming neighborhood. Defining watermark validity over a Hamming neighborhood in compact hash space retains a larger fraction of naturally likely semantic continuations. The coarse many-to-one hash mapping further allows diverse semantic realizations to remain watermark-valid. Experiments on C4 and BookSum show that HammingMark achieves strong robustness, high detectability, and near-unwatermarked generation quality, requiring only 2.2 sampled candidates per accepted sentence,a 72.8% reduction compared with the most sampling-efficient existing method. On more complex tasks with strict semantic constraints, HammingMark achieves the highest detection rates with the highest or tied-highest ROUGE-L scores, demonstrating its effectiveness in balancing watermark detectability and generation quality under constrained generation settings.
• Abstract（参考訳）: 意味的透かしは、検出可能な信号を文レベルの表現に埋め込むことで、透かし除去攻撃に対する堅牢性を向上させる。 しかし、既存の透かし法は、通常、LLM生成の高度に一様で文脈に依存しない意味的嗜好を明示的に考慮せずに、生成された文に透かし固有の意味的嗜好を課す。 これら2つの選好が整合性に欠けると、多くの自然な継続が透かしと相容れないようになり、意味的自由を減らし、再サンプリングコストを増大させ、厳密な意味的要求のあるタスクの潜在的な劣化を引き起こす。 この問題を軽減するために,前文のセマンティックハッシュを動的中心とし,ハッシュがハミング地区に該当する候補を受け入れるハミングマークを提案する。 コンパクトハッシュ空間におけるハミング近傍上の透かしの妥当性の定義は、自然に考えられる意味的連続性の大きな部分を保持する。 粗い多対一のハッシュマッピングにより、様々な意味的実現がウォーターマークの正当性を維持することができる。 C4 と BookSum の実験では、ハミングマークは強い堅牢性、高い検出性、およびほぼ非透かし生成品質を達成し、許容された文あたり2.2 個のサンプル候補しか必要とせず、サンプリング効率の高い既存の方法と比較して 72.8% の削減を実現している。 厳密なセマンティック制約を伴うより複雑なタスクにおいて、HammingMarkは最高または最高値のROUGE-Lスコアで最高の検出率を達成する。

関連論文リスト

• SAMark: A Self-Anchored Text Watermarking with Paragraph-Level Paraphrase Robustness [71.08096624551246]
  段落レベルのパラフレーズに対するロバスト性は、このような攻撃が文順を変化させることで、世界規模で透かし信号を破壊するため、依然として困難である。 本稿では,意味空間内にステップ非依存のグリーン領域を確立することで文順依存を除去する自己認識型透かしフレームワークSAMarkを提案する。 実験の結果、SAMarkは通常の段落レベルのパラフレーズ攻撃で最大90.2%のTP@FP1%を達成することがわかった。
  論文  参考訳（メタデータ） (2026-05-25T12:46:15Z)
• An Ensemble Framework for Unbiased Language Model Watermarking [60.99969104552168]
  本研究では,アンサンブル・フレームワークであるENSを提案する。 ENSは複数の独立した透かしインスタンスを順次構成し、それぞれ異なるキーによって管理され、透かし信号を増幅する。 実験的な評価では、ENSは信頼できる検出に必要なトークンの数を大幅に減らし、平滑化やパラフレージング攻撃に対する耐性を高めている。
  論文  参考訳（メタデータ） (2025-09-28T19:37:44Z)
• Token-Specific Watermarking with Enhanced Detectability and Semantic Coherence for Large Language Models [31.062753031312006]
  大規模言語モデルは、潜在的な誤報を伴う高品質な応答を生成する。 ウォーターマーキングは、テキストに隠れたマーカーを埋め込むことによって、この文脈において重要な意味を持つ。 ウォーターマーキングのための新しい多目的最適化(MOO)手法を提案する。 本手法は,検出性と意味的整合性を同時に達成する。
  論文  参考訳（メタデータ） (2024-02-28T05:43:22Z)
• A Robust Semantics-based Watermark for Large Language Model against Paraphrasing [50.84892876636013]
  大規模言語モデル(LLM)は、様々な自然言語処理において優れた能力を示している。 LLMは不適切にも違法にも使用できるという懸念がある。 本稿ではセマンティクスに基づく透かしフレームワークSemaMarkを提案する。
  論文  参考訳（メタデータ） (2023-11-15T06:19:02Z)
• SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation [72.10931780019297]
  既存の透かしアルゴリズムはトークンレベルの設計のため、パラフレーズ攻撃に弱い。 局所性に敏感なハッシュ(LSH)に基づく頑健な文レベルのセマンティック透かしアルゴリズムSemStampを提案する。 実験結果から,本アルゴリズムは従来手法に比べて,従来手法よりも頑健であるだけでなく,生成品質の維持にも有効であることが示唆された。
  論文  参考訳（メタデータ） (2023-10-06T03:33:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。