論文の概要: ClockMark: Adaptive and Host-Dependent Watermarking for Large Language Models
- arxiv url: http://arxiv.org/abs/2610.27079v1
- Date: Mon, 19 Oct 2026 18:00:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.445378
- Title: ClockMark: Adaptive and Host-Dependent Watermarking for Large Language Models
- Title(参考訳): ClockMark: 大規模言語モデルに対する適応的でホスト依存の透かし
- Abstract要約: 大規模言語モデル(LLM)の透かしは、世代間で進化する次のトーケン分布で動作する。
ストリーミング生成では、各サンプルトークンがテキストの一部となり、その後の配信に影響を与える。
2つの原則に基づくLLM透かしのための新しい埋め込みフレームワークを提案する。
- 参考スコア(独自算出の注目度): 27.125516766334524
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) watermarking operates on the next-token distribution that evolves during generation. In streaming generation, each sampled token becomes part of the text and affects subsequent distributions. Embedding therefore proceeds with a changing host, unlike classical watermarking, which adapts embedding to an existing host signal. To accommodate this difference, we formulate a novel embedding framework for LLM watermarking based on two principles. We first argue that embedding should be adaptive, retaining the state of previous sampling decisions to better guide subsequent choices. We further argue that embedding should be host-dependent, using the current LLM distribution to constrain both token selection and state updates. Guided by these principles and the two requirements of distribution preservation and robustness to text editing, we propose ClockMark. It combines adaptive and host-dependent embedding with message spreading, embedding the full payload in each watermarked token. Theoretically, we prove that ClockMark preserves the original LLM sequence distribution, thereby maintaining generation quality. Empirically, extensive experiments against 12 baselines demonstrate improved robustness to text editing, with gains of up to 16.08 percentage points in bit accuracy over the strongest tested baseline.
- Abstract(参考訳): 大規模言語モデル(LLM)の透かしは、世代間で進化する次のトーケン分布で動作する。
ストリーミング生成では、各サンプルトークンがテキストの一部となり、その後の配信に影響を与える。
従って埋め込みは、既存のホスト信号に埋め込みを適応させる古典的な透かしとは異なり、変化するホストで進行する。
この違いに対応するために,2つの原則に基づいて,LLM透かしのための新しい埋め込みフレームワークを定式化する。
最初に、埋め込みは適応的であり、その後の選択をより良く導くために、以前のサンプリング決定の状態を保ちます。
さらに、埋め込みはホストに依存して、現在のLCMディストリビューションを使用してトークンの選択と状態更新の両方を制限すべきである、と論じます。
これらの原則と分散保存とテキスト編集の堅牢性という2つの要件に導かれ,ClockMarkを提案する。
適応性とホスト依存の埋め込みとメッセージの拡散を組み合わせ、各ウォーターマークされたトークンに全ペイロードを埋め込む。
理論的には、ClockMarkは元のLLM配列の分布を保ち、生成品質を維持する。
実験的に、12のベースラインに対する広範な実験では、テキスト編集の堅牢性が向上し、最強の試験ベースラインよりも最大16.08ポイントのビット精度が向上した。
関連論文リスト
- SemField: A Simple, Linear, Continuous, yet Robust Semantic Watermark [38.58009792931064]
SemFieldはトレーニング不要なセマンティックな透かしで、線形信号を文埋め込み空間に直接埋め込む。
また、初期文から最適方向を決定する極性ロック付き変種SemField-PLを提案する。
どちらの変種も、1%の偽陽性率(FPR)で88.2%から90.4%の平均真陽性率(TPR)を達成する。
論文 参考訳(メタデータ) (2026-10-08T12:35:11Z) - TTMark: Pairwise Distortion-Free Watermarking Beyond Single-Token Entropy [65.84498325900898]
Tandem Token WaterMark(TTMARK)は、個々のトークンから隣接するトークンペアへの歪みのない透かしを拡張する、ペアワイズな透かしフレームワークである。
TTMARKは有効な透かしアルファベットをVから$V2$に拡大し、トークンエントロピーと条件エントロピーの両方を利用することができる。
我々は,TTMARKが生成品質を劣化させることなく常に検出性を向上させるとともに,編集の堅牢性を向上し,局所的な透かし検出を大幅に強化することを示した。
論文 参考訳(メタデータ) (2026-09-28T23:04:53Z) - Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks [68.64050157343334]
既存の透かしは編集の際は残されているが、このような堅牢性は、敵が帰属を維持しながら重要な内容を変更することを可能にする。
実証と改ざんの証拠を共同で提供する革新的な透かしを導入する。
信号は同じメカニズムを共有するが、独立キーと正規化テキスト上の異なるシードウィンドウを使用するため、一方は編集に耐性があり、もう一方は読み取り可能な変更に敏感である。
論文 参考訳(メタデータ) (2026-08-13T01:55:16Z) - SSG: Logit-Balanced Vocabulary Partitioning for LLM Watermarking [3.881996954876714]
KGWスキームは、自然言語生成の汎用性、効率性、有効性のために特に魅力的である。
しかし、KGWの有効性は、コード生成や数学的推論のような低エントロピー設定下で著しく低下する。
本稿では,語彙を2つのロジットバランス部分集合に分割するSSGを提案する。
論文 参考訳(メタデータ) (2026-04-24T10:55:50Z) - Watermarking Diffusion Language Models [9.515480957792542]
拡散言語モデル(DLM)に適した最初の透かしを導入する。
これは、トークンを逐次生成する標準自己回帰言語モデル(ARLM)とは対照的に、任意の順序でトークンを生成できる創発的LLMパラダイムである。
論文 参考訳(メタデータ) (2025-09-29T07:11:40Z) - DERMARK: A Dynamic, Efficient and Robust Multi-bit Watermark for Large Language Models [18.023143082876015]
テキストを各ウォーターマークビットに対して可変長セグメントに分割する動的で効率的で堅牢なマルチビット透かし法を提案する。
本手法は,埋め込みビット当たりのトークン数を25%削減し,透かし埋め込み時間を50%削減し,テキスト修正や透かし消去攻撃に対して高い堅牢性を維持する。
論文 参考訳(メタデータ) (2025-02-04T11:23:49Z) - Improving the Generation Quality of Watermarked Large Language Models
via Word Importance Scoring [81.62249424226084]
トークンレベルの透かしは、トークン確率分布を変更して生成されたテキストに透かしを挿入する。
この透かしアルゴリズムは、生成中のロジットを変化させ、劣化したテキストの品質につながる可能性がある。
We propose to improve the quality of texts generated by a watermarked language model by Watermarking with Importance Scoring (WIS)。
論文 参考訳(メタデータ) (2023-11-16T08:36:00Z) - A Resilient and Accessible Distribution-Preserving Watermark for Large Language Models [65.40460716619772]
本研究は,textbfDistribution-textbf Preserving (DiP)ウォーターマークの重要性に焦点をあてる。
現在の戦略とは対照的に,提案したDiPmarkは透かし中に元のトークン分布を同時に保存する。
言語モデルAPIにアクセスせずに検出可能で(アクセス可能)、トークンの適度な変更に対して確実に堅牢である。
論文 参考訳(メタデータ) (2023-10-11T17:57:35Z) - Who Wrote this Code? Watermarking for Code Generation [53.24895162874416]
本稿では,機械生成テキストを検出するために,Entropy Thresholding (SWEET) を用いたSelective WatErmarkingを提案する。
実験の結果,SWEETはコード品質を著しく向上し,すべてのベースラインを上回ります。
論文 参考訳(メタデータ) (2023-05-24T11:49:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。