論文の概要: HiMark: Hierarchical and Controllable Multi-bit Watermarking for Large Language Models
- arxiv url: http://arxiv.org/abs/2610.30601v1
- Date: Thu, 22 Oct 2026 02:05:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.186783
- Title: HiMark: Hierarchical and Controllable Multi-bit Watermarking for Large Language Models
- Title(参考訳): HiMark: 大規模言語モデルのための階層的で制御可能なマルチビット透かし
- Abstract要約: HiMarkは、大きな言語モデル(LLM)生成テキストのための制御可能なマルチビット透かしフレームワークである。
HiMarkはテキストの品質を維持しながら透かし抽出精度を向上させる。
- 参考スコア(独自算出の注目度): 22.508357328683825
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the rapid adoption of large language models (LLMs) in text generation applications, it has become increasingly difficult to trace generated content and assign responsibility for its use, raising concerns about provenance, copyright protection, and accountability. Multi-bit watermarking addresses these issues by embedding multi-bit provenance information into generated text, but reliable extraction remains difficult due to sparse per-bit evidence and the trade-off between watermark-extraction accuracy and text quality. To deal with these challenges, we propose HiMark, a hierarchical and controllable multi-bit watermarking framework for LLM-generated text. During watermark embedding, HiMark uses a hierarchical candidate-control mechanism, including initial candidate sampling, layer-wise tournament elimination, support-based refinement, and support-threshold filtering. During watermark detection, a model-agnostic evidence aggregation mechanism computes multi-layer support evidence for each observed token, and then accumulates these token-level votes into the corresponding information for robust watermark extraction. Experiments show that HiMark improves watermark extraction accuracy while maintaining text quality, e.g., the watermark extraction accuracy is 90.01% under the paraphrasing attack when 32 bits were embedded within a text containing 300 tokens, demonstrating its effectiveness for provenance tracking.
- Abstract(参考訳): テキスト生成アプリケーションに大規模言語モデル(LLM)が急速に採用されるにつれ、生成したコンテンツをトレースし、その使用に対して責任を負うことがますます難しくなり、証明、著作権保護、説明責任に対する懸念が高まっている。
マルチビット透かしは、生成されたテキストに複数ビットの証明情報を埋め込むことによってこれらの問題に対処するが、ビットごとの証拠が不足し、透かし抽出精度とテキスト品質のトレードオフがあるため、信頼性の高い抽出は依然として困難である。
これらの課題に対処するため、LLM生成テキストのための階層的で制御可能なマルチビット透かしフレームワークであるHiMarkを提案する。
透かし埋め込み中、HiMarkは階層的な候補制御機構を使用しており、初期候補サンプリング、レイヤワイドトーナメントの排除、サポートベースリファインメント、サポート閾値フィルタリングなどがある。
透かし検出中、モデルに依存しないエビデンス集約機構は、観測されたトークンごとに多層支持エビデンスを計算し、これらのトークンレベルの票を対応する情報に蓄積し、ロバストな透かし抽出を行う。
実験の結果,300個のトークンを含むテキストに32ビットを埋め込んだ場合,ハイマークはテキスト品質を維持しながら透かし抽出精度を90.01%向上し,透かし抽出精度を90.01%向上させた。
関連論文リスト
- Language Model Fingerprinting Requires Rethinking Watermark Teachers [49.33725372215003]
生成したテキストを検証するためのテキスト透かしが,モデルフィンガープリントに適した蒸留教師であるかどうかを検討した。
指紋認証は、クエリ間で信号を集約し、スペーサー透かし信号を実行可能なものにする。
同等の透かし強度であっても、異なる配置がベースモデルの下で異なる可視性を持つトークンをターゲットにすることができることを示す。
論文 参考訳(メタデータ) (2026-10-03T00:19:29Z) - MC$^2$Mark: Distortion-Free Multi-Bit Watermarking for Long Messages [62.982950935139534]
マルチビット透かしは、識別子を生成されたテキストに埋め込むことができるが、既存の方法は、長いメッセージを送りながらテキストの品質と透かしの強さを維持するのに苦労している。
本稿では,長文の埋め込みと復号化のための歪みのないマルチビット透かしフレームワークMC$2$Markを提案する。
論文 参考訳(メタデータ) (2026-02-15T07:29:06Z) - BiMark: Unbiased Multilayer Watermarking for Large Language Models [68.64050157343334]
テキスト品質とメッセージ埋め込み能力のバランスをとる新しい透かしフレームワークであるBiMarkを提案する。
BiMarkは、短いテキストに対して最大30%高い抽出率を達成すると同時に、低いパープレキシティで示されるテキスト品質を維持する。
論文 参考訳(メタデータ) (2025-06-19T11:08:59Z) - StealthInk: A Multi-bit and Stealthy Watermark for Large Language Models [4.76514657698929]
StealthInkは、大規模言語モデル(LLM)のためのステルスなマルチビット透かし方式である
元のテキスト配布を保存し、証明データの埋め込みを可能にする。
固定等誤り率で透かし検出に必要なトークン数に対する低い境界を導出する。
論文 参考訳(メタデータ) (2025-06-05T18:37:38Z) - DERMARK: A Dynamic, Efficient and Robust Multi-bit Watermark for Large Language Models [18.023143082876015]
テキストを各ウォーターマークビットに対して可変長セグメントに分割する動的で効率的で堅牢なマルチビット透かし法を提案する。
本手法は,埋め込みビット当たりのトークン数を25%削減し,透かし埋め込み時間を50%削減し,テキスト修正や透かし消去攻撃に対して高い堅牢性を維持する。
論文 参考訳(メタデータ) (2025-02-04T11:23:49Z) - De-mark: Watermark Removal in Large Language Models [59.00698153097887]
我々は、n-gramベースの透かしを効果的に除去するために設計された高度なフレームワークであるDe-markを紹介する。
提案手法は,透かしの強度を評価するために,ランダム選択探索と呼ばれる新しいクエリ手法を利用する。
論文 参考訳(メタデータ) (2024-10-17T17:42:10Z) - Less is More: Sparse Watermarking in LLMs with Enhanced Text Quality [27.592486717044455]
テキストに分散した生成されたトークンの小さなサブセットに透かしを適用することで、このトレードオフを緩和することを目的とした新しいタイプの透かしであるスパース透かしを提案する。
提案手法は,従来の透かし手法よりも高い品質のテキストを生成しつつ,高い検出性を実現することを示す。
論文 参考訳(メタデータ) (2024-07-17T18:52:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。