論文の概要: RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models
- arxiv url: http://arxiv.org/abs/2610.02817v1
- Date: Fri, 02 Oct 2026 05:05:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.214721
- Title: RMCW: A Deletion-Robust Watermark Based on Reed--Muller Codes for Language Models
- Title(参考訳): RMCW: 言語モデルのためのリード・ミューラー符号に基づく削除ロバストな透かし
- Abstract要約: Reed-Muller Code Watermarking (RMCW) は、Reed-Muller 符号に基づく LLM 透かし方式である。
RMCWは強いクリーンテキスト検出性を保ち、いくつかの削除および書き換え攻撃の下でベースライン手法より優れ、あるいは適合していることを示す。
- 参考スコア(独自算出の注目度): 17.77025367436693
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Model (LLM) watermarking provides a lightweight mechanism for identifying text generated by a specific model, but its robustness remains fragile under post-processing attacks. Deletion attacks are particularly challenging because they shift token positions and break the alignment between observed tokens and their original watermark positions. We propose Reed--Muller Code Watermarking (RMCW), an LLM watermarking method based on Reed--Muller codes. In contrast to global codeword recovery, RMCW searches for surviving local algebraic structure, leveraging the Reed--Solomon consistency induced by affine-line restrictions of Reed--Muller codewords. During generation, RMCW injects a Reed--Muller structure into the sequence via a secret-keyed vocabulary partition. During detection, it maps the given text to keyed vocabulary bins and tests local subsequences for low-degree Reed--Solomon consistency using Berlekamp--Welch tests. Experiments on C4 and ELI5 datasets with OPT-1.3B and Llama-3.1-8B-Instruct show that RMCW preserves strong clean-text detectability and outperforms or matches the baseline methods under several deletion and rewriting attacks. Our code is available at https://github.com/BaichengDanny/RMCW.
- Abstract(参考訳): 大きな言語モデル(LLM)の透かしは、特定のモデルによって生成されたテキストを識別するための軽量なメカニズムを提供するが、その堅牢性は後処理攻撃下でも脆弱である。
トークンの位置をシフトし、観測されたトークンと元の透かしの位置のアライメントを壊すため、削除攻撃は特に難しい。
Reed-Muller Code Watermarking (RMCW) を提案する。
グローバルコードワードリカバリとは対照的に、RCCWはReed-Solomon整合性を利用して、Reed-Muller符号ワードのアフィンライン制限によって引き起こされる局所代数構造を検索する。
検出中、与えられたテキストをキー付きボキャブラリビンにマッピングし、Berlekamp--Welchテストを使用して、低次リード-ソロモン整合性のためのローカルサブシーケンスをテストする。
OPT-1.3B と Llama-3.1-8B-Instruct を用いた C4 と ELI5 データセットの実験では、RCCW は強いクリーンテキスト検出性を保持し、いくつかの削除および書き換え攻撃の下でベースラインメソッドに適合または適合することを示した。
私たちのコードはhttps://github.com/BaichengDanny/RMCW.comで公開されています。
関連論文リスト
- CORE-BREW: LLR-Based Soft Decoding for Robust Multi-Bit LLM Watermarking [1.6767110939178236]
ブロックワイドBREWの定ヒットレート埋め込み拡張であるCORE-BREWを提案する。
CORE-BREWは固定ヒットレートp-スターを目標とすることで透かしチャネルを校正し、原理的軟判定復号のための閉形式対数類似率(LLRs)を得る。
論文 参考訳(メタデータ) (2026-06-23T05:37:14Z) - SWAN: Semantic Watermarking with Abstract Meaning Representation [61.15962841972814]
SWAN(Semantic Watermarking with Abstract Meaning Representation)は、文の意味構造に透かしシグネチャを埋め込む新しいフレームワークである。
シグネチャはセマンティック構造レベルでエンコードされるので、意味を保存するあらゆるパラフレーズはシグネチャを自動的に保存する。
論文 参考訳(メタデータ) (2026-05-05T21:13:30Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳(メタデータ) (2025-02-10T09:15:56Z) - Robust Multi-bit Text Watermark with LLM-based Paraphrasers [19.785484664254916]
LLMでパラフレーズを埋め込んだ、知覚不能なマルチビットテキスト透かしを提案する。
透かしを埋め込むために、2つのパラフレーズを使って文レベルで定義済みのバイナリコードをエンコードします。
我々の透かしは、小さな(1.1B)テキストパラフレーズでAUCを99.99%以上検出できることを示す。
論文 参考訳(メタデータ) (2024-12-04T08:43:12Z) - REMARK-LLM: A Robust and Efficient Watermarking Framework for Generative Large Language Models [16.243415709584077]
大規模言語モデル(LLM)のための新しい効率的で堅牢な透かしフレームワークREMARK-LLMを提案する。
ReMARK-LLMは、透かしのある内容における意味的整合性の保存を促進するために厳格に訓練されている。
透かしの検出と除去攻撃に対してより優れたレジリエンスを示す。
論文 参考訳(メタデータ) (2023-10-18T22:14:37Z) - Towards Codable Watermarking for Injecting Multi-bits Information to LLMs [86.86436777626959]
大規模言語モデル(LLM)は、流布とリアリズムを増大させるテキストを生成する。
既存の透かし方式はエンコーディング非効率であり、多様な情報エンコーディングニーズに柔軟に対応できない。
テキスト透かしを複数ビットでカスタマイズ可能な情報を運ぶことができるCTWL (Codable Text Watermarking for LLMs) を提案する。
論文 参考訳(メタデータ) (2023-07-29T14:11:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。