論文の概要: MarkSec: Capability-Aware Evaluation of Adversarial Attacks Against LLM Watermarks

• arxiv url: http://arxiv.org/abs/2609.16681v1
• Date: Tue, 15 Sep 2026 06:02:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.367999
• Title: MarkSec: Capability-Aware Evaluation of Adversarial Attacks Against LLM Watermarks
• Title（参考訳）: MarkSec: LLM透かしに対する敵攻撃の能力評価
• Abstract要約: 透かしは生成されたテキストの起源を辿るのに役立つが、透かし情報を取り戻すための盗み攻撃、透かし信号を除去する攻撃、透かしとして受け入れられたテキストを偽造する攻撃。 我々は,盗難・盗難・盗難の分析を統一するフレームワークであるMarkSecを提案する。 実験により、明らかな攻撃の勝者は、テキスト品質の制約、攻撃の汎用性、能力の仮定に依存することが示された。
• 参考スコア（独自算出の注目度）: 20.01010599825543
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM watermarking helps trace the origin of generated text, but faces stealing attacks that recover watermark information, scrubbing attacks that remove watermark signals, and spoofing attacks that forge text accepted as watermarked. These attacks are often studied in isolation, leaving their connections unclear. Evaluations also often lack shared detector calibration, metric definitions, and reporting protocols. Moreover, measuring attack success and text quality separately makes it difficult to identify attacks that are both effective and quality-preserving. We propose MarkSec, a general framework that unifies analyses of stealing, scrubbing, and spoofing. We evaluate attacks under a common reporting protocol and introduce a quality-constrained attack success metric to assess effectiveness and text quality jointly. Experiments across representative watermark families, attacks, LLMs, and datasets reveal three findings. First, attacks that appear strongest by watermark removal alone can fall behind general rewriting when success also requires acceptable text quality. Second, general rewriting remains a strong baseline across watermark families, while its advantage over other scrubbers varies by family. Third, in a case study of one watermark family, stealing-based scrubbers often underperform the best general-scrubbing baselines when text quality is required. These results show that apparent attack winners depend on text-quality constraints, attack generality, and capability assumptions.
• Abstract（参考訳）: LLM透かしは生成されたテキストの起源を辿るのに役立つが、透かし情報を復元する盗難攻撃、透かし信号を除去する盗難攻撃、透かしとして受け入れられたテキストを偽造する攻撃に直面する。 これらの攻撃はしばしば独立して研究され、それらの関係ははっきりしないままである。 評価には、共有検出器の校正、メートル法の定義、報告プロトコルが欠落することも多い。 さらに,攻撃成功度とテキスト品質を別々に測定することで,有効かつ品質保全の両面から攻撃を識別することが困難になる。 我々は,盗難・盗難・盗難の分析を統一する汎用フレームワークであるMarkSecを提案する。 我々は,共通報告プロトコルによる攻撃評価を行い,有効性とテキスト品質を協調的に評価するための品質制約された攻撃成功指標を導入する。 代表的なウォーターマークファミリー、攻撃、LSM、データセットにわたる実験では、3つの結果が明らかになった。 まず、透かし除去だけで最強に見える攻撃は、成功も許容できるテキスト品質を必要とする場合、一般的な書き換えに遅れる可能性がある。 第二に、一般的な書き直しはウォーターマークの家族の強いベースラインであり、他のスクラブに対する優位性は家族によって異なる。 第三に、あるウォーターマークファミリーのケーススタディでは、テキストの品質が要求されるときに、盗難ベースのスクラブは、最高の一般的なスクラブベースラインを過小評価することが多い。 これらの結果は、明らかな攻撃の勝者は、テキスト品質の制約、攻撃の汎用性、能力の仮定に依存することを示している。

関連論文リスト

• Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks [68.64050157343334]
  既存の透かしは編集の際は残されているが、このような堅牢性は、敵が帰属を維持しながら重要な内容を変更することを可能にする。 実証と改ざんの証拠を共同で提供する革新的な透かしを導入する。 信号は同じメカニズムを共有するが、独立キーと正規化テキスト上の異なるシードウィンドウを使用するため、一方は編集に耐性があり、もう一方は読み取り可能な変更に敏感である。
  論文  参考訳（メタデータ） (2026-08-13T01:55:16Z)
• SAMark: A Self-Anchored Text Watermarking with Paragraph-Level Paraphrase Robustness [71.08096624551246]
  段落レベルのパラフレーズに対するロバスト性は、このような攻撃が文順を変化させることで、世界規模で透かし信号を破壊するため、依然として困難である。 本稿では,意味空間内にステップ非依存のグリーン領域を確立することで文順依存を除去する自己認識型透かしフレームワークSAMarkを提案する。 実験の結果、SAMarkは通常の段落レベルのパラフレーズ攻撃で最大90.2%のTP@FP1%を達成することがわかった。
  論文  参考訳（メタデータ） (2026-05-25T12:46:15Z)
• LLM Watermark Evasion via Bias Inversion [24.543675977310357]
  本稿では,理論的動機付けとモデルに依存しないemphBias-Inversion Rewriting Attack (BIRA)を提案する。 BIRAは、下層の透かし方式を知らずに書き直し中に、おそらく透かしのトークンのロジットを抑えることで透かし信号を弱める。
  論文  参考訳（メタデータ） (2025-09-27T00:24:57Z)
• Character-Level Perturbations Disrupt LLM Watermarks [64.60090923837701]
  我々は,Large Language Model (LLM)ウォーターマーキングのためのシステムモデルを定式化する。 我々は、透かし検出器への限られたアクセスに制約された2つの現実的な脅威モデルの特徴付けを行う。 我々は,最も制限的な脅威モデルの下で,キャラクタレベルの摂動が透かし除去に著しく有効であることを実証した。 現実的な制約下での透かし除去における文字レベルの摂動の優位性と遺伝的アルゴリズム(GA)の有効性を実験的に検証した。
  論文  参考訳（メタデータ） (2025-09-11T02:50:07Z)
• Revealing Weaknesses in Text Watermarking Through Self-Information Rewrite Attacks [36.01146548147208]
  テキスト透かしアルゴリズムは、テキストの品質を保証するために、ハイエントロピートークンに透かしを埋め込む。 本稿では,この外観上の不明瞭な設計が攻撃者によって悪用され,透かしの堅牢性に重大なリスクを及ぼすことを明らかにする。 本稿では,トークンの自己情報を計算することで,その脆弱性を利用する汎用的なパラフレーズ攻撃を提案する。
  論文  参考訳（メタデータ） (2025-05-08T12:39:00Z)
• Defending LLM Watermarking Against Spoofing Attacks with Contrastive Representation Learning [34.76886510334969]
  ピギーバック攻撃は、元々の透かしを保ったままのヘイトスピーチに変換する透かしテキストの意味を悪意的に変更することができる。 そこで本稿では,元来の意味を保ちつつ,与えられた目標テキストに透かしを埋め込む意味認識型透かしアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-09T04:38:17Z)
• On Evaluating The Performance of Watermarked Machine-Generated Texts Under Adversarial Attacks [20.972194348901958]
  まず、メインストリームのウォーターマーキングスキームと、機械生成テキストに対する削除攻撃を組み合わせます。 8つの透かし(5つのプレテキスト、3つのポストテキスト)と12のアタック(2つのプレテキスト、10のポストテキスト)を87のシナリオで評価した。 その結果、KGWとExponentialの透かしは高いテキスト品質と透かしの保持を提供するが、ほとんどの攻撃に対して脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2024-07-05T18:09:06Z)
• Bileve: Securing Text Provenance in Large Language Models Against Spoofing with Bi-level Signature [39.973130114073605]
  整合性チェックのための微細なシグネチャビットを埋め込んだバイレベルシグネチャスキームであるBileveを導入する。 Bileveは、検出中に5つのシナリオを区別し、テキストを確実にトレースし、LLMを制御する。
  論文  参考訳（メタデータ） (2024-06-04T03:58:14Z)
• Large Language Model Watermark Stealing With Mixed Integer Programming [51.336009662771396]
  大きな言語モデル(LLM)の透かしは、著作権に対処し、AI生成したテキストを監視し、その誤用を防ぐことを約束している。 近年の研究では、多数のキーを用いた透かし手法は、攻撃の除去に影響を受けやすいことが示されている。 我々は,最先端のLLM透かしスキームに対する新たなグリーンリスト盗難攻撃を提案する。
  論文  参考訳（メタデータ） (2024-05-30T04:11:17Z)
• SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation [72.10931780019297]
  既存の透かしアルゴリズムはトークンレベルの設計のため、パラフレーズ攻撃に弱い。 局所性に敏感なハッシュ(LSH)に基づく頑健な文レベルのセマンティック透かしアルゴリズムSemStampを提案する。 実験結果から,本アルゴリズムは従来手法に比べて,従来手法よりも頑健であるだけでなく,生成品質の維持にも有効であることが示唆された。
  論文  参考訳（メタデータ） (2023-10-06T03:33:42Z)
• On the Reliability of Watermarks for Large Language Models [95.87476978352659]
  本研究では,人間による書き直し後の透かしテキストの堅牢性,非透かしLDMによる言い換え,あるいはより長い手書き文書への混在性について検討する。 人や機械の言い回しをしても、透かしは検出可能である。 また、大きな文書に埋め込まれた透かし付きテキストの短いスパンに敏感な新しい検出手法についても検討する。
  論文  参考訳（メタデータ） (2023-06-07T17:58:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。