Fugu-MT 論文翻訳(概要): Watermark Smoothing Attacks against Language Models

論文の概要: Watermark Smoothing Attacks against Language Models

arxiv url: http://arxiv.org/abs/2407.14206v2
Date: Wed, 05 Feb 2025 09:13:15 GMT
ステータス: 翻訳完了
システム内更新日: 2025-02-06 14:24:41.925567
Title: Watermark Smoothing Attacks against Language Models
Title（参考訳）: 言語モデルに対する透かしの平滑化攻撃
Authors: Hongyan Chang, Hamed Hassani, Reza Shokri,
Abstract要約: スムーシング・アタック(Smoothing Attack)は,新しい透かし除去法である。我々は、13ドルBから30ドルBまで、オープンソースのモデルに対する攻撃を検証する。
参考スコア（独自算出の注目度）: 40.02225709485305
License:
Abstract: Watermarking is a key technique for detecting AI-generated text. In this work, we study its vulnerabilities and introduce the Smoothing Attack, a novel watermark removal method. By leveraging the relationship between the model's confidence and watermark detectability, our attack selectively smoothes the watermarked content, erasing watermark traces while preserving text quality. We validate our attack on open-source models ranging from $1.3$B to $30$B parameters on $10$ different watermarks, demonstrating its effectiveness. Our findings expose critical weaknesses in existing watermarking schemes and highlight the need for stronger defenses.
Abstract（参考訳）: ウォーターマーキングはAI生成テキストを検出するための重要なテクニックである。本研究では,その脆弱性を調査し,新しい透かし除去法であるSmoothing Attackを導入する。モデルの信頼度と透かし検出性の関係を利用して,テキスト品質を維持しながら透かしを選択的にスムースにし,透かしトレースを消去する。オープンソースモデルに対する攻撃は、$1.3$Bから$30$Bのパラメータを10ドルの異なる透かしで検証し、その効果を実証する。以上の結果から,既存の透かし方式の重大な弱点が明らかとなり,より強力な防御の必要性が浮かび上がっている。

関連論文リスト

Revisiting the Robustness of Watermarking to Paraphrasing Attacks [10.68370011459729]
多くの最近の透かし技術は、後に検出できる出力に信号を埋め込むためにLMの出力確率を変更する。ブラックボックス型透かしモデルから限られた世代にしかアクセスできないため,パラフレーズ攻撃による透かし検出の回避効果を大幅に向上させることができる。
論文参考訳（メタデータ） (2024-11-08T02:22:30Z)
Watermarking Language Models with Error Correcting Codes [41.21656847672627]
本稿では,誤り訂正符号を用いて統計的信号を符号化する透かしフレームワークを提案する。提案手法は,ロバスト二元符号 (RBC) 透かしと呼ばれ,元の確率分布に比較して歪みは生じない。私たちの経験的発見は、私たちの透かしは速く、強力で、堅牢であり、最先端のものと好意的に比較していることを示唆しています。
論文参考訳（メタデータ） (2024-06-12T05:13:09Z)
Multi-Bit Distortion-Free Watermarking for Large Language Models [4.7381853007029475]
透かしの一部としてメタ情報の複数ビットを埋め込むことにより,既存のゼロビット歪みのない透かし法を拡張した。また,少ないビット誤り率で透かしから埋め込み情報を抽出する計算効率の良い復号器を開発した。
論文参考訳（メタデータ） (2024-02-26T14:01:34Z)
Adaptive Text Watermark for Large Language Models [8.100123266517299]
プロンプトやモデルの知識を必要とせずに、強力なセキュリティ、堅牢性、および透かしを検出する能力を維持しつつ、高品質な透かしテキストを生成することは困難である。本稿では,この問題に対処するための適応型透かし手法を提案する。
論文参考訳（メタデータ） (2024-01-25T03:57:12Z)
On the Learnability of Watermarks for Language Models [80.97358663708592]
言語モデルが透かし付きテキストを生成するために直接学習できるかどうかを問う。本稿では,教師モデルとして振舞う学生モデルを訓練する透かし蒸留法を提案する。モデルは、高い検出性で透かし付きテキストを生成することができる。
論文参考訳（メタデータ） (2023-12-07T17:41:44Z)
Improving the Generation Quality of Watermarked Large Language Models via Word Importance Scoring [81.62249424226084]
トークンレベルの透かしは、トークン確率分布を変更して生成されたテキストに透かしを挿入する。この透かしアルゴリズムは、生成中のロジットを変化させ、劣化したテキストの品質につながる可能性がある。 We propose to improve the quality of texts generated by a watermarked language model by Watermarking with Importance Scoring (WIS)。
論文参考訳（メタデータ） (2023-11-16T08:36:00Z)
T2IW: Joint Text to Image & Watermark Generation [74.20148555503127]
画像と透かし(T2IW)への共同テキスト生成のための新しいタスクを提案する。このT2IWスキームは、意味的特徴と透かし信号が画素内で互換性を持つように強制することにより、複合画像を生成する際に、画像品質に最小限のダメージを与える。提案手法により,画像品質,透かしの可視性,透かしの堅牢性などの顕著な成果が得られた。
論文参考訳（メタデータ） (2023-09-07T16:12:06Z)
On the Reliability of Watermarks for Large Language Models [95.87476978352659]
本研究では,人間による書き直し後の透かしテキストの堅牢性,非透かしLDMによる言い換え,あるいはより長い手書き文書への混在性について検討する。人や機械の言い回しをしても、透かしは検出可能である。また、大きな文書に埋め込まれた透かし付きテキストの短いスパンに敏感な新しい検出手法についても検討する。
論文参考訳（メタデータ） (2023-06-07T17:58:48Z)
A Watermark for Large Language Models [84.95327142027183]
本稿では,プロプライエタリな言語モデルのための透かしフレームワークを提案する。透かしはテキストの品質に無視できない影響で埋め込むことができる。言語モデルAPIやパラメータにアクセスすることなく、効率的なオープンソースアルゴリズムを使って検出することができる。
論文参考訳（メタデータ） (2023-01-24T18:52:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。