論文の概要: OpenStamp: A Watermark for Open-Source Language Models
- arxiv url: http://arxiv.org/abs/2608.27899v1
- Date: Fri, 28 Aug 2026 04:08:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.201125
- Title: OpenStamp: A Watermark for Open-Source Language Models
- Title(参考訳): OpenStamp: オープンソースの言語モデルのための透かし
- Abstract要約: 我々は,透かしロジックをモデル重みに直接エンコードする透かし技術であるOpenStampを紹介する。
また,OpenStampは,従来の手法に比べてモデル能力の低下を最小限に抑えながら,優れた検出性能を実現していることを示す。
開発者がモデルをウォーターマークできるように、私たちは4つの人気のあるオープンソースモデルのウォーターマークバージョンと一緒にコードをリリースしています。
- 参考スコア(独自算出の注目度): 11.840656454832478
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the growing prevalence of large language model (LLM) generated content, watermarking is considered a promising approach for attributing text to LLMs and distinguishing it from human-written content. A prominent class of techniques embeds subtle but detectable signals in generated text by modifying token sampling probabilities. However, such methods are unsuitable for open-source models, where users have white-box access and can easily disable watermarking during inference. In this work, we introduce OpenStamp, a watermarking technique that encodes the watermarking logic directly into the model weights by modifying only the final projection, or unembedding, layer. Through experiments across two models, we show that OpenStamp achieves superior detection performance, with minimal degradation in model capabilities compared to prior methods. The implanted watermark is explicitly designed, and empirically confirmed, to be more robust to paraphrasing attacks and harder to scrub off through post-hoc fine-tuning than prior open-source watermarks. To enable developers to watermark their models, we release our code alongside watermarked versions of 4 popular open-source models.
- Abstract(参考訳): 大規模言語モデル(LLM)生成コンテンツの普及に伴い、透かしはLLMにテキストを帰属させ、それを人間によるコンテンツと区別するための有望なアプローチと考えられる。
著名なテクニックのクラスは、トークンサンプリングの確率を変更して、微妙だが検出可能な信号を生成されたテキストに埋め込む。
しかし、これらの手法は、ホワイトボックスアクセスがあり、推論中に容易に透かしを無効にできるオープンソースモデルには適さない。
本研究では,最終射影層,すなわちアンエンベディング層のみを変更することで,透かしロジックを直接モデル重みにエンコードする透かし技術であるOpenStampを紹介する。
2つのモデルを対象とした実験により,OpenStampは従来の手法に比べてモデル能力の低下を最小限に抑えながら,優れた検出性能が得られることを示した。
移植された透かしは明らかに設計されており、実証的に確認されており、パラフレーズ攻撃に対してより堅牢であり、以前のオープンソース透かしよりもポストホックな微調整を困難にしている。
開発者がモデルをウォーターマークできるように、私たちは4つの人気のあるオープンソースモデルのウォーターマークバージョンと一緒にコードをリリースしています。
関連論文リスト
- Selective Disclosure Watermarking for Large Language Models [16.579884795891754]
埋め込みメタデータの選択的開示を可能にする透かしフレームワークである階層語彙ルーティング(HeRo)を提案する。
提案手法は, サンプリングプロセスの非偏りを保ち, テキストの品質を維持できることを示す。
論文 参考訳(メタデータ) (2026-07-06T17:32:01Z) - WAPITI: A Watermark for Finetuned Open-Source LLMs [42.1087852764299]
WAPITIはパラメータ統合によってベースモデルから微調整モデルに透かしを転送する新しい手法である。
提案手法は,透かしの注入に成功し,微調整モデルとの互換性が高いことを示す。
論文 参考訳(メタデータ) (2024-10-09T01:41:14Z) - AquaLoRA: Toward White-box Protection for Customized Stable Diffusion Models via Watermark LoRA [67.68750063537482]
拡散モデルは高品質な画像の生成において顕著な成功を収めた。
最近の研究は、SDモデルがポストホック法医学のための透かし付きコンテンツを出力できるようにすることを目的としている。
このシナリオにおける最初の実装としてtextttmethod を提案する。
論文 参考訳(メタデータ) (2024-05-18T01:25:47Z) - Multi-Bit Distortion-Free Watermarking for Large Language Models [4.7381853007029475]
透かしの一部としてメタ情報の複数ビットを埋め込むことにより,既存のゼロビット歪みのない透かし法を拡張した。
また,少ないビット誤り率で透かしから埋め込み情報を抽出する計算効率の良い復号器を開発した。
論文 参考訳(メタデータ) (2024-02-26T14:01:34Z) - On the Learnability of Watermarks for Language Models [80.97358663708592]
言語モデルが透かし付きテキストを生成するために直接学習できるかどうかを問う。
本稿では,教師モデルとして振舞う学生モデルを訓練する透かし蒸留法を提案する。
モデルは、高い検出性で透かし付きテキストを生成することができる。
論文 参考訳(メタデータ) (2023-12-07T17:41:44Z) - Unbiased Watermark for Large Language Models [67.43415395591221]
本研究では, モデル生成出力の品質に及ぼす透かしの影響について検討した。
出力確率分布に影響を与えることなく、透かしを統合することができる。
ウォーターマークの存在は、下流タスクにおけるモデルの性能を損なうものではない。
論文 参考訳(メタデータ) (2023-09-22T12:46:38Z) - Tree-Ring Watermarks: Fingerprints for Diffusion Images that are
Invisible and Robust [55.91987293510401]
生成モデルのアウトプットを透かしは、著作権をトレースし、AI生成コンテンツによる潜在的な害を防ぐ重要なテクニックである。
本稿では,拡散モデル出力を頑健にフィンガープリントするTree-Ring Watermarkingという新しい手法を提案する。
私たちの透かしは画像空間に意味的に隠れており、現在デプロイされている透かしよりもはるかに堅牢です。
論文 参考訳(メタデータ) (2023-05-31T17:00:31Z) - Undetectable Watermarks for Language Models [1.347733333991357]
本稿では,言語モデルに対する検出不能な透かしの概念を紹介する。
透かしは秘密鍵の知識でのみ検出できます
一方向関数の存在に基づいて検出不能な透かしを構築する。
論文 参考訳(メタデータ) (2023-05-25T02:57:16Z) - Watermarking Text Generated by Black-Box Language Models [103.52541557216766]
テキスト生成中に透かしを埋め込むことのできるホワイトボックスLCMに対して,透かしに基づく手法が提案されている。
リストを認識した検出アルゴリズムは、透かし付きテキストを識別することができる。
我々はブラックボックス言語モデル利用シナリオのための透かしフレームワークを開発する。
論文 参考訳(メタデータ) (2023-05-14T07:37:33Z) - A Watermark for Large Language Models [84.95327142027183]
本稿では,プロプライエタリな言語モデルのための透かしフレームワークを提案する。
透かしはテキストの品質に無視できない影響で埋め込むことができる。
言語モデルAPIやパラメータにアクセスすることなく、効率的なオープンソースアルゴリズムを使って検出することができる。
論文 参考訳(メタデータ) (2023-01-24T18:52:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。