論文の概要: Could LLM Watermark Detection be Public?

• arxiv url: http://arxiv.org/abs/2610.12106v1
• Date: Thu, 08 Oct 2026 15:05:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.107435
• Title: Could LLM Watermark Detection be Public?
• Title（参考訳）: LLM透かし検出は公にできるか?
• Abstract要約: 各種アクセスレベルでのデプロイメント設定において、パブリック検出器が追加の責任になるかどうかを定量化する。 本研究では,一方の鍵を公衆検知器を通じて露出させ,他方の鍵を完全検証と鑑定のために保持するスプリットキー公開電子透かし法を提案する。 本研究では, 広範囲な除去・偽造攻撃に対する分割鍵法の評価を行い, 非インフォームド設定と検出器インフォームド設定を比較した。
• 参考スコア（独自算出の注目度）: 40.9405559538722
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Watermarking large language models is popular for tracing chatbot and agentic outputs, yet detectors remain unreleased since exposing them could let attackers do targeted edits with the detector's feedback. However, watermarks are already vulnerable to uninformed tampering attacks. We thus first quantify whether a public detector would be an additional liability in a deployment setting at varying levels of access, from token-level scores to a binary verdict. Second, we introduce a split-key public-private watermarking method that exposes one key through a public detector while keeping the other for full verification and forensics. An informed attacker can only move the public signal, creating an imbalance between public and private scores. We introduce a statistical test for this imbalance, and combine it with the full key verdict in a two-stage mechanism. Third, we evaluate the split-key method on a wide range of removal and forgery attacks, comparing the uninformed to detector-informed settings. Public detection improves removal only at small edit budgets, since plain rephrasing already strips the watermark at a lower quality cost, but it does enable forgery, which the private pipeline can identify. Overall, releasing half of the watermark enables transparency and interoperability, and tampering with the released half stays detectable. This bounds the provider's liability and questions the need to keep detectors fully private.
• Abstract（参考訳）: 大規模な言語モデルの透かしは、チャットボットやエージェント出力のトレースに人気があるが、それを公開することで攻撃者が検出者のフィードバックでターゲットの編集を行うことができるため、検出器はリリースされていない。 しかし、透かしはすでに不正な改ざん攻撃に弱い。 そこで我々はまず,トークンレベルスコアからバイナリ評価まで,さまざまなアクセスレベルのデプロイメント環境において,公開検出が追加の責任になるかどうかを定量化する。 第2に,一方の鍵を公衆検知器を通じて露出させ,他方の鍵を完全検証と鑑定のために保持するスプリットキー公開電子透かし方式を導入する。 情報攻撃者は公開信号のみを移動でき、公的なスコアと私的なスコアの不均衡を発生させる。 この不均衡に対する統計的テストを導入し、2段階のメカニズムで完全鍵判定と組み合わせる。 第3に、広範囲の削除と偽造攻撃に対する分割鍵法の評価を行い、非情報処理と検出器情報処理を比較した。 公開検出は、小さな編集予算でのみ除去を改善する。なぜなら、平易なリフレージングは、既に品質の低いコストでウォーターマークを削除しているが、プライベートパイプラインが識別できる偽造を可能にするからだ。 全体として、透かしの半分のリリースは透明性と相互運用性を可能にし、リリースした半分の改ざんは検出可能である。 これはプロバイダの責任を拘束し、検出器を完全にプライベートにしておく必要性に疑問を呈する。

関連論文リスト

• Language Model Fingerprinting Requires Rethinking Watermark Teachers [49.33725372215003]
  生成したテキストを検証するためのテキスト透かしが,モデルフィンガープリントに適した蒸留教師であるかどうかを検討した。 指紋認証は、クエリ間で信号を集約し、スペーサー透かし信号を実行可能なものにする。 同等の透かし強度であっても、異なる配置がベースモデルの下で異なる可視性を持つトークンをターゲットにすることができることを示す。
  論文  参考訳（メタデータ） (2026-10-03T00:19:29Z)
• Watermarks Without Verification: AI Text Watermarking After the EU AI Act [49.51124343181601]
  EU AI法第50条では、生成可能なAIプロバイダに対して、システムが生成したコンテンツをマークし、AI生成として検出することを要求している。 Anthropicは、その日後にリリースされたすべてのClaudeモデルが、すべての生成されたテキストにSynthID-Textに基づく透かしを埋め込んでいることを公表した。 我々は、現在、異議や保証は確認できないし、この不信は、それ自体を透かしではなく、実質的なガバナンスの失敗であると論じている。
  論文  参考訳（メタデータ） (2026-09-09T01:56:17Z)
• PVMark: Enabling Public Verifiability for LLM Watermarking Schemes [12.082226177179187]
  ゼロ知識証明(ZKP)に基づくプラグインであるPVMarkを提案する。 PVMarkは、秘密鍵を開示することなく、第三者が透かし検出プロセスを公に検証できるようにする。 我々はPython、Rust、CircomでPVMarkの複数の変種を実装し、3つの透かしスキーム、3つのハッシュ関数、4つのZKPプロトコルの組み合わせをカバーしている。
  論文  参考訳（メタデータ） (2025-10-30T08:58:44Z)
• Modification and Generated-Text Detection: Achieving Dual Detection Capabilities for the Outputs of LLM by Watermark [6.355836060419373]
  1つの実用的な解決策は、透かしをテキストに埋め込むことで、透かし抽出によるオーナシップの検証を可能にする。 既存の手法は主に修正攻撃に対する防御に重点を置いており、しばしば他の偽造攻撃を無視している。 本研究では, 修正に敏感な不偏形透かしに対して, テキスト中の修正を検出する手法を提案する。
  論文  参考訳（メタデータ） (2025-02-12T11:56:40Z)
• Black-Box Detection of Language Model Watermarks [1.9374282535132377]
  我々は,3つの人気のある透かしスキームファミリーのパラメータを検出し,推定するための厳密な統計試験を開発した。 提案手法の有効性を,多種多様なオープンソースモデルを用いて実験的に検証した。 以上の結果から,現在の透かし方式は従来考えられていたよりも検出可能であることが示唆された。
  論文  参考訳（メタデータ） (2024-05-28T08:41:30Z)
• Publicly-Detectable Watermarking for Language Models [45.32236917886154]
  本稿では,LMの電子透かし方式について述べる。 我々は、リジェクションサンプリングを用いてLM出力に暗号署名を埋め込む。 我々は,この手法が不規則かつ歪みのないテキスト出力を生成することを証明した。
  論文  参考訳（メタデータ） (2023-10-27T21:08:51Z)
• An Unforgeable Publicly Verifiable Watermark for Large Language Models [84.2805275589553]
  現在の透かし検出アルゴリズムは、透かし生成プロセスで使用される秘密鍵を必要としており、公開検出中にセキュリティ違反や偽造の影響を受ける。 両段階で同じキーを使用するのではなく、2つの異なるニューラルネットワークを用いて透かしの生成と検出を行う。
  論文  参考訳（メタデータ） (2023-07-30T13:43:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。