Fugu-MT 論文翻訳(概要): Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference

論文の概要: Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference

arxiv url: http://arxiv.org/abs/2609.03844v1
Date: Thu, 03 Sep 2026 13:38:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 18:28:39.090843
Title: Flip, Don't Shuffle: Watermarking LLMs at the Speed of Inference
Title（参考訳）: Flip, Don't Shuffle: 推論速度でLLMをウォーターマーキングする
Abstract要約: 本稿では,大規模言語モデルのための新しい統計透かしであるStateless Bernoulli Watermarking (SBW)を紹介する。 SBWは独立したベルヌーイ裁判を通じてグリーンリストのメンバーシップを決定する。エンドツーエンド生成ベンチマークでは、SBWはすべてのバッチサイズで1%未満のオーバーヘッドを追加する。
参考スコア（独自算出の注目度）: 0.21485350418225244
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We introduce Stateless Bernoulli Watermarking (SBW), a new statistical watermark for Large Language Models that determines green list membership through independent per-token Bernoulli trials. Unlike KGW's vocabulary permutation or SynthID's multi-layer tournament, SBW requires only a single comparison per token against a counter-based random number generator, reducing membership complexity to $O(1)$ and enabling single-kernel execution with zero intermediate allocations. We prove that this formulation preserves the same detection guarantees as fixed-size green lists: the z-score test remains $\mathcal{N}(0,1)$ under the null. The stateless architecture enables capabilities unavailable to existing methods: full-vocabulary self-salt watermarking (over 6000$\times$ faster than KGW's self-salt and 2$\times$ faster than SynthID despite biasing the entire vocabulary with candidate-dependent seeding) and architectural compatibility with distributed inference. In end-to-end generation benchmarks, SBW adds less than 1\% overhead at all batch sizes. We additionally identify hash function design as a previously unexplored axis for watermark quality, showing that a GPU-native Jenkins hash improves null calibration by 1.8$\times$ while producing more diverse text. Experiments across two seeding schemes and eight $(γ, δ)$ configurations confirm statistical equivalence with ROC-AUC differences below 0.01.
Abstract（参考訳）: SBW(Stateless Bernoulli Watermarking、ステートレスベルヌーイ透かし)は、独立のベルヌーイ試験を通じてグリーンリストのメンバーシップを決定する、大規模言語モデルのための新しい統計透かしである。 KGWの語彙置換やSynthIDの多層トーナメントとは異なり、SBWはトークンごとのトークン比較をカウンターベースの乱数生成器と比較するだけで、メンバシップの複雑さを$O(1)$に減らし、中間割り当てをゼロにすることでシングルカーネルの実行を可能にする。この定式化は固定サイズグリーンリストと同じ検出保証を保持することを証明している: z-スコアテストはnullの下で$\mathcal{N}(0,1)$のままである。フルボキャブラリのセルフサルト透かし(KGWのセルフサルトよりも6000ドル以上、SynthIDより2ドル以上速い)と分散推論とのアーキテクチャ互換性。エンドツーエンド生成ベンチマークでは、SBWはすべてのバッチサイズでオーバーヘッドを1\%以下に追加する。我々はまた、ハッシュ関数設計をウォーターマーク品質の未探索軸として識別し、GPUネイティブなJenkinsハッシュがより多様なテキストを生成しながら1.8$\times$でnullキャリブレーションを改善することを示す。 2つのシードスキームと8ドルの(γ, δ)$構成による実験により、ROC-AUCの差が0.01未満であることが確認された。

関連論文リスト

SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant [79.24089819400126]
Subsampled TurboQuant (SSTQ) は、オーバーコンプリートな等幅のタイトフレーム、座標サブサンプリング、プライバシ対応量子化を組み合わせたフレームワークである。 SSTQは平均2乗誤差スケーリングを実現し、クライアントあたり$lceil log N il + b$ bitsを使用する。また、コードブックに依存したMSEスケーリングを$O(4b)$から$O(2b)$に削減する、プライバシを意識したコードブックの目的も導出します。
論文参考訳（メタデータ） (2026-08-05T17:51:25Z)
Concurrent Image Understanding and Generation: Self-Correcting Coupled Markov Jump Processes [70.61868608402723]
我々は$textbfSelf-Correcting Coupled Markov Jump Processes (SC-CMJP)を紹介する。 SC-CMJPと組み合わせて、共同マルチモーダルジェネレーションのための新しいトレーニングフリーシングルパスサンプリングであるtextttCO_texttt2textttJump$を紹介する。トレーニングと評価のために,我々は3つの大規模ジョイントマルチモーダル生成コーパスを作成し,リリースする。
論文参考訳（メタデータ） (2026-07-14T18:39:29Z)
Stochastic Sparse Attention for Memory-Bound Inference [19.301894658575502]
SANTA(Additive No-mult Attention)は,ソフトマックス後の分布から$S ll n_k$インデックスをサンプリングすることで,値キャッシュアクセスを分散する手法である。また、スコアステージをスパース化するための補完手法としてBernoulli $qKmathsfT$サンプリングを提案する。
論文参考訳（メタデータ） (2026-05-03T14:44:14Z)
Quantum Reservoir Autoencoder for Blind Decryption: Two-Phase Protocol and Noise Resilience [0.0]
リセットノイズチャンネルを用いたノイズ誘導型貯水池でQRA(Quantum Storage Autoencoder)をインスタンス化する。 10個のデータキュービットとランダムな(最適化されていない)リセット確率を持つ単一暗号文プロトコルでは、オープンシステム記憶器は10桁のショットノイズ感度を抑える。
論文参考訳（メタデータ） (2026-03-12T07:05:46Z)
$V_1$: Unifying Generation and Self-Verification for Parallel Reasoners [69.66089681814013]
$V_$は、効率的なペアワイドランキングを通じて生成と検証を統合するフレームワークである。 V_$-Inferはポイントワイド検証でPass@1を最大10%改善する。 V_$-PairRLは、標準のRLとポイントワイドのジョイントトレーニングよりも、テストタイムのスケーリングが7ドル--9%で向上する。
論文参考訳（メタデータ） (2026-03-04T17:22:16Z)
Attention Meets Reachability: Structural Equivalence and Efficiency in Grammar-Constrained LLM Decoding [0.2864713389096699]
我々は、文脈自由文法(CFG)からコンパイルされたプッシュダウンシステム上での自己回帰的次トーケン分布と到達可能性との結合として文法制約デコーディング(GCD)を研究する。文法の復号コスト等価クラスを定義し、有界書き直し科における最小SAC代表者の存在を証明した。
論文参考訳（メタデータ） (2026-03-04T11:49:55Z)
SOCKET: SOft Collison Kernel EsTimator for Sparse Attention [25.278711498381494]
長期コンテキスト推論におけるスパシティの爆発は、大規模言語モデルのスケーリングの中心となる。 Locality-Sensitive Hashing (LSH) はスパシフィケーションプリミティブであり、確率的、類似性を認識したアグリゲーションに適合するハードバケットを置き換える。 SOCKETはSoft Collision EsTimatorで、ハードバケットのマッチを確率的、類似性を考慮したアグリゲーションに置き換える。
論文参考訳（メタデータ） (2026-02-06T00:41:44Z)
WaterMod: Modular Token-Rank Partitioning for Probability-Balanced LLM Watermarking [9.249768575382397]
WaterModは、透かしに対する確率対応のモジュラールールである。ゼロビットとマルチビットの両方の設定で強い透かし検出性能が得られる。これは自然言語生成、数学的推論、コード合成など、さまざまなタスクにまたがる。
論文参考訳（メタデータ） (2025-11-11T05:59:54Z)
Fast Rates for Bandit PAC Multiclass Classification [73.17969992976501]
我々は,帯域幅フィードバックを用いたマルチクラスPAC学習について検討し,入力を$K$ラベルの1つに分類し,予測されたラベルが正しいか否かに制限する。我々の主な貢献は、問題の無知な$(varepsilon,delta)$PACバージョンのための新しい学習アルゴリズムを設計することである。
論文参考訳（メタデータ） (2024-06-18T08:54:04Z)
Combinatorial Stochastic-Greedy Bandit [79.1700188160944]
我々は,選択した$n$のアームセットのジョイント報酬以外の余分な情報が観測されない場合に,マルチアームのバンディット問題に対する新規グリーディ・バンディット(SGB)アルゴリズムを提案する。 SGBは最適化された拡張型コミットアプローチを採用しており、ベースアームの大きなセットを持つシナリオ用に特別に設計されている。
論文参考訳（メタデータ） (2023-12-13T11:08:25Z)
Replicable Clustering [57.19013971737493]
我々は,統計学的な$k$-medians,統計学的な$k$-means,統計学的な$k$-centers問題のアルゴリズムをブラックボックス方式で近似ルーチンを用いて提案する。理論的結果を検証するブラックボックスとしてsklearnの$k$-means++実装を用いた2次元合成分布の実験も行っている。
論文参考訳（メタデータ） (2023-02-20T23:29:43Z)
Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond [89.72693227960274]
本稿では,グループ分散ロバスト最適化 (GDRO) を,$m$以上の異なる分布をうまく処理するモデルを学習する目的で検討する。各ラウンドのサンプル数を$m$から1に抑えるため、GDROを2人でプレイするゲームとして、一方のプレイヤーが実行し、他方のプレイヤーが非公開のマルチアームバンディットのオンラインアルゴリズムを実行する。第2のシナリオでは、最大リスクではなく、平均的最上位k$リスクを最適化し、分散の影響を軽減することを提案する。
論文参考訳（メタデータ） (2023-02-18T09:24:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。