論文の概要: Adaptive Co-Serving LLM Watermarking on Modern Inference Engines
- arxiv url: http://arxiv.org/abs/2610.03955v1
- Date: Fri, 02 Oct 2026 19:12:42 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-06 20:55:22.705467
- Title: Adaptive Co-Serving LLM Watermarking on Modern Inference Engines
- Title(参考訳): 現代推論エンジンにおける適応型共サービングLDM透かし
- Abstract要約: 大規模言語モデル(LLM)の透かしは、所有権の検証と知的財産保護にとって重要である。
本稿では,LLM透かしを現代的な推論基盤と共同設計するフレームワークであるSWIFTを提案する。
その結果,SWIFT は高い実用性, 検出性, 堅牢性, 下流性能を実現し, 供用効率を大幅に向上することを示した。
- 参考スコア(独自算出の注目度): 46.23251014840924
- License:
- Abstract: Large language model (LLM) watermarking is important for ownership verification and intellectual property protection. However, existing approaches focus on algorithmic design while treating LLM inference engines as separate components. This separation often introduces auxiliary models or external tools, increasing latency and memory overhead while limiting the use of modern inference optimizations. As a result, a deployment gap remains: practical watermarking must preserve utility, detectability, and robustness while minimizing serving overhead. To bridge this gap, we propose SWIFT, a framework that co-designs LLM watermarking with modern inference infrastructure. SWIFT (i) integrates text generation and watermark construction within a shared LLM backend to reduce re-computation, improve cache reuse, and simplify system complexity; (ii) uses instruction-guided candidate generation with semantic protection to preserve factual consistency and meaning; (iii) executes watermarking concurrently with generation through asynchronous co-serving and adaptive scheduling to reduce latency and improve resource utilization; and (iv) leverages vLLM optimizations to enhance serving efficiency. Extensive experiments across domains and tasks show that SWIFT achieves strong utility, detectability, robustness, and downstream performance while substantially improving serving efficiency. Specifically, it achieves the highest utility score (4.87), 99.65% detection accuracy compared with 76.65% for the low-latency baseline SynthID, and up to 97.7% detection under watermark removal attacks, with 5.9x lower latency than the highest-utility baseline, SafeSeal. These results demonstrate the benefits of co-designing watermarking with inference infrastructure for practical LLM serving. Code and artifacts are available at: https://anonymous.4open.science/r/SWIFT-0597.
- Abstract(参考訳): 大規模言語モデル(LLM)の透かしは、所有権の検証と知的財産保護にとって重要である。
しかし、既存のアプローチでは、LLM推論エンジンを別個のコンポーネントとして扱いながら、アルゴリズム設計に重点を置いている。
この分離は、しばしば補助モデルや外部ツールを導入し、現代的な推論最適化の使用を制限するとともに、レイテンシとメモリオーバーヘッドを増大させる。
実用的な透かしは実用性、検出可能性、堅牢性を保ちつつ、オーバーヘッドを最小限に抑えなければならない。
このギャップを埋めるために,LLM透かしを現代的な推論基盤と共同設計するフレームワークであるSWIFTを提案する。
SWIFT
i) 共有LDMバックエンドにテキスト生成と透かし構造を統合し、再計算を減らし、キャッシュ再利用を改善し、システムの複雑さを単純化する。
(二 指示誘導候補生成に意味的保護を加えて、事実の整合性及び意味を維持すること。)
三 非同期協調処理及び適応スケジューリングにより、遅延を減らし、資源利用を改善することにより、同時に透かしを行う。
(iv)vLLM最適化を活用して効率を向上する。
領域やタスクにわたる大規模な実験により、SWIFTは高い実用性、検出可能性、ロバスト性、下流性能を実現し、サービス効率を大幅に改善することを示した。
具体的には、最も高いユーティリティスコア(4.87)、99.65%の検出精度、低遅延ベースラインSynthIDの76.65%、透かし除去攻撃による97.7%の検出、最高ユーティリティベースラインであるSafeSealの5.9倍のレイテンシを達成している。
これらの結果は,実用的なLCMサービスのための推論インフラを用いた透かし設計の利点を示している。
コードとアーティファクトは、https://anonymous.4open.science/r/SWIFT-0597で入手できる。
関連論文リスト
- FLARE: Diffusion for Hybrid Language Model [72.60770374799634]
FLAREは、ハイブリッドアテンションな大規模言語モデルのための体系的な変換フレームワークである。
トークン平等なAR/拡散目標、ハードウェア対応カーネル、統一推論を組み合わせることで、ひとつのチェックポイントがARスタイルの検証された復号化と拡散スタイルの並列復号化の両方をサポートすることができる。
この結果から,実際のdLLMは復号化アルゴリズムだけでなく,データ品質や現在のブロック拡散目標のトレーニング非効率によって制限されていることが示唆された。
論文 参考訳(メタデータ) (2026-06-01T06:58:15Z) - Robust LLM Watermarking with Minimal Semantic Distortion for IP Protection [23.7834497390662]
SAFESEALは、新しいキー条件付き透かしフレームワークで、モデルユーティリティに最小限の影響を伴って、強力な検出性を実現する。
SAFESEALは実用性,検出性,堅牢性において,BERTScore 0.983,エンティティ類似度0.963,検出率98.2%,テキスト品質とコンテンツの人為的評価において最大であり,レイテンシは最速のベースラインに匹敵する。
論文 参考訳(メタデータ) (2026-05-22T02:51:42Z) - AWE: Adaptive Agents for Dynamic Web Penetration Testing [0.0]
AWEは、自動Web侵入テストのためのメモリ拡張マルチエージェントフレームワークである。
軽量なLLMオーケストレーション層に、構造化された脆弱性固有の分析パイプラインを組み込む。
AWEはインジェクションクラスの脆弱性を大幅に向上させる。
論文 参考訳(メタデータ) (2026-03-01T07:32:42Z) - AsynDBT: Asynchronous Distributed Bilevel Tuning for efficient In-Context Learning with Large Language Models [4.4866154758274375]
In-context Learning (ICL) は、LLMが入力内で提供される例を使って新しいタスクに適応できる有望なパラダイムとして登場した。
ICLを組み込んだ以前のFLアプローチは、重度のストラグラー問題と、異種非同一データに関連する課題に悩まされてきた。
本稿では,LLMからのフィードバックに基づいて,文脈内学習サンプルの最適化とフラグメントのプロンプトを行う非同期分散バイレベルチューニング(AsynDBT)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-02-06T13:07:49Z) - Prism: Efficient Test-Time Scaling via Hierarchical Search and Self-Verification for Discrete Diffusion Language Models [96.0074341403456]
LLM推論を改善するための実用的な方法として、推論時計算が再導入されている。
テスト時間スケーリング(TTS)アルゴリズムの多くは、自動回帰デコーディングに依存している。
そこで我々は,dLLM のための効率的な TTS フレームワーク Prism を提案する。
論文 参考訳(メタデータ) (2026-02-02T09:14:51Z) - SimpleMem: Efficient Lifelong Memory for LLM Agents [73.74399447715052]
セマンティックロスレス圧縮に基づく効率的なメモリフレームワークSimpleMemを紹介する。
本稿では,情報密度とトークン利用量の最大化を目的とした3段階パイプラインを提案する。
ベンチマークデータセットを用いた実験により,提案手法は精度,検索効率,推論コストにおいて,ベースラインアプローチを一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2026-01-05T21:02:49Z) - Unleashing Degradation-Carrying Features in Symmetric U-Net: Simpler and Stronger Baselines for All-in-One Image Restoration [52.82397287366076]
オールインワン画像復元は、統合された枠組み内で様々な劣化(ノイズ、ぼかし、悪天候など)を扱うことを目的としている。
本研究では, 優れた特徴抽出法により, 劣化伝達情報を本質的にエンコードする, 重要な知見を明らかにする。
我々の対称設計は固有の劣化信号を頑健に保存し、スキップ接続に単純な加法融合を施す。
論文 参考訳(メタデータ) (2025-12-11T12:20:31Z) - PromptCOS: Towards System Prompt Copyright Auditing for LLMs via Content-level Output Similarity [61.793486262641345]
本稿では,コンテンツレベルの出力類似性に基づいたプロンプト著作権監査手法であるPromptCOSを提案する。
プロンプトを最適化し、特別な検証クエリとコンテントレベルの信号マークを同時に最適化することで、透かしを埋め込む。
PromptCOSは、著作権検証のために、疑わしい出力と信号マークの類似性を比較することによって、不正使用を識別する。
論文 参考訳(メタデータ) (2025-09-03T08:19:40Z) - RedundancyLens: Revealing and Exploiting Visual Token Processing Redundancy for Efficient Decoder-Only MLLMs [38.34856927170692]
MLLM(Multimodal Large Language Model)の学習用フレームワークを提案する。
Probe-Activated Dynamic FFNとHollow Attentionで構成されており、ビジュアルトークンの計算の調整可能な削減を可能にする。
実験では、デコーダのみのMLLMに特有の、実質的で、構造化され、クラスタ化された冗長性を示す。
論文 参考訳(メタデータ) (2025-01-31T11:09:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。