論文の概要: SoK: Are Watermarks in LLMs Ready for Deployment?

• arxiv url: http://arxiv.org/abs/2506.05594v1
• Date: Thu, 05 Jun 2025 21:12:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-09 17:28:43.238734
• Title: SoK: Are Watermarks in LLMs Ready for Deployment?
• Title（参考訳）: SoK: LLMの透かしはデプロイの準備が整っているか?
• Authors: Kieu Dang, Phung Lai, NhatHai Phan, Yelong Shen, Ruoming Jin, Abdallah Khreishah, My Thai,
• Abstract要約: 大規模言語モデル(LLM)は自然言語処理を変革し、多様なタスクにまたがる印象的な能力を誇示している。 これらのモデルの展開は、知的財産権侵害と潜在的な誤用に関連する重大なリスクをもたらす。 プロプライエタリなLCMと非常に関係があり、セキュリティ、収益、倫理的展開に深刻な脅威をもたらすため、私たちはモデルステルス攻撃に重点を置いています。
• 参考スコア（独自算出の注目度）: 21.323682505973622
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) have transformed natural language processing, demonstrating impressive capabilities across diverse tasks. However, deploying these models introduces critical risks related to intellectual property violations and potential misuse, particularly as adversaries can imitate these models to steal services or generate misleading outputs. We specifically focus on model stealing attacks, as they are highly relevant to proprietary LLMs and pose a serious threat to their security, revenue, and ethical deployment. While various watermarking techniques have emerged to mitigate these risks, it remains unclear how far the community and industry have progressed in developing and deploying watermarks in LLMs. To bridge this gap, we aim to develop a comprehensive systematization for watermarks in LLMs by 1) presenting a detailed taxonomy for watermarks in LLMs, 2) proposing a novel intellectual property classifier to explore the effectiveness and impacts of watermarks on LLMs under both attack and attack-free environments, 3) analyzing the limitations of existing watermarks in LLMs, and 4) discussing practical challenges and potential future directions for watermarks in LLMs. Through extensive experiments, we show that despite promising research outcomes and significant attention from leading companies and community to deploy watermarks, these techniques have yet to reach their full potential in real-world applications due to their unfavorable impacts on model utility of LLMs and downstream tasks. Our findings provide an insightful understanding of watermarks in LLMs, highlighting the need for practical watermarks solutions tailored to LLM deployment.
• Abstract（参考訳）: 大規模言語モデル(LLM)は自然言語処理を変革し、多様なタスクにまたがる印象的な能力を誇示している。 しかし、これらのモデルの展開は知的財産権侵害や潜在的な誤用に関連する重大なリスクをもたらし、特に敵対者はこれらのモデルを模倣してサービスを盗んだり、誤解を招くアウトプットを生成することができる。 当社は、プロプライエタリなLLMと非常に関係があり、彼らのセキュリティ、収益、倫理的展開に深刻な脅威をもたらすため、特に、モデル盗難攻撃に焦点を当てています。 これらのリスクを軽減するために様々な透かし技術が登場したが、コミュニティや産業がLLMで透かしを開発し展開する過程がどこまで進んでいるかは、まだ分かっていない。 このギャップを埋めるため,LLMにおける透かしの包括的体系化を目指す。 1) LLMにおける透かしの詳細な分類の提示 2)攻撃・無攻撃環境下でのLLMに対する透かしの有効性と影響を探るため,新たな知的財産分類法を提案する。 3) LLMにおける既存の透かしの限界を解析し, 4) LLMにおける透かしの実際的課題と今後の方向性について論じる。 広範な実験を通じて、先進企業やコミュニティが透かしを展開するための有望な研究成果や大きな注意を払っているにもかかわらず、これらの技術はLLMのモデルユーティリティーや下流タスクに不利な影響があるために、現実のアプリケーションにおいて、まだその可能性を完全に発揮できていないことが示されている。 本研究は, LLMにおける透かしの理解を深め, LLM展開に適した実用的な透かしソリューションの必要性を強調した。

関連論文リスト

• Mark Your LLM: Detecting the Misuse of Open-Source Large Language Models via Watermarking [40.951792492059646]
  本研究は,オープンソースの大規模言語モデル(LLM)における2つの誤用シナリオを定義する。 本稿では,これらの文脈における推論時透かし蒸留とバックドア透かしの適用について検討する。 実験の結果, 後方透かしはIP Violationを効果的に検出でき, 推論時透かし蒸留はどちらのシナリオにも適用可能であることがわかった。
  論文  参考訳（メタデータ） (2025-03-06T17:24:06Z)
• Watermarking Large Language Models and the Generated Content: Opportunities and Challenges [18.01886375229288]
  生成型大規模言語モデル(LLM)は知的財産権侵害や機械生成誤報の拡散に懸念を抱いている。 ウォーターマーキングは、所有権を確立し、許可されていない使用を防止し、LLM生成コンテンツの起源を追跡できる有望な手法として機能する。 本稿では,LLMをウォーターマークする際の課題と機会を要約し,共有する。
  論文  参考訳（メタデータ） (2024-10-24T18:55:33Z)
• Can Watermarked LLMs be Identified by Users via Crafted Prompts? [55.460327393792156]
  この研究は、透かし付き大言語モデル(LLM)の非受容性を初めて研究したものである。 我々は、よく設計されたプロンプトを通して透かしを検出する、Water-Probeと呼ばれる識別アルゴリズムを設計する。 実験の結果、ほとんどの主流の透かしアルゴリズムは、よく設計されたプロンプトと容易に識別できることがわかった。
  論文  参考訳（メタデータ） (2024-10-04T06:01:27Z)
• Can Watermarking Large Language Models Prevent Copyrighted Text Generation and Hide Training Data? [62.72729485995075]
  著作権文書の生成に対する抑止剤としての透かしの有効性について検討する。 我々は、透かしがメンバーシップ推論攻撃(MIA)の成功率に悪影響を及ぼすことを発見した。 透かしにおける最近のMIAの成功率を改善するための適応的手法を提案する。
  論文  参考訳（メタデータ） (2024-07-24T16:53:09Z)
• No Free Lunch in LLM Watermarking: Trade-offs in Watermarking Design Choices [20.20770405297239]
  LLM透かし方式における一般的な設計選択は、結果のシステムが驚くほど攻撃を受けやすいことを示す。 本稿では, LLM透かしのガイドラインと防御について述べる。
  論文  参考訳（メタデータ） (2024-02-25T20:24:07Z)
• WatME: Towards Lossless Watermarking Through Lexical Redundancy [58.61972059246715]
  本研究では,認知科学レンズを用いた大規模言語モデル(LLM)の異なる機能に対する透かしの効果を評価する。 透かしをシームレスに統合するための相互排他型透かし(WatME)を導入する。
  論文  参考訳（メタデータ） (2023-11-16T11:58:31Z)
• Turning Your Strength into Watermark: Watermarking Large Language Model via Knowledge Injection [66.26348985345776]
  本稿では,知識注入に基づく大規模言語モデル(LLM)のための新しい透かし手法を提案する。 透かし埋め込みの段階では、まず選択した知識に透かしを埋め込んで、透かし付き知識を得る。 透かし抽出段階では、疑わしいLLMを問うために、透かし付き知識に関する質問を設計する。 実験により, 透かし抽出の成功率は100%近くであり, 提案手法の有効性, 忠実性, ステルス性, 堅牢性を示した。
  論文  参考訳（メタデータ） (2023-11-16T03:22:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。