論文の概要: CredID: Credible Multi-Bit Watermark for Large Language Models Identification

• arxiv url: http://arxiv.org/abs/2412.03107v1
• Date: Wed, 04 Dec 2024 08:13:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-05 15:08:42.757297
• Title: CredID: Credible Multi-Bit Watermark for Large Language Models Identification
• Title（参考訳）: CredID:大規模言語モデル識別のためのCredible Multi-Bit Watermark
• Authors: Haoyu Jiang, Xuhong Wang, Ping Yi, Shanzhe Lei, Yilun Lin,
• Abstract要約: 大規模言語モデル(LLM)は複雑な自然言語処理タスクで広く使われているが、プライバシやセキュリティ上の懸念が高まる。 本稿では、信頼できるサードパーティ(TTP)と複数のLPMベンダーが関与するマルチパーティ信頼できる透かしフレームワーク(CredID)を提案する。
• 参考スコア（独自算出の注目度）: 1.3291141600449188
• License:
• Abstract: Large Language Models (LLMs) are widely used in complex natural language processing tasks but raise privacy and security concerns due to the lack of identity recognition. This paper proposes a multi-party credible watermarking framework (CredID) involving a trusted third party (TTP) and multiple LLM vendors to address these issues. In the watermark embedding stage, vendors request a seed from the TTP to generate watermarked text without sending the user's prompt. In the extraction stage, the TTP coordinates each vendor to extract and verify the watermark from the text. This provides a credible watermarking scheme while preserving vendor privacy. Furthermore, current watermarking algorithms struggle with text quality, information capacity, and robustness, making it challenging to meet the diverse identification needs of LLMs. Thus, we propose a novel multi-bit watermarking algorithm and an open-source toolkit to facilitate research. Experiments show our CredID enhances watermark credibility and efficiency without compromising text quality. Additionally, we successfully utilized this framework to achieve highly accurate identification among multiple LLM vendors.
• Abstract（参考訳）: 大規模言語モデル(LLM)は複雑な自然言語処理タスクで広く使われているが、アイデンティティ認識の欠如によりプライバシーとセキュリティの懸念が高まる。 本稿では、信頼できるサードパーティ(TTP)と複数のLLMベンダーが関与するマルチパーティ信頼できる透かしフレームワーク(CredID)を提案する。 透かし埋め込みの段階では、ベンダーはユーザのプロンプトを送信することなく、TTPからシードをリクエストして透かしテキストを生成する。 抽出段階では、TTPは各ベンダーをコーディネートしてテキストから透かしを抽出し、検証する。 これはベンダのプライバシを保護しながら、信頼できる透かしスキームを提供する。 さらに、現在の透かしアルゴリズムは、テキストの品質、情報容量、堅牢性に苦しむため、LLMの多様な識別ニーズを満たすことは困難である。 そこで本研究では,新しいマルチビット透かしアルゴリズムと,研究を容易にするオープンソースツールキットを提案する。 CredIDはテキストの品質を損なうことなく透かしの信頼性と効率を向上させる。 さらに,複数のLLMベンダー間で高い精度の識別を実現するために,このフレームワークをうまく利用した。

関連論文リスト

• Can Watermarked LLMs be Identified by Users via Crafted Prompts? [55.460327393792156]
  この研究は、透かし付き大言語モデル(LLM)の非受容性を初めて研究したものである。 我々は、よく設計されたプロンプトを通して透かしを検出する、Water-Probeと呼ばれる識別アルゴリズムを設計する。 実験の結果、ほとんどの主流の透かしアルゴリズムは、よく設計されたプロンプトと容易に識別できることがわかった。
  論文  参考訳（メタデータ） (2024-10-04T06:01:27Z)
• Less is More: Sparse Watermarking in LLMs with Enhanced Text Quality [27.592486717044455]
  テキストに分散した生成されたトークンの小さなサブセットに透かしを適用することで、このトレードオフを緩和することを目的とした新しいタイプの透かしであるスパース透かしを提案する。 提案手法は,従来の透かし手法よりも高い品質のテキストを生成しつつ,高い検出性を実現することを示す。
  論文  参考訳（メタデータ） (2024-07-17T18:52:12Z)
• PostMark: A Robust Blackbox Watermark for Large Language Models [56.63560134428716]
  モジュール式ポストホックウォーターマーキング手法であるPostMarkを開発した。 PostMarkはロジットアクセスを必要としないため、サードパーティによって実装することができる。 PostMarkは既存のウォーターマーキング手法よりも,攻撃を言い換える方が堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-06-20T17:27:14Z)
• Topic-Based Watermarks for LLM-Generated Text [46.71493672772134]
  本稿では,大規模言語モデル(LLM)のためのトピックベースの新しい透かしアルゴリズムを提案する。 トピック固有のトークンバイアスを使用することで、生成されたテキストにトピック依存の透かしを埋め込む。 提案手法は,テキストトピックを99.99%の信頼度で分類する。
  論文  参考訳（メタデータ） (2024-04-02T17:49:40Z)
• Adaptive Text Watermark for Large Language Models [8.100123266517299]
  プロンプトやモデルの知識を必要とせずに、強力なセキュリティ、堅牢性、および透かしを検出する能力を維持しつつ、高品質な透かしテキストを生成することは困難である。 本稿では,この問題に対処するための適応型透かし手法を提案する。
  論文  参考訳（メタデータ） (2024-01-25T03:57:12Z)
• Turning Your Strength into Watermark: Watermarking Large Language Model via Knowledge Injection [66.26348985345776]
  本稿では,知識注入に基づく大規模言語モデル(LLM)のための新しい透かし手法を提案する。 透かし埋め込みの段階では、まず選択した知識に透かしを埋め込んで、透かし付き知識を得る。 透かし抽出段階では、疑わしいLLMを問うために、透かし付き知識に関する質問を設計する。 実験により, 透かし抽出の成功率は100%近くであり, 提案手法の有効性, 忠実性, ステルス性, 堅牢性を示した。
  論文  参考訳（メタデータ） (2023-11-16T03:22:53Z)
• Towards Codable Watermarking for Injecting Multi-bits Information to LLMs [86.86436777626959]
  大規模言語モデル(LLM)は、流布とリアリズムを増大させるテキストを生成する。 既存の透かし方式はエンコーディング非効率であり、多様な情報エンコーディングニーズに柔軟に対応できない。 テキスト透かしを複数ビットでカスタマイズ可能な情報を運ぶことができるCTWL (Codable Text Watermarking for LLMs) を提案する。
  論文  参考訳（メタデータ） (2023-07-29T14:11:15Z)
• Provable Robust Watermarking for AI-Generated Text [41.5510809722375]
  We propose a robust and high-quality watermark method, Unigram-Watermark。 提案手法は,テキストの編集やパラフレージングに頑健で,生成品質,透かし検出の精度が保証されていることを実証する。
  論文  参考訳（メタデータ） (2023-06-30T07:24:32Z)
• On the Reliability of Watermarks for Large Language Models [95.87476978352659]
  本研究では,人間による書き直し後の透かしテキストの堅牢性,非透かしLDMによる言い換え,あるいはより長い手書き文書への混在性について検討する。 人や機械の言い回しをしても、透かしは検出可能である。 また、大きな文書に埋め込まれた透かし付きテキストの短いスパンに敏感な新しい検出手法についても検討する。
  論文  参考訳（メタデータ） (2023-06-07T17:58:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。