論文の概要: FunctionMarker: Watermarking Language Datasets via Knowledge Injection

• arxiv url: http://arxiv.org/abs/2311.09535v2
• Date: Fri, 17 Nov 2023 05:00:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-18 23:12:35.485760
• Title: FunctionMarker: Watermarking Language Datasets via Knowledge Injection
• Title（参考訳）: FunctionMarker:知識注入による透かし言語データセット
• Authors: Shuai Li, Kejiang Chen, Kunsheng Tang, Wen Huang, Jie Zhang, Weiming Zhang, Nenghai Yu,
• Abstract要約: バックドアベースの透かしは、分類データセットの著作権を保護するための実行可能なアプローチである。 本稿では,知識注入による言語データセットの著作権保護手法であるFunctionMarkerを提案する。
• 参考スコア（独自算出の注目度）: 65.33166992656024
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have demonstrated superior performance in various natural language processing tasks. Meanwhile, they require extensive training data, raising concerns related to dataset copyright protection. Backdoor-based watermarking is a viable approach to protect the copyright of classification datasets. However, these methods may introduce malicious misclassification behaviors into watermarked LLMs by attackers and also affect the semantic information of the watermarked text. To address these issues, we propose FunctionMarker, a novel copyright protection method for language datasets via knowledge injection. FunctionMarker enables LLMs to learn specific knowledge through fine-tuning on watermarked datasets, and we can extract the embedded watermark by obtaining the responses of LLMs to specific knowledge-related queries. Considering watermark capacity and stealthness, we select customizable functions as specific knowledge for LLMs to learn and embed the watermark into them. Moreover, FunctionMarker can embed multi-bit watermarks while preserving the original semantic information, thereby increasing the difficulty of adaptive attacks. We take mathematical functions as an instance to evaluate the effectiveness of FunctionMarker, and experiments show that only 0.3% of watermarked text achieves a 90% watermark extraction accuracy in most cases, validating our method's effectiveness.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて優れた性能を示している。 一方、彼らは広範なトレーニングデータを必要とし、データセットの著作権保護に関する懸念を提起する。 バックドアベースの透かしは、分類データセットの著作権を保護するための実行可能なアプローチである。 しかし、これらの手法は、攻撃者による透かし付きLLMに悪意ある誤分類挙動を導入し、透かし付きテキストのセマンティック情報に影響を及ぼす可能性がある。 これらの問題に対処するため,知識注入による言語データセットの著作権保護手法であるFunctionMarkerを提案する。 FunctionMarkerは、透かし付きデータセットを微調整することで、LLMが特定の知識を学習できるようにし、特定の知識関連クエリに対するLLMの応答を取得することで、埋め込みされた透かしを抽出する。 透かし能力とステルス性を考慮すると、LLMが透かしを学習して埋め込むための特定の知識としてカスタマイズ可能な関数を選択する。 さらに、FunctionMarkerは、元のセマンティック情報を保存しながらマルチビットの透かしを埋め込むことができ、それによってアダプティブアタックの難しさが増大する。 本稿では,FunctionMarkerの有効性を評価するために数学的関数を例に挙げ,本手法の有効性を検証した結果,透かしテキストの0.3%が90%の透かし抽出精度を実現していることがわかった。

関連論文リスト

• Watermarking Large Language Models and the Generated Content: Opportunities and Challenges [18.01886375229288]
  生成型大規模言語モデル(LLM)は知的財産権侵害や機械生成誤報の拡散に懸念を抱いている。 ウォーターマーキングは、所有権を確立し、許可されていない使用を防止し、LLM生成コンテンツの起源を追跡できる有望な手法として機能する。 本稿では,LLMをウォーターマークする際の課題と機会を要約し,共有する。
  論文  参考訳（メタデータ） (2024-10-24T18:55:33Z)
• ESpeW: Robust Copyright Protection for LLM-based EaaS via Embedding-Specific Watermark [50.08021440235581]
  組み込み・アズ・ア・サービス(Eding)はAIアプリケーションにおいて重要な役割を担っている。 編集はモデル抽出攻撃に対して脆弱であり、著作権保護の緊急の必要性を強調している。 そこで我々は,Edingの著作権保護を堅牢にするための新しい埋め込み専用透かし (ESpeW) 機構を提案する。
  論文  参考訳（メタデータ） (2024-10-23T04:34:49Z)
• De-mark: Watermark Removal in Large Language Models [59.00698153097887]
  我々は、n-gramベースの透かしを効果的に除去するために設計された高度なフレームワークであるDe-markを紹介する。 提案手法は,透かしの強度を評価するために,ランダム選択探索と呼ばれる新しいクエリ手法を利用する。
  論文  参考訳（メタデータ） (2024-10-17T17:42:10Z)
• Can Watermarked LLMs be Identified by Users via Crafted Prompts? [55.460327393792156]
  この研究は、透かし付き大言語モデル(LLM)の非受容性を初めて研究したものである。 我々は、よく設計されたプロンプトを通して透かしを検出する、Water-Probeと呼ばれる識別アルゴリズムを設計する。 実験の結果、ほとんどの主流の透かしアルゴリズムは、よく設計されたプロンプトと容易に識別できることがわかった。
  論文  参考訳（メタデータ） (2024-10-04T06:01:27Z)
• Less is More: Sparse Watermarking in LLMs with Enhanced Text Quality [27.592486717044455]
  テキストに分散した生成されたトークンの小さなサブセットに透かしを適用することで、このトレードオフを緩和することを目的とした新しいタイプの透かしであるスパース透かしを提案する。 提案手法は,従来の透かし手法よりも高い品質のテキストを生成しつつ,高い検出性を実現することを示す。
  論文  参考訳（メタデータ） (2024-07-17T18:52:12Z)
• New Evaluation Metrics Capture Quality Degradation due to LLM Watermarking [28.53032132891346]
  大規模言語モデル(LLM)のための透かしアルゴリズム評価のための2つの新しい使いやすさ手法を提案する。 種々のデータセットを用いて実験を行った結果,従来の透かし法は単純な分類器でも検出可能であることがわかった。 以上の結果から,透かしの堅牢性とテキスト品質のトレードオフを浮き彫りにし,透かしの質を評価する上で,より情報的な指標を持つことの重要性を強調した。
  論文  参考訳（メタデータ） (2023-12-04T22:56:31Z)
• WatME: Towards Lossless Watermarking Through Lexical Redundancy [58.61972059246715]
  本研究では,認知科学レンズを用いた大規模言語モデル(LLM)の異なる機能に対する透かしの効果を評価する。 透かしをシームレスに統合するための相互排他型透かし(WatME)を導入する。
  論文  参考訳（メタデータ） (2023-11-16T11:58:31Z)
• Unbiased Watermark for Large Language Models [67.43415395591221]
  本研究では, モデル生成出力の品質に及ぼす透かしの影響について検討した。 出力確率分布に影響を与えることなく、透かしを統合することができる。 ウォーターマークの存在は、下流タスクにおけるモデルの性能を損なうものではない。
  論文  参考訳（メタデータ） (2023-09-22T12:46:38Z)
• Provable Robust Watermarking for AI-Generated Text [41.5510809722375]
  We propose a robust and high-quality watermark method, Unigram-Watermark。 提案手法は,テキストの編集やパラフレージングに頑健で,生成品質,透かし検出の精度が保証されていることを実証する。
  論文  参考訳（メタデータ） (2023-06-30T07:24:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。