Fugu-MT 論文翻訳(概要): Can Watermarking Techniques Help Prevent LLM Model Stealing?

論文の概要: Can Watermarking Techniques Help Prevent LLM Model Stealing?

arxiv url: http://arxiv.org/abs/2607.10794v1
Date: Sun, 12 Jul 2026 15:05:04 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-14 15:40:48.531477
Title: Can Watermarking Techniques Help Prevent LLM Model Stealing?
Title（参考訳）: 透かし技術はLCMモデルステアリングの予防に役立つか?
Abstract要約: 生産言語モデルの隠蔽層次元を抽出する手法として,近年のcitecarlini2024stealing と拡張法を提案する。我々の手法は、これらのモデルのロジット層を摂動させ、そのような攻撃を防ぐ透かし技術にインスパイアされている。
参考スコア（独自算出の注目度）: 25.56515131956142
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Model stealing attacks have recently been introduced, enabling the extraction of precise information from black-box commercial language models. In this work, we propose defense methods against a recent attack of \cite{carlini2024stealing} and extensions for extracting the hidden layer dimension of production language models. Our methods are inspired by watermarking techniques that perturb the logits layer of these models to prevent such attacks. We provide empirical experiments demonstrating the effectiveness of the proposed defense versus model quality degradation across various configurations, and propose an effective defense against such attacks while preserving model utility.
Abstract（参考訳）: モデルステルス攻撃が最近導入され、ブラックボックスの商用言語モデルから正確な情報を抽出できるようになった。本研究では,近年の「cite{carlini2024stealing}」攻撃に対する防御手法と,生産言語モデルの隠れ層次元を抽出するための拡張法を提案する。我々の手法は、これらのモデルのロジット層を摂動させ、そのような攻撃を防ぐ透かし技術にインスパイアされている。提案手法の有効性を実証した実証実験を行い, モデル有効性を保ちながら, 攻撃に対する効果的な防御方法を提案する。

関連論文リスト

Watermarks for Embeddings-as-a-Service Large Language Models [4.230349220081445]
この論文は、E透かしの調査による模倣攻撃に対する防御に焦点を当てている。既存のE透かしは、模倣攻撃中に攻撃者がモデルをクローンすると、パラフレーズテキストで削除できる。線形変換埋め込みを用いた新しい透かし手法を提案する。
論文参考訳（メタデータ） (2025-11-28T00:52:40Z)
Character-Level Perturbations Disrupt LLM Watermarks [64.60090923837701]
我々は,Large Language Model (LLM)ウォーターマーキングのためのシステムモデルを定式化する。我々は、透かし検出器への限られたアクセスに制約された2つの現実的な脅威モデルの特徴付けを行う。我々は,最も制限的な脅威モデルの下で,キャラクタレベルの摂動が透かし除去に著しく有効であることを実証した。現実的な制約下での透かし除去における文字レベルの摂動の優位性と遺伝的アルゴリズム(GA)の有効性を実験的に検証した。
論文参考訳（メタデータ） (2025-09-11T02:50:07Z)
A Survey on Model Extraction Attacks and Defenses for Large Language Models [55.60375624503877]
モデル抽出攻撃は、デプロイされた言語モデルに重大なセキュリティ脅威をもたらす。この調査は、抽出攻撃と防御攻撃の包括的分類、機能抽出への攻撃の分類、データ抽出の訓練、およびプロンプトターゲット攻撃を提供する。モデル保護,データプライバシ保護,迅速なターゲット戦略に編成された防御機構について検討し,その効果を異なる展開シナリオで評価する。
論文参考訳（メタデータ） (2025-06-26T22:02:01Z)
MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
論文参考訳（メタデータ） (2025-06-03T01:37:09Z)
Model-Guardian: Protecting against Data-Free Model Stealing Using Gradient Representations and Deceptive Predictions [5.6731655991880965]
モデル盗難は、クラウドにデプロイされた機械学習モデルの機密性をますます脅かしている。本稿では,Model-Guardianという新しい防衛フレームワークを紹介する。合成試料のアーティファクト特性と試料の勾配表現の助けを借りて、現在の防御の欠点に対処するように設計されている。
論文参考訳（メタデータ） (2025-03-23T14:14:36Z)
MirrorCheck: Efficient Adversarial Defense for Vision-Language Models [55.73581212134293]
本稿では,視覚言語モデルにおける対角的サンプル検出のための,新しい,しかしエレガントなアプローチを提案する。本手法は,テキスト・トゥ・イメージ(T2I)モデルを用いて,ターゲットVLMが生成したキャプションに基づいて画像を生成する。異なるデータセットで実施した経験的評価により,本手法の有効性が検証された。
論文参考訳（メタデータ） (2024-06-13T15:55:04Z)
ModelShield: Adaptive and Robust Watermark against Model Extraction Attack [58.46326901858431]
大規模言語モデル(LLM)は、さまざまな機械学習タスクにまたがる汎用インテリジェンスを示す。敵はモデル抽出攻撃を利用してモデル生成で符号化されたモデルインテリジェンスを盗むことができるウォーターマーキング技術は、モデル生成コンテンツにユニークな識別子を埋め込むことによって、このような攻撃を防御する有望なソリューションを提供する。
論文参考訳（メタデータ） (2024-05-03T06:41:48Z)
Defense-Prefix for Preventing Typographic Attacks on CLIP [14.832208701208414]
一部の敵対的攻撃は、モデルを偽りまたはばかげた分類に騙す。我々は,DP トークンをクラス名の前に挿入して,文字攻撃に対して "robust" という単語を"robust" する,シンプルで効果的な方法を紹介した。本手法は, モデルにおけるゼロショット能力を維持しつつ, タイポグラフィー攻撃データセットの分類タスクの精度を大幅に向上させる。
論文参考訳（メタデータ） (2023-04-10T11:05:20Z)
Protecting Language Generation Models via Invisible Watermarking [41.532711376512744]
GINSEW(GINSEW)は,テキスト生成モデルが蒸留によって盗難されるのを防ぐ新しい方法である。 GINSEWは,保護されたAPIの生成品質に最小限の影響を伴って,IP侵害の事例を効果的に識別できることを示す。
論文参考訳（メタデータ） (2023-02-06T23:42:03Z)
Defense for Black-box Attacks on Anti-spoofing Models by Self-Supervised Learning [71.17774313301753]
本研究では,自己指導型高水準表現の堅牢性について,敵攻撃に対する防御に利用して検討する。 ASVspoof 2019データセットの実験結果は、Mockingjayによって抽出されたハイレベルな表現が、敵の例の転送可能性を妨げることを示した。
論文参考訳（メタデータ） (2020-06-05T03:03:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。