論文の概要: Seeds Don't Lie: An Adaptive Watermarking Framework for Computer Vision Models

• arxiv url: http://arxiv.org/abs/2211.13644v1
• Date: Thu, 24 Nov 2022 14:48:40 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-28 16:35:37.723810
• Title: Seeds Don't Lie: An Adaptive Watermarking Framework for Computer Vision Models
• Title（参考訳）: Seeds Don't Lie: コンピュータビジョンモデルのための適応型透かしフレームワーク
• Authors: Jacob Shams, Ben Nassi, Ikuya Morikawa, Toshiya Shimizu, Asaf Shabtai, Yuval Elovici
• Abstract要約: 保護モデルに固有の振る舞いを活かして,保護モデルに透かしを施す適応フレームワークを提案する。 この透かしは、同じユニークな振る舞いを持つ抽出されたモデルを検出するために使用され、保護されたモデルのIPを無許可で使用することを示す。 この枠組みは,(1)未知のモデル抽出攻撃,(2)メソッドを実行する抽出モデル(例えば,重み付け)に対して頑健であることを示す。
• 参考スコア（独自算出の注目度）: 44.80560808267494
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, various watermarking methods were suggested to detect computer vision models obtained illegitimately from their owners, however they fail to demonstrate satisfactory robustness against model extraction attacks. In this paper, we present an adaptive framework to watermark a protected model, leveraging the unique behavior present in the model due to a unique random seed initialized during the model training. This watermark is used to detect extracted models, which have the same unique behavior, indicating an unauthorized usage of the protected model's intellectual property (IP). First, we show how an initial seed for random number generation as part of model training produces distinct characteristics in the model's decision boundaries, which are inherited by extracted models and present in their decision boundaries, but aren't present in non-extracted models trained on the same data-set with a different seed. Based on our findings, we suggest the Robust Adaptive Watermarking (RAW) Framework, which utilizes the unique behavior present in the protected and extracted models to generate a watermark key-set and verification model. We show that the framework is robust to (1) unseen model extraction attacks, and (2) extracted models which undergo a blurring method (e.g., weight pruning). We evaluate the framework's robustness against a naive attacker (unaware that the model is watermarked), and an informed attacker (who employs blurring strategies to remove watermarked behavior from an extracted model), and achieve outstanding (i.e., >0.9) AUC values. Finally, we show that the framework is robust to model extraction attacks with different structure and/or architecture than the protected model.
• Abstract（参考訳）: 近年, 所有者から不正に得られたコンピュータビジョンモデルを検出するために様々な透かし法が提案されているが, モデル抽出攻撃に対する良好な堅牢性は示さなかった。 本稿では,モデルトレーニング中に初期化されるユニークなランダムシードにより,モデルに存在するユニークな振る舞いを生かし,保護されたモデルを透かし出す適応的枠組みを提案する。 この透かしは、保護されたモデルの知的財産(ip)の不正使用を示す、同じユニークな振る舞いを持つ抽出されたモデルを検出するために使用される。 まず, モデル学習の一環として乱数生成のための初期シードが, 抽出されたモデルによって継承され, 決定境界内に存在する決定境界において, 異なるシードを持つ同一データセット上で訓練された非抽出モデルには存在しない, 異なる特徴を生じることを示す。 そこで本研究では,保護および抽出モデルに存在するユニークな挙動を利用して,透かしキーセットと検証モデルを生成するRobust Adaptive Watermarking (RAW)フレームワークを提案する。 提案手法は,(1)未発見のモデル抽出攻撃に対して頑健であり,(2)ぼやけた方法(例えば,重みの刈り込み)を行う抽出モデルに対して頑健であることを示す。 我々は,このフレームワークの頑健性を評価し(モデルがウォーターマークされていることを意識せずに),情報付き攻撃者(抽出したモデルからウォーターマーク付き行動を取り除くためにぼやけ戦略を用いる),優れた(0.9%) auc値を達成する。 最後に,保護されたモデルとは異なる構造および/またはアーキテクチャを持つモデル抽出攻撃に対して,フレームワークが堅牢であることを示す。

関連論文リスト

• Training Data Attribution: Was Your Model Secretly Trained On Data Created By Mine? [17.714589429503675]
  テキスト・ツー・イメージ・モデルに対するインジェクションフリーなトレーニングデータ属性法を提案する。 我々のアプローチでは、異なるサンプルを発見できるアルゴリズムを開発し、それらを固有の透かしとして利用する。 実験により,疑わしいモデルのトレーニングデータのソースを特定する精度が80%以上であることが確認された。
  論文  参考訳（メタデータ） (2024-09-24T06:23:43Z)
• ModelShield: Adaptive and Robust Watermark against Model Extraction Attack [58.46326901858431]
  大規模言語モデル(LLM)は、さまざまな機械学習タスクにまたがる汎用インテリジェンスを示す。 敵はモデル抽出攻撃を利用して モデル生成で符号化された モデルインテリジェンスを盗むことができる ウォーターマーキング技術は、モデル生成コンテンツにユニークな識別子を埋め込むことによって、このような攻撃を防御する有望なソリューションを提供する。
  論文  参考訳（メタデータ） (2024-05-03T06:41:48Z)
• MEA-Defender: A Robust Watermark against Model Extraction Attack [19.421741149364017]
  本稿では,DNNモデルのIPをモデル抽出から保護するための新しい透かし,MEA-Defenderを提案する。 我々は,教師付き学習アルゴリズムと自己教師型学習アルゴリズムに基づいて訓練された5つのデータセットと6つのモデルを用いて,4つのモデル抽出攻撃に関する広範な実験を行った。 実験結果から,MEA-Defenderは様々なモデル抽出攻撃に対して高い堅牢性を示し,様々な透かし除去・検出手法が得られた。
  論文  参考訳（メタデータ） (2024-01-26T23:12:53Z)
• Probabilistically Robust Watermarking of Neural Networks [4.332441337407564]
  我々は、攻撃を盗む機能に対するレジリエンスを示す新しいトリガーセットベースの透かし手法を導入する。 私たちのアプローチでは、追加のモデルトレーニングは必要とせず、どんなモデルアーキテクチャにも適用できます。
  論文  参考訳（メタデータ） (2024-01-16T10:32:13Z)
• Watermarking for Out-of-distribution Detection [76.20630986010114]
  Out-of-Distribution (OOD) 検出は、よく訓練された深層モデルから抽出された表現に基づいてOODデータを識別することを目的としている。 本稿では,透かしという一般的な手法を提案する。 我々は,元データの特徴に重畳される統一パターンを学習し,ウォーターマーキング後にモデルの検出能力が大きく向上する。
  論文  参考訳（メタデータ） (2022-10-27T06:12:32Z)
• Are You Stealing My Model? Sample Correlation for Fingerprinting Deep Neural Networks [86.55317144826179]
  従来の方法は、常にモデル指紋として転送可能な敵の例を利用する。 本稿では,SAmple correlation (SAC) に基づく新しいモデル盗難検出手法を提案する。 SACは、敵の訓練や移動学習を含む様々なモデル盗難攻撃をうまく防いでいる。
  論文  参考訳（メタデータ） (2022-10-21T02:07:50Z)
• DynaMarks: Defending Against Deep Learning Model Extraction Using Dynamic Watermarking [3.282282297279473]
  ディープラーニング(DL)モデルの機能は、モデル抽出によって盗むことができる。 本稿では,DLモデルの知的財産権(IP)を保護するため,DynaMarksと呼ばれる新しい透かし手法を提案する。
  論文  参考訳（メタデータ） (2022-07-27T06:49:39Z)
• Defending against Model Stealing via Verifying Embedded External Features [90.29429679125508]
  トレーニングサンプルがなく、モデルパラメータや構造にアクセスできない場合でも、敵はデプロイされたモデルを盗むことができる。 我々は、不審なモデルがディフェンダー特定遠近法の特徴の知識を含んでいるかどうかを検証することによって、他の角度からの防御を探索する。 本手法は, 複数段階の盗難処理によって盗難モデルが得られた場合でも, 同時に異なる種類の盗難モデルを検出するのに有効である。
  論文  参考訳（メタデータ） (2021-12-07T03:51:54Z)
• Model Watermarking for Image Processing Networks [120.918532981871]
  深層モデルの知的財産権を保護する方法は、非常に重要であるが、真に研究されていない問題である。 画像処理モデルを保護するための最初のモデル透かしフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-02-25T18:36:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。